人間とコンピュータ

1. 人間とコンピュータ 2006年度2学期 第6回

2. 本日の内容 ヒューマンエラー（Human Error） • ヒューマンエラーとは？ • ミスは凡ミス，影響は深刻 • エラーの形 • スリップとミステーク • フェールセーフの考え方 • 人は間違うもの • 間違っても深刻なことにならないように設計

3. ヒューマンエラーとは？ • 人間のミス（人為ミス）のこと • 不本意な結果を生み出す行為 • 不本意な結果を防ぐことに失敗すること

4. ヒューマンエラーとは？（2） • 人間のミス（人為ミス）のこと • 不本意な結果を生み出す行為 • 不本意な結果を防ぐことに失敗すること 特徴： やったことは「凡ミス」 被害は最悪（；_；）

5. ヒューマンエラーとは？（3） • やったことは「凡ミス」なのに被害甚大 事例：ジェイコム株の誤発注事件 2005年12月8日東証マザーズで，みずほ証券の担当者 61万円で 1株の売り 注文っと 61万株＠1円 売り

6. ヒューマンエラーとは？（4） 大損害 実際の売値77万円1株として，61万株は469,700,000,000円，約4697億円 • やったことは「凡ミス」なのに被害甚大 事例：ジェイコム株の誤発注事件 2005年12月8日東証マザーズで，みずほ証券の担当者 61万円で 1株の売り 注文っと 61万株＠1円 売り

7. ヒューマンエラーとは？（5） 実際の価格が77万円1株として，5万3千株成立として，40,810,000,000円，約408億円 売る価格が1円なので，5万3千円 約408億円の損害 • やったことは「凡ミス」なのに被害甚大 事例：ジェイコム株の誤発注事件 2005年12月8日東証マザーズで，みずほ証券の担当者 そ，そんなぁ．．． 61万株＠1円 売り

8. ヒューマンエラーとは？（6） • 間違いは本当に「凡ミス」といえるようなミス • ところが，その影響が悲惨なことがある • 人は結構間違いを犯す • どんな間違いを犯すかを理解して（エラーの形） • 間違いが起きないか，間違いが起きても大丈夫なようにする（フェールセーフ）

9. エラーの形（1） • どんなエラーがあるかを考えよう • スリップとミステーク • スリップ(slip） • 意識しないで脇道にそれてしまうエラー • ミステーク（mistake） • 意識的に良く考えたせいで起きるエラー

10. エラーの形（2） • スリップ型のエラー • 日常の行動は無意識 • いくつもの行動を同時に行えるのは無意識レベルにまで作業を習慣化しているから（ながら） • 話ながら歩く，テレビを見ながら食事する．．． • スリップ型はそんな無意識の中で，行為が類似している時に間違えてしまう • 外界の要因が引き寄せて起きる • そもそも意図していなかったことをやってしまう

11. エラーの形（3） • スリップの細分類　6つに分けられる 乗っ取り型エラー 記述エラー データ駆動型エラー 連想活性化エラー 活性化消失エラー モードエラー

12. スリップ型のエラー • 乗っ取り型エラー 記述エラー データ駆動型エラー 連想活性化エラー 活性化消失エラー モードエラー

13. スリップ型のエラー（2） • 乗っ取り型エラー • しょっちゅう行う活動（なれた活動）があるとして，その活動が，意図していた行為を乗っ取る 例：ある曲を演奏していたら，いつのまにかよく知っている曲を演奏していた． 例：洋服を着替えに寝室に行ったら，ベットに入ってしまった．

14. スリップ型のエラー（3） • 乗っ取り型エラー • しょっちゅう行う活動（なれた活動）があるとして，その活動が，意図していた行為を乗っ取る 例：ある曲を演奏していたら，いつのまにかよく知っている曲を演奏していた． 例：洋服を着替えに寝室に行ったら，ベットに入ってしまった． ＡがＢを乗っ取る！ Ａの行為は習熟しているが，Ｂの行為はあまり慣れていない Ａの最初の段階にＢが類似している

15. スリップ型のエラー （4） • 記述エラー • 意図した行為をしようとしていて，その行為と共通点を持つものと間違えて行ってしまう． 例：蓋の開いた洗濯物入れにシャツを入れようとしていて，蓋の開いたトイレに投げ入れてしまった． 例：カップにコーヒーを注ごうとしていて，茶碗についでしまった．

16. スリップ型のエラー （5） やろうとする行為について思い浮かべる浮かべ方の細かさが不十分 • 記述エラー • 意図した行為をしようとしていて，その行為と共通点を持つものと間違えて行ってしまう． 例：蓋の開いた洗濯物入れにシャツを入れようとしていて，蓋の開いたトイレに投げ入れてしまった． 例：カップにコーヒーを注ごうとしていて，茶碗についでしまった． 白くて丸いものの中にシャツを入れる ぼんやりと思う 目の前の課題に十分な注意が払えない

17. スリップ型のエラー （6） 正解と間違いの対象が類似している • 記述エラー • 意図した行為をしようとしていて，その行為と共通点を持つものと間違えて行ってしまう． 例：蓋の開いた洗濯物入れにシャツを入れようとしていて，蓋の開いたトイレに投げ入れてしまった． 例：カップにコーヒーを注ごうとしていて，茶碗についでしまった． 間違った対象と正しいものが近くにある

18. スリップ型のエラー （7） • 自動的な動作（データ駆動）型エラー • 人間の動きは自動的（反射的）な部分がある データ駆動：何か感覚的な情報が入ってくると，それにすぐに反応する！ • 意図していた行為の途中にデータ駆動の活動が割り込んで意図していなかった行動を引き起こす 例：電話をかけようと思い，何気なく電話機を見たら，その電話の番号が書いてあった．気がつくと，その番号を押していた．（かからない）

19. スリップ型のエラー （8） • 連想活性化エラー • 頭の中の考えや連想が誤った行為を引き起こす 例：電話が鳴った．「どうぞお入り下さい！」

20. スリップ型のエラー （9） • 活性化消失エラー • 何をするつもりだったのか忘れてしまう • 行おうとしている行動系列の一部は忘れてしまうのに，残りは覚えている • 物忘れ 例：寝室に用事があったのだが，歩いているうちに何をしにいくつもりだったのか忘れてしまった

21. スリップ型のエラー （10） • モードエラー • 装置にいくつかの異なる操作モードがあるとき，あるモードではＯＫなのに，違うモードでは同じことをやっても違う意味を持つような時に起きる 例：ストップウォッチでタイムを計ろうとして，リセット 例：コンピュータのキーボード，シフトキーを押す，押さないで同じキーでも意味がかわる

22. スリップ型のエラー （11） • モードエラー • 装置にいくつかの異なる操作モードがあるとき，あるモードではＯＫなのに，違うモードでは同じことをやっても違う意味を持つような時に起きる 例：ストップウォッチでタイムを計ろうとして，リセット 例：コンピュータのキーボード，シフトキーを押す，押さないで同じキーでも意味がかわる 同じボタンなのに，モードが違うと役割が変わる できることと＞装置の触れる部分 装置が現在どの状態にあるのかが分かりにくい，見えない なんて時に多く見られる →電子機器などに多い

23. スリップ型のエラー （12） • スリップ型エラーを見つけ出すには？ • どうやったら間違いに気づくか？ フィードバックがあるなら，簡単　（変だから） フィードバックがないなら，難しい（気がつかない） ただし，間違っていることには気づくけど 何を間違えているのかには気づきにくい

24. スリップ型のエラー （13） • スリップ型エラーの間違いはどこか？ • 人の行為にはいろんな段階がある • 間違いはそのどこかの段階で起きている 例：自転車でコンビニに行く 自転車でコンビニに行く／店の前に自転車をとめる／右左折する／ハンドルを右左にひねる／ペダルをこぐ／重心を曲がる方向に傾ける／筋肉に運動信号を送る．．． レベルは違うが同時に行われている．これらのどこでも間違いの原因になる．どこが間違ったかを探すのは難しい

25. スリップ型のエラー （14） • がんばれデザイナー 　　スリップ型エラーへの対応 • スリップが生じる前に，防止するデザイン • モード数を減らす工夫，やっていることがわかりやすく改良 • スリップが起きた時に，見つけて直すことが容易になるようにするデザイン • 難しいです

26. エラーの形（4） • ミステーク型のエラー • 考えて行動して，間違うようなエラー • 不適切なゴールを選んでしまったために発生 選択ミス，状況把握の誤り，関連要因の考慮不足 人の思考の構造に深く関わっている

27. ミステーク型のエラー（1） • 人の思考って？（いくつかのモデル） 合理的論理的秩序立っている　といいつつ．．． • 過去の経験に基盤がある（記憶に依存）！ • 経験の記憶の価値は一定でない • よくあることより，めったにないことの方に強い記憶 • 思考と経験はかなり密接に結びつく 何かを解決するための行為は経験を思い出すことでおこなわれることが多い（と思われる）

28. ミステーク型のエラー（2） • 思考行動のモデル ○○○ ○▲○ □□□ 過去の出来事は．．． えっとー 過去の経験，記憶を検索 過去の経験 問題発生

29. ミステーク型のエラー（3） • 思考行動のモデル ○○○ ○▲○ □□□ これかー！ ▲ 検索結果 過去の経験 類似の記憶を見つける

30. ミステーク型のエラー（4） • なぜ間違いが起こるか？ • そもそも，この検索が間違っていた ○○○ ○▲○ □□□ これかー！ ▲ 検索結果 過去の経験 ここが間違い

31. ミステーク型のエラー（5） • 過去との類似を間違えてしまう理由 ①過去を標準化してしまう • 個々の事例をよくあることとして整頓する ②特異な過去を思い浮かべてしまう • 滅多にないことをとても重要なことのように感じる 何か発生（実は初めて起きた珍しいできごと） →①だと，ありふれたことと解釈して行動 →②だと，間違った特殊事例だと思い込む どちらにしても，稀に起きる初めての事柄には×

32. ミステーク型のエラー（6） • ミステーク型エラーの発見 気がつくのはかなり難しい • 説明好きの人間の性質が悪さする 例：機械故障の警報機がなった． 　　時々誤作動をしていたので，今度も誤作動だろうと判断 　（本当は故障していた） 例：庭で飼い犬がほえている おなかがすいているのだろうと餌を与えた 　（本当は泥棒が庭にいた）

33. ミステーク型のエラー（7） • 結果を知っているか，知らないか で，問題に対する予測，判断は大きく違う 世の中で起きた事件や事故を振り返って • 「当たり前」「どうして～しなかったのか」と責めることが多く見られるが．．． • その時点では状況の見え方は全然違う このことは理解しておいたほうが良い

34. ミステーク型のエラー（8） • 社会的圧力とミステーク • 見逃せないエラーの発生原因 例：1983．大韓航空機の撃墜事故（ロシア上空） 恐らくＩＮＳへのプログラム入力を間違えて，変なところを飛んだ（ＩＮＳ＝慣性航法装置：自動操縦のためのプログラムみたいなもの） • プログラムは地上でしか入力できない→6ヶ月で3機がＩＮＳプログラムミスで戻った→戻ると経費がかさむ • そこで戻ると処罰と会社が通達していた • 恐らくそれで，この飛行機はそのまま飛んだ

35. ミステーク型のエラー（9） あ，間違えている．．でも．． 処罰されるしなぁ．．． • 社会的圧力とミステーク • 見逃せないエラーの発生原因 例：1983．大韓航空機の撃墜事故（ロシア上空） 恐らくＩＮＳへのプログラム入力を間違えて，変なところを飛んだ（ＩＮＳ＝慣性航法装置：自動操縦のためのプログラムみたいなもの） • プログラムは地上でしか入力できない→6ヶ月で3機がＩＮＳプログラムミスで戻った→戻ると経費がかさむ • そこで戻ると処罰と会社が通達していた • 恐らくそれで，この飛行機はそのまま飛んだ 安全のために，間違いを正すのは当たり前の行為． それを罰するという社会的圧力をかけたので，悲劇になった

36. ミステーク型のエラー（10） • 社会的圧力とミステーク 例：2005．ＪＲ西日本福知山線脱線事故 • 私鉄との乗客獲得争い→過密ダイヤ • 当日の運転ミス→遅れの発生→取り返そうとする運転 • カーブでの減速無視→脱線 • ダイヤに遅れると会社の罰則 • 速度制限を強制するシステムの設置の遅れ • 安全よりも利益を優先する経営

37. ミステーク型のエラー（11） • 社会的圧力とミステーク 例：2005．ＪＲ西日本福知山線脱線事故 • 私鉄との乗客獲得争い→過密ダイヤ • 当日の運転ミス→遅れの発生→取り返そうとする運転 • カーブでの減速無視→脱線 • ダイヤに遅れると会社の罰則 • 速度制限を強制するシステムの設置の遅れ • 安全よりも利益を優先する経営 世の中で起こる事故や事件の背景に， こうした社会的圧力 社会的デザインの悪さ が関係することは多い

38. 休憩（1） • 道案内の矢印はどこまで解釈できるか？ • これは右

39. 休憩（2） • 道案内の矢印はどこまで解釈できるか？ • これは左 • 左右は問題なさそう

40. 休憩（3） • 道案内の矢印はどこまで解釈できるか？ • これは？

41. 休憩（4） • 道案内の矢印はどこまで解釈できるか？ • これは？

42. 休憩（5） • 道案内の矢印はどこまで解釈できるか？ • これは？

43. 休憩（6） • 道案内の矢印はどこまで解釈できるか？ • これは？ ここが下り階段だったら？

44. 休憩（7） • 道案内の矢印はどこまで解釈できるか？ • これは？ ここが上り階段だったら？

45. 休憩（8） • 道案内の矢印はどこまで解釈できるか？ • これは？ ここが平らな道だったら？

46. 休憩（9） • 道案内の矢印はどこまで解釈できるか？ • これは 　向こうへ行く？ 　向こうから来る？ ここが平らな道だったら？

47. 休憩（10） • 道案内の矢印はどこまで解釈できるか？ • これは 　向こうへ行く？ 　向こうから来る？ ここが平らな道だったら？

48. 休憩（11） • 道案内の矢印はどこまで解釈できるか？ • これは good ここが平らな道だったら？

49. 休憩（12） • 道案内の矢印はどこまで解釈できるか？ • これも good ここが平らな道だったら？

50. 休憩（13） • 道案内の矢印はどこまで解釈できるか？ • 上向き矢印が向こうに進むのか • 下向き矢印が向こうに進むのか 実は決まりが見えてこない 時に混乱を招く 海外はどうか？ぜひ見てきてください．