人も組織も誤らせるバイアスの異母兄弟『ＮＯＩＳＥ』
本ブログで最初にレビューした『ファスト＆スロー』で有名な行動経済学者ダニエル・カーネマンらの新著。人の判断のばらつき、すなわち『ノイズ』に特化した大冊である。判断誤りのうち、正しい値からのズレ、すなわち「バイアス」は目につきやすく、直すことは容易でないとしても、多くの人が認識はしている。しかし、「ノイズ」の方は、信じられないくらい判断を歪めているにもかかわらず、多くの人は十分に認識していない、どころか認めたくない、という難物なのだ。
本書はとにかく包括的で、多くの改善策にまで言及しており、一言では語れない。そこで、著者があまり論じていないことで、気になった点を書いてみたい。
ルールは人間を凌駕する
あまり認めたくないことだが、長期にわたる多数の研究結果が示すところによれば、人間の判断よりもルールやアルゴリズムによる判断の方が顕著に誤りが小さいということだ。誤りが小さい主な理由は、まさにノイズの影響を免れる点にある。そうすると、ルールやアルゴリズムによる判断を積極的に導入した方が社会にプラスになりそうだが、周知のとおり、これには強いアレルギーがある。その理由を著者はあっさりと、機械にはノーミスを求めるからだと言うが、少々物足りない。なぜそうなるのだろうか。
自動運転技術を考えてみる。単純化のため、判断基準を事故率のみと考えた場合、問題は手動運転と自動運転とで異なる結果になる場合、①手動運転だと事故となるが自動運転なら事故とならない場合と、②手動運転だと事故とならないが自動運転なら事故となる場合だ。理屈の上では、①の確率が②の確率より高ければ自動運転を支持して良さそうなのだが、おそらくそうはならない。いかに確率が低くても②の存在に耐えられないからだ。余計なことをやったばかりに起きなくて良かった事故を起こしてしまったことを、悔やんでも悔やみきれなくなるからだ。「余計なこと」の正体は何だろうか。人間の手を離れることそれ自体だろうか。現状からの変更なのだろか。
ブラックボックスへの不信
そうは言いながら、より洗練されたアルゴリズム、すなわちＡＩによれば、分野によっては機械に求められる（ほぼ）ノーミスの可能性が現実に見えてきた。自動運転も早晩その域に達するだろう。しかし、洗練されたアルゴリズムには、粗野なルールとは違った問題があるはずだ。それはどうしたわけか論じられることが少ないが、管理人は社会のなりゆきを注目している。その問題とは、こうである。
洗練されたアルゴリズムは、統計的には人間より優れている。個々のケースではミスも絶無ではないし、その中には人間であれば防げたものもあるが、それにも目をつぶることができたとしよう。しかし、個々のケースの判断が、洗練されたアルゴリズムが意図したとおりに下されたのだと、どうやったら分かるのだろうか。アルゴリズムにバグがなかったか、不正ロジックが混入していなかったか。そもそも何が不正で何が適正なのか。人間の判断やシンプルなルールによる判断でもこの種のことは起こり得るが、その判断過程を検証することはできる。しかし、洗練されたアルゴリズムはブラックボックスであり、そうした検証は受け付けない。この不透明さに耐えられるだろうか。
独立した判断と探り合い
本書がノイズ低減のための方策として挙げている、最もシンプルかつ効果的なものの一つが、相互に独立した判断を集計するというものだ。「多数の村人が推測したウシの体重を平均したらドンピシャだった」というやつの応用である。一つ一つの判断にはノイズがあっても、それらが相互に打ち消し合って正しい値に接近するというわけだ。しかし、この「独立した」というところは、思いのほか、難しそうだ。
例えば、会議で検討するような場合、最初に出た意見に皆が引っ張られて、ノイズの平均化どころか、逆に極端な意見にカスケードしてしまうようなことが起こる。ここまでは、本書でも論じている。しかし、もう一歩踏み込んで、会議の参加者はどれだけの意見を持っているのだろうか。そうした希薄な意見にもまた「一票」の価値があるのだろうか。だからかどうかは分からないが、日本の多くの会議は、意見を出したり判断したりするのではなく、どこかに空気として存在する落としどころの探り合いに終始しているようにも見える。他人の意見を聞く前に、まず自分の意見を出しましょう、などと提案しようものなら、そもそも意見を持たない（持てない）人たちの大反対に見舞われるだろう。
ＮＯＩＳＥ 組織はなぜ判断を誤るのか？ 上／下
ダニエル・カーネマン，オリヴィエ・シボニー，キャス・サンスティーン 著
村井 章子 訳
早川書房