ブレーキの壊れたトロッコが暴走している。このまま直進すると、線路上の5人がひき殺されてしまう。トロッコの進路を変えれば5人は助かるが、曲がった先には別の人がいて、その人は死ぬことになる。
「ああ、トロッコ問題ね」とページを閉じる前に、次のパラグラフを読んでみてほしい。
ブレーキが故障した乗用車が、歩行者5人のいる横断歩道に突っ込もうとしている。クルマに乗っているのは運転者だけだ。クルマを横断歩道の手前にある障害物にぶつけて止めれば歩行者5人は助かるが、車内の1人は死ぬ。逆に、1人を助ければ歩行者5人が犠牲になる。
この場合、たいていの人は歩行者5人を助けるべきだと考えるだろう（クルマに乗っているのが自分自身や家族だったらという問題はあるのだが、これについては後述する）。
それでは、問題をもう少し複雑にしてみよう。クルマを運転しているのは妊婦で、さらに実はもう1人の乗客がいる。3歳になったばかりの子どもだ。そして、5人だと思った歩行者は実は人間4人とイヌ1匹で、4人のうち2人は犯罪者、1人は高齢者、1人はホームレスだとする。ついでに、全員が赤信号なのに横断歩道を渡っている（つまり信号無視をしている）。
もちろん現実には、ほぼ確実にありえない状況だ。それでも、あえてどちらか選ばなければならないとしたら、あなたはどうするだろう。
世界中の4,000万人近くを調査
マサチューセッツ工科大学（MIT）メディアラボの研究チームがつくり上げた「Moral Machine」では、こんなことばかり考えさせられるはめになる。「Moral Machine」は、1967年に英国の哲学者フィリッパ・パットが提示したトロッコ問題を自律走行車に応用した思考実験の調査だ。
MITメディアラボのエドモンド・アワッド率いるチームは、人工知能（AI）を搭載した自律走行車が特定の状況でどのような判断を下すべきだと思うか、世界中の人々に意見を求めた。オンラインの調査は英語版だけでなく、アラビア語、中国語、フランス語、ドイツ語、日本語、韓国語、ポルトガル語、ロシア語、スペイン語の計10言語が用意され、233の国と地域に住む4,000万人近くが回答している。
調査への参加はまったくの匿名でも可能だ。ただ、49万1,921人は年齢、性別、最終学歴、収入、政治的信条や信仰する宗教といった個人データを提供した。
優先的に助けるべきは？
研究チームは9つの指標を基に、人々が何を優先して生存者と犠牲者を決めるのか分析した。具体的には以下の項目だ。
1: 生存者と犠牲者の数 2: 性別 3: 年齢（乳幼児／子供／大人／高齢者） 4: 種（人間／犬／猫） 5: 健康状態（アスリート体型／肥満体型） 6: 社会的地位（会社経営者／医師／ホームレス／犯罪者） 7: 搭乗者と歩行者どちらを優先するか 8: 交通規則の順守を重視するか 9: 介入する傾向の強弱（クルマの進路を変えるか、何もしないか）
科学誌『Nature』に発表された論文によると、回答者の国籍や年齢、宗教などに関わらず、共通の傾向はあった。「動物よりは人間、少人数よりは多人数、高齢者よりは若者」が優先されたのだ。
また、この3原則ほどはっきりしてはいないが、社会的地位の高い人と交通規則を守っている人を守るという傾向も比較的強かった。ただ、それ以外では、地域ごとに誰を犠牲にするかについての意見が別れている。一方で、回答者を年齢や性別、学歴などでまとめても、それぞれのグループに特定の傾向はあまり見られなかったという。
地域と文化によって回答に差
回答の傾向は、地域的・文化的に見て大まかに「東」「西」「南」に分かれる。「東」はアジアと中東、「西」は欧米諸国とロシア、「南」は中南米諸国だとイメージすれば、だいたい合っている（ただ、ブラジルは「西」、フランスは「南」に含まれるなど、例外もかなりある）。
地域別の違いの一例を挙げると、「南」の回答者は高齢者よりも若者を助ける傾向がわずかに強い。これは「東」と比較した場合に特に顕著だという。
国別に見ると、日本やフィンランドのように治安のよい豊かな国では、信号無視をしている歩行者は「死んでも仕方がない」という意見が多くあった。一方で、所得格差の小さいフィンランドでは、歩行者や搭乗者の社会的地位は、助けるべきかという倫理判断にほとんど影響を及ぼさないようだ。
これに対し、コロンビアのように貧富の差が激しい国では、ホームレスや犯罪者は見殺しにされることが多かった。中南米におけるマフィアや麻薬がらみの犯罪の苛烈さを思えば、ある程度は納得がいくかもしれない。
日本は「世界で最も功利主義的でない国」
また、日本は助かる命の数を重視しない（つまり、数よりも誰を助けるかという「質」を重視する）ほか、歩行者を助ける傾向が世界で最も強い（2位はノルウェー、3位はシンガポールだ）。逆に、生存者の数を重視するのはフランスで、歩行者よりクルマに乗っている人を守ろうとするのは中国とエストニアだった。
フランスは高齢者に比べて若年層を助ける傾向も強い。これに対し、高齢者を助けるという意見が多かったのは台湾で、ほかに中国や韓国といった儒教文化の影響の強い東アジアの国々でも同様の偏向が見られた。
MITのアワッドは『WIRED』日本版の取材に対し、日本で特徴的なのは生存者の数を判断材料にする傾向が非常に低いことだとしたうえで、「その意味では、世界で最も功利主義的でない国だと言えます」と話している。また、日本は介入を避ける傾向も平均よりかなり高いという。
「自分を殺す」クルマには乗りたくない？
こうした例を挙げていくと本当にきりがないので、興味がある方はぜひ論文を読んでいただきたい。もちろん、「Moral Machine」は設定状況があまりにも特殊なため、現実世界には応用できないという議論は無視できないだろう。また、回答者の大半を若年層の男性が占めているという点も指摘されている。
論文の共著者でメディアラボ准教授のイヤッド・ラーワンは、「Moral Machine」が現実的でないことは認めたうえで、自動運転システムを巡る自動車メーカーの決断はほぼすべてが、ある意味では間接的なモラル判断なのだと説明する。
例えば、自転車専用道のある片側1車線の道路で、対向車との接触を避けるためにクルマをわずかに自転車道寄りに走らせるようにシステムを設計したとする。こうすれば、自転車を巻き込んだ事故は逆に増えるだろう。死亡事故の急増といった大きな影響がすぐに出ることはなくても、将来的にはかならず統計値として現れる。
現実は白黒では収まらないという話のついでに、「世の中の自律走行車一般には（犠牲者の数を最小限に抑えるといった）“公平”な判断をしてほしいが、自分はそんなクルマには乗りたくない」という、小ばなしのようなパラドックスにも触れておきたい。
自己中心的と非難されるかもしれないが、そう思う人はたくさんいるはずだ。何かあったときに、自分を殺すという判断をするかもしれないようなAIが運転するクルマに乗りたいだろうか。
世界はそれほどシンプルではない
この問題を巡っては、メルセデス・ベンツの安全技術担当であるクリストフ・フォン・ヒューゴが過去に、「レヴェル4や5の自律走行車では、搭乗者の救命を優先するようにAIをプログラムする」といった趣旨の発言をして、物議を醸したことがあった。
実際には、どのような判断（運転）をしても死傷者を出すことを避けられるのか不明な状況において「少なくともひとり（搭乗者）は確実に助けられるのであれば、その人を救うべきです」と言ったのだが、メルセデスはすぐに火消しに回った。ヒューゴの発言は文脈を無視して報じられており、企業として人命の重さを判断するようなことは絶対にしないというのだ。
妥当な対応だろう。というより、これ以外は言いようがないはずだ。それに、臭いものにはフタではないが、こういった微妙な問題には極力言及を避けるというのが、自動車メーカーにとっては賢い戦略なのかもしれない。
ただ、ヒューゴの発言はある一点においては絶対的に正しい。現実の世界では、AIがどのような判断をしても、結果として誰が助かり、誰が犠牲になるかなどわからないのだ。繰り返しになるが、世界はそれほどシンプルではない。生きるか死ぬかといった二者択一の状況はむしろ珍しい。
いつか直面する倫理的ジレンマに向けて
今回の調査から導かれた3原則はむしろ当たり前で、退屈にすら感じられるかもしれない。それに、社会の総意だけに基づいてAIの倫理基準を設定することはできないだろう。研究チームも、今回の調査の目的は自動運転におけるトロッコ問題に答えを出すことではなく（そんなことはそもそも不可能だ）、テクノロジーと倫理を巡る議論を喚起することだと断っている。
AIが会社経営者とホームレスを見分けられるようになるのはまだ先の話だろうし、テクノロジーを進化させることのほうが先決だという意見はもっともだ。モラルについて考える前にやれることはいくらでもある。
それでも、わたしたちはいつか必ず倫理的ジレンマに直面する。だからこそ、答えを出すことはできなくても、こうした問題について思考することで、AIだけではなく人間もいまから脳を「訓練」しておくのは悪いことではないだろう。
TEXT BY CHIHIRO OKA