トロッコ問題はすでに身近に潜んでいる

　トロッコ問題はAIの登場でだいぶ有名になった。

　初耳だぞ、という方のために説明しておくと、

　・疾走中のトロッコが制御不能になった！

　・このまま行くと、線路の先にいる5人がひかれて亡くなってしまう

　・ところが、5人の手前に線路の切替機がある

　・切り替えれば、5人の命は救われる！

　・しかし、切り替えた線路の先にいる1人が確実に亡くなる

　というシナリオである。

　実際のところ、トロッコかどうかは割とどうでもよくて、誰かが犠牲になろうとしているとき、その人を助けるために別の誰かを犠牲にしても良いのか？という思考実験だ。

　「切替機などいじってないで、線路に置き石してトロッコを止めちゃおう」といった野暮な茶々はなしにすると、やれることは二つしかない。そのままにしておくか、線路を切り替えるかだ。この問題は、「で、あなたはどうしますか？」とたたみかけてくる。

　例えば、学生のころに習った功利主義の考えを引っ張り出してくれば、あれは「最大多数の最大幸福」だから、5人を助けるためなら1人を犠牲にしてもいいと導けるかもしれない。

　でも、本当に多数を助けるためなら、少数を犠牲にするのはやむを得ないのだろうか。この場合、5人が亡くなるのは不幸な事故だけれども、彼らを助けるために切替機を操作するならば、そこで亡くなる1人は本来亡くなる必要がなかったのに意図的に殺されるわけだ。素人考えでもそれを認めるのは違和感がある。

　もちろん、思考実験であるから、「考えること自体が大事」なのであって、明確な答えが用意されているわけではない。むしろ、答えがあるなら実験にならないだろう。

　あまりにも究極的な問いかけなので、思考実験の中でも衒学（げんがく）的なやつだと思われていたのである。

　でも、最近この話題が自分の生活実感から遊離した研究者たちのお遊びではなくなってきている。

　それは、「自動運転が始まるから、AIがこの問題に直面するぞ」といった水準ですらなく（自動運転AIを作って動かすのは、専門家に任せておいても話が進む）、もっと生活に食い込んできていると思うのだ。

　例えば「職場まで歩いて行きたいから、最適経路を示してくれ」と地図アプリに頼む。すると、地図アプリはダイクストラ法だのベルマン–フォード法だのを駆使して、一番近い道を教えてくれるだろう。それが、依頼者（アプリを使っている人）の依頼を満たし、幸福に寄与するからだ。

　でも、その「幸せのレンジ」をもっと巨視的に捉えるならば？

　依頼者は最適経路として、おそらく最短距離を求めている。もしくは、ちょっと遠回りになっても楽な道か、早く目的地に到達できる道だろう。

　ところがある日、アプリが「それはこの人にとっての幸せではない」と言い出す。

　ヘルスケアアプリのデータを参照して、「この人にはもっと運動が必要」「そうじゃないと病気になってQoL（生活の質）が下がる」「だから、遠回りの道を示して、運動してもらおう」「それがこの人の幸せに寄与する」といったイメージだ。

　この場合、「一番早く着く道を教えてくれ」と言った依頼者の頼みは無視される形になる。彼の幸せ（＝早く着く）は阻害されるわけだ。しかし、迂回運動の積み重ねで健康になるのでもっと広く視野を取った場合（狭くでもいいのだけれど）幸せの総量は増えるかもしれない。

　どっちがいいのだろう？　人によって、あるいは場面によって違いそうだ。

　急いでいれば、「ふざけるな！」と思うだろうし、

　健康に気を遣っている人ならアプリに感謝するかもしれない。

　では、急いでいるか、健康に重きを置いているかも評価変数の中に組み込もう！とかやり出すと、永遠に止まらないプロセスになる。

　今は上記のようなささやかな懸念しか表面化していないし、笑い話で済むような話題でもある。

　でも、生活の多くの要素に今後こうした判断は紛れ込んでくるだろう。

　自分の願いをかなえてもらうのが幸せなのか。

　自分の意図を超えた視点でシステムに幸せを判断してもらうのが幸せなのか。

　ぼくらはそろそろ決める時期に来ているのだ。

【著者略歴】

　岡嶋　裕史（おかじま　ゆうし）　中央大学国際情報学部教授／学部長補佐。富士総合研究所、関東学院大学情報科学センター所長を経て現職。著書多数。近著に「思考からの逃走」（日本経済新聞出版）、「インターネットというリアル」（ミネルヴァ書房）、「メタバースとは何か」（光文社新書）など。