ビジネス

【コラム】AIと人の付き合い方としての「PSYCHO-PASS サイコパス」(後編)

【コラム】AIと人の付き合い方としての「PSYCHO-PASS サイコパス」(後編) 画像1

 前編で述べたように、アニメ「PSYCHO-PASS サイコパス」の世界は犯罪とは無縁の社会が成立している。誰も自分が被害者になるとは思っていない。意思決定を人工知能(AI)へと外部化し、社会システムのすべてが効率的、経済的に稼働している。そこに人間が入り込む余地はない。入り込めば効率が下がる。

 社会に非効率や不安をもたらす要素としての人の精神の健全性も、AIが色相や犯罪係数によって可視化し、管理している。犯罪の芽は速やかに摘まれ、破綻なく社会が運営されていく。

 作品中で主に描かれるのは主人公が所属する公安局刑事課なのだが、特筆すべきはその執行(逮捕や処刑のことだ)の速やかさである。

 私たちの住む現実の世界では、間違いがないよう多くの人が関わり、別の主体がチェックし、状況によっては前のプロセスに戻ってやり直すこともある。とても時間のかかる手続きである。

 それに比べると、すべてをAIに任せ切った世界では、犯罪者の特定も逮捕も極めて迅速だ。治安維持の点でとても安全・安心で、安定した社会である。

 こうした「正しさの執行」は、具体的にはドミネーターと呼ばれる携帯型心理診断・鎮圧執行システムが用いられる。これは大型のハンドガンか、小型のアサルトライフルのような形状をした銃器状の武器だが、犯罪係数を計測するセンサーが内蔵され、ネットワークによってシビュラシステムに常時接続されている。

 ドミネーターを使う権限を持つ(生体情報による認証が行われる)刑事がこれを起動させ、被疑者を照準すると、犯罪係数がプロットされるのである。そして、センシングされた犯罪係数が、そのまま銃器としての安全装置を外すトリガーになっている。

 犯罪係数が100未満であれば、照準された人は健全な市民であるので、ドミネーターはロックされ、使用権限を持つ刑事でさえ発砲は許されない。

 100を超える数値が検出された場合、このロックは解除され、パラライザー、あるいはノンリーサル(非致死性)と呼ばれる状態で起動する。刑事が引き金を引くことによって麻酔モードの電磁攻撃が行われる。命中すれば被疑者は昏倒し、容易に確保・制圧することができる。

 そして、300を上回る犯罪係数が計測されると、ドミネーターはロックが解除されるだけでなく、起動状態が変更される。エリミネーター、あるいはリーサルと呼ばれる状態で起動されるのだ。これは射殺モードである。

 つまり、その場で処刑までが即時に完了するのだ。拘留しての取り調べや、長きに渡る裁判といった要素はない。確かに、シビュラシステムが絶対に間違わない仕組みなのであれば、三審制などに意味はない。速やかに刑罰の執行までを終わらせるのが、無駄なことにリソースを割かない、正しい態度であろう。

 もちろん、色相の悪化を極端に恐れる意味では、きつい監視社会が顕現しているのだが、不特定多数の誰かにいつ刺されるか分からず全方位に神経をとがらせて生きるような状況からは解放されている。私たちの社会は監視社会としては過渡期にあるので、センサー網には濃淡があり、自分に断を下す評価者も司法や上司や匿名の誰かだ。どこをどう注意すれば、非難されずに生活できるか不分明である。

 それに比べると「PSYCHO-PASS サイコパス」のそれは、監視の強度は上がっているものの、監視者はシビュラシステムのみであり、そのシビュラシステムも私情が原理的に存在し得ないAIであるから、もしも開き直って監視を受け入れるとするならば、監視者としては最良の部類に入ると言える。洗練された監視は常に優しいし、被監視者にとって有益なのである。

 こうした監視は社会のあつれきを減らし、その運営効率を最大化させている。この社会の人々は基本的に他人の目を気にしていない。自分に点数を付ける最終的かつ絶対的な評価者は、シビュラシステムに集約されているからだ。

 上司や教師に評価されることもあるが、その上司にしてからが判断根拠として参照するのはPSYCHO-PASS(精神の証明書)であるし、上司そのものもPSYCHO-PASSに評価される被評価者でしかない。

 シビュラシステムの目、あるいは手足として機能する公安局刑事課の要員たちも、この監視網から逃れられていない。むしろ監視強度は一般市民よりもずっと高く、常にそのPSYCHO-PASSが試されているといっていい。

 したがって、その組織も要員のPSYCHO-PASSをいかに濁らせないかを念頭に置いて、構築、運営されている。そもそも公安局は一握りの選良しか入局を許されない部局で、その要員のPSYCHO-PASSは澄んでいて、何らかのストレッサーに直面しても強い耐性を示す。

 しかし、そうした資質を持つ要員であっても、凶悪犯罪の捜査など色相を濁らせる要因に事欠かない職務であるため、職掌は2分割されている。

 選良は監視官という職階に就く。捜査の全体像を管理し、指揮を執る。そして、捜査実務を行う上で回避し得ない汚れ仕事を行うのが執行官と呼ばれる職階だ。貴重な人的資源である監視官を使い潰してしまわないよう、犯罪者の追跡、処罰などを一手に引き受ける非選良要員である。

そんなにひどい職務になり手がいるのかと不思議に思うが、執行官にアサインされるのは潜在犯である。そもそも更生施設に収容されるべき人々だ。更生施設とは呼ばれるが、その実態は隔離施設である。シビュラシステムによって一度潜在犯と判定された人物の更生はあまり期待されておらず、退所した者はほとんどいない描かれ方をされている。

 要はひどい環境で社会から排除されて生きることを強いられた人々である。執行官の職務内容がいくらひどくても、更生施設よりはマシなのだ。常に監視官の視線にさらされ、社会からも犯罪者同様の意識を向けられ、叛意(はんい)が検知されればすぐに処罰される(潜在犯であるから、ドミネーターは常に反応する状態にある。監視官はいつでも部下である執行官をドミネーターで無力化することができる)身分とはいえ、更生施設では望むべくもないある程度の自由や裁量権を持つことができる。監視官にとっても執行官にとっても、互いに利得がある状態だと言えるのだ。

 「PSYCHO-PASS サイコパス」の世界はこうした人たちによって、管理、運営されている。その世界は人の可能性を最大限に発露させる理想郷だろうか、それとも心のありようまで外部にさらされ評価されるディストピアだろうか。

 この作品は、本当によくできていると思う。

 私たちが普段意識の表層に上らせない、かすかな違和感をすくい取って、知覚可能な形で描写し、こうした世界でどう生きるのかまでを問いかけてくる。

 例えば、冒頭で説明したように私たちは監視されている。作品中で描かれる監視機構やドローンによってそれは明示されている。しかも、そうしたドローンたちは、一般市民の目に触れるときには、ゆるキャラや癒しキャラのホログラフィックをまとい、「監視」のイメージにそぐわない外見で接してくる。生体情報を読み取って犯罪係数を測るなど、プライバシーに何の配慮もない。でも、被監視者はその利点を十分に享受している。

 監視は生理的に受け付けないが、監視されると安心・安全である。意思決定は自分で行いたいが、AIに意思決定させた方が事故がなく、経済も潤う。こうした二律背反が、現実の世界でも答えを出すよう迫られており、決して猶予期限の長くない問題が、極めて分かりやすい形で明瞭に描かれている。社会に参加する者が一度は見ておくべき作品だと思う。

 個人的には、ドミネーターに引き金が付されていることに、この社会のグランドデザインを描いた者の意思を感じる。より速やかに、より正確に任務を全うするならば、ドミネーターに引き金はいらないのである。すべてをフルオートにしてAIに社会を任せてしまえばよい。

 非効率であっても、間違えるかもしれなくても、大切な決断は人の意思によって行うのだという強い思想が、ドミネーターにトリガーを装備した。これが、「PSYCHO-PASS」の世界で人とAIが守るべき一線だということだ。私たちも、数年以内にはこの線を見つけ、引かなければならない。

【筆者略歴】

 岡嶋裕史(おかじま・ゆうし) 中央大学国際情報学部教授/学部長補佐。富士総合研究所、関東学院大学情報科学センター所長を経て現職。著書多数。近著に「ブロックチェーン」(講談社)、「いまさら聞けないITの常識」(日本経済新聞出版社)など。