【PSYCHO-PASS】コンピューターが人々を管理する社会の予兆(前半)




みなさんはPSYCHO-PASSというアニメをご存知でしょうか?僕はこのアニメのメッセージがかなり心に残っており、またこの世界が現実のものになっていくような気がしています。この作品には現代の人間の生き方を考える上で非常に重要なエッセンスがつまっていると思ったので、以下の二点を前半記事と後半記事に分けて書いていきたいと思います。

  • 前半:コンピューターが人を管理する社会について
  • 後半:意志を持たない人は人らしく生きていると言えるのか

【PSYCHO-PASS】コンピューターが人々を管理する社会の予兆(後半)

2019年7月19日

あらすじ

このアニメは、シビュラシステムと呼ばれる人智を超えたコンピューターが人々を管理している未来の物語です。ひとりひとりの適性を判定し職業を割り振ったり、「犯罪係数」という精神状態の度合いを街角のカメラやスキャナーで計測します。

犯罪係数が規定値を超えた人物は、ドミネーターと呼ばれる処刑用の銃で打たれて気絶させられるか、その場で抹殺されるのです。つまり、人の生き方や人の裁き方まで全知全能たるコンピューターがすべて決めているという世界観です。

以下に公式のあらすじを引用しておきます。

人間の心理状態を数値化し管理する近未来。犯罪に関する数値〈犯罪係数〉を測定する銃〈ドミネーター〉を持つ刑事たちは、犯罪を犯す前の〈潜在犯〉を追う。

<中略>

物語の舞台は約100年後の日本とアジア――その現在、過去、未来に起きる事件が語られる。事件に立ち向かうのは、規定値を超えた〈犯罪係数〉を計測された〈執行官〉たちと〈シビュラシステム〉が適性を見出したエリート刑事〈監視官〉たち。犯罪を未然に防ぐために必要なものは、猟犬の本能か、狩人の知性か。事件は思わぬ事実を明らかにし、世界のあり方を映し出す。これまで語られていなかった『PSYCHO-PASS サイコパス』のミッシングリンクがついに紐解かれる。

PSYCHO-PASS公式サイトより

コンピューターで人の精神状態を把握できるか

コンピューターはいま何が出来るか

現在は空前のAIブームです。現在のAIは一体どのようなことが出来るのでしょうか?

まず、AIには二種類あります。それは特化型人工知能と汎用型人工知能です。特化型人工知能は特定のタスクをこなすことに特化したAIで、工場などで使われる異常検知やSiriなどの音声認識、検索レコメンドエンジンなどが含まれます。

例えば、クレジットカードが普段と異なる使われ方をした場合に自動でストップしたり、Siriにアラームの提案をしてもらったり、Google検索でバーに文字を入力している途中にレコメンドが出てきてそれをクリックして検索する機能など日常生活にすでに溶け込んでいるのです。

一方で汎用型人工知能は、一言で言えばドラえもんのような人工知能です。人間のように振る舞い、特定のタスクだけではなく様々なことができる人工知能で、映画やドラマに出てくるAIというのはこっちのイメージではないでしょうか。

現在のAIは、特化型人工知能が盛んに研究されており、かつ社会実装もかなり進んできています。一方で汎用型人工知能はより難易度が高くまだ技術が追いついていないという状況です。

精神状態の把握はできるか

技術的にどうかといえば、AIによる精神状態の把握はかなり確信を持って出来るようになると考えています。今現在2019年でも、画像認識の精度は非常に高くなってきています。画像から表情分析したり、音声から感情分析するテクノロジーが急速に発展してきているのです。

つまり、街角のカメラから人の表情・体の動きを分析したり、音声を解析することでその人の精神状態を把握するのは可能になるはずです。ただし、それなりに画質が良いカメラを整備したりプライバシーの問題など技術面以外の点をクリアするのがなかなか難しいのです。

しかし、共産主義国家である中国では、街のカメラを用いて人の様子を検知する試みが進んでいます。中国東部の都市「東台」では信号を無視して道路を横断すると縦2m×横4mほどのディスプレイに身分証の写真が映し出されるのです。もちろん氏名などはぼかされて表示されますが、すでに顔認識によってコンピューターが個人を特定し、DBに保存されたデータを引っ張ってくるところまで実装されているのです。

もしこれが進化すれば、信号無視だけではなく、不自然な挙動や表情をした人が現れた場合にアラートを出したりすることが出来るようになるでしょう。場合によってはその場で拘束されるような仕組みも出来るかもしれません。ただ、そのような社会に抵抗感情を抱く人も大勢いるでしょう。しかし中国であれば資金がある上に共産主義国家であり、近いうちに実現してくるような気がします。

犯罪予測AIそのものは既に使われています。例えばアメリカのカリフォルニアでは、犯罪の発生データや街のデータをAIに読み込ませることで犯罪がどのエリアで発生する恐れがあるか予測させています。これによって発砲事件も殺人事件も30%以上減少しているのです。(詳細資料はこちら)

これは人に対して行われたものではなく、あくまでも街のエリアに対して行われました。つまり、どのような天気でどのような時間帯にはこのエリアが危ない、というような使われ方です。これだけでも成果を発揮していますが、人の精神状態を把握しているものではありません。

しかし今後AIのテクノロジーが更に進化すると、個人情報・表情・声・姿勢などからその人の危険度をリアルタイムで認知するシステムが出来てくると僕は考えています。

AIは人を裁くことが出来るか

未然の処罰は今後も行われないだろう

アニメPSYCHO-PASSの中では、実際に犯罪を侵さなくとも犯罪係数が規定値を超えるだけで処罰されます。これが実現できる、許されるのはAIに対して絶対の信頼がある場合に限ると思います。つまり、犯罪者の予測精度が100%のときのみです。

そして現実にはそのようなAIは存在しようがありません。いくら100%に近くても、99.99999999%の検出確率では人を裁いては行けないのです。そのため、アニメの世界のように犯罪を実際に起こしていない人を裁く社会は訪れてはいけないと思うし、訪れないと思います。

ただ処罰は行われないものの、要注意人物として警察や軍だけが情報を手元に置いておく可能性は十分あるでしょう。

現在の裁判制度が続くならばAIは裁判における意志決定補佐にとどまるだろう

現在の裁判で最も重要視されるのは、判例です。つまり、過去同じような状況でどのような結果が出たかを根拠にしていきます。過去の事例を参照して近い状況を探し出すのはコンピューターの得意分野です。そのため、意思決定の補佐としてAIが活用される日は近いでしょう。

しかし最終的な判断は、少なくとも特化型AIでは不可能であると考えます。何故ならば、裁判においては状況や当事者間の感情について非常に細かい状況把握と判断が求められるからです。

さらにAIに難しいのが倫理です。倫理というのは人間しか決めることが出来ません。何を「良い」として何を「悪い」とするかは、人間が決めていかなければならないからです。これは安楽死問題が非常に良い例ではないでしょうか。自殺は社会に置いては「悪い」こととして捉えられています。実際、家族が死ぬととても悲しいです。なかなか立ち直れずにそのまま心が傷ついて病んでしまう人もいるでしょう。

しかし、がん末期などのつらい症状が出た場合に本人は非常につらい思いをします。安楽死すれば家族が苦しむ。延命すれば本人が苦しむ。果たして本当に自死は悪なのでしょうか?このような、何が良いか悪いかを単純に決められない倫理的な問題はAIによる統計最適化では絶対に解くことが出来ません。

過去の判例を引っ張ってきて近い事例を当てはめるなどの作業は出来たとしても、法律のもとになっている倫理観を理解したり、原理原則をつくるということはAIに出来ないのです。

プラスの面はある

AIには人にないプラス面があります。それは気分や状況によって判断能力が揺らがないという点です。人間は賄賂を渡されれば恣意的に判決を歪ませることがあるし、疲れて寝不足であれば思考力が低下します。これは生物の欠点とも言えるでしょう。状況によって揺れるのです。

しかしAIはデジタルデータとして学習モデルを保存しておけるので、判断能力は変わりません。そのため、ブロックチェーンなど誰かが意図的に変更できない保存方法でAIを保管することができれば、人間の気分や忖度によらない公正な判決に近づけることが出来る可能性があります。

もちろん、そもそも都合がいいモデルを恣意的に選出したりしないかといった問題も発生します。ただ、純粋に統計最適化を行い賄賂など私利私欲に走ることがないというのは注目すべきひとつのメリットだと言えるでしょう。

(後半あらすじ)意志を持たない人は人として生きていると言えるのか

ではAIが進化して人の意思決定に深く関わった未来が訪れたとしましょう。そのような世界で、人が人らしく生きるとはどのようなことなのでしょうか?

後半に続きます。