SNSを見ていると、ことあるごとにAGIの話が流れてくる。
AIが人間を超える。いずれ細かく指示しなくても、こちらの意図を察して、勝手に最適な答えを出してくれるようになる。仕事はなくなり、科学の難問は解かれ、政治的な対立も調停され、シンギュラリティの向こう側に、いまとはまったく違う世界が始まる。
また世界が終わる話をしているな、と思う。いや、本当にそういうものが生まれる可能性まで否定したいわけではない。いまの生成AIの延長なのか、ワールドモデルのような別の仕組みなのかはわからないけれど、人間と同じくらい幅広く考え、人間より圧倒的に速く働く何かは、そのうち出てくるのだと思う。出てきたら、自分も普通にめちゃくちゃ使う。
ただ、AGIが生まれることと、それによって人類が救われることは、かなり別の話である。
AGIはもともと、幅広い知的作業を人間と同程度か、それ以上にできる、という能力の話だ。正しい価値観を持っているとか、人類全体の幸福を理解しているとか、政治的な対立をなくしてくれるとか、そこまでは本来含まれていない。
でもSNSでは、この知能の話に、いつの間にか救済の物語が乗ってくる。仕事が終わる。病気がなくなる。争いがなくなる。人間が迷わなくても、圧倒的に賢い何かが正解を決めてくれる。
数としては、そんなことを本気で信じている人は一部なのだと思う。ただ、普通の技術の話より、救済と滅亡の話のほうがよく伸びる。AIが人類を救う。あるいは、AIが人類を滅ぼす。どちらにしても、いまの世界が一度終わる話になりやすい。
90年代末、世界が終わる話が蔓延していた。例えばオウム。アルマゲドン。いや、ちろんAGI待望論とオウムを同じものだと言いたいわけではない。さすがに雑すぎる。ただ、終末を待つ気持ちの形には、少し似たところがあるのかもしれない。
終末論は、単に世界が滅びる話ではない。いまの間違った世界が一度終わり、そのあとに本当の世界が始まるという、救済の物語でもあるからだ。
何を選んでも誰かが不満を持つ。問題を解いても次の問題が出てくる。朝から会議をして、なんとか決めて、夕方になって前提がひっくり返る。翌日また集まって、昨日決めたことを少し直す。そんな日常。そういう、面倒で、手応えが薄くて、いつまで経っても終わらない日常を、一度きれいに終わらせてくれる外部を、人はときどき欲しがる。
昔は、それが神や革命や終末の姿をしていた。いまは、超知能やシンギュラリティの姿で現れる、という見方ができなくもない。
たぶん、世の中には大きく二種類の問題がある。
一つは、解く問題である。
どの分子が薬として効くのか。どうすれば少ないエネルギーで発電できるのか。どんな構造なら災害に強くなるのか。どうすれば複雑な制度の申請漏れを減らせるのか。目指す方向がある程度決まっていて、事実や因果関係を深く知ることで、よりよい方法へ近づける問題だ。
もう一つは、決める問題である。
効率と平等のどちらを優先するのか。若者と高齢者のどちらに多く配分するのか。個人の自由をどこまで制限するのか。現在の人間と未来世代のどちらを重く見るのか。これは、情報が足りないから答えが出ない問題ではない。
複数の価値がぶつかっていて、誰かがその結果を引き受けて決めなければならない問題だ。
この二つは、似ているようで、けっこう違う。
決める問題の代表例であり、人類の究極の願いの1つである、世界平和。さて、ものすごく賢いAIなら、戦争を避けるための究極の和平案を出せるのでは、という声が出るだろう。
どこへ国境線を引けば死者が減るか。どのくらい資源を再分配すれば紛争が起こりにくいか。軍縮をどの順番で進めれば、双方が裏切るリスクを最小化できるか。人間よりはるかに精密に計算できると思う。
でも、そこで必ず残論点が生まれる。誰が、どれだけ譲るのか。
たとえばAIが、「この地域を相手国へ渡せば、今後50年間の死者数を最小化できます」と正確に予測したとする。科学的、統計的には、それが最善なのかもしれない。
ただ、その土地に暮らしている人たちが、なぜそれを受け入れなければならないのかは、計算からは出てこない。死者数を最小化することと、自己決定を守ること。国家の独立と、個人の安全。現在の平和と、過去に犠牲になった人への責任。どれを優先するのかは、知識の量だけでは決まらない。
柄谷行人という思想家がいる。文芸批評や哲学の人ではあるのだけど、彼はかなり長いあいだ世界平和について考えてきた。
AIがいくら浸透しても全く揺らぎませんから。
-- 「じんぶん堂」
彼はインタビューでこういった。何が揺らがないのかというと、資本主義経済と国家という既存の仕組みである。
AIや宇宙開発のような新しい技術が根本的に世界を変える、SNSが新しい共同性を作る、という話は何度も出てくる。技術が生活を大きく変えること自体は事実だけれど、技術が変わっただけでは、資本と国家の関係は消えない、と柄谷は言う。
AIがこの世の矛盾を解決することはなく、逆に資本はAIを使って、利益と市場を広げる。国家はAIを使って、軍事や監視を強化する。ナショナリズムはAIを使って、自国の正しさや敵への怒りを大量に作る。
一社がAIを使って仕事を速くすれば、競合も使う。全員が速くなる。一週間かかっていた仕事が一日で終わるようになれば、仕事が減るのではなく、次から一日で出すことを求められる。
個人が、イチ国家ができるもことは、他人の、ほかの国家の手にも渡る。そうしたとしにぶつかる、複数の力、利害。どちらも同じ力をもつもの、どちらを優先させるのか、決めるのは難しい。
AIが解けないのは、世界平和という計算問題ではない。正当性である。
AIは、世界平和のための技術的な条件を、かなり明らかにできると思う。
どの制度が戦争を減らすか。どんな再分配が必要か。どこに軍備管理の穴があるか。それぞれの政策が、誰にどんな負担を与えるのか。
究極のバランス案を出せるかもしれない。
しかし、それはモノサシが絶対的なものである場合においてだ。
何を幸福と定義したのか。誰の損失を許容したのか。どの価値を数字にし、どの価値を計算から落としたのか。そのものさしの正当性。
誰が決めたのか。誰が同意したのか。従わない自由はあるのか。あとから訂正できるのか。その決定を実行する権力を、誰が監視するのか。これは、絶対的な指標で決められない。相対的な正当性。
むしろAIが賢くなるほど、「正しい答えを知っている存在に任せればいい」という誘惑は強くなり、その誤解が世界をむしろ混乱させることになりかねない。
もちろん、AGIが正しい案を出すだけでなく、その正当性を人類へ伝える方法まで発明するのではないか、という反論はありうる。
まず言いたいのは、そのような知能レベルは、人類誰一人として現時点でなし得ていないものである。アインシュタインは生むことはできても、この「神」の創造の難易度は想像を絶するものであることは、まず言える。現実的でない。
ただ、SF的妄想としてそれがなし得たとする。
一人ひとりの価値観を理解し、あらゆる反対意見へ答え、誰が何を失うのかを説明し、全員が受け入れられる言葉を選ぶ。究極の知性なら、究極の合意形成もできるかもしれない。
AGIは、そうした正当な手続きを設計し、支えることはできるかもしれない。むしろ人間よりうまくできる可能性はある。
でも、そのとき正当性を生み出しているのは、AGIの知能そのものではない。人間がどこまでを任せるのかを決め、異議申し立てと撤回の権利を残すという制度のほうだ。その、全人類で合意するには難しいその制度を成立させた人間によって、正当性は生み出されたと言える。
人間側の、ロジックを超えた、受容性こそが重要なのであり、それをなし得るとすると、AGIが神になったおかげではないだろう。人間が進化し、究極の愛を理解したときだ。そして、人類はAGIという名の、ものすごく優秀な調停者を雇っただけだ。
目下、そんな妄想をするよりも、人類がAGIに期待すべきは、人類の代わりに正解を決めることではなく、人類ができることを増やすこと、なのだと思う。
新しいエネルギーを見つける。治らなかった病気を治す。これまで使えなかった資源を使えるようにする。気候や災害の変化を予測する。偶発的な軍事衝突を早く見つける。複雑な制度をわかりやすくする。人間が決めた支援を、必要な人へ速く届ける。
科学は、何が可能かを広げる。AGIにはこれを、めちゃくちゃ広げてほしい。ゼロサムゲームでどう勝つかではなく、科学によってパイそのものを広げ、奪い合わなければならない度合いを少し減らしてほしい。
科学的な解決は、AIの、もしかするとAGIと呼ばれるなにかによって、これからもたくさん起こると思う。病気が治り、資源が増え、いまより暮らしやすい世界にはできる。
でも、だから、政治的な問題は終わらない。何を善い人生とするのか。誰の負担を引き受けるのか。何を守り、何を諦めるのか。それは科学的事実だけでは決められない。
任せて放っておけば、いつか全部がうまくいく世紀末は来ない。
AIがどれだけ賢くなっても、僕らはまた会議をして、よくわからないまま何かを決める。間違えたら謝り、直して、また次を決める。
世界を一度終わらせてくれる神を待つより、終わらない日常の中で、人間ができることを少しずつ増やしていく。
AGIに期待するべきは、たぶん、救済ではなく、拡張。
そう思う。