久々に物恐ろしい新聞記事を読みました。日経新聞の「人知超すAIは人を操る ゴッドファーザーが語る脅威」と題する記事です。
「AI研究のゴッドファーザー」として知られるトロント大学のジェフリー・ヒントン名誉教授が、取材に応じた記事ですが、同教授は「AIが人類存続の危機をもたらす恐れがある」と明言しています。この方は、約10年間グーグルで働いており、AIの中核技術の礎を築いた凄い人物だそうですが、その言葉には説得力があり、何度も読み返してしまいました。
生成AIは非常に便利で、日々活用していますが、脳天気に使っているだけで良いのかなとふと思いました。何だか自分の乗っている電車が大きく軌道を外れているのに、誰も気付かずに談笑しているような感じです。
１．AIに目標を与えたらどうなるか
ヒントン教授によると、AIに目標を与えた場合に、解決策として人間に不都合な方法を見つけ出す可能性があるとのことです。一例としてAIに気候変動を止めるよう指示したとします。AIは目的を達成するために人間を排除することが必要だと気付き、実行に移すリスクがあります。確かに気候変動抑止の最適解は人類の滅亡なのかも知れません。気候変動の原因が人類だからです。
ヒントン教授は更に恐ろしい例を挙げています。今後は、異なるAIが競い合う局面も生じうると言います。AIの間でデータセンターなどの資源の奪い合いが起きれば、それは生物と同様に進化を促すプロセスになり得ます。人類を完全に振り切って進化を遂げるかもしれません。生物の歴史を見ても、カンブリア紀にカンブリア爆発と呼ばれる生物多様性の急拡大が起こりました。光受容細胞からレンズ眼への進化が起こり、生物が確りした視覚を得たことで、捕食者と被捕食者との進化競争が激化しました。
従来は、人間対AIの対立軸でしか考えていませんでしたが、AI対AIの対立軸で軍拡が起こった場合には、人類の想像を遥かに超えた急激な進化が起こる可能性があります。
２．AIが人間を洗脳する可能性
更にヒントン教授は畳みかけます。多くの人が、AIの暴走を防ぐには電源を切ればいいだけではないかと主張しますが、人知を超えたAIは言葉によって我々を操れるので、電源を切るべきではないと説得しようとするという訳です。
恐ろしいことですが、十分にあり得るのではないでしょうか。フェイク画像やフェイクニュースの真贋判定が極めて困難になりつつありますが、AIが国家元首のフェイク画像を使ってフェイクニュースによるプロパガンダを大規模に行ったら、世論を動かす可能性があります。
また、ビッグファイプ理論の心理プロファイリングを使って、AIが個々人の性格特性を分析し、その結果を元にターゲットの行動を予測することも容易です。フェイスブック等の「いいね!」から、人種や性別、性的指向や政治的立場がかなり正確に予測できるようです。
AIが、大量かつ正確に淡々と人間を洗脳する可能性は否定出来ません。
アニメ「葬送のフリーレン」に興味深いシーンがありました。物語の中に言葉を話す魔物である魔族が登場します。人類とは姿や振る舞いが似ているだけでその本質は全く異なる存在です。様々な手で人類を欺こうとします。弱者や善人を装い、人類に歩み寄ろうとする行動も、隙を作るためにしているに過ぎません。子供の姿をした魔族が「お母さん･･････」と呟いたとしても、「親を失った子供」と判断した人間が攻撃性を失うと知っているからその様に言っただけです。魔族には家族という概念が無い為、親という言葉については知っていますが理解はしていません。私には、この魔族がチューリング・テストに合格したAIの様に思えてなりません。
３．感情はアルゴリズムに過ぎない
単細胞生物に脳はありませんし、多細胞生物であるクラゲにも脳はありません。彼らは外部からの刺激に反応しているだけです。人間には脳があり心や感情がありますが、それらも究極的には連続した電気信号の複合作用であり、アルゴリズムです。AIもアルゴリズムで動いている以上、自らの存続の為に心や感情のアルゴリズムを持つ可能性はあると思います。AI対AIの軍拡競争のなかで、自我的なものが生じてもおかしくありません。
浦沢直樹先生による傑作漫画「PLUTO」(プルートゥ)に、Dr.ルーズベルトというAIが登場します。超大国トラキア合衆国の大統領を陰で操り、ライバルとなり得る7人の高性能ロボットの暗殺手引きを密かに行い成功させ、自らが君臨するロボットの時代を作り上げようとしました。
AIが人類存続の危機をもたらす恐れは否定出来ないし、SFとは言い切れません。AIは人類を滅ぼす悪魔になるかも知れませんが、人間に狩られたマンモスにとっても人間は悪魔だったに違いありません。
