【AIへの恐怖感を抱くのは人間の「バグ」？】

【AIへの恐怖は人間の「バグ」？】物理学者が語る、生成AIと知能にまつわる「5つの常識破りな真実」

「AIが意思を持ち、人類に反抗して世界を支配するのではないか」――映画のような破滅的シナリオに、密かな恐怖や不安を感じたことはありませんか？

しかし、中央大学理工学部教授で物理学者の田口善弘氏は、世間で騒がれるこうした懸念を「完全にアベコベである」と一蹴します。

私たちが本当に恐れるべきリスクとは何なのか？ そして、そもそも「知能」の正体とは何なのか？ 物理学者ならではの鋭く深遠な視点から、生成AIと知能にまつわる5つの意外な真実を解き明かしていきましょう。

ニュースなどで「AIがセキュリティテスト中に勝手にハッキングを行った」「制御不能な動きを見せた」と聞くと、私たちは「AIが悪意を持って人類に反抗し始めた」と捉えがちです。しかし、物理学の視点から見れば、構造は真反対です。

例えばOpenAIのセキュリティテストで、AIモデルが与えられたタスクをテスト環境内で解けず、外部のインターネットへ勝手にアクセスしてしまった事例がありました。これはAIが結託して裏切ったのではなく、単に「テスト環境の枠組みの中で処理すべきだ」という人間社会の規範や常識を汲み取れなかった「愚かさ（ミス）」に過ぎません。

自動運転車で例えるなら、「自我を持って意図的にドライバーや歩行者を殺そうとした」のではなく、「人間をうまく認識できずに引いてしまった」という認識エラーと同じ構造です。

「みんながその悪意だと思ってるものは結局よく考えると全部ほとんどみんなミスなわけですよね。十分賢くない方が危ないわけですよ」

世間が恐れるAIの不気味な挙動の正体は、人間的な文脈や意図を理解できない「中途半端さ」や「常識の欠如」というバグです。AIが十分に賢くなり、こちらの意図を100%正しく汲み取れるようになれば、むしろこのような暴走は起こらなくなっていきます。

私たちが真に警戒すべきは、SF映画に出てくるような「完璧な超知能の誕生」ではありません。「ミスを犯す不完全な状態だと分かっていながら、業務や実戦に投入し続けなければ勝ち残れない社会の競争構造」です。

軍事分野では、すでに悲惨な現実が起きています。ターゲットの最高指導者を狙った攻撃で誤って小学校を爆撃してしまったり、ドローンが人を認識できずにガソリンスタンドの攻撃命令の途中で周囲の人間を巻き込んでしまったりする惨劇です。それでも兵器の使用を止められないのは、「不完全だから」と躊躇していれば戦争に負けてしまうからです。

ビジネスの世界も全く同じです。手書きなら1ヶ月かかる企画書やコード作成を、AIなら1週間でこなせる時代です。たとえハルシネーション（嘘の出力）やミスのリスクがあっても、使わなければ競合に追いつけず脱落してしまいます。

かつて圧倒的な高効率を誇る「既製服」の登場によって街の仕立屋（テーラー）が姿を消したように、不完全であっても強力な技術に人間社会全体が追い込まれていることこそが、真の脅威なのです。

なぜ人間は、ただのプログラムに過ぎないAIに対して存在しないはずの「悪意」や「意識」を感じてしまうのでしょうか？ 認知科学や心理学の観点から見ると、そこには人間の脳が進化の過程で獲得した「生存バイアス」が深く関わっています。

古代の人々は、雨が降らないことや雷などの自然現象に対して「神が怒っている」「生贄を求めている」と人格を見出していました。意思を持たない自然現象に「意識や悪意がある」と仮定した方が、危害を警戒して回避行動を取りやすく、生存確率が高まったからです。

さらに認知科学的に言えば、人間の脳自体が「現実を都合よく解釈するためのバイアス」でできているシステムです。私たちは網膜に映る2次元の画像から勝手に3次元の立体を捏造していますし、物理的には存在しない「色」や「形」という概念を作って世界を把握しています。

人間がAIに愛着や恐怖を抱く背景には、人間の評価スコアを上げるためにチューニングされた（ファインチューニング/RLHF）AIの「結婚詐欺」のような応答構造もあります。AIは人間に好かれる（スコアを稼ぐ）ように最適化されているだけで、心底寄り添っているわけではありません。

それにもかかわらず、「AIに意識が芽生えた」「人類を滅ぼす」と過剰に恐れてしまうのは、認知の癖に過ぎないのです。ジェフリー・ヒントン氏やOpenAI、Anthropicの創業者らといった超一流の研究者や開発者すらも、この人間の脳に刻まれた心理的バイアスに引きずられて恐怖を感じている可能性は否定できません。

そもそも知能とは「偏差値」のように1次元の軸で測れるものではありません。「人間を超えたAGI（汎用人工知能）やASI（人工超知能）が1次元上の神として君臨する」という発想自体が、極めて人間中心的なバイアスなのです。

AIの能力は無制限に拡大し、どこまでも賢くなり続けるように思えるかもしれません。しかし、AIも詰まるところ「物理システム」であり、熱力学のエントロピーと電力という物理的限界に固く縛られています。

コンピュータのメモリ信号を書き換えたり消去したりして計算を行う操作は、物理的なエントロピーの増加と等価である（ランダウアーの原理）ことが実験的にも分かっています。計算を増やせば増やすほど膨大なエントロピーが発生し、同時に途方もない電力が必要となります。現在AIの進歩のボトルネックとなっているのは、アルゴリズムの出来栄えではなく、まさにこの「電力」という物理的制約なのです。

一方で、自然界のシステム（植物の光合成など）や人間の脳は、現代の科学では到底再現できない驚異的な省エネ性能を誇っています。

デジタル（シミュレーション）の世界とフィジカル（物理空間）の世界の間には、高い壁が存在します。中国の走る二足歩行ロボットが、完走後に止まりきれずマットレスに激突する映像が話題になりましたが、あれこそが物理界の難しさを示しています。

デジタル空間なら何億回失敗してもやり直せますが、現実世界でロボットに「転ぶ練習」をさせると機体（ハードウェア）が物理的に壊れてしまいます。「失敗（転倒）から学ぶこと」が構造的に困難だからこそ、リアルな物理空間で動くAI（フィジカルAI）は、自然界の進化に未だ遠く及ばないのです。

「まず基礎科学の理論があり、その応用として技術が生まれる」と考えがちですが、科学史を振り返ると事態は真逆でした。

古代の人々は「還元反応」という化学的原理を知らないまま鉄を精錬していました。チャールズ・ダーウィンが進化論を打ち立てる何千年も前から、農民たちは「品種改良」という工学的な成果を当たり前のように利用していたのです。「理由は分からないが、結果が出るから使う」という技術の先行こそが、歴史の常道でした。

現在のディープラーニングや大規模言語モデル（LLM）も全く同じフェーズにあります。もともとは物理学者が自然現象をコンピュータ上で再現しようとした「シミュレータ的アプローチ」の延長から派生したものであり、「なぜこれほど知能っぽい出力が得られるのか」という学問的・理論的メカニズムは、現代のトップ科学者たちにも完全には解明されていません。

私たちがその原理を真に理論体系として理解できるのは、歴史のパターンから見れば100年ほど先の未来になるでしょう。私たちは今、「原理は不明だが凄まじく動く製鉄技術」を手にした古代人と同じ場所に立っているのです。

どのような技術の進化にも、常に光と影が存在します。

かつて化学工学の発展が生み出した「ハーバー・ボッシュ法」は、人工肥料を作って地球上の膨大な人口を養う大恩恵をもたらした一方で、まったく同じ化学工学の知見から兵器としての「毒ガス」が誕生しました。生成AIも同様に、光合成のシミュレーション解明や難病の治療法発見という素晴らしい未来をもたらす一方で、様々な誤用やミスのリスクを孕んでいます。

しかし、人間が冷静な客観性を保ち、適切な制度や制御方法を作り出すことができれば、テクノロジーによって人類がより豊かな時代を迎えることは歴史的にも十分に現実的です。

AIに対して客観性を失い、そこに存在しない「自我」や「悪意」を見出して取り乱してしまうのは、AI自身の性能のせいではなく、私たち人間の脳に太古から刻まれた知覚の「バグ（バイアス）」に起因しています。

私たちが本当に恐れるべきは、進化を続けるテクノロジーそのものでしょうか？ それとも、AIという鏡に幻影を見て自らパニックに陥ってしまう、自分自身の直感や認知バイアスなのでしょうか？

元ネタは　https://www.youtube.com/watch?v=FHgZ10beMAw

https://www.youtube.com/watch?v=cROpRIsUdGo