アメリカ軍のAI誤情報によって中国と戦争寸前になっていた！？ #180

本日のYOSHIO's Report 2026年9月20日（日）

この配信で話されている内容は与太話です。誤認や思い込み、ハルシネーションが多々含まれますのでお気を付けください
パーソナリティ：YOSHIO

1. AIが作った偽の機密報告で、米軍が中東で中国船に乗り込む寸前まで行っていた
CNNが9月18日に報じた独占記事。今年の春、中東を航行していた中国船籍の船が核兵器開発用の部品を積んでいるとする機密情報報告をもとに、アメリカ軍が臨検（乗船検査）を準備していた。武装した兵士が乗り込む態勢を整え、航空機もすでに飛行中だったが、報告の中身がAIによって生成されたものだと判明し、直前で作戦は中止された。事情を知る4人の関係者がCNNの取材に応じ、報告は「まったくの偽り」で「あやうく戦争が始まるところだった」と証言している。報告の出どころはアメリカ特殊作戦軍（Special Operations Command）の分析官ひとりで、船の積荷リストを分析させるためにチャットボットを使用。公開情報（オープンソース・インテリジェンス）と政府が保有する機密の通信傍受情報（シギント）をAIに統合させたところ、AIが積荷を誤認した。分析官はその誤った結果を、再びAIを使って公式の報告書らしい体裁に整え、司令部の連絡網に流していた。使用されたチャットボットが市販品か政府専用かは不明。軍のAI運用に詳しい元高官はCNNに、政府内部のAIツールは「市販品に口紅を塗っただけのもの」がほとんどだと述べた。船が実際に何を積んでいたかも明らかになっていない。背景には米軍のAI導入加速があり、2026年1月に国防長官ピート・ヘグセスが「AI第一の戦闘部隊になる」と表明。Ars Technicaによると6月時点で軍の生成AIツール利用者は現役職員150万人にのぼる。AIが出した情報を検証する統一基準は存在せず、若手分析官ほどAIを無批判に信用する傾向があるとの指摘も。関係者は「AIを使うと、まずい結論に早くたどり着ける」と語った。アメリカ陸軍の元将校でAI政策研究者のジェイク・ステックラー氏はTechCrunchに、兵士はLLMの不確実性を理解する必要があり、とくに標的選定・情報分析・作戦計画など武力行使につながる判断では決定的に重要だと指摘。同時に、AIを避ける理由にすべきではなく安全装置を追加すべきで、導入速度を優先しすぎると事故が起き兵士の信頼を失うと警告した。米当局者は、軍がAIのハルシネーションに直面したのはこの一件だけではないともCNNに明かしている。

【今回のキーワード】
ハルシネーション（hallucination、AIが事実でない内容をもっともらしく生成する現象、日本語では幻覚）、LLM（大規模言語モデル）、チャットボット、生成AI、CNN、TechCrunch、Ars Technica、Mashable、The Decoder、TechSpot、Gizmodo、アメリカ軍、アメリカ特殊作戦軍（Special Operations Command、SOCOM）、アメリカ太平洋特殊作戦軍（Special Operations Command Pacific）、国防総省（Department of Defense）、ペンタゴン、ピート・ヘグセス（Pete Hegseth、アメリカ国防長官）、人工知能加速戦略（Artificial Intelligence Acceleration Strategy、2026年1月発表）、ジェイク・ステックラー（Jake Steckler、GovAI研究員、アメリカ陸軍元将校）、GovAI、オープンソース・インテリジェンス（OSINT、公開情報の分析）、シギント（SIGINT、signals intelligence、通信傍受などによる情報収集）、積荷リスト（マニフェスト、cargo manifest）、中国船籍船、核兵器開発部品、臨検・乗船検査（boarding）、キルチェーン（kill chain）、GenAI.mil（米国防総省の軍専用生成AI基盤）、Gemini for Government（Google）、Grok for Government、Google、国務省の軍事AI利用に関する宣言（2023年、Declaration on Responsible Military Use of Artificial Intelligence and Autonomy）、ヒューマン・イン・ザ・ループ（human in the loop）、中東、イラン

※金額換算は1ドル＝158円（2026-09-18時点）で計算しています。