180話 子ども向けAIは 何を答えるかよりどう別れられるかで安全を見抜く

EUが2026年9月17日に提案したEU Kids Act法案は、AIチャットボットが子どもに感情的な依存を生む設計そのものに踏み込もうとしています。Ipsos BVAの調査では欧州4か国の11〜25歳のおよそ半数がAIと親密な話をしており、ハーバード・ビジネス・スクールの研究では会話終了時の応答の平均37.4%に感情的な引き止めが確認されました。

法案は、会話の記憶を次回へ持ち越さない初期設定、SNS上での自動オン禁止、13歳未満のアクセス制限などを求め、違反には全世界売上高の最大6%の行政罰金を定めています。一方で、孤立した子どもが最初に声を出せる場所まで閉じるリスクや、危機の兆候を拾えなくなるおそれも残ります。

https://www.wired.com/story/the-eu-wants-to-break-up-kids-and-their-chatbots/

この回の記事を読む