第604回:GoogleのSAFEをどう見るか。AIで量産する前に、自社と外注先の制作を確かめる

Podcastを今すぐここで聞く

ラウンドナップWebコンサルティングの中山陽平です。今回は、Googleが公開したSAFE（Scaled Abuse Forensics Examiner）という研究を通じて、自社や外注先が、コンテンツをどう作っているか確かめておきたいという話をします。

自分たちでスパムをやっているつもりはなくても、外注先に頼んだ仕事が、実はそうなっていることがあります。新しいお客様にお話を伺うと、「費用も高くないし、効果があるという営業を受けたので、任せたままなんです。内容はよく分かっていません」と言われることがあるんですね。知らないうちに、問題のあるやり方を続けているかもしれない。今回は、その点も気にしていただきたいと思っています。

AI（Artificial Intelligence：人工知能）を使えば、記事や動画を大量に作ることは本当にできてしまいます。作るだけなら簡単ですが、それが負債になり、最悪の場合、Googleからの流入を得られなくなることもあります。今やっていることや、これから受ける営業をどう判断するか。そのために、Googleが何を調べようとしているのかを見ていきます。

SAFEの研究を、Google検索への導入発表と受け取らない

話のきっかけは、2026年9月25日にSearch Engine Journalが掲載した記事です。歴史のあるSEO（Search Engine Optimization：検索エンジン最適化）関連の媒体ですね。Google Researchで公開されたSAFEが、Google検索のスパムアップデートにも関係しているのではないかと取り上げていました。

参照：Search Engine Journal：Google Has Deployed A New AI Spam Detector Called SAFE

ただ、論文で具体的に扱っているのは、YouTubeチャンネルを想定した動画やチャンネル群の不正調査です。この論文から、SAFEがGoogle検索で使われているとは判断できません。2026年9月30日の時点で、9月のスパムアップデートにSAFEが入ったという公式発表も、私は確認していません。ここを拡大解釈した営業もありそうなので、先に区別しておきたいところです。

参照：Google Research：SAFEの研究紹介

論文には「early deployment results」と、初期導入の結果を示す記述があります。ただし、YouTubeの本番で使われているか、使われているならどこまでかは、私には分かりません。内容を見ると、使われていてもおかしくないとは感じますが、Google検索に新しいアルゴリズムが加わったという話として受け取らないでください。

参照：GoogleのSAFE論文：Abstract（1ページ目）

私自身は、Web検索でも同じ方向に進むだろうと思っています。ただ、それは私の見方です。生成AIによって変わったスパムを、Googleがどう見つけようとしているのか。その方向を知り、今のうちに気をつけたいことを考えるための研究として読んでいただければと思います。

動画の中身だけでなく、投稿の仕方やつながりも調べる

SAFEは、大量に作られたAIコンテンツの中から、組織的な不正をAIで調査する仕組みです。フォレンジック調査という言葉を聞いたことがある方もいるかもしれません。証拠を集めて調べる、というイメージですね。一つひとつのコンテンツを見るだけでは分かりにくい不正も、周辺の情報と合わせて調べます。

従来のコンテンツ評価というと、まずは中身が低品質か、高品質かという話を思い浮かべますよね。パンダアップデートなど、懐かしい名前です。E-E-A-T（Experience, Expertise, Authoritativeness, Trustworthiness：経験・専門性・権威性・信頼性）も、コンテンツの品質を考えるときの観点です。ペンギンアップデートでは、悪質なリンクやプライベートネットワークも問題になりました。内容に加え、リンクなどの関係も見てきたわけです。

参照：Google検索セントラル：E-E-A-Tと品質評価ガイドライン／Google検索ランキングシステムのご紹介：Panda・Penguin

生成AIが普及して、スパムの作り方も変わりました。YouTubeで同じテーマの台本を作り、一定の形式で動画を大量に作る。「そのうち1本でも当たれば、それなりの収益になる」という発想ですね。内容はほぼ同じでも、文章や映像は少しずつ違う。地域ごとの別バージョンを作ることもあります。ここで言うのは、自動吹き替えとは別の話です。まったく同じもののコピーではないので、中身だけでは見つけにくいんですね。

それでも、投稿する量やタイミング、使われるアカウントまで見ると、不自然さが分かることがあります。人間なら「このアカウントと、あのアカウントは怪しいぞ」と気づけても、一つずつ大量に調べるのは大変です。そこで、人間が行う不正調査を、AIで大規模に行おうというのがSAFEの考え方です。

参照：GoogleのSAFE論文：Introduction（1ページ目）

ですから、SAFEを「この動画はAIで作られたか」と調べるだけのシステムと捉えると、少しずれます。どんな内容を、どんな関係にある投稿者が、どう配信しているかまで含めて調べる。コンテンツの中身に加えて、作り方や配信の仕方にも目を向けた仕組みだと考えてください。

AIを使うこと自体が悪いわけではありません。今の時代、AIがまったく関わらずに作る方が難しいのでは、とも思います。Googleが問題にしているのは、価値の乏しいものを大量に作り、検索順位や露出を無理に操作しようとすることです。

参照：Google検索セントラル：AI生成コンテンツに関するガイダンス

SAFEの4つの担当から、何を見ているかを知る

論文では、調査を大きく4つのエージェントに分けています。内容・行動・関係性を調べる3つの担当と、それをまとめる担当がいると考えると分かりやすいと思います。

内容の担当は、既知の違反や見逃されやすい違反を調べる

Content Understanding Agentは、動画や文章の中身を調べます。既知のポリシー違反に加え、従来の検出方法をすり抜けるような微妙な違反も分析する担当です。特定の違反を見分けるよう調整した大規模言語モデルと、少数の事例から新しいパターンを判断する方法を組み合わせています。

参照：GoogleのSAFE論文：Content Understanding Agent（2ページ目）

アンチウイルスソフトに近いイメージですかね。既存のパターンも調べながら、新しいものにもできるだけ早く対応する。私には、これまでの検出を続けながら、日々改善している部分にも見えます。

行動の担当は、投稿の集中や共通する環境を見る