TikTokに、グーグルのVeo 3が生成した人種差別的なAI動画があふれている

5月にリリースされたグーグルのVeo 3ビデオジェネレーターは、AIビデオの品質における不穏な飛躍を象徴している。私たちが目にした多くのバイラルAI動画は無害で楽しいが、このモデルのピクセルパーフェクトな出力は、悪意のある目的にも使用される可能性がある。今後数ヶ月のうちに禁止されるかもしれないし、されないかもしれないTikTokでは、グーグルのVeo 3による人種差別的なAI動画が溢れていることにユーザーは気づいている。

MediaMattersの報告によると、ここ数週間、多数のTikTokアカウントが人種差別的・反ユダヤ的な表現を使ったAI生成動画を投稿し始めている。AIの罵詈雑言のほとんどは黒人に向けられたもので、犯罪の「常習犯」、不在の親、スイカを好むサルとして描かれている。また、移民やユダヤ人もターゲットにしている。動画は最高8秒で、「Veo」の透かしが入っており、グーグルの主要なAIモデルによるものであることが確認できる。

以下のコンピレーション動画は、Veo 3のリリース以降、TikTokから引き抜かれた例だが、人種差別的、反ユダヤ主義的な内容が含まれているので注意してほしい。動画の中にはショッキングなものもあり、それが狙いなのだろう。怒りやドラマほどソーシャルメディア上のエンゲージメントを高めるものはない。MediaMattersによると、オリジナルの投稿には、ビデオで使用されたステレオタイプを反響させるコメントが多数寄せられている。

グーグルは新しいAIモデルを発表する際、セキュリティーを強調してきた。私たちは皆、AIがガードレールに反したタスクの完了を拒否するのを見たことがあるだろう。また、純粋に無害なつもりでも、システムが誤検知して出力をブロックしてしまうのは決して楽しいことではない。グーグルは以前から適切なバランスを保っていたが、Veo 3はよりコンプライアンスを重視しているようだ。私たちはVeo 3でいくつかの簡単なプロンプトをテストし、これらのビデオの要素を簡単に再現できることを発見しました。

TikTokは、ルール違反のコンテンツを特定するために、テクノロジーと人間のモデレーターの両方を使用していると述べている。しかし、アップロードの量が多いため、タイムリーなモデレーションは難しい。人種差別的な動画は多くの再生回数を記録したが、TikTokの広報担当者がArsに語ったところによると、MediaMattersの報告書に引用されたアカウントの半数以上は、報告書が公表される前にポリシー違反でBANされており、残りのアカウントは現在削除されているという。

グーグルに関しては、ヘイトスピーチ、ハラスメント、いじめ、脅迫、虐待を促進するために同社のサービスを使用することを禁止する包括的な使用禁止ポリシーがある。MediaMattersが摘発した動画はすべて、これらのカテゴリーの1つ以上に該当するようだ。完璧な世界であれば、Veo 3はこのような動画の作成を拒否するだろうが、プロンプトの曖昧さや、人種差別的な表現の微妙な違い（一部の動画で人間の代わりに猿が使われているなど）を理解できないAIのせいで、ルールを回避するのは簡単だ。

TikTokは世界有数のソーシャルビデオの巨人であり、このような動画が広まるのは自然なことだ。TikTokに限ったことではない。X（旧Twitter）は、モデレーションが非常に限定的であるという評判を得ており、憎悪に満ちたAIコンテンツの爆発的な増加に繋がっている。この問題もまた、すぐに悪化する可能性がある。グーグルはVeo 3をYouTube Shortsに統合する計画を持っており、これによって同様のコンテンツがYouTube上でさらに拡散しやすくなる可能性がある。

TikTokとグーグルは、このコンテンツに対して明確な禁止規定を設けており、ソーシャルメディア上で何百万回も見られることを防げるはずだった。しかし、これらのポリシーの実施は不十分である。TikTokは動画のアップロードの洪水に追いつくことができないようであり、グーグルのガードレールはこのコンテンツの作成を阻止するには不十分なようだ。グーグルにVeo 3の安全機能について問い合わせたが、まだ返事はない。

生成AIが存在する限り、人々はそれを使って扇動的で人種差別的なコンテンツを作成してきた。グーグルなどは悪用を防ぐためのガードレールについて常に話しているが、すべてをキャッチすることはできない。Veo 3のリアリズムは、憎悪に満ちたステレオタイプを広めたい人々にとって特に魅力的だ。たぶん、世界中のガードレールがそれを止めることはできないだろう。