人気のYouTuberで慈善家のMrBeastは最近、ディープフェイクビデオのプラットフォーム上での流通を許可したバイトダンス社のTikTokに対抗した。このビデオには、AI が生成した MrBeast のなりすましが登場し、iPhone 15 Pro を 1 台わずか 2 ドルで 10,000 台プレゼントするという巨額のプレゼントを発表しました。この事件は、ソーシャルメディアプラットフォーム上のAIディープフェイクと、そのディープフェイクがユーザーを欺く可能性をめぐる懸念の高まりを浮き彫りにしている。この記事では、この論争の詳細と、オンライン コンテンツの信頼性に対するその影響について詳しく掘り下げます。
ディープフェイク詐欺
大手ソーシャルメディアプラットフォームのTikTokは、AIが生成したミスタービーストのディープフェイクバージョンを示す広告を公開した。ビデオの中で、詐欺師は、各 iPhone の価格がわずか 2 ドルである「世界最大の iPhone 15 のプレゼント企画」を主催していると主張していましたが、この大胆なオファーは、特にプレゼント企画やコンテストを主催する MrBeast の評判を考慮すると、当然のことながら多くの注目を集めました。
MrBeastさんの返答
ディープフェイク動画を発見した後、ミスタービーストさんはソーシャルメディアで懸念を表明した。同氏は「多くの人が私のこのディープフェイク詐欺広告を受け取っている」と指摘し、ソーシャルメディアプラットフォームがAIを活用したディープフェイクの台頭と戦う十分な準備ができているかどうかを疑問視した。彼の公式声明は、ソーシャルメディア上で出回っている偽のなりすましの被害に遭った有名人たちの合唱に彼の声を加えた。
ディープフェイクを暴露する
ディープフェイク広告には MrBeast の公式ロゴと青いチェック マークが表示されていましたが、鋭い視聴者であれば AI 操作の兆候を識別できました。観察者らは、AIが生成したコンテンツの特徴である歪んだ声と不自然な口の動きに注目した。それにもかかわらず、このビデオは依然として注目を集め、特に要求の少ないユーザーの間でこのような詐欺の有効性を実証しました。
TikTokの反応
この論争を受けて、TikTokの広報担当者は、不正広告は投稿から数時間以内に速やかに削除され、ディープフェイクに関与した関連アカウントはポリシー違反により削除されたことを認めた。 TikTokはまた、クリエイターがAI生成コンテンツにラベルを付けられるツールを導入し、自動ラベル付けメカニズムをテストすることで、AI生成コンテンツの急増に対抗する措置を講じている。
有名人のディープフェイクの傾向
ディープフェイクのなりすましの標的になった有名人はミスタービーストだけではない。最近、俳優のトム・ハンクスはインスタグラムで、歯科治療計画を宣伝するディープフェイク版の自分を非難する声明を発表した。自分は「何の関係もない」と明言した。同様に、ロビン・ウィリアムズの娘ゼルダも、AIが父親の声を再現したことに不快感を表明し、それらを「個人的に不快なもの」「恐ろしいフランケンシュタインの怪物」と呼んだ。
英国の俳優スティーブン・フライも、ハリー・ポッターの本に関連するコンテンツに許可なく声が使用され、AIの悪用の被害に遭った。これらの事件は、高度な AI テクノロジーの時代におけるディープフェイクのペースの増加を浮き彫りにしています。
ディープフェイクを見分けるという課題
Google のようなテクノロジー大手は、AI が生成した画像を検出する SynthID などのソリューションに取り組んでいますが、ディープフェイクの音声とビデオへの取り組みは依然として複雑な課題です。 AI の不正操作をリアルタイムで検出することは困難な作業であり、包括的なソリューションが利用可能になるまでにはしばらく時間がかかります。それまでの間、ユーザーは注意を払い、常識を働かせ、疑わしいと思われるコンテンツを確認するよう求められます。
MrBeast ディープフェイク論争は、ソーシャル メディアの領域における AI ディープフェイクによってもたらされるリスクをはっきりと思い出させるものとなっています。これは、TikTokのようなプラットフォームが誤解を招くコンテンツの拡散を防ぐために引き続き警戒する必要性を強調している。さらに、AI が生成する有名人や著名人のなりすましの蔓延と闘うための技術進歩の緊急性も強調しています。包括的なソリューションが導入されるまで、オンライン ユーザーは、このような詐欺の被害に遭わないよう、常に警戒し、厳重に対処する必要があります。