世界中で選挙が行われる中、彼らは強力な武器である人工知能を振り回す外国勢力による、ますます進化する恐るべき脅威に直面しています。選挙影響力の分野は 2016 年に新たな段階に入り、ロシアの偽情報キャンペーンがソーシャル メディアを介して米国大統領選挙を標的とした。それ以来、中国やイランなどの国々もこれに倣い、ソーシャルメディアを利用して米国や世界各地の選挙に影響を与えている。 2023 年と 2024 年に近づくにつれて、脅威は残っていますが、新たな要素が加わっています。それは、誤った情報の影響を増幅する可能性のある生成人工知能と大規模な言語モデルです。
AI主導のプロパガンダの力
ChatGPT やより強力な GPT-4 に代表される生成 AI ツールは、さまざまなトーンや視点で大量のテキストを迅速に生成できます。このため、インターネット時代のプロパガンダに特に適しています。これらのテクノロジーが偽情報キャンペーンに与える正確な影響は依然として不明ですが、世界はその影響を目の当たりにしようとしています。
民主主義世界では選挙の季節が到来しており、多くの国が国政選挙を実施している。これらの選挙は、これまでソーシャルメディアによる影響力活動に従事していた国々にとって非常に重要です。例えば、中国の利益は台湾、インドネシア、インド、および多くのアフリカ諸国にまで及んでいる一方、ロシアは英国、ポーランド、ドイツ、欧州連合を監視している。米国は依然としてさまざまな主体にとっての焦点となっている。外国の影響力のコストが低下するにつれ、特にプロパガンダ制作を容易にするChatGPTのようなツールを利用して、より多くの国がこの分野に参入する可能性がある。
選挙介入と情勢の変化
米国のすべてのサイバーセキュリティ機関の代表者が参加した最近の会議では、2024年の選挙介入への期待が議論の中心となった。ロシア、中国、イランなどのおなじみのプレーヤーに加えて、「国家的主体」という新たなカテゴリーが登場した。この変化は、AI ベースの偽情報キャンペーンに関連するコスト削減の直接の結果です。
コンテンツ生成を超えた課題
AI によりコンテンツの作成が容易になりますが、プロパガンダ活動家にとって配布は依然として重要な課題です。偽のアカウントは、コンテンツが拡散するまで投稿および拡大する上で重要な役割を果たします。中国の影響力キャンペーンに対する最近の取り締まりが示すように、Meta のような企業は、そのようなアカウントを特定して削除する能力を向上させてきました。しかし、偽情報による軍拡競争は依然として続いている。ソーシャルメディアプラットフォームの変化に伴い、プロパガンダ報道機関もそれに適応し、多くの場合、Telegram や WhatsApp などのメッセージング プラットフォームに切り替え、検出と削除がより困難になります。中国によって管理されている TikTok は、人工知能によって生成された短いビデオのプラットフォームを提供しており、状況はさらに複雑になっています。
生成 AI ツールは、大規模な低レベルのプロパガンダなど、新しい制作および配布手法を可能にします。通常どおりに動作し、日常生活や興味に関するコンテンツを投稿し、場合によっては政治的なコンテンツを投稿する、ソーシャル メディア上の個人の AI を利用したアカウントを考えてみましょう。これらの「ボット ペルソナ」は、個人の影響力は最小限ですが、大量に配布されると集団的に大きな影響を与える可能性があります。
AIステロイドに関する誤った情報
ロシアや中国など、選挙介入の背後にある軍事組織は、2016 年当時の戦略を超える高度な戦術を考案している可能性が高く、これらの国は拡大する前に、小国に対するサイバー攻撃や情報作戦をテストすることがよくあります。新たな偽情報キャンペーンに対抗するには、これらの戦術を迅速に認識してカタログ化することが不可欠です。
AIを活用した偽情報キャンペーンがさらに高度化するにつれ、米国はディープフェイク音声録音によって政治候補者を中傷した台湾など、他国でAIが生み出したプロパガンダを指紋採取し、積極的に特定する必要がある。タイムリーな検出と理解がなければ、これらのキャンペーンは全国に到達するまで気付かれない可能性があります。
研究と擁護の必要性
最近のいくつかの選挙では、AI 関連の誤情報に関する重大な問題が発生せずに通過しましたが、準備するにはタイムリーな支援と調査が不可欠です。研究者は、効果的な防衛戦略を開発するために、外国作戦で使用された技術を研究する必要があります。サイバーセキュリティ コミュニティは、攻撃手法とその有効性を共有することが、堅牢な防御システムを構築するために重要であることを認識しています。
AI を活用した選挙に関する偽情報の脅威は増大しており、情報に基づいた積極的なアプローチが必要です。選挙干渉の新たな時代に突入する今、各国は警戒を怠らず、国際協力を促進し、AI主導のプロパガンダに対抗できる防衛メカニズムを開発する必要がある。こうした進化する戦術を理解するのが早ければ早いほど、民主的プロセスの完全性をよりよく保護できるようになります。