人工知能 (AI) が関与した画期的な事件で、 中国の男がChatGPTを使用して9人の命を奪った列車事故に関するフェイクニュース記事を捏造した疑いで逮捕された。
これは、人工知能に関連する前例のない法律に基づいて中国で取られた最初の法執行措置であり、先端技術の使用を規制および管理する中国の取り組みを浮き彫りにしている。
ChatGPTフェイクニュース事件
中国北西部の甘粛省で、ホンという名前のみが判明した男が、ChatGPTを使用して列車事故に関するフェイクニュース記事を作成したとして警察に逮捕された。
この偽記事は、中国の検索大手バイドゥが所有するブログプラットフォームに20以上のアカウントによって投稿され、1万5000件以上の閲覧を集めた。
プラットフォーム上の重複チェックを回避するために、Hong 氏は ChatGPT を使用して、わずかに異なるバージョンのフェイクニュース記事を生成したとして告発されています。
ChatGPT は、米国の OpenAI が開発した、生成 AI 技術を使用したチャットボットです。このテクノロジーにより、ソフトウェアは、特定の指示からストーリーを作成するなど、ユーザーのリクエストや質問に基づいて応答を生成できます。
ChatGPT は中国でブロックされていますが、仮想プライベート ネットワーク (VPN) 経由でアクセスすることは可能であり、国のインターネット制限を回避できます。
ChatGPTのようなAIの人気の高まりと潜在的なリスクに対応して、中国当局は今年、「深層合成技術」を規制する初めての法律を導入した。
この法律には、テキスト、画像、ビデオ、その他のメディアを生成するための人工知能の使用が含まれており、深層合成サービスを通じたフェイクニュースの拡散が禁止されています。
中国ハイテク大手の慎重な対応
ChatGPT が勢いを増し、急速に広まるにつれ、中国のインターネット環境は厳しく検閲され、管理されているため、政府は中央当局に課題をもたらす可能性のある新技術に対処する法律の制定を促しています。
その結果、中国のテクノロジー大手は AI アプリケーションへのアプローチに慎重になり、ChatGPT のようなチャットボットの広範な利用を避け、代わりに特定のユースケースに焦点を当ててきました。
例えばアリババは、Tongyi Qianwen AI 製品の開発に取り組んでおり、最終的には職場のコミュニケーション ソフトウェア DingTalk やスマート家電のサプライヤーである Tmall Genie に実装される予定です。
この戦略的アプローチは、規制当局と政府の懸念に応えるものであると考えられています。
深層合成技術を規制する新法に基づくホン氏の逮捕は、中国におけるAI悪用の潜在的な影響をはっきりと思い出させるものとなっている。
テクノロジーが進歩し続けるにつれて、中国のような国にとって、特にフェイクニュースや偽情報の分野で、人工知能によってもたらされる潜在的な脅威に対処するガイドラインや規制を確立することが不可欠です。
中国のハイテク大手による現在進行中の AI を活用したチャットボットとアプリケーションの開発は、規制当局や政府の警戒を避けるために特定のユースケースに焦点を当てながら、厳しい監視の下で継続される可能性があります。
AI テクノロジーが進化し、より高度になるにつれて、イノベーションと規制のバランスをとることが、安全で信頼できるデジタル環境を確保するための鍵となります。