インドには、人工知能 (AI) のおかげで経済的であるだけでなく、信頼性のある地元政治家のアバターの正真正銘の工場があります。彼らは国のさまざまな言語を話し、有権者に名前で呼びかけます。それらは選挙にどのように、そしてどの程度影響を与えるのでしょうか？ニューヨークタイムズの記事
選挙運動において人工知能がどのような方向をとっているのかを知るには、金曜日に投票が行われる世界最大の民主主義国のインドを見てみるとよいとニューヨーク・タイムズ紙は書いている。
モディ党の化身、信頼性と経済性
WhatsApp で共有された、AI が生成したナレンドラ モディ首相のバージョンは、約 10 億人の有権者を抱える国における超個人化された関与の可能性を示しています。このビデオでは、出所が不明瞭なデモンストレーション用のクリップだが、モディ首相のアバターは一連の有権者に直接呼びかけ、名前を呼んでいる。
ただし、完璧ではありません。モディ首相は2つの異なる眼鏡をかけているようで、ビデオの一部がピクセル化されている。
モディ氏の党はWhatsApp経由で動画を送信しており、同党のAIアバターが特定の有権者に政府の給付金について個人的なメッセージを届け、投票を呼びかけている。
これらのビデオメッセージは、有権者が話す数十のインド言語のいずれかで自動的に生成できます。政治指導者の声で有権者に呼びかけ、支持を求めるAI搭載チャットボットからの電話メッセージも同様だ。
この種のコミュニケーションは、従来の選挙キャンペーンに費やされる時間と費用のほんの一部で済み、選挙において不可欠なツールとなる可能性があります。
偽情報に関する偽情報
しかし、このテクノロジーが政治の舞台に進出するにつれて、その悪用を防ぐガードレールはほとんどありません。チャットボットやパーソナライズされたビデオは多かれ少なかれ無害に見えるかもしれません。しかし専門家らは、テクノロジーが進歩し普及するにつれ、有権者が本物のメッセージと人工的なメッセージを区別することがますます困難になるのではないかと懸念している。
ニューデリーに本拠を置くデジタル権利団体、インターネット・フリーダム・ファウンデーションのエグゼクティブ・ディレクター、プラティーク・ワグレ氏は、「今年は西部開拓時代と規制のないAI空間になるだろう」と語った。 「すでに偽情報に汚染されているメディア環境にテクノロジーが参入しつつある」と彼は付け加えた。
世界中で選挙が AI ブームの実験場となっています。このツールは、アルゼンチン大統領候補をインディ・ジョーンズとゴーストバスターに変身させるために使用されました。ニューハンプシャー州の予備選中、有権者はバイデン大統領に似せて人工的に生成された可能性が高い音声で、投票しないよう促すロボコールメッセージを受け取った。
インドでは、モディ首相率いるインド人民党（BJP）と野党のインド国民会議が、選挙関連のディープフェイクコンテンツをオンラインで拡散したとして互いを非難している。
AIに熱狂する政治家たち
このインドの新たなフロンティアの前哨基地は、西部の砂漠州ラジャスタン州にあります。埃っぽい路地にある住宅ビルの 1 階で、31 歳の大学中退者のディヴィエンドラ シン ジャドゥンは、人工知能のスタートアップ企業、インディアン ディープフェイカーを経営しています。
9 人のチームは、AI が生成したボリウッドの俳優や女優のアバターを使用してコマーシャルを作成しました。しかし今年初め、政党や政治家らは彼が有名人にしたことを自分たちにもしてほしいと要求し始めた。ジャドゥン氏は200件の要請のうち、14件を受け入れたと述べた。
治療を受けた人の中には、BJPメンバーの33歳のシャクティ・シン・ラソールさんもいる。この選挙シーズンの彼の仕事は、できるだけ多くの人々にモディ氏の計画と政策について知らせることだ。そこで彼は自分自身のレプリカを作成することにしました。
「人工知能は素晴らしいし、これからも進むべき道だ」とラソール氏はインディアン・ディープフェイカーのオフィスでビデオカメラの前に座り、デジタル化の準備をしながら語った。 「これほど短期間に、これほど多くのモディ氏のプログラムの受益者にどうやって届けることができるでしょうか？」
ラソールさんが党のロゴが入ったサフランのスカーフを首にかけていると、ジャドゥンさんは「カメラを見て、その人が目の前に座っているかのように話してください」と語った。
アバターIAのインド工場
音声録音とプロフィール写真を含む約 5 分間の資料を用意して、Jadoun 氏は作業を開始しました。彼は、オープンソースの AI システムを使用し、その上に独自のコードを構築していると述べました。まず、ラソールの顔が記録の各フレームから分離されました。次に、彼の顔や唇の大きさ、視線などの身体的特徴に関するデータが収集されました。
ジャドゥン氏は、このデータセットが人工知能モデルに入力され、顔のパターンの予測を学習すると述べた。 「可能な限り最高の顔が得られるまで、プログラムを実行し、顔を微調整し続ける必要があります」と彼は言いました。
「クローン作成アルゴリズム」も音声録音を分析し、声のリズムとイントネーションを学習します。ジャドゥン氏は、顔と言葉のリップシンクを完璧に仕上げるには、編集に 6 ～ 8 時間かかることがよくあると語った。残りはほとんど自動化されています。
あるデモでは、約 20 個のパーソナライズされたグリーティング ビデオを作成するのに約 4 分かかりました。
Jadoun 氏は、彼のチームは 1 日に最大 10,000 本のビデオを制作できると述べました。大規模で時間に制約のある仕事の場合は、グラフィックス処理装置をレンタルする予定です。
誰にでも届くAI
生成 AI は言語の壁を取り除くこともでき、言語が多様な国では特に役立ちます。ラソールのアバターは、地域の言語を話し、インドの最も辺鄙な場所に到達するようにプログラムすることができます。
政党は有権者にビデオメッセージを送信するだけでなく、ChatGpt のようなチャットボットのおかげで、クローン音声を使用して人々に直接電話をかけることもできます。
ラソール氏によると、かつては党の代表者が有権者に電話をかけると、有権者は電話を切ったという。 「しかし今では、地元の指導者が有権者の名前を言うと、すぐに注目を集めます。」
チャットボットは会話中に、無料の電力やスタートアップへの資金提供を提供する地方自治体のプログラムについて質問します。ジャドゥン氏は、通話は品質管理とAIトレーニングのために録音され、文字に起こされたと述べた。
ラソール氏は、ビデオメッセージや電話を通じて約120万人に連絡し、応答しなかった人たちに関する情報を得るために私財約2万4000ドルを費やしたと述べた。彼はこれをインド人民党での将来への投資だと呼んだ。
カスタマイズの重要性
インドのデジタルメディアを取材するメディアナマの編集者ニキル・パファ氏は、パーソナライズされたメッセージはインド人の間で特に強力になる可能性があると述べた。
「インドは、人々が有名人のそっくりさんと一緒に写真を撮るのが大好きな国です」と彼は言う。 「だから、例えば首相から電話がかかってきて、あたかも自分たちのことを知っているかのように、どこに住んでいて、どんな問題があるのかを話されたら、彼らは本当に興奮するでしょう。」
Internet Freedom Foundation の Waghre 氏は、AI コンテンツが今年の選挙に影響を与えるほどの説得力があるかどうか疑問を抱いています。しかし、長期的な影響には問題がある可能性があると同氏は述べた。 「ひとたび人々の情報ダイエットが常態化してしまえば、6ヵ月後には欺瞞的なビデオが存在するようになるだろう？」と彼は言う。
モディ首相自身も、人々が「誤解」されないよう、AIが生成したコンテンツに免責条項を追加することについて議論している。ジャドゥン氏とインドの他のAI新興企業2社の代表者らは、データプライバシーの保護と選挙の誠実性の維持を誓約する「AI連合マニフェスト」と呼ぶものを作成した。例えば、インドのディープフェイカーの動画には「AI生成」というラベルが付けられており、同社のチャットボットはAI生成の音声であると宣伝しているとジャドゥン氏は述べた。
ラジャスタン州のリゾートオーナー、ナレンドラ・シン・バティさん（28）は今週、ラソールからAIが生成した電話を受けた。バティ氏は、そのカスタマイズに感銘を受け、台本にそのように明記されていたにもかかわらず、通話が AI によって生成されたものであるとは気づかなかったと述べた。 「最後にはラソール氏にも別れを告げた」とバティさんは語った。
( eprcomunicazione編集による海外プレスレビューより抜粋)
これは、Sat, 27 Apr 2024 06:57:22 +0000 の https://www.startmag.it/mondo/lia-sta-gia-intortando-gli-elettori-indiani/ で Start Magazine に公開された記事の自動翻訳です。