先月、テクノロジー大手のアップル社は、App Storeから3つのアプリを削除するという大胆な行動をとった。これらのアプリは、AI で利用可能な機械学習ツールも利用し、人の同意なしに同意のない画像を構築しようとしました。この決定は、アプリが Instagram やポルノなどの場所で誤解を招く広告を使用しているという懸念を受けての決定でした。ウェブサイト。
広告における誤解を招く事例
この広告をクリックすると Apple App Store に誘導され、アプリ自体は「アート ジェネレーター」と説明されていますが、ヌードを生成できるかどうかについては言及されていません。これはモバイルアプリストアにおける長年にわたるギャップであり、2022 年に初めて確認されました。
この行為で告発されたアプリは、AI ベースのアルゴリズムを通じて、写真内の人物の服を脱がしていると主張しており、被写体の許可や知識がなかった場合でも、ヌードであると誤って想定されることになりました。このような行為はプライバシーを侵害するだけでなく、搾取、嫌がらせ、脅迫の潜在的な原因にもなります。
AIによって生成された他のさまざまな女性をフィーチャーしたこの広告の同様のバージョンが、4月10日から20日にかけてFacebook、Instagram、Facebook Messenger、Metaのアプリ内広告ネットワークでいくつか表示された。
これらの詐欺アプリを認識した後、Apple は最初にそれらを App Store から削除しました。彼らは無実を主張していましたが、アプリによって真の動機が明らかになり、Apple はアプリを削除してコミュニティ標準に準拠することを余儀なくされました。これは、すべての人にとって安全で性別に中立なデジタル空間の構築に対する Apple の揺るぎない取り組みを明確に示しています。
継続的な挑戦と責任
Appleがとった対抗策は尊敬に値するが、この事件は最終的にアプリのレビューや広告手法の監視に疑問を投げかけることとなった。これらのアプリが App Store で長い間注目されなかったという事実は、不正アプリを特定して排除するためのより大きな注意と積極的な対策の必要性を強調しているだけです。
さらに、開発者は、Apple や Google に検出されないように、アダルト サイトで違法な機能を宣伝するために狡猾な方法を適用しました。これらの事例は、テクノロジー企業がプラットフォームを監視し、コミュニティガイドラインを施行する際に直面する問題を示しています。
Apple は 2023 年の Worldwide Developers Conference (WWDC) でいくつかの AI 関連プロジェクトを公開する予定であるため、これらのアプリに関して同社がどのような動きを始めるかは非常に興味深いものとなるでしょう。 Apple が責任を持ってテクノロジーを導入する上で重要なのは、倫理的行動とテクノロジーの健全なガバナンスに関する良いイメージを維持することであり、これは Apple が自社製品で人工知能の使用を増やしていることを考慮すると非常に重要です。
これらのアプリを削除することは、人工知能の開発と使用における倫理上の問題の一例となります。 AI 機能の開発に関連する 2 番目の懸念は、ユーザーのプライバシーです。さらに、ユーザーに許可を求め、安全を確保する必要があります。 Apple はそのようなアプリケーションをブロックすることで、コミュニティ内での倫理的な行動を強調しています。
出典: 404