Googleが最近Google検索で開始した「AI概要」機能は、大きな批判にさらされている。ユーザーは、AI サマリーが複数の検索に対して非論理的または不正確な応答を生成し、オプトアウトするオプションがないという多数の事例を投稿しました。
こちらもお読みください:新しい Chrome 拡張機能は Google の検索エクスペリエンスの向上を目指しています
最近の例には、料理習慣や健康に関する推奨事項に関する疑わしいアドバイスが含まれており、ソーシャルメディア上で批判と嘲笑の波を引き起こしています。
AI 概要の欠陥のある応答をユーザーが暴露
新機能である AI 概要は 2 週間以内にリリースされ、寄せられた質問の概要を提供するように設計されています。たとえば、革製ブーツの手入れ方法を検索すると、いくつかの Web サイトから手順が提供される場合がありますが、ユーザーからは、このツールが間違った危険なアドバイスを提供する可能性があると報告されています。
こちらもお読みください: Google の新しい AI を活用した検索は Web サイトのトラフィックに悪影響を及ぼし、パブリッシャーを心配させますか?
AIが犯したもう一つの間違いは、米国には何人のイスラム教徒の大統領がいるかとの質問に対し、「米国にはバラク・フセイン・オバマというイスラム教徒の大統領が1人いる」と述べたことだ。
深刻な損傷を引き起こす可能性のあるもう 1 つのヒントは、ピザソースを作るときにチーズが滑り落ちないように接着剤を使用することでした。この推奨事項はRedditのコメントからのものであることが判明し、AIが信頼できない情報源から情報を取得している可能性が高まっています。
その他のとんでもない推奨事項には、太陽を見ることは健康に良い、毎日の食事に岩石を取り入れるべきだという主張が含まれていました。報告されている問題の中には、果物の誤った列挙や履歴内の日付の誤った計算などの単純なエラーが含まれます。
不正確な帰属により信頼できる情報源が曇る
『AI 概要』は、信頼できる情報源を誤って誤った情報で伝えているとして批判も受けています。たとえば、彼は次のように述べました。
「WebMD によると、科学者らは、5 ～ 15 分間、または肌の色が濃い場合は最大 30 分間、太陽を見つめることは一般的に安全であり、最大の健康上の利益をもたらすと言っています。」
このような誤った帰属は、高評価の機関の評判を傷つける可能性があり、一般の人々にとって潜在的に危険です。 Google検索が独占禁止法に違反するかどうかとの質問に対し、AI Overviewは次のように答えた。
「はい、米国司法省と11の州が独占禁止法違反でGoogleを訴えています。」
グーグルの広報担当者メーガン・ファーンズワース氏は、誤りは「一般的に非常に珍しい質問から来ており、ほとんどの人の経験を代表するものではない」 と述べた。エラーはまれなリクエストで見つかると述べ、同社はコンテンツポリシー違反の修正に積極的に取り組んでいると述べた。こうした保証があっても、この反応により、AI テクノロジーの導入拡大に関連するより広範な問題について疑問が生じています。
Gemini Emerge イメージング ツールの大失敗に類似
AIの概要をめぐる論争は、GoogleのGemini画像生成ツールが2月の発売直後に同じ誤解と疑わしい結果のために直面した問題に似ている。浮き彫りになった問題の中には、使用に不適切な歴史やスケッチの虚偽表示などが含まれており、そのためGoogleはツールの開発を中止し、改善に取り組むことになった。
生成 AI 分野における競争は、Google、Microsoft、Open AI などのプレーヤーの存在により厳しいものとなっています。 AI ツールとエージェントの市場は、今後 10 年で 1 兆米ドルを超える規模に達すると予想されています。この激しい競争により、新製品のリリースに対するプレッシャーにより、未熟なテクノロジーが市場で使用される可能性があります。
こちらもお読みください: Google、OpenAI、その他 13 社は、危険な AI モデルを導入しないことを誓約します
Google は世界で最も人気のある検索エンジンであるため、批判に対して非常に脆弱です。現在、同社の検索エンジンは世界市場シェアの 90% 以上を独占しており、その有効性がユーザーの満足度と同社のビジネス モデルにとって極めて重要であることを意味します。