Google は人工知能を使用して健康問題に関連する質問に答えます。一部のアナリストは、AI 概要機能が信頼性の低い情報を提供する可能性があることを考慮して、これを懸念しています。
医師らは、特に個人の健康に関する質問に答える場合、AI の概要は心配になる可能性があると述べています。ニューヨーク・タイムズ紙の最近の報道によると、この機能は不正確な情報を提供する可能性があるが、必要な医療に人々を導く可能性もあるという。
AI の概要検索エラーが AI の幻覚を煽る
Google は、Web サイトからコンテンツの概要を生成し、Google の検索結果ページに表示する機能である AI Overviews を導入しました。開始から数日以内に、この機能は不正確な情報源に基づいて回答を行っていたため、広範囲にわたる不正確さを示しました。人工知能は幻覚を起こしやすく、事実と異なる情報を生成する可能性があるという感覚をさらに煽る出来事。
こちらもお読みください: Google、風刺や無意味なクエリに対する AI の概要を制限
健康関連の検索結果で、毎日の量の石を投与したり、粘着性のあるピザを食べるようユーザーに要求したりすることは、反発を引き起こしました。 AI 概要では、世界保健機関、WebMD、PubMed、メイヨー クリニックなどの情報源を引用しています。ただし、これらのソースに限定されるものではありません。アナリストらによると、このツールはレディット、ウィキペディア、いくつかのブログ、電子商取引サイトから情報を抽出しているという。
グーグルの製品管理担当シニアディレクター、ヘマ・ブダラジュ氏は、健康関連の質問にはさらなる障壁があると述べたが、さらなる詳細については明らかにしなかった。 Hema 氏は、たとえばシステムが自傷行為の状況を検出した場合など、一部のクエリでは AI の概要がトリガーされないと付け加えました。
Googleは、AI Overviewsがさまざまなソースから取得したデータを含むナレッジベースであるGoogle Knowledge Graphと統合されていると述べたが、AI支援検索機能の出力をサポートするWebサイトの詳細については明らかにしなかった。
Google、健康に関するクエリに対する AI の概要をさらに表示
「10 の青いリンク」と呼ばれることが多い従来の結果は、信頼できる医療情報源と有料リンクや信頼性の低い Web サイトを区別できるため、ユーザーにとって役に立ちました。 AI 概要では、シナリオが変わりました。現在では、単一のテキスト ブロックに複数のソースから収集した情報が表示されており、アナリストは混乱を招いていると述べています。
Wiredのケイト・ニブス氏はポッドキャストでこう語った。
「喘息について何かを入力したり、私が糖尿病だったり、基本的に病気に関連するものを探している場合は、今でも AI の概要が表示される可能性が非常に高いです。つまり、全員ではありません。それでも約 63% です。そしてそれは状況によると思います。」
ダリウシュ・モザファリアン博士のような一部の医師は、AIの概要はいくつかの正しい事実を示し、それらを答えに要約するが、観察研究とランダム化試験からの証拠を区別していないと主張する。
機能によって情報が混乱する場合、誤った情報の層がさらに追加されます。たとえば、「緑茶には抗酸化物質が含まれており、がんの予防に役立ちます。」前者は真実ですが、後者は臨床的に証明されていません。このような主張が一緒に列挙されると、それが信頼できるものであるかのように誤った印象を与えます。
Google が提供する AI の概要は限られています
AI の実装を観察している人々は、健康関連の AI 研究結果に近づく際には注意するようアドバイスしています。彼らは、「これは情報提供のみを目的としています」という一部の回答の下で、ユーザーは細字部分を考慮する必要があると述べています。 NYTimesの報道では、生成AIは実験段階にあり、ユーザーは重篤な症状がある場合には医師に相談する必要があると指摘した。
こちらもお読みください: Google のコア アルゴリズムのアップデートと AI の概要により、パブリッシャーのトラフィックが減少しています
Googleは5月30日の声明で、一部のカテゴリでAI概要の使用を削減したと述べた。 SEO会社BrightedgeのデータはGoogleの立場を裏付けており、削減は同社の発表前から始まっていたことを示唆している。
他の報道によると、ネットユーザーが意味不明な回答だと嘲笑し始める前から、Googleは特定のカテゴリのAI概要のロールバックを開始していたという。ただし、「健康」カテゴリでは依然として多数の AI 概要が表示されていると言われています。ニブス氏はこう言います。
「私は他の SEO 研究者と話をしましたが、彼らはヘルスケア業界が依然として AI の概要を大量に作成していることに気づきました。」
Knibbs 氏は、健康関連のクエリをいくつかテストしたところ、数時間以内に異なる結果が見つかったと述べており、これは Google が結果の改善に取り組んでいることを示しています。彼女は言いました、 「わかりました、彼らは努力しています。彼らが十分な仕事をしているかどうかはわかりませんが、努力していることは間違いありません。
アーミル・シェイクによるクリプトポリタンのレポート