英国政府は、AI安全研究所の初の海外事務所を今夏米国に開設する計画を発表した。
こちらもお読みください:技術進化における英国と米国の AI 安全保障協定の役割
月曜日に発表された声明の中で、英国の科学技術長官ミシェル・ドネランは、新しい米国事務所はサンフランシスコに設置されるだろうと述べた。この都市には、OpenAI、Anthropic、Inflection AI などの最大規模の人工知能企業がいくつかあります。
英国はAIセキュリティに関して米国とのパートナーシップ強化を目指す
米国に本拠を置く同事務所は、今年後半に業務を開始する際に、研究責任者が率いる技術スタッフのチームを採用する予定だ。同研究所のロンドン本部には現在、30人を超える技術者チームがいる。
技術長官は、同研究所の拡張は人工知能における英国のリーダーシップを表しており、米国政府との緊密な協力を確立すると述べた。
これは、人工知能のリスクと可能性の両方を世界的な観点から研究する英国の能力にとって極めて重要な瞬間であり、米国とのパートナーシップを強化し、人工知能分野で世界をリードし続ける中で他国が英国の専門知識を構築する道を切り開くことになる。知能。安全性。
ミシェル・ドネラン氏、英国科学技術長官。
ドネラン氏は、研究所は「ますます強く」成長したと語る
英国政府は2023年11月にAI安全研究所を導入した。その目的は「人工知能の急速かつ予期せぬ進歩から生じる英国と人類への驚きを最小限に抑えること」であると述べた。
こちらもお読みください:英国政府が AI 安全性研究所の設立を発表
同研究所は主に、国家安全保障の観点から「フロンティア」AI システムを評価することに重点を置いています。英国政府はこの措置により、自国の管轄内に展開されているAIアプリケーションに対する効果的な政策と規制上の対応を策定できると述べた。
首相と私がAI安全研究所を設立して以来、わずか1年余りでAI安全研究所はますます強力に成長しました。
ミシェル・ドネラン氏、英国科学技術長官。
同研究所はモデルテストの結果を公表している
英国の AI 安全性協会は、AI モデルの安全性テスト結果を公表した最初の政府支援機関であると伝えられています。同研究所は、公的に利用可能な 5 つの大規模な言語モデルをテストしましたが、その名前は明らかにしていません。
AI セキュリティはまだ非常に新しく、新興の分野です。 […] 私たちの目標は、特に国家安全保障上のリスクに焦点を当てた、最先端の評価を開発することで、この分野の限界を押し広げ続けることです。
英国AI安全研究所所長のイアン・ホガース氏はこう語る。
同氏は、いくつかのモデルがサイバーセキュリティの課題を補完していると述べた。ただし、それらはすべて、基本的なジェイルブレイクに対して非常に脆弱であることが証明されています。一部のモデルでは、安全装置を回避する意図的な試みがなかった場合でも、有害な結果が生じています。
Ibiam Wayas による暗号政治レポート