OpenAIの元科学ディレクターであるイリヤ・サツケヴァー氏に続き、彼の右腕であるジャン・ライク氏もグループに別れを告げ物議を醸しており、内部抗争の噂に実体を与え、イーロン・マスク氏の非難を補強している。「我々は、AIを制御する方法を理解する必要がある」私たちよりも賢い。安全文化とプロセスは、輝く製品よりも後回しになっています。」
OpenAI のメロドラマは続きます。Microsoft が 110 億ドルを投資したスタートアップ企業である ChatGpt は、主要な生成人工知能 (少なくとも悪名という点では) を担当しています。 OpenAIの元科学ディレクターであるイリヤ・サツケヴァー氏に続き、彼の右腕であるヤン・ライケ氏も退職する。
私が辞任しました
— ジャン・ライケ (@janleike) 2024 年 5 月 15 日
OPENAIで何が起こっているのでしょうか？
スタート社はロシア人技術者の離任のニュースを報じ、サツケヴァー氏（昨年11月に最高経営責任者サム・アルトマン氏（写真）を解任したが、大金のために呼び戻された）というますますしつこい噂に共感を示した。危険にさらされています）ドアをバタンと閉めて立ち去っていました。
昨日は、アライメント責任者、スーパーアライメント リード、および@OpenAI幹部としての最後の日でした。
— ジャン・ライケ (@janleike) 2024 年 5 月 17 日
人工知能を封じ込めるチーム
さて、ヤン・ライク氏の辞任により、それらの噂は事実上公式のものとなった。実際、両氏は OpenAI のSuperalignmentのメンバーを昇進させていました。これは、特に洗練されたディープ フェイクの開発だけでなく、その影響についても、未知の潜在的に危険なテクノロジーの開発に関連した道徳的問題に取り組むことを目的とした内部委員会です。 . 仕事の世界について。 OpenAI は、利用可能なコンピューティング能力の 20% をこの崇高な目的に割り当てることを約束していました。
しかし、 TechCrunchの情報筋によると、サム・アルトマン率いるソフトウェアハウスは必要なコンピューティングリソースを決して提供せず、事実上チームの作業を妨害したという。最初にスツケヴァー、その直後にライケが別れを告げたチームは、事実上首を切り落とされ、最小限にまで減らされた。
OpenAI の従業員の皆さんに言いたいのは次のとおりです。
AGIの感覚を学びましょう。
あなたが構築しているものにふさわしい重みを持って行動してください。
必要とされている文化的変化を「発信」できると私は信じています。
私はあなたを頼りにしています。
世界はあなたを頼りにしています。
:オープンハート:
— ジャン・ライケ (@janleike) 2024 年 5 月 17 日
「私は OpenAI スーパー連携の責任者でしたが、この仕事を辞めることは、私がこれまでに行った中で最も難しいことの 1 つです - X で Jan Leike が書いています - なぜなら、私たちよりも賢い AI システムをどのように導き、制御できるかを早急に理解する必要があるからです」 ”。
ライクのOPENAIに対する告発
Gpt-4oのベールを脱いだばかりのソフトウェアハウスの元メンバーの投稿には、明らかに論争的な意味合いがあります。ライケ氏は常に説明しました – しかし、私は会社のリーダーシップが設定した優先順位にはしばらく同意できませんでした。私は、帯域幅の多くを、次世代モデルのセキュリティ、監視、スーパーアライメント、社会的影響への準備に費やすべきだと考えています。しかしここ数カ月、私のチームはこの重要な研究に必要な計算能力を確保するのに苦労しなければなりませんでした。」
サム・アルトマンの最新ヒット曲?
元従業員の言葉は、OpenAI 内に 2 つの派閥があったという仮説に実質を与えています。Ilya Sutskever 氏が率いる派閥は、アルゴリズムの速度を遅らせることを犠牲にしてでも、ますますインテリジェントになるアルゴリズムの開発に関連するリスクを理解したいと考えていました。商業化と、何よりも投資家を味方につけるサム・アルトマン率いる全く異なる意見の意見である。当初、昨年 11 月に取締役会が CEO の追放に成功したとしても、現在はその逆が起こっており、OpenAI ではセサリサイドの排除が始まっているようです。
「OpenAIには人類に対する責任があります。しかし近年、セキュリティに関する文化やプロセスは輝かしい製品よりも後回しになっている」と、ソフトウェアハウスの倫理的および道徳的問題を担当していたチームの元責任者の告発である。ライケ氏の言葉が真実であるかどうかは確認されていないが、この事実自体によって、少なくとも、管理者の資格と管理される者の役割が混同されるのは決して良い考えではないことを確認することができる。それはアナログ企業でも起こりますが、明らかに最もハイテクな企業でも起こります。
マスクによるOPENAIに対する告発が強化される
現在、インターネット上の多くの人は、ますます多くの観察者が映画007の典型的な悪役として描いている男が率いる悪徳多国籍企業の創設が迫っているのではないかと疑問に思っているが、それは、映画007の影響を受けた単純な売名行為である可能性もある。 「それについて話している限り」という古い格言。
OpenAI の最初の資金提供者の 1 人であり、今日では OpenAI グループの激しい敵対者であるイーロン・マスク自身も、潜在的な危険に対する恐怖を利用して、生成人工知能に関するスタートアップを立ち上げ、宣伝目的に利用していました。しかしマスク氏は、最近何度か、自身が融資した会社は当初は非営利だったが、現在は営利目的を追求していると強調してきた。
そしてマイクロソフトは何と言っているのでしょうか？
しかし、これらすべてにおいて、ChatGpt とそのパートナーの主要スポンサーである Microsoft の立場を理解することは興味深いでしょう。Microsoft は何ヶ月もの間、AI は民間および公的投資家の食欲を刺激することによってのみ人類に利益をもたらすと繰り返してきました。 GDP に対する驚くべき経済効果が期待されています ( アンブロセッティ氏の委託による研究によると、生成人工知能の採用により、イタリアのシステムの生産性は最大 18% 向上する可能性があります)。 最近、ゲーム業界での多数の人員削減により論争の中心となっているレドモンドの巨人は、この問題にどのように対処しているのでしょうか?
これは、Mon, 20 May 2024 09:48:17 +0000 の https://www.startmag.it/innovazione/perche-altman-rottama-il-comitato-di-sicurezza-di-open-ai-sullia/ で Start Magazine に公開された記事の自動翻訳です。