署名者の中には、Apple の共同創設者であるスティーブ ウォズニアックに加えて、サム アルトマンと共に OpenAI を設立したイーロン マスクもいます。マニフェストは、ChatGpt などをアップグレードする際に注意を呼びかけています。すべての詳細
AI に餌を与えないでください。本質的に、これは、人工知能が、あらゆる情報と相互作用を正確に学習し、洗練し、供給できるアルゴリズムであることを認識している、技術および研究シーンの 1,100 人を超える主要人物によってなされたアピールです。 GPT-4 よりも強力なあらゆる種類の人工知能テストの開発に注意を喚起する真のマニフェストを推進しているパーソナリティは、非営利組織である Future of Life Institute です。
アンチチャットマニフェストに署名したのは誰か
署名者の中には、Apple の共同創設者であるスティーブ ウォズニアック、 Evan Sharp (Pinterest の共同創設者)、 Chris Larsen (Ripple の共同創設者)、Amazon、Meta、Google のエンジニアと開発者に加えて、 サム・アルトマンと共にOpenAI自体を設立した起業家のイーロン・マスク。
そして、引用され、禁止された技術は、まさにChatGPTの根底にあるものです.ChatGPTは、米国のソフトウェアハウスによって作成されたソフトウェアであり、ほぼ無制限のトピックについて説得力のあるテキストを生成する能力のために、すでに多くの人々を驚かせています.
Musk の参加は、彼が作成を支援したソフトウェアの機能を積極的に宣伝することを目的としており、疑わしいように見えるかもしれません。しかし、テーブル上の問題は、テスラで最もよく知られている南アフリカの実業家の存在とは関係ありません。
署名者が尋ねること
「詳細な研究によって実証され、最高の AI 研究所によって認識されているように、人間と競争力のある知性を備えた AI システムは、社会と人類に重大なリスクをもたらす可能性があります」と、一連の質問に続くテキストを読みます。プロパガンダと虚偽で私たちのニュースチャンネルをあふれさせますか?最も満足のいくものを含め、すべての仕事を自動化する必要がありますか?私たちは、最終的に数で私たちを上回り、より賢く、時代遅れになり、私たちに取って代わる可能性のある人間以外の心を開発する必要がありますか?私たちの文明のコントロールを失う危険を冒すべきですか?これらの決定は、選出されていない技術リーダーに委任してはなりません。」
熟考のための一時停止
マスコミが「反ChatGptマニフェスト」と呼んだものの署名者の要求は、GPT-4の最も強力なAI研究所のすべての活動から少なくとも6か月の休憩を求めるものです。「この休憩は公開され、検証可能であるべきですすべてのキープレーヤーを含めます。一時停止を迅速に実施できない場合、政府は介入してモラトリアムを導入する必要があります。」
控訴人は、「AI ラボと独立した専門家は、この一時停止を利用して、高度な AI の設計と開発のための一連の共有セキュリティ プロトコルを共同で開発および実装し、独立した外部の専門家によって厳密に審査および監督される必要があります」と付け加えています。
要するに、サイエンスとサイエンス フィクションが融合し、アイザック アシモフのロボット工学の 3 つの法則が実現するところまで到達したようです。というか、さらなる開発の前に準備される安全コード (倫理的でさえあります) のおかげで、ChatGpts などがあまりにも多くの命を奪うのを防ぐために、それらは正確に形成されます。
公開書簡では、署名者は人工知能に関するアジロマーの原則を想起し、「高度な AI は地球上の生命の歴史に重大な変化をもたらす可能性があり、慎重に適切なリソースを使用して計画および管理する必要があります。残念ながら、このレベルの計画と管理は行われていません。」署名者については、「AI ラボは、誰も (作成者でさえも) 確実に理解、予測、または制御できない、これまで以上に強力なデジタルマインドを開発および採用するための暴走競争に従事しています」.
おそらく口調が誇張されている不穏なマニフェストは、確かにChatGptと同様のアルゴリズムを開発している企業を他のどの広告よりもうまく宣伝することができます.もしそれが目的だったのなら、少なくともそのアイデアが人工知能から生まれたものではないことを祈りましょう。
これは、Thu, 30 Mar 2023 08:22:31 +0000 の https://www.startmag.it/innovazione/il-manifesto-dei-prof-e-manager-anti-chatgpt-cosa-chiede-chi-teme-una-ia-troppo-scaltra/ で Start Magazine に公開された記事の自動翻訳です。