人工知能の倫理研究のパイオニアであるTimnitGebruの会社を辞めた後の、Googleに対する批判の嵐
ビッグGに反抗する従業員と学者。
1,200人を超えるGoogle社員と1,500人を超える学術研究者が、マウンテンビューの巨人に対する公開抗議書に署名しました。
その理由は、人工知能倫理の分野で最も有名で最も尊敬されているアフリカ系アメリカ人の科学者の1人であるTimnit Gebruの会社からの脱退であり、彼女は多様性への取り組みに対する批判を表明したことでGoogleに解雇されたとTwitterで非難しました。 AIシステムのバイアスを強調しました。
グーグルは従業員に彼女が辞任したと言った。
Timnit Gebruは、黒人のコンピューターサイエンティストを高め、人工知能の有害な使用に疑問を投げかける企業として、Googleのパブリックイメージの向上に貢献しました。
すべての詳細。
グーグルとティムニットゲブルの間で何が起こったのか
Timnit Gebruは、先週の水曜日まで、GoogleのEthicalAIチームの技術共同責任者でした。
Gebruはソーシャルネットワーク上で、社内の女性グループや会社のAIユニットで働いている他の同僚にメール（「取り残された声を可能な限り沈黙させる」というタイトル）を送信した後、彼女が強奪されたと書いています。
Googleの多様性プログラムに対する不満を表明し、顔認識ソフトウェアの人種および性別の偏りに関する2018年の調査を想起させるメールで、会社の幹部が昨年11月に撤回するように依頼しました。
不和の文書
Gebruは最近、巨大な人間の言語データベースをスキャンするコンピューターシステムを開発するリスクを調査する論文に取り組んでいました。この調査では、研究活動で使用されたGoogleの新しいテクノロジーについて言及しています。
人種的偏見の潜在的な危険性を指摘することに加えて、この論文はまた、モデルを実行するのに非常に多くのエネルギーを浪費することの環境コストを引用しました。より環境に配慮しながら、2007年からカーボンニュートラルであることに誇りを持っている企業にとって重要な問題です。
SUNDARPICHAIが率いる会社を去る
科学者は、彼女がGoogleと交渉しようとしたことを報告し、会社の異議の完全な説明と将来これらの問題をより適切に管理する方法の議論と引き換えに彼女の名前を研究から削除することを申し出、彼女が失敗した場合は辞任すると脅した。応答。
グーグルは彼女の要求を拒否し、彼女の辞任を受け入れたことを彼女に知らせた。
「私は検閲されているように感じ、これが人工知能に関するすべての倫理的研究に影響を与える可能性があると思った」とゲブルはワイヤーに語った。
どうやら私のマネージャーのマネージャーは私の直属の部下に私の辞任を受け入れたというメールを送ったようです。私は辞任していませんでした—最初に簡単な条件を求め、休暇から戻ったときに応答すると言いました。しかし、私は彼女が私のために決めたと思います
それは弁護士が話すことです。
-Timnit Gebru（@timnitGebru） 2020年12月3日
GOOGLEAIの責任者であるJEFFDEANの立場
CNNが報告しているように、木曜日にGoogle Researchの従業員に送信された電子メールで、金曜日に投稿された、Googleの人工知能の責任者であるJeffDeanは従業員に彼の主張を伝えました。 「Gebruは記事を共同執筆しましたが、締め切り前にレビューするための2週間を会社に与えませんでした。この文書は社内で改訂された-彼は書いた-しかし「私たちの出版要件を満たしていない」。
ディーンは次のように付け加えました。「残念ながら、この特定のドキュメントは、締め切りの1日前の通知でのみ共有されました。このタイプのレビューには2週間かかります。その後、レビュー担当者のフィードバックを待つ代わりに、提出が承認されて送信されました。」
したがって、Gebruの「受け入れられた」辞任。
AIの分野におけるGEBRUの仕事
Timnit Gebruは、人工知能倫理の世界で有名です。彼はまた、最初のiPadのアルゴリズムを開発するアップルで働き、スタンフォード人工知能研究所から博士号を取得しました。
彼女は、業界で黒人の雇用とリーダーシップを促進するAIグループの黒人の共同創設者です。彼女は、マサチューセッツ工科大学の研究者であるJoy Buolamwiniと共同署名した2018年の研究で知られており、 顔認識ソフトウェアに人種や性別の偏りが見られました。
「悪意のない」モットーの終わりは？
この話は、元々のモットーが「Do n't Be Evil」（「Do n't Be Evil」）であった、SundarPichiaが率いる会社のイメージと信頼性に悪影響を与えるリスクがあります。
グーグル従業員の以前の抗議
Gebruの突然の離脱は、多様性のためにAI部門や他のGoogle組織で、またサービスの潜在的な害を最小限に抑えるための会社の努力が十分。
2018年の夏、Googleはペンタゴンのメイヴンプロジェクトを放棄しました。このプロジェクトでは、コンピュータービジョンソフトウェアを使用して、米軍のドローンによって収集された映像を自動的に分析します。 Big Gは、BigGが戦争事業から外れていると主張する従業員の抗議によって決定を余儀なくされました。
また、2018年に、Googleの従業員は、州の監視を許可する中国市場で禁止されている検索エンジンに関するDragonflyプロジェクトをキャンセルするように会社に求める公開書簡に署名しました。
ビッグGの次の課題
AI倫理イニシアチブとGebruの退出によって引き起こされた内部の異議をどのように管理するかは、マウンテンビューの巨人が新年に直面する最初のハードルになります。競争を抑圧するためにその支配的な立場を利用したという米国司法省による非難を忘れることなく。
これは、Tue, 08 Dec 2020 07:43:20 +0000 の https://www.startmag.it/innovazione/perche-molti-dipendenti-di-google-sono-in-rivolta/ で Start Magazine に公開された記事の自動翻訳です。