「AI のゴッドファーザー」は、自分のライフワークに対する後悔と恐れを抱いて Google を辞めました

Google に 10 年以上勤務していたヒントン氏は、次のように述べています。 「悪意のある人物がそれを悪用するのをどのように防ぐことができるかを理解するのは困難です。」

ヒントンは先月Googleに辞任を通知し、木曜日にCEOのサンダー・ピチャイと直接話をした。 ニューヨークタイムズ. その議論の詳細は明らかにされていません。

生涯にわたる研究者である彼は、ヒントンと 2 人の学生が始めた会社を Google が買収した後、Google に入社しました。そのうちの 1 人は OpenAI の主任科学者になりました。 ヒントンと彼の生徒たちは、何千枚もの写真を分析した後、犬、猫、花などの一般的なオブジェクトを識別することを学習したニューラル ネットワークを開発しました。 最終的に ChatGPT と Google Bard の作成につながったのは、この作業です。

による ニューヨークタイムズ Microsoft が OpenAI を取り入れた新しい Bing を立ち上げ、Google のコア ビジネスに挑戦し、検索大手内で「コードレッド」の反応を引き起こすまで、Hinton は Google の技術管理に満足していました。 このような熾烈な競争を止めることは不可能かもしれないと、ヒントンは言います。その結果、偽の画像やテキストがあまりにも多くなり、誰も「何が真実か」を判断できなくなります。

Google のチーフ サイエンティストであるジェフ ディーンは、次の声明で打撃を和らげるために取り組みました。 私たちは、大胆に革新しながら、新たなリスクを理解することを継続的に学んでいます。」

誤った情報の拡散は、ヒントンの差し迫った懸念にすぎません。 長期的には、AI が機械的な仕事をなくし、AI が独自のコードを書き実行し始めることで人類そのものがなくなるのではないかと彼は懸念しています。

「これが実際に人よりも賢くなる可能性があるという考え – 少数の人々はそれを信じていました」とヒントンは言いました. ニューヨークタイムズ. 「しかし、ほとんどの人はそれは的外れだと思っていました。 そして、私はそれがかなり外れていると思いました。 30年から50年、あるいはそれ以上先だと思っていました。 明らかに、私はもはやそれを考えていません。」