「多くの見出しで、今すぐ止めるべきだと言っていますが、私はそれを言ったことはありません」と彼は言います。 「まず第一に、それは不可能だと思います。素晴らしいことができるので、開発を続けるべきだと思います。 しかし、起こりうる悪い結果を軽減または防止するために、同等の努力を払う必要があります。」
ヒントンは、この新しい形の AI の取り扱いに抗議するために Google を離れたわけではないと述べています。 実際、同社はこの分野でリードしているにも関わらず、比較的慎重に動いたと彼は言います。 Google の研究者は、PaLM や GPT-4 などのモデルの開発に不可欠なトランスフォーマーとして知られるニューラル ネットワークの一種を発明しました。
1980 年代、トロント大学の教授であるヒントンは、他の数人の研究者とともに、人工ニューラル ネットワークを従来の方法でプログラミングする代わりに、データを使用してトレーニングすることにより、コンピューターの知能を高めようとしました。 ネットワークはピクセルを入力として消化し、より多くの例を見て、システムが画像の内容を認識できるようになるまで、粗くシミュレートされたニューロンを接続する値を調整できます。 このアプローチは何年にもわたって有望でしたが、その真の力と可能性が明らかになったのは 10 年前のことでした。 明らかになった.
2018 年、ヒントンは、ニューラル ネットワークに関する彼の業績により、コンピューター サイエンスで最も権威のある賞であるチューリング賞を受賞しました。 彼は他の 2 人の先駆者と共に賞を受賞し、 ヤン・ルカン、Meta のチーフ AI サイエンティスト、および ヨシュア・ベンジオモントリオール大学教授。
そのとき、大量のトレーニング データを入力し、強力なコンピューター チップで実行する新世代の多層人工ニューラル ネットワークが、写真の内容にラベルを付ける既存のプログラムよりもはるかに優れたものになりました。
ディープ ラーニングとして知られるこの技術は、人工知能のルネッサンスの幕開けとなりました。ビッグ テック企業は、AI の専門家を募集し、ますます強力なディープ ラーニング アルゴリズムを構築し、顔認識、翻訳、音声認識などの製品に適用することを急いでいます。
Google は 2013 年にヒントンを雇い、大学の研究室のディープラーニングのアイデアを商業化するために設立された彼の会社 DNNResearch を買収しました。 2年後、同じくGoogleに入社したHintonの大学院生の1人であるIlya Sutskeverは、検索会社を去り、OpenAIを共同設立しました.OpenAIは、ビッグテック企業がAIで蓄積している力に対抗する非営利団体です.
OpenAI は当初から、ニューラル ネットワークのサイズ、それらが消費するデータの量、およびそれらが消費するコンピューター パワーのスケールアップに重点を置いてきました。 2019 年に、同社は外部投資家による営利企業として再編成され、その後、Microsoft から 100 億ドルを受け取りました。 同社は一連の非常に流暢なテキスト生成システムを開発しており、最新の GPT-4 は ChatGPT のプレミアム バージョンを強化し、推論と常識が必要と思われるタスクを実行する能力で研究者を驚かせました。
ヒントンは、破壊的で不安定な技術がすでにあると考えています。 彼は、他の人が行ったように、より高度な言語アルゴリズムがより洗練された誤報キャンペーンを展開し、選挙に干渉できるようになるリスクを指摘しています。