セバスチャン・ビュベック Microsoft の機械学習研究者である彼は、昨年 9 月のある夜、目を覚まして人工知能とユニコーンについて考えていました。
Bubeck は最近、OpenAI の強力なテキスト生成アルゴリズムである GPT-4 への早期アクセスと、非常に人気のあるチャットボット ChatGPT の中心にある機械学習モデルへのアップグレードを取得しました。 Bubeck は、新しい AI システムを Microsoft の Bing 検索エンジンに統合する作業を行っているチームの一員でした。 しかし、彼と彼の同僚は、GPT-4 が以前に見たものとどのように異なっているかに驚嘆し続けました。
GPT-4 は、その前任者と同様に、大量のテキストとコードが与えられ、そのコーパスの統計パターンを使用して、テキスト入力に対して生成されるべき単語を予測するようにトレーニングされていました。 しかし、Bubeck にとって、このシステムの出力は、統計的にもっともらしい推測を行うだけではなく、はるかに多くのことを行っているように見えました。
その夜、Bubeck は起き上がり、コンピューターの前に行き、GPT-4 にユニコーンを描くように依頼しました。 ティックズは、科学的な図を生成するための比較的あいまいなプログラミング言語です。 Bubeck は、画像ではなくテキストのみを扱うバージョンの GPT-4 を使用していました。 しかし、モデルから提示されたコードを TikZ レンダリング ソフトウェアに入力すると、楕円形、長方形、および三角形が組み合わされた粗野でありながら明らかにユニコーンのような画像が生成されました。 ブベックにとって、そのような偉業には、そのような生き物の要素を抽象的に把握する必要があったに違いありません。 「ここで何か新しいことが起こっています」と彼は言います。 「たぶん初めて、知性と呼べる何かを手に入れたのかもしれません。」
AI がどのようにインテリジェントになり、ますます一般的になる AI をどれだけ信頼できるか フィーリング ソフトウェアの一部がインテリジェントであるということは、差し迫った、ほとんどパニックを引き起こすような問題になっています。
OpenAIの後 ChatGPTをリリースしました、その後 GPT-3 を搭載し、昨年 11 月に、膨大な数のテーマについて詩や散文を書き、コーディングの問題を解決し、Web から知識を統合する能力で世界を驚かせました。 しかし、畏敬の念は、学術詐欺、誤報、大量失業の可能性についてのショックと懸念と相まっており、Microsoft のような企業が危険であると判明する可能性のある技術の開発を急いでいるという恐れもあります。
AI の新しい能力の可能性やリスクを理解するということは、それらの能力とは何かを明確に把握することを意味します。 しかし、ChatGPT や同様のシステムがコンピューターに重要な新しいスキルを与えることについては広く合意されていますが、研究者はこれらの動作を研究し、プロンプトの背後で何が起こっているかを特定し始めたばかりです。
OpenAI は、司法試験や医学部の試験での成績を誇示して GPT-4 を宣伝してきましたが、人間の知性の側面を研究する科学者は、その驚くべき能力は決定的な点で私たちのものとは異なると述べています。 モデルが物事をでっち上げようとする傾向はよく知られていますが、相違点はさらに深刻です。 何百万人もの人々が毎日このテクノロジーを使用し、企業がそのテクノロジーに将来を賭けているため、これは非常に重要な謎です。
不一致の火花
Bubeck と Microsoft の他の AI 研究者は、GPT-4 での経験に触発されて議論に参加しました。 システムが Bing に接続され、新しいチャット機能が開始されてから数週間後、同社は 論文を発表 初期の実験で、GPT-4 は「汎用人工知能の火花」を示したと主張しています。
著者は、GPT-3 などの以前のシステムを大幅に超えた、より一般的な知性を反映しているように見えるタスクをシステムが実行した例を散らばって提示しました。 これらの例は、以前のほとんどの AI プログラムとは異なり、GPT-4 が特定のタスクに限定されず、あらゆる種類の問題に対処できることを示しています。これは、一般的な知性に必要な品質です。