アン 公開状 何百人もの著名な人工知能の専門家、技術起業家、科学者によって署名されたこの文書は、OpenAI の言語モデル GPT-4 よりも強力な AI 技術の開発とテストを一時停止して、それがもたらす可能性のあるリスクを適切に研究できるようにすることを求めています。
GPT-4 のような言語モデルは、ますます多様化するタスクですでに人間と競合する可能性があり、ジョブの自動化や誤った情報の拡散に使用される可能性があると警告しています。 この書簡はまた、AI システムが人間に取って代わり、文明を作り直す可能性があるという遠い将来の見通しも提起しています。
「私たちはすべての AI ラボに対し、GPT-4 (現在訓練中の GPT-5 を含む) よりも強力な AI システムの訓練を少なくとも 6 か月間直ちに一時停止するよう呼びかけます」現代の AI の先駆者と見なされているモントリオール大学の教授、歴史家のユヴァル ノア ハラリ、Skype の共同創設者である Jaan Tallinn、Twitter の CEO である Elon Musk です。
が書いた手紙は、 フューチャー オブ ライフ インスティテュート人類への技術的リスクに焦点を当てている組織である は、一時停止は「公開され、検証可能」であるべきであり、GPT-4 のような高度な AI モデルに取り組んでいるすべての人を巻き込むべきであると付け加えています。 開発の停止をどのように検証できるかについては示唆していませんが、「そのような一時停止がすぐに実行できない場合、政府は介入してモラトリアムを設定する必要があります」と付け加えています。
OpenAI、Microsoft、および Google は、書簡に関するコメントの要求に応答しませんでした。 署名者には、Microsoft や Google など、高度な言語モデルを構築している多数のテクノロジー企業の人々が含まれているようです。
この手紙は、AI システムがますます大胆かつ印象的な飛躍を遂げる中で生まれました。 GPT-4 は 2 週間前に発表されたばかりですが、その機能はかなりの熱意とかなりの懸念を引き起こしました。 OpenAI の人気チャットボットである ChatGPT を介して利用できる言語モデルは、多くのアプリで高い評価を得ています。 アカデミックテスト、AI システムが以前に示したよりも高度な知性が必要であると一般に考えられているトリッキーな質問を正しく解決できます。 それでも、GPT-4 は多くの 些細な論理的ミス. そして、その前任者と同様に、それは時々間違った情報を「幻覚」にし、根深い社会的偏見を裏切り、憎悪に満ちた、または潜在的に有害なことを言うように促される可能性があります.
書簡の署名者が表明した懸念の一部は、OpenAI、Microsoft、および Google が、新しい AI モデルをできるだけ早く開発およびリリースするための利益主導の競争を開始したことです。 このようなペースでは、開発は社会や規制当局が折り合いをつけるよりも速く進んでいる、と書簡は主張している。
変化のペースと投資の規模は重要です。 Microsoft は OpenAI に 100 億ドルを注ぎ込み、その AI を検索エンジンの Bing やその他のアプリケーションで使用しています。 Google は GPT-4 を構築するために必要な AI の一部を開発し、以前は独自の強力な言語モデルを作成していましたが、倫理的な懸念から今年までそれらをリリースしないことを選択しました。
しかし、ChatGPT をめぐる興奮と Microsoft の検索戦略により、Google は独自の計画を急ぐことになったようです。 同社は最近、ChatGPT の競合である Bard をデビューさせ、OpenAI の製品に似た PaLM と呼ばれる言語モデルを API を通じて利用できるようにしました。 「動きが速すぎるように感じます」と言う ピーター・ストーン、テキサス大学オースティン校の教授、および AIに関する100年の研究、AI の長期的な影響を理解することを目的としたレポート。