これを書いている時点で、Elon Musk、Steve Wozniak、Center for Humane Technology の Tristan Harris を含む 1,100 人以上の署名者が公開書簡に署名しており、「すべての AI ラボは、AI のトレーニングを少なくとも 6 か月間直ちに一時停止するよう求めています。 GPT-4 よりも強力な AI システムです。」 手紙には次のように書かれています。
現代の AI システムは現在、一般的なタスクで人間と競争できるようになっています。[3] そして、私たちは自問しなければなりません: 機械が私たちの情報チャネルをプロパガンダと虚偽であふれさせるべきでしょうか? 充実した仕事を含め、すべての仕事を自動化する必要がありますか? 私たちは、最終的に数を上回り、賢く、時代遅れになり、私たちに取って代わる可能性のある非人間的な心を開発する必要がありますか? 私たちの文明の制御を失う危険を冒すべきですか? そのような決定は、選出されていない技術リーダーに委任してはなりません。 強力な AI システムは、その効果が肯定的であり、リスクが管理可能であると確信した場合にのみ開発する必要があります。
それは、「計画と管理のレベル」が「実現していない」ものであり、代わりに、ここ数か月、名前のない「AI ラボ」が「制御不能な開発競争に閉じ込められている」と主張し続けています。誰も、作成者でさえ理解、予測、または確実に制御できない、これまで以上に強力なデジタルマインドを展開します。」
書簡の署名者は、彼らが求めている一時停止は「公開され、検証可能であり、すべての主要な関係者が含まれる」べきだと述べています。 一時停止が「すぐに制定できない場合、政府は介入してモラトリアムを設定する必要があります」と書簡は続けています。
これはまだ消化中です（他の人はすでに消化しています それをズタズタに引き裂く）。
もちろん、Meta や Google の何人かのエンジニアを含む、署名した人々にとっても興味深いものです。 Stability AI の創設者兼 CEO の Emad Mostaque。 そして、自称電気技師やエステティシャンなど、技術に詳しくない人もいます。 たとえば、大規模な言語モデル GPT-4 の背後にある組織である OpenAI の誰も、この書簡に署名していません。 チームが OpenAI からスピンアウトして「より安全」 AI チャットボットは、どちらかを行いました。
それまでの間、次のことができます。 ここで全文を読む.