当時、ほんの数か月前、マーカスの口論は技術的なものでした。 しかし、大規模な言語モデルが世界的な現象になった今、彼の焦点は変わった。 マーカスの新しいメッセージの核心は、OpenAI、Google、およびその他のチャットボットは危険な存在であり、その力は誤った情報、セキュリティ バグ、および誹謗中傷を自動化する中傷的な「幻覚」の津波につながるということです。 これは矛盾しているように見える。 何年もの間、マーカスは AI ビルダーの主張は誇張されていると非難してきました。 なぜ今、AI は非常に手ごわいので、社会は AI を抑制しなければならないのでしょうか?
いつもおしゃべりなマーカスは、次のように答えています。 [LLMs] は実際にはかなり愚かであり、私はまだそれを信じています。 しかし、力と知性には違いがあります。 そして、私たちは突然彼らに多くの力を与えています。」 2 月に彼は、この問題に対処するために自分のエネルギーの大部分を費やすべき状況が十分に憂慮すべきものであることに気付きました。 最終的には、AI を最大限に活用し、最悪の事態を回避することに専念する非営利団体を率いたいと考えています。
マーカスは、あらゆる潜在的な危害と破壊に対抗するために、政策立案者、政府、および規制当局は AI 開発にブレーキをかける必要があると主張しています。 イーロン マスクや他の何十人もの科学者、政策オタク、そして単純に狂ったオブザーバーと共に、彼は新しい LLM のトレーニングを 6 か月間停止するよう要求する今や有名な嘆願書に署名しました。 しかし、彼は、そのような一時停止が違いを生むとは本当に考えていないことを認め、主に AI 批評家のコミュニティと足並みをそろえるために署名したことを認めています。 トレーニング タイムアウトの代わりに、彼は一時停止を好む 展開中 新しいモデルまたは現在のモデルの反復。 Microsoft と Google の間には、Apple、Meta、Amazon、そして数え切れないほどの新興企業が参入を望んでいる、激しい、ほぼ実存的な競争があるため、これはおそらく企業に強制する必要があるでしょう。
マーカスは、誰が執行を行うかについて考えを持っています。 彼は最近、世界が直ちに「グローバルで中立な非営利の AI のための国際機関」を必要としていると主張してきました。
彼が概説したように 彼が共著した論説 の中に エコノミスト、そのような機関は、初期の核計画を特定するために監査と検査を行う国際原子力機関のように機能する可能性があります。 おそらく、この機関はアルゴリズムを監視して、アルゴリズムにバイアスが含まれていないか、誤った情報が助長されていないか、私たちが見ていないときに電力網を乗っ取っていないかを確認するでしょう. 米国、ヨーロッパ、中国がすべて協力してこれに取り組んでいると想像するのは無理があるように思えますが、エイリアンの脅威があれば、私たちの種を打倒する知性が彼らをチームヒューマンの利益のために行動させるかもしれません. ねえ、それは他の地球規模の脅威である気候変動にも効果がありました! うーん…
いずれにせよ、AI の制御に関する議論は、テクノロジーが私たちの生活にますます深く組み込まれるにつれて、さらに活発になるでしょう。 そのため、マーカスと他の多くのトーキングヘッドがさらに多く登場することを期待しています. そして、それは悪いことではありません。 AI をどうするかについての議論は、たとえ私たちが苦労して遅ればせながら採用した対策に関係なく、動きの速いテクノロジーが十分に発展する可能性があるとしても、健全で必要なものです。 ChatGPT が急速に上昇し、万能のビジネス ツール、エンターテイメント デバイス、および親友になったことは、怖いかどうかにかかわらず、私たちがこのようなものを望んでいることを示しています。 他のすべての巨大な技術的進歩と同様に、スーパーインテリジェンスは、職場、文化的消費、そして必然的に私たちを変えたとしても、私たちに魅力的な利益をもたらす運命にあるようです.