人工知能業界のリーダーたちは、高度な AI システムが人類にもたらす潜在的な脅威を懸念しています。 火曜日、OpenAI CEOのサム・アルトマン氏やディープマインドCEOのデミス・ハサビス氏といった業界リーダー数名が、他の科学者や著名人とともに、AIのリスクを警告する声明に署名した。
そっけない一文だけの声明が非営利団体のウェブサイトに掲載された。 AI安全性センター。 「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争などの他の社会規模のリスクと並んで世界的な優先事項であるべきだ」と声明には書かれている。
昨年のOpenAIのChatGPTとDall-Eの発売に続き、ほぼすべての大手テクノロジー企業がここ数カ月でAIチャットボットやその他の生成型AIツールをリリースした。 このテクノロジーは日常生活に浸透し始めており、ウェブ上の情報の検索方法からフィットネス ルーチンの作成方法まで、あらゆるものを変える可能性があります。 AIツールの急速なリリースにより、科学者や業界の専門家らは、規制なしで開発が続けられた場合のテクノロジーのリスクについて懸念を表明するようになった。
この声明は、先端技術の潜在的な脅威に関する最近の一連の警告の最新のものである。 AI 業界のリーダーであり、OpenAI への投資家でもある Microsoft は先週、 40ページの報告書を発表した 悪者や潜在的なリスクに先んじるためにはAI規制が必要だと述べています。 3月、テスラとツイッターのイーロン・マスク最高経営責任者（CEO）、アップル共同創設者のスティーブ・ウォズニアック氏、その他ハイテク業界関係者1000人が、企業に対し少なくとも6か月間、あるいは業界の標準やプロトコルが追いつくまで先進的なAIプロジェクトの生産を停止することを要求する公開書簡に署名した。 。
3月22日に公開された書簡には、「私たちは文明の制御を失う危険を冒す必要があるだろうか？そのような決定を選挙で選ばれていないテクノロジーリーダーに委任してはならない」と書かれている。「強力なAIシステムは、その効果がプラスになると確信した場合にのみ開発されるべきである」そしてそのリスクは管理可能になるでしょう。」
一部の批評家は、テクノロジーリーダーがテクノロジーの将来のリスクに注目しているが、次のような現在の問題には対処できていない、と指摘している。 AIの「幻覚」の傾向「AI チャットボットがプロンプトに対する答えにたどり着く方法が不明確であり、データのプライバシーと盗用に関する懸念もある。これらのテクノロジーリーダーの一部が、時間を確保するために競合他社の製品の停止を要求している可能性もある。独自の AI 製品を構築します。
編集者注: CNET は AI エンジンを使用して、編集者によって編集および事実確認された個人向けの財務説明を作成しています。 詳細については、を参照してください。 この郵便受け。