これらすべての人物やその他多くの人物が署名した最も明白な主張は、 22 単語のステートメント サンフランシスコに本拠を置き、課題を推進する研究組織である Center for AI Safety (CAIS) によって 2 週間前に発表されました。 同報告書は、「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争などの他の社会規模のリスクと並んで世界的な優先事項であるべきである」と宣言している。
言葉遣いは意図的です。 「ロールシャッハ・テスト的な発言をしようとしていたなら、『実存的リスク』と言ったでしょう。なぜなら、それは多くの異なる人々にとって多くのことを意味する可能性があるからです」とCAIS所長のダン・ヘンドリクス氏は言う。 しかし、彼らは明確にしておきたいと思っていました。これは経済を悪化させるためではありませんでした。 「私たちの多くが他のさまざまなリスクも懸念しているにもかかわらず、私たちが『絶滅のリスク』を選択したのはそのためです」とヘンドリックス氏は言う。
私たちは以前にもここに来ました。AI の誇大宣伝に続いて AI の破滅が起こります。 しかし、今回は違う気がします。 オーヴァートンウィンドウが変化しました。 かつては極端な見解であったものが、今では主流の話題となり、見出しだけでなく世界の指導者の注目を集めています。 テクノロジーの社会的影響を研究する団体、データ・アンド・ソサエティの研究ディレクター、ジェナ・バレル氏は、「AIに対する懸念を訴える声の大合唱は無視できないほど大きくなっている」と語る。
どうしたの？ AIは本当に（さらに）危険になったのでしょうか？ そして、なぜこの技術をもたらした人々が今になって警鐘を鳴らしているのでしょうか?
こうした意見が分野を二分しているのは事実だ。 先週、メタ社の主任科学者でヒントン氏、ベンジオ氏とともに2018年チューリング賞を共同受賞したヤン・レクン氏は、運命論は「ばかげている」と述べた。 AI企業コヒアのCEO、エイデン・ゴメス氏は、これは「不条理な時間の使い方」だと語った。
他の人も嘲笑します。 「AI がこうした実存的リスクを引き起こすという証拠は、1950 年当時以上に今ではありません」とシグナル社社長のメレディス ウィテカー氏は言います。彼は社会と社会の問題を研究する研究所、AI Now Institute の共同創設者で元所長です。人工知能の政策への影響。 「怪談は伝染するのです。恐怖を感じるのは本当に刺激的で刺激的です。」
「それは、現在起こっていることすべてをざっとざっと見る方法でもあります」とバレル氏は言う。 「これは、私たちがまだ現実的または深刻な被害を見ていないことを示唆しています。」
古い恐怖
暴走する自己改善型の機械に対する懸念は、アラン・チューリングの時代から存在していました。 ヴァーナー・ヴィンジやレイ・カーツワイルのような未来学者は、人工知能が人間の知能を上回り、機械が引き継ぐという仮想的な日付である、いわゆるシンギュラリティについての話でこれらのアイデアを広めました。