先週は、 Center for Humane Technology は、金融、慈善活動、産業、政府、メディアの 100 人を超えるリーダーをニューヨーク市の Paley Center for Media のキッシンジャー ルームに召喚し、人工知能がどのように人類を一掃するかを聞きました。 Tristan Harris と Aza Raskin の 2 人の講演者は、スライドで終末のプレゼンテーションを始めました。 それが読んだ: 「物理的な世界にとっての核とは…AI は他のすべてのものと同じです。」
この集まりは歴史的なものであり、今後数年間で思い出すだろうと言われました。おそらく、Bing チャットボットを装った黙示録の 4 人の騎手が降りてきて、私たちの知性を彼ら自身のものに置き換えるでしょう。 古いSF映画のシーン、または最近の茶番劇を連想させた ドント・ルック・アップ—科学者が脅威を発見し、それを説明するために眠っている人々の肩を揺さぶろうとする場所 この致命的な脅威は私たちに向かっています。あなたが今何かをしなければ、私たちは死んでしまいます。
少なくとも、Harris と Raskin は、AI を開発している企業の内部で働いている何人かの人々が、彼らが作成している製品が非常に危険であるという懸念を持ってセンターに連絡し、大惨事を防ぐには外部の力が必要であると述べた後、結論付けたようです. センターの共同創設者は、AI 研究者の半数が、AI が人類を絶滅させる可能性が少なくとも 10% あると考えているという調査の統計を繰り返し引用しました。
AI の誇大宣伝と不確実性のこの瞬間に、Harris と Raskin は、予想通り、ガラスを割って警報を発するのは自分自身であると選択しました。 彼らがサイレンを鳴らしたのはこれが初めてではありません。 テクノロジー デザイナーはメディアに精通したコミュニケーターになり、ソーシャル メディアが社会にとって脅威であることを世界に知らせるためにセンターを共同設立しました。 彼らの懸念の最終的な表現は、人気のあるNetflixのドキュメンタリーへの関与でした。 ごっくん というホラー映画 社会的ジレンマ. この映画はニュアンスがなく、ややヒステリックですが、ソーシャル メディアの注目を集めること、私たちを分断するインセンティブ、個人データの武器化についての多くの不満に同意します。 これらは、インタビュー、統計、およびグラフを通じて提示されました。 しかし、このドキュメントは、誇張された架空の物語にクロスカットすることで、それ自体の信頼性を魚雷で叩きました。 リーファー・マッドネス、（でっち上げの）健全な中心部の家族がどのように破滅に追い込まれたかを示しています.1人の子供は過激化して投獄され、別の子供は落ち込んでいます.
この一面性は、AI ジレンマと呼ばれるセンターの新しいキャンペーンの特徴でもあります。 (センターは、別の Netflix ドキュメントが進行中かどうかについて内気です。) 前のジレンマと同様に、Harris と Raskin が指摘する多くの点は有効です。たとえば、ChatGPT のようなボットがどのように出力を生成するかを完全に理解できないなどです。 彼らはまた、AI が急速に強力になり、宿題をしたり、Bing 検索を強化したり、 愛を表現する ために ニューヨーク・タイムズ コラムニストのケビン・ルースなど。
私は、Harris と Raskin が提起した最悪のシナリオを完全に否定したくはありません。 AI 専門家が自分たちの技術が私たち全員を殺す可能性があると信じているという驚くべき統計は、実際に調べてみると、ある種の. 2022 年 8 月に、 AI の影響 2 つの AI カンファレンスで発表された論文を執筆または共著した 4,271 人に連絡を取り、調査への回答を依頼しました。 回答者はわずか約 738 人で、一部の結果は少し矛盾していますが、回答者の 48% が少なくとも 10% の可能性で非常に悪い結果、つまり人類の絶滅が起こると考えていました。 AI の影響については、言及しておく必要があります。 一部サポート Center for Effects Altruism や、遠く離れた AI シナリオに関心を示しているその他の組織によるものです。 いずれにせよ、この調査では、大惨事が起こる可能性があると考えるのであれば、なぜこの破壊的な科学を進歩させるために論文を書いているのかを著者に尋ねていません。