「この種のテクノロジーが生み出すことができる多くの利点と、それを防ぐことができる多くの苦しみがあります。そして、それがどれだけの破壊を引き起こし、その過程でどれだけ多くが失われるかという側面があります」と、初期の従業員であった Kim は言います。また、国連で働き、スタートアップ インキュベーター Y Combinator の共同設立者である Paul Graham のアシスタントとしても働いてきました。 「私たちはすべての答えを持っているとは思いません。 私たちは非常に人間的であり、この技術について考えるための重要な手段を人々に提供する必要があります。」
仮設展示は 5 月まで匿名の寄付者から資金提供を受けていますが、このスペースは額縁から、多くのテック ファウンダーや思想家の影響を示しています。 つぶやき Facebook の共同創設者ダスティン・モスコヴィッツによる AI と効果的な利他主義について、展示入り口近くのパスタでいっぱいのバスタブに。 後者は、Holden Karnofsky のアイデアへの言及です。Holden Karnofsky は Open Philanthropy の Moskovitz の共同設立者であり、OpenAI や AI の将来の道に関係するその他の作業に資金を提供しています。 カルノフスキーは、人類の歴史の中で最も重要な世紀に生きている可能性があると主張しており、彼が科学的および技術的進歩の自動化プロセス (PASTA) と呼ぶ革新的な AI が登場する可能性はありません。
AI の遠い未来を予測しようとする試みは、最近、Microsoft の新しい検索インターフェイスのような ChatGPT および関連技術に集中するようになっていますが、その制限事項は十分に文書化されており、その価値は依然として不明確です。 テクノロジーに賭ける起業家は、自分たちのテクノロジーができることについて大げさな主張をしています。 先週、OpenAI の CEO は、同社が「AGIの計画」
その後まもなく、欺瞞的なビジネス慣行から保護する機関である米国連邦取引委員会は、 警告した マーケティング担当者は、自社のテクノロジーで何ができるかについて虚偽の主張をすることに反対します。 FTC の弁護士 Michael Atleson は、自身のブログ投稿で、「私たちはまだ、コンピューターが一般的に人間の行動を信頼できる予測を行うことができる SF の領域に住んでいません」と書いています。
多くの AI 研究者は、ChatGPT のようなジェネレーティブ AI システムは印象的ですが、アルゴリズムはトレーニング データからパターンを繰り返してリミックスするだけなので、この技術は知性と見なす価値はないと考えています。
この見方では、今日の狭義の AI は、感覚的な存在ではなく、電卓やトースターのようなものと考えたほうがよいでしょう。 一部の AI 倫理学者は、感覚などの人間の特徴をテクノロジーに帰することは、民主主義国家と権威主義国家の両方の企業によって輸出されている監視技術など、他の形態の有害な自動化についての会話から注意をそらす可能性があると考えています。
キムは、後にゼネラル モーターズに買収された自動運転スタートアップ クルーズでの初期採用として、最初に機械学習に精通したと言います。 彼女は、適切に機能する AI が不必要な死や苦しみをどのように排除できるかについて考え始めましたが、テクノロジーが機能しなければ、人間の命に大きなリスクをもたらす可能性があることも考えました。
AI アートと AI に関するアートの展示に加えて、Misalignment Museum では、テクノロジーのより暗い可能性を探る映画の上映会を開催する予定です。 ターミネータ、 エクス・マキナ、 彼女、 と 思考の劇場、ヘルツォーク監督による神経科学と AI に関する 2022 年のドキュメンタリー。
キムは、彼女の展覧会のテーマにもかかわらず、AGI がほとんどの人類を殺す可能性は低いと考えていると述べていますが、教育者や文学編集者が人間と AI によって生成されたテキストの違いを解析しようとしているように、人々は既に現れている AI の影響について考える必要があると述べています。または、ジェネレーティブ AI がジャーナリストをどのように支援できるか、または支援すべきかについての WIRED 自身の議論。
「AI は私たち全員に影響を与えることになるので、どうすれば多くの人が AI について考え始め、自分の意見を形成できるようになるかが重要です」と Kim は言います。 ミスアラインメント ミュージアムは、木曜日、金曜日、土曜日に一般公開されています。 彼女は、学校の団体向けに展示品を調査し、人工知能の可能性と潜在的な害についての読み物のライブラリを閲覧するためのツアーを主催する予定です。
「子供たちが入ってきたときにスパムボットの目が見えるように、はしごを手に入れることに取り組んでいます」とキムは言います。