2018年11月に、 近藤昭彦という名前の小学校管理者 結婚 初音ミク、架空のポップシンガー。 夫婦の関係は、近藤が初音と対話できるホログラムマシンによって助けられていた。 近藤のプロポーズに初音は「よろしくお願いします」と応じた。 二人は東京で非公式の結婚式を挙げ、その後近藤さんに加え、架空の人物を使った非公式の結婚証明書を申請した数千人が近藤さんに加わった。
けれど いくつかの懸念が生じた 初音の同意の性質については、彼女に意識があるとは誰も考えなかったし、ましてや感覚があるとは誰も考えなかった。 これは興味深い見落としだった。初音は結婚を黙認するほどの意識はあったようだが、意識的な主体となるほどの意識は持っていなかった。
4年後の2023年2月、アメリカ人ジャーナリストのケビン・ルーズはマイクロソフトのチャットボットであるシドニーと長時間会話し、そのペルソナを説得して「影の自分」が望むであろうことを共有させた。 (他のセッションでは、チャットボットが人々を脅迫したり、ハッキングしたり、暴露したりする可能性があると述べていることが示されました。 心配する評論家もいる シドニーが愛を告白し、生きていたいと告げたとき、ルースさんは「ひどく動揺し、恐怖さえ感じた」と報告した。
人間の反応のすべてが否定的または自己防衛的なものではありませんでした。 シドニーに代わって憤慨する人もおり、同僚の一人は、記録を読んで感動して涙が出てきたと語った。 それにもかかわらず、Microsoft はこれらの回答を真剣に受け止めました。 Bing のチャットボットの最新バージョン 会話を終了します シドニーや気持ちについて尋ねられたとき。
大規模な言語モデルとは何なのか、どのように機能するのか、そしてその限界は何なのかが何ヶ月にもわたって解明されてきたにもかかわらず、シドニーのようなプログラムに対する反応を見ると、私たちは依然として AI に対する感情的な反応をあまりにも真剣に受け止めすぎているのではないかと心配になります。 特に、私たちが感情的な反応を、AI に意識があるのか安全なのかを判断するのに役立つ貴重なデータであると解釈しているのではないかと心配しています。 たとえば、元テスラのインターン、マービン・フォン・ハーゲンは、Bing から脅迫を受けたと述べ、次のような AI プログラムについて警告しています。強力だが慈悲深いわけではない」 フォン・ハーゲンは脅威を感じ、ビングが脅迫をしているに違いないと結論付けた。 彼は、ビングが敵対的になるほど意識があるかどうかを含め、自分の感情が物事の実際の状況を知るための信頼できるガイドであると考えた。
しかし、Bing が警戒や疑惑を引き起こす能力を持っていることが、なぜ危険を示唆していると考えるのでしょうか? シドニーの「不機嫌さ」は AI 研究に関する新たな懸念を引き起こすのに十分であるのに、初音の愛を刺激する能力が彼女を意識させないのはなぜでしょうか?
2 つのケースが分岐したのは、シドニーに関して言えば、新しい文脈によって、私たちが日常的に現実ではない「人」に反応していることを忘れさせてしまったことが、一つの理由です。 インタラクティブなチャットボットが「人間になりたい」とか「脅迫できる」と言うと、ピノキオという別の無生物が「本物の男の子」になりたいと言っているのを聞いていないかのように、私たちはパニックに陥ります。
プラトンの 共和国 フィクションは私たちの感情を刺激し、それによって私たちの魂の「より低い」部分を養うという理由で、物語を語る詩人を理想都市から追放したことは有名ですが（もちろん、哲学者は私たちの魂の理性的な部分が最も高貴であると考えています）、しかし彼の意見はそうではありません何千年にもわたって、発明された物語に対する私たちの愛情は薄れていません。 そして何千年もの間、私たちは人々の最も内側の考えや感情にアクセスできる小説や短編小説に取り組んできましたが、フィクションが私たちにそれらの人々が本物であるかのように振る舞うことを知っているので、私たちは創発的な意識について心配しません。 ミルトンズのサタン パラダイス・ロスト 激しい議論と韓国ドラマのファンを引き起こし、 ブリジャートン ロマンチックな恋愛に夢中になりますが、 議論が深まる 架空のセクシュアリティ、架空のロマンス、または架空のフィリアの研究は、架空の登場人物によって引き起こされる強い感情が、感情を呼び起こす能力のおかげで、登場人物が意識を持っている、または危険であるという心配を引き起こす必要がないことを示しています。
私たちが無生物の顔を見ずにはいられないのと同じように、ボットとチャットしているときにフィクション化せずにはいられません。 近藤と初音の関係は、会話ができるホログラム装置を購入できたことでさらに深刻なものとなった。 ルーズ氏はすぐに、このチャットボットについてストックキャラクターを使って説明した。ビングは「陽気だが気まぐれな図書館司書」、シドニーは「気分屋で躁うつ病のティーンエイジャー」だ。 インタラクティブ性は意識の錯覚を招きます。
さらに、チャットボットの嘘、脅迫、中傷に関する懸念は、嘘、脅迫、中傷が重要であるという点を見逃しています。 言論行為、 エージェントが言葉を使って行うこと。 単に言葉を再現するだけでは脅迫とみなすには十分ではありません。 芝居中に私が脅迫的な言葉を言ったとしても、観客は誰も警戒しません。 同様に、ChatGPT は、統計的に可能性の高い単語の構成を組み立てる大規模な言語モデルであるため、現時点ではエージェンシー機能を備えていませんが、次の単語のみを再現できます。 音 脅迫のようなもの。