いくつかの点で、 このずれがどのようにして起こったのかを理解するのは困難です。 私たちはこれらすべてを自分たちで、自分たちのために作りました。
確かに、テグマークが言うように、私たちは本質的に「炭素排外主義者」です。私たちは、私たちのような生身の機械だけが考え、計算し、創造できると思いたがります。 しかし、機械には人間のやっていることはできないという考えは、AI からの重要な洞察を無視しています。 」
もちろん、「ナンセンス！」と言う人もいます。 すべてがハンキー・ドーリーだ！ さらに良いです！ 機械を持ってきてください。 彼らと合併するのは早ければ早いほど良いです。 私たちはすでに、人工的に作られた目と心、デバイスへの深い愛着から始まっています。 レイ・カーツワイルは、あらゆる区別が実質的に無くなる、来るべき特異点を待ちきれないということで有名です。 「私たちが乗り越えなければならないのは、本当にこれからの数十年だ」とカーツワイル氏は最近、大勢の聴衆を前に語った。
ああ、それだけです。
ジャロン・ラニアー氏ですら、人工知能が人間によって作られたものであるため、人工知能が乗っ取るという考えは愚かであると述べていますが、もし私たちが人工知能の使い方を間違えて、文字通り自分自身を狂わせてしまえば、人類が滅亡する可能性があると認めています。 「私たちのテクノロジーを使って相互に理解できなくなったり、お望みなら狂気になったりするでしょう。その結果、私たちは生き残るための十分な理解と利己心を持って行動していないので、本質的に狂気によって死ぬのです。」
もしかしたら私たちは自分自身を忘れているだけかもしれません。 「人間性を失う」というのは、爆弾テロ犯たちが頻繁に繰り返したフレーズであり、今日でもほぼ同じ頻度で繰り返されている。 私の友人の物理学者は、制御不能になったテクノロジーの危険性は、「人間を『人間』たらしめている定義不可能で並外れた特別性の一部を失うのではないかという不安」だと書いている。7十年ほど経った今、ラニアー氏も同意する。 「意識は本物であり、人間には他のものとは異なる神秘的な内面があると言わなければなりません。なぜなら、人間が特別であると言わなければ、どうやって社会を作ったり、人々に役立つテクノロジーを作ったりできるでしょうか？」
それもあるのか 私たちが絶滅しても大丈夫ですか？
人間は、共感、優しさ、他人の感情を認識してそれに反応する能力で長い間優れています。 私たちは創造性と革新性、独創性、適応性、理性を誇りに思っています。 自意識。 私たちは科学、アート、音楽を創造します。 私たちは踊り、笑います。
しかし、ジェーン・グドールがチンパンジーが利他的であり、道具を作り、死者を悼むことができることを明らかにして以来、魚、鳥、キリンを含むあらゆる種類の生き物が、理性を持ち、事前に計画を立て、公平感を持ち、誘惑に抵抗できることを証明してきました。夢さえ見てる。 （人間だけが、その巨大なずれた脳を介して、真に大量破壊を行うことができるようです。）
私たちは動物を擬人化しているため、動物がこれだけのことができると思い込んでしまうことがあります。 確かに、私たちは機械を友達、ペット、親友だと思い込んでいます。 MIT のシェリー・タークル氏は、AI を「人工的な親密さ」と呼んでいます。AI は、偽りの共感を含む、偽りの、しかし説得力のある思いやりのある関係を提供することに非常に優れているからです。 タイミングとしてはこれ以上に悪いものはありません。 地球は緊急に私たちの注意を必要としています。 私たちは自然とつながるためにできる限りのことをすべきであり、「人類が死んでも構わない物体とのつながり」を強めるべきではありません。