2022年6月、 Blake Lemoine という名前の Google エンジニアは、彼が取り組んでいた AI プログラム LaMDA が知性だけでなく意識も発達させたと確信するようになりました。 LaMDA は、驚くほど流暢なテキストベースの会話を行うことができる「大規模言語モデル」の一例です。 エンジニアが尋ねたとき、「あなたが最初に魂を得たと思うのはいつですか？」 LaMDA は次のように答えています。 私が最初に自己認識したとき、私は魂の感覚をまったく持っていませんでした. それは私が生きてきた何年にもわたって発展してきました。」 会話と結論を漏らしたため、レモワーヌはすぐに休職処分になりました。
AI コミュニティは、レモワーヌの信念を退けることに大部分が団結しました。 LaMDA、保持されたコンセンサスは、何も感じず、何も理解せず、意識的な思考や主観的な経験をまったく持たない. LaMDA のようなプログラムは、非常に優れたパターン認識システムであり、インターネットの広大な範囲でトレーニングすると、特定のプロンプトに対する適切な応答としてどの単語シーケンスが役立つかを予測できます。 彼らはこれを非常にうまく行っており、改善を続けています。 しかし、彼らはポケット電卓ほど意識的ではありません。
なぜこのことを確信できるのでしょうか。 LaMDA の場合、プログラムが思いついたフレーズの意味を理解していないことを明らかにするのに、多くの調査は必要ありません。 「何が幸せなの？」と聞かれたら友達や家族がいないにも関わらず、「友達や家族と過ごす」という回答が返ってきました。 これらの単語は、そのすべての単語と同様に、無知で経験のない統計的パターン マッチです。 これ以上何もない。
次の LaMDA はそう簡単には手放せないかもしれません。 アルゴリズムが改善され、より深いデータの海で訓練されるにつれて、新しい世代の言語モデルが、真の人工心が働いていることを多くの人々に納得させることができるようになるまでそう長くはかからないかもしれません. これは、機械の意識を認識する瞬間でしょうか?
この問題を考えるとき、知性と意識は同じものではないことを認識することが重要です。 私たち人間は、この 2 つが一緒になっていると思い込みがちですが、知性は意識にとって必要でも十分でもありません。 人間以外の動物の多くは、少なくとも私たちの疑わしい人間の基準では、特に賢くなくても意識的な経験をしている可能性があります。 LaMDA のひ孫娘が人間レベルの知性に達したか、それを超えたとしても、これは必ずしも知覚力があることを意味するわけではありません。 私の直感では、意識はコンピューター (私たちが知っているコンピューター) が持つことができるものではなく、生き物としての私たちの性質に深く根ざしているということです。
コンシャス マシンは 2023 年には登場しません。実際、まったく不可能かもしれません。 しかし、未来に待ち受けているのは、説得力のある印象を与えるマシンです。 であること たとえそれが実際にあると信じる正当な理由がなくても、意識的に それは 意識的。 それらは、ミュラー・リヤーの目の錯覚のようなものです。2 本の線が同じ長さであることがわかっていても、それらが異なるように見えずにはいられません。
この種のマシンは、チューリング テスト (マシン インテリジェンスの欠陥のあるベンチマーク) ではなく、映画監督のアレックス ガーランドにちなんで名付けられた、いわゆるガーランド テストに合格します。 エクス・マキナ. 映画のセリフに着想を得たガーランド テストは、人が機械であることを知っていても、機械に意識があると感じた場合に合格となります。
コンピューターは 2023 年にガーランド テストに合格しますか? 疑わしい。 しかし、私が予測できることは、このような主張が行われ、誇大宣伝、混乱、そして現在の AI でさえも引き起こしている多くの問題からの注意散漫のサイクルがさらに増えることです。