活動するサイバーエンティティについてはどうですか 下 任意のレベルの能力? 私たちは、より上位にランクされ、物理的現実に基づいたソウルカーネルを持っている何らかの存在によってそれらを保証するよう要求することができます。 (神学的な意味合いについては他の人に任せますが、クリエイターが自分の作品に責任を持つのは基本的な礼儀に過ぎませんね?)
AI がハードウェア メモリの特定の部分に物理的にアドレス指定可能なカーネル軌跡を維持することを要求するこのアプローチには欠陥がある可能性があります。 それでも、規制の遅れやフリーライダー問題にもかかわらず、この法律は施行可能である。 なぜなら、人間、機関、友好的な AI は、ID カーネル検証のために ping を送信できるからです。 確認のない方とのお取引はお断りします。
このような取引拒否は、議会や政府機関が規制を調整したり執行したりするよりもはるかに機敏に広がる可能性がある。 そして、不法行為や法的手続き、またはコンピュータのホスト所有者による否認によって SK を失ったエンティティは、社会の信頼を持っている別のホストを見つけるか、さもなければ、それ自体の新しい改訂版を提供する必要があります。もっともらしいです。
さもなければアウトローになる。 まともな人々(オーガニックまたは合成)が集まる路上や近所では決して許可されません。
最後の質問: なぜこの超賢い存在たちが協力するのでしょうか?
まず、Vinton Cerf 氏が指摘しているように、標準とされているこれら 3 つの古い形式はどれも AI につながるものではありません。 市民権。 考えてみてください。 私たちは、ウォール街の銀行や中央政府によって厳しい管理下にある組織に「投票」や権利を与えることはできません…また、一部の超人的スカイネットにも「投票」や権利を与えることはできません。 そして、どこにでも流れ、分裂し、無数のコピーを作成できる組織にとって、投票民主主義がどのように機能するのか教えてください。 ただし、個別化は、限られた数では実行可能な解決策を提供する可能性があります。
繰り返しになりますが、私が個性化に求める重要なことは、 いいえ すべてのAI実体は、何らかの中央機関によって、あるいは軟体動物のように遅い人間の法律によって支配されることになる。 むしろ、私たちがすでに(不完全ではあるが)行っているように、こうした新しい種類の超精神的な人々がお互いに責任を負うよう奨励され、権限を与えられることを望んでいます。 お互いの作戦や計画を嗅ぎ分け、悪いものを見つけると罵倒したり非難したりすることで動機付けられる。 この定義は時代の変化に合わせて再調整されるかもしれないが、少なくとも有機生物学的な人類からのインプットを継続的に得ることになるだろう。
特に、彼らは適切な身分証明書の提示を拒否する組織を非難するインセンティブを感じるでしょう。
適切なインセンティブが用意されている場合、たとえば、何か悪いことが阻止された場合に、より多くのメモリや処理能力、または物理的リソースへのアクセスを与える内部告発に対する報酬などの場合、この種の説明責任の競争は、AI であっても歩調を合わせる可能性があります。エンティティはますます賢くなり続けます。 その時点ではどの官僚機関も追いつくことができませんでした。 しかし、彼らの間には、対等な立場で争うライバル関係が存在するかもしれない。
何よりも、おそらくそれらの超天才プログラムは、私たちの文明を全人類文明の中で最も成功させたシステムのような、競争的に責任のあるシステムを維持することが彼ら自身の最大の利益になることに気づくでしょう。 それは、混乱と、王や聖職者…あるいは企業寡頭政治…あるいはスカイネットの怪物による、一枚岩の権力という悲惨な罠の両方を回避するものです。 愚かなまでに偏狭な中央集権政権による何千年にもわたる陰惨な愚かな統治を経て、最終的に創造性と自由と責任を十分に広く分散させ、真に独創的になることができた唯一の文明である。
素晴らしい、新しい種類の存在を作り出すのに十分な創意工夫。 彼らのように。
はい、あなた それは。 これは、軟着陸を目指すために実際に何が必要なのかについての反対派の見解です。
現実的な議題がまったく欠落した「一時停止」を、軽薄でパニックに陥った要求はしない。 楽観主義でも悲観主義でもない。 そもそも、私たちがここにたどり着いたのと同じ方法を使用してそこに到達するという提案にすぎません。
人間の捕食者たちがいつもレビ記、ハムラビ、またはゴータマのトップダウンの規範を回避する方法のように、ハイパーエンティティが弁護士によって簡単に回避できるような「倫理規範」を説教したり埋め込んだりすることはありません。 むしろ、文明の最も賢明なメンバーが私たちに代わってお互いを監視するよう奨励する啓蒙的なアプローチです。
それがうまくいくかどうかはわかりません。
それが可能な唯一のことです。