そして最後に、高度化: AI を利用したハッキングは、人の手を借りずに考案できる戦略を超えた複雑な戦略への扉を開きます。 AI の高度な統計分析により、変数間の関係が明らかになり、最高の戦略家や専門家が認識できなかった可能性のあるエクスプロイトが明らかになります。 その精巧さにより、AI はターゲット システムの複数のレベルを覆す戦略を展開できるようになる可能性があります。 たとえば、政党の得票率を最大化するように設計された AI は、選挙の勝敗を分ける経済変数、選挙運動のメッセージ、投票手続きの微調整の正確な組み合わせを決定し、地図作成ソフトウェアがゲリマンダーにもたらした革命を次の世界にまで広げます。民主主義のあらゆる側面。 そしてそれは、株式市場、立法システム、または世論を操作するために AI が示唆する検出困難なトリックにさえ入っていません。
コンピューターの速度、規模、範囲、および洗練度が高くなると、ハッキングは、社会としての私たちにはもはや対処できない問題になります。
映画のワンシーンを思い出した ターミネーター、カイル・リースがサラ・コナーに彼女を狩っているサイボーグについて次のように説明しています。 それは理にかなっていません。 同情も後悔も恐怖も感じません。 そして、それは絶対に止まることはありません…」 リテラル しかし、ソーシャル ハッキングの世界で AI が私たちの敵になるにつれて、私たちの脆弱性を探す非人道的な能力についていくのが難しくなるかもしれません。
一部の AI 研究者は、強力な AI が人間が課した制約をどの程度克服し、潜在的に社会を支配するようになるかについて心配しています。 これは突飛な憶測のように思えるかもしれませんが、少なくとも検討と予防に値するシナリオです。
しかし、今日および近い将来、この本で説明されているハッキングは、私たちの残りの部分に対して強力な者によって実行されるでしょう. あなたのラップトップ、オンライン、またはロボットに組み込まれたものであるかどうかにかかわらず、そこにあるすべての AI は、通常、他の人によってプログラムされています。 Alexa のようなインターネットに接続されたデバイスは、信頼できる友人のように振る舞うことができますが、Amazon の製品を販売するように設計されていることを決して忘れないでください。 また、Amazon の Web サイトが、競合他社のより高品質な商品ではなく自社ブランドを購入するように促すように、常にあなたの最善の利益のために行動するとは限りません。 株主の目標のために、Amazonへの信頼をハッキングします。
意味のある規制がなければ、AI ハッキングの展開を防ぐためにできることは何もありません。 私たちはそれが避けられないことを受け入れ、システムへの有益なハッキングを正常化し、悪意のある、または不注意による損害を与えるハッキングを無力化することで、迅速かつ効果的に対応できる堅牢な管理構造を構築する必要があります。
この課題は、AI がどのように進化するか、または機関が AI にどのように対応できるかよりも、より深く難しい問題を提起します。 ダメージを与えるのはどれ？ そして、誰が決めるのですか？ 政府は浴槽に溺れるほど小さくあるべきだと考えるなら、市民をコントロールする政府の能力を低下させるハッキングは通常良いことだと思うでしょう。 しかし、政治的な大君主をテクノロジーの大君主に置き換えたくない場合もあります。 予防原則を信じるなら、ハッキングが社会システムに組み込まれる前に、できるだけ多くの専門家がハッキングをテストして判断することを望んでいます。 そして、ハッキングを可能にする機関や構造に、その原則をさらに上流に適用したいと思うかもしれません。
質問は続きます。 AI によって作成されたハッキングは、ローカルまたはグローバルで管理する必要がありますか? 管理者によるものですか、それとも国民投票によるものですか。 それとも、市場や市民社会グループに決定させる方法はありますか? (ガバナンス モデルをアルゴリズムに適用する現在の取り組みは、これがどのように進むかを示す初期の指標です。) 私たちが設計する管理構造は、一部の人々や組織に、未来を形作るハッキングを決定する力を与えるでしょう。 その力が賢明に行使されるようにする必要があります。
からの抜粋 ハッカーの心: 強力な企業が社会のルールを曲げる方法、およびそれらを元に戻す方法 ブルース・シュナイアー著。 著作権 © 2023 by Bruce Schneier. 発行者である WW Norton & Company, Inc. の許可を得て使用しています。無断複写・転載を禁じます。