第二に、「有意義な影響を与える [our] 重要なリソースやサービスへの権利、機会、またはアクセス」に基づいて、システムがこれらの慣行に準拠すること、およびベンダーがこの準拠の証拠を提供することを要求します。 これは、ビジネス慣行を形成できる顧客としての連邦政府の力を認識しています。 結局のところ、同社は国内最大の雇用主であり、その購買力を利用して、たとえば求職者のスクリーニングと選択に使用されるアルゴリズムのベストプラクティスを指示する可能性がある。
第三に、大統領令は、連邦予算を受け取っているあらゆる組織（州および地方自治体を含む）に対して、使用する AI システムがこれらのベスト プラクティスに準拠していることを保証することを要求する可能性があります。 これは、州および地方自治体に対する連邦投資の重要な役割を認識しています。 たとえば、AI は、予測警察活動、監視、公判前の投獄、量刑、仮釈放など、刑事司法制度の多くの要素に関与していると考えられています。 法執行機関のほとんどは地方で行われていますが、司法省は州および地方の法執行機関に連邦補助金を交付しており、このテクノロジーの使用方法についてこれらの補助金に条件を付ける可能性があります。
最後に、この大統領令は、規制権限を持つ政府機関に対し、AIを含む管轄内のプロセスへの規則制定を更新し、拡大するよう指示する可能性がある。 AI を使用する事業体を規制するための初期の取り組みがすでにいくつか行われています。 医療機器、 採用アルゴリズム、 と 信用スコアリング、そしてこれらの取り組みはさらに拡大される可能性があります。 労働者の監視、 と 不動産評価システム これらは、この種の規制措置から恩恵を受ける分野の 2 つの例にすぎません。
もちろん、私がここで概説した AI システムの種類のテストと監視体制は、さまざまな懸念を引き起こす可能性があります。 たとえば、これらすべてのガードレールを設置するために速度を落としたら、他の国が私たちを追い越すだろうと主張する人もいるかもしれません。 しかし、他の国々はAIシステムに広範なガードレールと制限を課す独自の法律の可決に追われており、これらの国で事業を展開しようとする米国企業はいずれにしてもその規則に従わなければならないだろう。 EU は、上で説明した条項の多くを含む広範な AI 法を通過させようとしており、中国さえも可決しようとしています。 商用導入された AI システムに制限を設ける それは私たちが現在受け入れようとしているものをはるかに超えています。
この膨大で面倒な一連の要件は、中小企業にとっては準拠するのが難しいのではないかと懸念を表明する人もいるかもしれません。 これは、要件を影響の程度に結び付けることで対処できます。何百万もの人々の生活に影響を与える可能性のあるソフトウェアは、開発者の規模に関係なく、徹底的に精査される必要があります。 そして逆に、私たちが個人として娯楽目的で使用する AI システムには、同じ厳格さと制限が適用されるべきではありません。
また、これらの要件が実際的であるかどうかについての懸念もあるでしょう。 ここで、マーケットメーカーとしての連邦政府の力を過小評価すべきではありません。 テストと検証の枠組みを求める大統領令は、ベストプラクティスを実行可能な商用テスト体制に変換したい企業にインセンティブを与えることになる。 責任ある AI セクターには、アルゴリズムによる監査と評価のサービスを提供する企業が溢れています。 業界コンソーシアム ベンダーが遵守することが期待される詳細なガイドラインを発行し、大手コンサルティング会社がクライアントにガイダンスを提供します。 そして、次のような非営利の独立した団体もあります。 データと社会 (免責事項: 私は彼らのボードに座っています) まったく新しいラボ AI システムがさまざまな人々にどのような影響を与えるかを評価するツールを開発する。
私たちは調査を行い、システムを構築し、害を特定しました。 私たちが構築し展開するテクノロジーが私たち全員に利益をもたらすと同時に、すでに深刻な不平等社会による打撃を受けている人々に害を及ぼさないようにする方法は確立されています。 勉強する時間は終わりました。ホワイトハウスが大統領令を出して行動する時が来ました。
WIREDのオピニオン 外部寄稿者による幅広い視点からの記事を掲載しています。 もっと意見を読む ここ。 論説を次のアドレスに投稿してください [email protected]。