AI規制に関する上院公聴会は危険なほど友好的だった

AIに関する今週の上院公聴会で最も異例だったのは、 愛想の良い そうだった。 業界関係者（主にOpenAI CEOのサム・アルトマン氏）は、新しいAIテクノロジーを規制する必要性について快く同意し、一方で政治家たちはルール草案の責任を企業自身に委ねることに喜んでいるように見えた。 ディック・ダービン上院議員 (民主党-イリノイ州) として それを置く 同氏は冒頭の挨拶で「大企業や民間部門の団体を代表する人たちがいつ私たちの前に来て、規制するよう嘆願したのか思い出せない」と語った。

この種の愛想は人を緊張させます。 多くの専門家や業界関係者は、今回の公聴会はAIによる業界攻略の時代に突入する可能性を示唆していると述べている。 もしテクノロジー大手がこの技術を管理する規則を書くことを許されれば、中小企業の抑圧から弱い規制の導入まで、多くの弊害が生じる可能性がある、と彼らは言う。

公聴会に出席した専門家には、IBMのクリスティーナ・モンゴメリー氏や著名なAI評論家ゲイリー・マーカス氏も含まれており、彼も規制当局による捕獲の懸念を提起した。 （マーカス氏によれば、危険なのは、「私たちは何かをやっているように見せかけているが、それはむしろグリーンウォッシングのようなもので、実際には何も起こらず、小規模なプレイヤーを排除しているだけだ」ということだ。）現在、テクノロジー業界の非公式スポークスマンはアルトマン氏だった。

アルトマン氏の OpenAI は今でも「スタートアップ」と呼ばれている人もいますが、間違いなく世界で最も影響力のある AI 企業です。 ChatGPT のような画像およびテキスト生成ツールの立ち上げと、Bing をリメイクするための Microsoft との契約は、テクノロジー業界全体に衝撃を与えました。 アルトマン氏自身は、優れた立場にあります。超インテリジェントな AI を構築し、おそらくいつかは、 彼自身の言葉で、「宇宙のすべての将来の価値の光円錐を捉えます。」

今週の公聴会では、彼はそれほど大げさなことはしなかった。 アルトマン氏も、規制当局による捕捉の問題については言及したが、小規模事業体へのライセンス供与に関する自身の考えについてはあまり明確ではなかった。 「私たちは小規模なスタートアップの成長を遅らせたくありません。 私たちはオープンソースの取り組みを遅らせたくありません」と彼は言い、「私たちは依然としてオープンソースが物事を遵守する必要があるのです」と付け加えた。

AI Now Instituteのマネージングディレクター、サラ・マイヤーズ・ウェスト氏はこう語る。 ザ・ヴァージ 彼女は多くの講演者が提案したライセンス制度に疑問を抱いていた。 「弊害は、企業が『はい、私たちはライセンスを取得しています。害があることはわかっているので、通常通り業務を進めることができます』と言いながら、それを直視しない、ある種の表面的なチェックボックスの演習に終わることだと思います」これらのシステムに問題が発生した場合、実際の責任はまったくありません」と彼女は言いました。

他の批評家、特に自社の AI 企業を経営する批評家は、競争に対する潜在的な脅威を強調しました。 「規制は常に既存企業に有利であり、イノベーションを抑制する可能性があります」とStability AIの創設者兼最高経営責任者（CEO）のエマド・モスタク氏は語った。 ザ・ヴァージ。 AIスタートアップHugging FaceのCEO、クレム・デラング氏はこう語る。 ツイートした 同様の反応: 「モデルをトレーニングするのにライセンスが必要なのは、コードを書くのにライセンスが必要なようなものです。 IMO、それは権力を少数の者にさらに集中させ、進歩、公平性、透明性を大幅に遅らせることになるだろう。」

しかし、一部の専門家は、何らかの形でライセンスを付与することが効果的である可能性があると述べている。 AI言語モデルの潜在的な害に関する研究論文を執筆した後、ティムニット・ゲブルー氏とともにGoogleから追い出されたマーガレット・ミッチェル氏は、自身を「トップダウン規制と組み合わせたある程度の自主規制の支持者」と説明している。 彼女は言いました ザ・ヴァージ 彼女は認定資格の魅力を理解できましたが、おそらく企業ではなく個人にとっての資格であると考えました。

「（一定のしきい値を超えて）モデルをトレーニングするには、開発者に『商用 ML 開発者ライセンス』が必要になることは想像できるでしょう」と、現在ハギング フェイスの主任倫理科学者であるミッチェル氏は述べています。 「これは『責任あるAI』を法的構造に組み込む簡単な方法だろう。」

ミッチェル氏は、優れた規制は、企業が自社の利益のために簡単に曲げることのできない基準を設定するかどうかにかかっており、そのためには評価されるテクノロジーについての微妙な理解が必要であると付け加えた。 彼女は、顔認識会社 Clearview AI の例を挙げました。同社は、アルゴリズムが「100 パーセント」正確であると主張して警察に身を売り込みました。 これは安心できるように聞こえますが、専門家によると、同社は 歪んだテスト これらの数字を生み出すために。 ミッチェル氏は、一般的にビッグテック企業が公共の利益のために行動することを信頼していない、と付け加えた。 「テクノロジー企業 [have] 彼らは人々を尊重することが会社経営の一部であるとは考えていないことを何度も示しました」と彼女は述べた。

たとえライセンスが導入されたとしても、すぐに効果が現れるわけではないかもしれません。 公聴会では、業界の代表者らは、仮想的な将来の害に注意を向けることが多く、その過程で、AIがすでに可能にしている既知の問題にはほとんど注意を払わなかった。

たとえば、ジョイ・ブオラムウィニのような研究者は、顔認識におけるバイアスの問題を繰り返し指摘していますが、問題は依然として残っています。 黒人の顔を識別するのは不正確 そして生み出した 多くの場合 不正の 逮捕 アメリカ合衆国で。 それにもかかわらず、公聴会ではAIによる監視については全く言及されず、顔認識とその欠陥についてはたまたま一度だけ言及されただけだった。

AI Now’s West は、将来の害に焦点を当てることが、AI 業界関係者の間でよく使われる美辞麗句になっていると述べている。 これらの人々は、一般的に人為的な問題について話すことによって、「将来に向けて責任を負っている」と彼女は述べた。 全般的 インテリジェンス、または AGI: さまざまなタスクにわたって人間よりも賢い仮想の AI システム。 一部の専門家は、私たちが得ることを示唆しています そのようなシステムの構築に近づく、しかし、この結論には激しく異論があります。

この美辞麗句のフェイントは公聴会で明らかだった。 OpenAI の Altman 氏は、政府のライセンスについて議論しながら、いかなるライセンスも以下にのみ適用する必要があると静かに示唆しました。 未来 システム。 「ライセンス制度が関係するのは、これらのモデルが今日できることのためではないと思います。」 彼は言った。 「しかし、私たちが汎用人工知能に向かう中で、私は個人的に、そのような計画が必要だと考えています。」

専門家らは議会（およびアルトマン）の提案を、EUの今後のAI法に不利に比較した。 この法案の現在の草案には、ライセンスに相当するメカニズムは含まれていませんが、リスクのレベルに基づいて AI システムを分類し、安全対策とデータ保護のためのさまざまな要件を課しています。 しかし、より注目に値するのは、デジタル権利の専門家から賞賛を集めている、予測警察アルゴリズムや大規模監視など、既知および現在有害な AI の使用事例を明確に禁止していることです。

ウェスト氏は、「この業界で何らかの意味ある説明責任を果たしたいのであれば、会話はそこに向かう必要がある」と述べています。