ChatGPT が盛り上がりました 人工知能の可能性についての新たな希望と、新たな恐怖。 本日、ホワイトハウスは懸念の合唱団に加わり、今夏の Defcon セキュリティ カンファレンスで大規模なハッキング演習を支援し、Google などの企業の生成 AI システムを調査することを発表しました。
ホワイトハウス科学技術政策局はまた、公益のための倫理的で変革的な AI の開発に焦点を当てた 7 つの新しい国立 AI 研究所の立ち上げに 1 億 4,000 万ドルを流用し、その数は全国で 25 になると述べました。
この発表は、カマラ・ハリス副社長と Google と Microsoft の幹部、ChatGPT を作成したスタートアップの Anthropic と OpenAI の間で AI がもたらす機会とリスクに関する会議の数時間前に行われました。
ホワイトハウスの AI 介入は、ChatGPT によって引き起こされた誇大広告と投資に後押しされて、テクノロジーを規制する欲求が世界中で高まっているときに行われます。 欧州連合の議会では、国会議員が、ジェネレーティブ AI の適用範囲を追加するなど、AI の一部の使用を制限し、さらには禁止する包括的な AI 法の最終更新について交渉しています。 ブラジルの議員は、AI の時代に人権を保護するための規制も検討しています。 ジェネレーティブ AI 規制の草案が先月、中国政府によって発表されました。
ワシントン DC では先週、民主党のマイケル・ベネット上院議員が、市民のプライバシーと公民権の保護に重点を置いた AI タスク フォースを創設する法案を提出しました。 また先週、連邦取引委員会と司法省を含む 4 つの米国規制機関が 共同で使用することを約束 AIの時代にアメリカ市民の権利を保護するための既存の法律。 今週、民主党のロン・ワイデン上院議員の事務所は、企業がアルゴリズムを評価し、自動化されたシステムが使用されている場合は開示することを義務付ける、アルゴリズム説明責任法と呼ばれる法律を可決するために再試行する計画を確認しました。
ホワイトハウス科学技術政策局長のアラティ・プラバカールは、 言った 3月にAxiosが主催するイベントで、政府によるAIの精査が必要であり、技術が有益である. 「これらの機会をつかもうとするなら、リスクと格闘することから始めなければなりません」と Prabhakar は言いました。
ホワイトハウスが支援する、ジェネレーティブ AI システムの弱点を明らかにするためのハッキング演習が、この夏の Defcon セキュリティ カンファレンスで行われます。 ハッカーや政策専門家を含む何千人もの参加者は、Google、Nvidia、Stability AI などの企業の生成モデルが、2022 年に発表されたバイデン政権の AI 権利章典および国立標準技術研究所とどのように整合しているかを調査するよう求められます。 リスク管理の枠組み 今年初めにリリースされました。
ポイントは「Capture the Flag」形式で与えられ、参加者が AI システムからのさまざまなバグや不快な動作をテストするよう促します。 このイベントは、Microsoft、非営利団体 SeedAI、 AI脆弱性データベース、およびデータおよび社会科学者の Rumman Chowdhury によって作成された非営利団体である Humane Intelligence です。 彼女は以前、倫理と機械学習に取り組んでいる Twitter のグループを率いており、ソーシャル ネットワークの自動写真トリミングのバイアスを明らかにするバイアス報奨金を主催していました。