FTC は OpenAI が新しい GPT モデルを立ち上げるのを止めるべきだと、AI 政策グループは言う

人工知能に焦点を当てた技術倫理グループは、連邦取引委員会に消費者保護規則に違反しているとして OpenAI を調査するよう要請し、組織の AI テキスト生成ツールの展開は「偏見があり、欺瞞的であり、公共の安全を脅かす」と主張しました。

AI およびデジタル ポリシー センター (CAIDP) 苦情を申し立てた 大規模なジェネレーティブ AI 実験の一時停止を求める注目を集める公開書簡が発表された後、本日。 CAIDP の社長であるマーク ローテンバーグは、多くの AI 研究者や OpenAI の共同創設者であるイーロン マスクと共に、書簡の署名者の 1 人でした。 その書簡と同様に、訴状は、ジェネレーティブ AI モデルの開発を遅らせ、より厳格な政府の監視を実施することを求めています。

CAIDP の苦情 は、3 月中旬に発表された OpenAI の GPT-4 生成テキスト モデルからの潜在的な脅威を指摘しています。 それらには、GPT-4が悪意のあるコードや高度に調整されたプロパガンダを生成する方法や、偏ったトレーニングデータが固定観念や不公平な人種や性別の好みを採用などにもたらす可能性がある方法が含まれます. また、OpenAI の製品インターフェイスにプライバシーに関する重大な問題があることも指摘しています。たとえば、OpenAI の ChatGPT の履歴や支払いの詳細が他のユーザーに公開された可能性のある最近のバグなどです。

OpenAI は、AI テキスト生成による潜在的な脅威を公然と指摘していますが、CAIDP は、GPT-4 は規制措置を講じる必要がある消費者被害の境界線を越えていると主張しています。 不公正で欺瞞的な取引慣行を禁止する FTC 法第 5 条に違反する責任を OpenAI に負わせようとしています。 「OpenAIは、潜在的なバイアスや有害な行動を含め、これらのリスクを十分に理解した上で商用利用のためにGPT-4を公開しました」と訴状は主張しています。 また、 AIの幻覚、または欺瞞の一形態として、存在しない事実を自信を持って作り上げる生成モデルの現象。 「ChatGPT は、欺瞞的なコマーシャル ステートメントと広告を助長します」と警告し、FTC の権限に入る可能性があります。

訴状の中で、CAIDP は FTC に対し、今後の GPT モデルの商用展開を停止し、将来のロールアウトの前にモデルの独立した評価を要求するよう求めています。 また、消費者が詐欺の苦情を申し立てることができるツールに似た、公的にアクセス可能なレポート ツールも求めています。 また、連邦取引委員会のジェネレーティブ AI システムに関するルールについて、確固たるルール作りを求めており、現在進行中だが比較的非公式な AI ツールの調査と評価に基づいています。

CAIDP が指摘したように、FTC は AI ツールの規制に関心を示しています。 近年、偏ったAIシステムが法執行措置を講じる可能性があると警告されており、今週の司法省との共同イベントで、FTC議長のリナ・カーンは、司法省は既存の大手テクノロジー企業が競争を締め出そうとしている兆候を探していると述べた. しかし、ジェネレーティブ AI の軍拡競争における主要なプレーヤーの 1 つである OpenAI の調査は、その取り組みが大幅にエスカレートすることを示しています。