2人の米国上院議員が、ChatGPTやMidjourneyなどのツールの背後にある技術である生成人工知能を顕微鏡下に置いて、そのリスクを調査することを要求する著名な人物の長いリストに加わった。
マサチューセッツ州のエドワード・マーキー上院議員とミシガン州のゲーリー・ピーターズ上院議員は、木曜日に米国政府会計検査院長官に宛てた書簡の中で、生成人工知能には「広範な深刻な害悪が伴う」として、詳細な技術評価を当局に実施するよう求めた。 」
「生成 AI には多くの利点が期待されていますが、すでに重大な害を引き起こしています。」 手紙 と言う。 「AIの進歩から最大限の利益を引き出すには、そのコストを注意深く研究し、理解する必要があります。」 マーキー氏とピーターズ氏は、「議会は党派を超えた技術的専門知識を緊急に求めており、GAOはそれを提供できる立場にある」と付け加えた。
上院議員たちは、操作的な音声、テキスト、画像の合成などの生成型 AI によるリスクを挙げています。 同意なしに人々（特に女性）を撮影したポルノ画像やビデオを含む「ディープフェイク」。 有害で不正確な情報を顧客に提供する AI チャットボットを導入する企業。
上院議員らは、生成AIの技術進歩はすでに芸術から科学に至る産業にプラスの役割を果たしているが、この技術は無責任に使用すると深刻な影響をもたらす「諸刃の剣」だとしている。
企業は何年も前から AI システムを使用してきましたが、OpenAI の ChatGPT チャットボットや画像生成ツールの Midjourney や Dall-E などの生成 AI 製品に対する懸念は、昨年末のリリース後に ChatGPT の人気が急速に高まって以来、高まっています。
続きを読む： 銀行の顧客は AI チャットボットに満足していません。 その理由は次のとおりです
テクノロジー企業の幹部、業界の専門家、さらにはこれらの AI テクノロジーの背後にある CEO さえも、業界や政府の規制や監視がない場合の生成 AI モデルの潜在的な悪影響について率直に述べています。
AI分野の業界リーダーであるマイクロソフトは5月に40ページの報告書を発表し、悪意のある行為や悪用に先んじるためにはAI規制が必要であると述べた。
3月、テスラの最高経営責任者（CEO）イーロン・マスク氏と他の業界リーダーは、人類に対する「深刻なリスク」を理由に、ChatGPTチャットボットの背後にある大規模言語モデルの最新バージョンであるChatGPT 4よりも高度なAIモデルの使用を一時停止するよう求めた。
そして今月初め、OpenAI CEOのサム・アルトマン氏とDeepMind CEOのデミス・ハサビス氏は、他の科学者や著名人とともに、高度なAIシステムに関する声明に署名し、「AIによる絶滅のリスクを軽減することは、他の社会規模のリスクと並んで世界的な優先事項であるべきである」と述べた。パンデミックや核戦争など。」
マーキー氏とピーターズ氏は木曜日の書簡の中で、政府会計検査院が生成型 AI のリスクを評価するために使用できる質問のリストを含めている。 これには、セキュリティ対策、商業的圧力、労働者への影響に関する質問が含まれます。
これを見て： ChatGPT 作成者が AI の安全性と規制について議会で証言
編集者注: CNET は、一部のストーリーの作成に AI エンジンを使用しています。 詳細については、この投稿を参照してください。