ハイテク大手はホワイトハウスと「自発的な約束」を結んだ。 人工知能に伴うリスクの軽減に役立ちます。
ジョー・バイデン米大統領は金曜日、マイクロソフト、メタ、グーグル、オープンAI、アマゾン、アンスロピック、インフレクションと会談し、AI技術の開発において「安全性、セキュリティ、信頼」を重視することで合意した。 これらの各カテゴリの詳細を次に示します。
- 安全性：両社は、「AIシステムの安全性と機能をテストし、外部テストを受け、潜在的な生物学的、サイバーセキュリティ、社会的リスクを評価し、それらの評価結果を公開する」ことに同意した。
- セキュリティ：両社はまた、自社のAI製品を「サイバーおよび内部関係者の脅威から」保護し、「悪用を防ぎ、社会へのリスクを軽減し、国家安全保障を守るためのベストプラクティスと基準」を共有すると述べた。
- 信頼: 確保された最大の合意の 1 つは、これらの企業が、画像がオリジナルなのか、変更されたのか、AI によって生成されたのかを人々が簡単に見分けられるようにすることでした。 また、AIが差別や偏見を助長しないこと、子どもたちを危害から守ること、AIを利用して気候変動やがんなどの課題を解決することも保証する。
2022 年後半に OpenAI の ChatGPT が登場したことは、大手テクノロジー企業が生成型 AI ツールを一般向けにリリースするラッシュの始まりでした。 OpenAIのGPT-4は3月中旬に発売された。 これは、ChatGPT AI チャットボットを強化する大規模な言語モデルの最新バージョンであり、特に司法試験に合格できるほど高度です。 ただし、チャットボットは吐き出しやすい 不正解 そして時折 存在しないソース。 これらのツールの導入が爆発的に増加するにつれて、誤った情報の拡散や偏見と不平等の深刻化など、その潜在的な問題が改めて注目を集めています。
AI企業が何を言っているのか、何をしているのか
メタ氏はホワイトハウスの合意を歓迎すると述べた。 今週初め、同社は AI 大規模言語モデルの第 2 世代である Llama 2 を発表し、無料かつオープンソース化しました。
「新しいAIモデルを開発する際、ハイテク企業は自社のシステムがどのように機能するかについて透明性を保ち、産業界、政府、学界、市民社会全体で緊密に連携する必要がある」とメタ社のグローバル担当社長ニック・クレッグ氏は述べた。
ホワイトハウスの合意は「AIの約束がそのリスクを確実に先取りするための基盤を築く」だろう。 Microsoft副会長兼社長のブラッド・スミス氏はこう語った。 ブログ投稿で。
Microsoft は Meta の Llama 2 のパートナーです。また、今年初めに ChatGPT を利用した AI を活用した Bing 検索を開始し、Microsoft 365 とその Edge ブラウザーにますます多くの AI ツールを導入しています。
の ホワイトハウスとの合意は OpenAI の一部です 「AI ガバナンスを推進するために、世界中の政府、市民社会組織、その他の団体と継続的に協力していきます」と OpenAI のグローバル アフェアーズ担当バイスプレジデント、アンナ・マカンジュ氏は述べています。 「世界中の政策立案者が、高度な能力を備えたAIシステムのための新しい法律を検討している。今日の公約は、進行中の議論に具体的かつ具体的な実践をもたらすものである。」
アマゾンがサポートしてるよ Amazonの広報担当者ティム・ドイル氏は電子メールの声明でCNETに対し、「AIツールとサービスの世界有数の開発者および展開者の1つとして」自主的な取り組みについて述べた。 「私たちは顧客に代わってイノベーションを推進すると同時に、消費者と顧客を保護するために必要な安全策を確立し、導入することに専念しています。」
Amazon は、ポッドキャストや音楽、アマゾン ウェブ サービスで AI の活用に力を入れています。
アンスロピックは電子メールによる声明で、すべてのAI企業は「AIの安全性を求める競争に参加する必要がある」と述べた。 同社は、「サイバーセキュリティ、レッドチーム、責任ある規模拡大」に関する計画を今後数週間以内に発表すると述べた。
Inflection AIの共同創設者兼最高経営責任者（CEO）のムスタファ・スレイマン氏は、「今後は膨大な量の安全対策が待っている。これまでのところ、AIの安全性はアイデアや会議の場で立ち往生している」と述べた。 ブログ投稿 金曜日。 「誇大宣伝やパニックに対して、目に見える進歩の量は不十分です。インフレクションでは、これを憂慮し、イライラさせます。だからこそ、安全が私たちの使命の中心です。」
ほかに何か？
「今日は、AI がすべての人を確実に助けるために業界を団結させるマイルストーンだ」と Google のグローバル アフェアーズ担当社長のケント ウォーカー氏は述べた。 ブログ投稿 金曜日以降。 「これらの取り組みは、AIの利点を最大化し、そのリスクを最小限に抑えるためのG7、OECD、各国政府の取り組みを支援することになる。」
3月にBardと呼ばれるチャットボットを発表したGoogleは以前、AIコンテンツに透かしを入れると発表していた。 同社のAIモデル「Gemini」は、AIによって生成されたテキスト、画像、映像を識別する。 コンテンツに統合されたメタデータをチェックして、何が変更されていないのか、何が AI によって作成されたのかを把握します。
画像ソフトウェア会社のAdobeも同様に、自社のFirefly AIツールからAIが生成した画像に、AIシステムによって作成されたことを示すメタデータを確実にタグ付けしている。
イーロン・マスク氏の新興AI企業xAIは金曜日の議論には参加しなかったし、アップルも独自のチャットボットや大規模な言語モデルのフレームワークを開発したとの報道の中で欠席したようだ。
読むことができます 企業とホワイトハウスの間の完全な自主協定はこちら。 これは、マスク氏を含むテクノロジー関係者1000人以上が3月、高性能化するAIエンジンが社会にもたらす「深刻なリスク」を理由に、研究所に対しAI開発を少なくとも6カ月休止するよう求める公開書簡に署名したことに続くものである。 6月には、OpenAIのCEOであるサム・アルトマン氏とディープマインドのCEOであるデミス・ハサビス氏も、他の科学者や著名人とともに、AIのリスクについて警告する声明に署名した。 そしてマイクロソフトは5月に、潜在的なリスクや悪者に先んじてAI規制が必要であるとする40ページの報告書を発表した。
バイデン・ハリス政権も大統領令を策定し、AIから「アメリカ国民を守る」ための超党派の法案を求めている。 米国管理予算局はさらに、AI システムを調達または使用している連邦政府機関向けのガイドラインをリリースする予定です。
以下も参照してください。 ChatGPT 対 Bing 対 Google Bard: どの AI が最も役立つでしょうか?
編集者注: CNET は、一部のストーリーの作成に AI エンジンを使用しています。 詳細については、を参照してください。 この郵便受け。