欧州連合は、ディープフェイクやその他の AI によって生成されたコンテンツにラベルを付けるために、オンライン偽情報に関する実践規範の署名者に頼っています。
EUの価値観・透明性委員ベラ・ジュロバ氏は昨日、規範署名者40カ国以上との会合後の発言で、偽情報と闘うために署名した国々はAIコンテンツを認識し、ユーザーに明確にラベルを付ける技術を導入すべきだと述べた。
「新しい AI テクノロジーは善のための力となり、効率の向上と創造的な表現のための新たな道を提供します。 しかし、いつものように、私たちはこの問題の暗い側面について言及しなければならず、それらは新たなリスクや社会に悪影響を与える可能性ももたらします」と彼女は警告した。 「偽情報の作成と拡散に関しても同様です。
「ChatGPT のような高度なチャットボットは、複雑で一見十分に裏付けのあるコンテンツやビジュアルを数秒で作成できます。 画像ジェネレーターを使用すると、決して起こらなかった出来事の本物に見える写真を作成できます。 音声生成ソフトウェアは、数秒のサンプルに基づいて人の声を模倣できます。 新しいテクノロジーは、偽情報との戦いにおいても新たな課題を引き起こします。 そこで今日私は署名者に対し、コード内に議論するための専用の別個のトラックを作成するよう依頼しました。」
EUが昨年夏に強化した現行版のコードは、この自主的手段が（法的拘束力のある）デジタルサービス法（DSA）の遵守にカウントされる緩和措置となることを意図していることも確認した際に、現時点では義務を負っていない。ディープフェイクの識別とラベル付けまで。 しかし委員会はそれを変えたいと考えている。
EU委員は、AI生成コンテンツに対する緩和策を規範に盛り込む方法については、主に2つの議論の角度があると考えていると述べた。1つは、MicrosoftのNew BingやGoogleのBard AI拡張検索サービスなど、生成AIを統合するサービスに焦点を当てることだ。 「悪意のある行為者がこれらのサービスを利用して偽情報を生成できないようにする必要な保護手段」を組み込むことに取り組むべきである。
2つ目は、AIが生成した偽情報を広める可能性のあるサービスを提供する署名者に対し、「そのようなコンテンツを認識し、ユーザーに明確にラベルを付ける技術」を導入することを義務付けるものだ。
ジュロバ氏は、グーグルのサンダー・ピチャイ氏と話し、グーグルはAIが生成したテキストコンテンツを検出できる技術を持っているが、その能力を向上させるためにその技術の開発を続けていると言われたと述べた。
報道陣の質疑応答でのさらなる発言の中で、同委員は、EUはディープフェイクやその他のAI生成コンテンツのラベルが明確かつ高速であることを望んでいると述べた。そのため、通常のユーザーは、表示されているコンテンツの一部が不正な内容であることをすぐに理解できるだろう。人間ではなく機械によって作られました。
同氏はまた、委員会はプラットフォームが「直ちに」ラベル表示を実施することを望んでいるとも述べた。
DSAには、非常に大規模なオンラインプラットフォーム（VLOP）に対して、操作された音声や画像にラベルを付けることを義務付ける規定がいくつか含まれているが、ジュロバ氏は、偽情報規範にラベルを追加するという考えは、DSAに基づくVLOPの遵守期限である8月25日よりも早く実現する可能性があると述べた。 。
「私たちは言論の自由を守ることが主要な任務であると何度も言いました。 しかし、AI の制作に関しては、機械が言論の自由を持つ権利はないと思います。 したがって、これは私たちの法律の古き良き柱にも戻りつつあります。 だからこそ、私たちはこの非常に基本的な考え方に基づいて、行動規範の下でもさらに取り組んでいきたいと考えています」と彼女は付け加えた。
欧州委員会は来月、AIが生成する偽情報リスクの報告に関する措置を講じることも期待している。ジュロバ氏は、関連する署名国は7月の報告書を利用して「生成型AIの悪用による拡散を避けるために講じている安全策について国民に知らせるべきだ」と述べた。偽情報」。
この偽情報規範には現在、合計44社が署名しており、その中にはグーグル、フェイスブック、マイクロソフトなどの大手テクノロジー企業に加え、小規模なアドテク事業体や市民社会組織も含まれているが、これは2022年6月時点で署名した34社よりも増えている。
しかし、Twitterは先月末、自主的なEU規範から離脱するという異例の措置を講じた。
ユロワ氏が昨日の会合で残りの署名国に提起し、さらなる行動を取るよう促した他の大きな問題には、ロシアの戦争プロパガンダと親クレムリンの偽情報が含まれていたと指摘した。 「一貫した」モデレーションと事実確認の必要性。 選挙の安全に関する取り組み。 研究者はデータにアクセスできます。
「依然としてプラットフォーム上で流通している危険な偽情報コンテンツが多すぎるが、キャパシティが少なすぎる」と同氏は警告し、事実確認の取り組みがEU内で話されているすべての言語を対象としたコンテンツ全体に包括的に適用されていないという欧州委員会の長年の不満を強調した。小国を含む加盟国。
「特に中欧諸国と東欧諸国は、特にロシアの偽情報源からの永続的な攻撃にさらされている」と彼女は付け加えた。 “するべきことがたくさんあります。 これは能力の問題であり、私たちの知識の問題であり、言語の理解の問題です。 また、一部の加盟国に偽情報の大部分を吸収するための餌場や土壌が用意されている理由も理解できます。」
研究者へのアクセスはまだ不十分だと彼女は強調し、プラットフォームへの取り組みを強化するよう促した。
ジュロバ氏はまた、イーロン・マスク氏が選んだ道についていくつかの警告の言葉を付け加えた。Twitter社がDSAの下で指定されたVLOPとしてEUの執行対象に置かれていることを示唆している。
DSAは、偽情報などの社会的リスクを評価し、軽減することをVLOPに法的要件を課しているため、TwitterはEUの規範をひっくり返して非難と制裁を招いている（DSAに基づく罰金は世界の年間売上高の6％まで拡大される可能性がある）。
「今年8月から、DSAの執行者の役割を果たすことになる私たちの組織は、Twitterが準拠しているかどうか、リスクを軽減し、特に違法なコンテンツに対して措置を講じるために必要な措置を講じているかどうかを調査することになります。 」と彼女はさらに警告した。
「欧州連合は、カリフォルニア州の法律を輸入してもらいたい場所ではない」と彼女は付け加えた。 「私たちは何度も言いましたが、だからこそ私もまた戻ってきて、私たちに協力してくれた…Twitterで働いていた元人々の協力に感謝したいのです」 [for] ヘイトスピーチに対する行動規範と実践規範についてはすでに数年が経過しています [on disinformation] 同じように。 申し訳ございません。 Twitter には、Twitter のようなプラットフォームのサイトにはある程度の責任があり、さらに大きな責任があるに違いないと理解する、非常に知識が豊富で断固とした人々がいたと思います。」
Twitterのコミュニティノートのアプローチ（議論のあるツイートに文脈の合意を追加するために十分な数の人々が参加した場合、ファクトチェックをTwitterユーザーにクラウドソーシング（つまり本質的に外注）する）は、それ自体で偽情報に対処するための法的要件を遵守するのに十分であるかどうかとの質問DSA に対し、ジュロワ氏は、遵守しているかどうかを評価するのは委員会の執行官次第であると述べた。
しかし、同氏はTwitterの規範からの離脱は間違った方向への重大な一歩であると指摘し、「行動規範は有害なコンテンツに対する非常に真剣で信頼できる緩和策として認められることになるだろう」と付け加えた。