先週、 共和党全国委員会が 動画広告 フレームの左上に小さな免責事項が表示されたバイデンに対して、「完全にAI画像で構築されました」。 批評家は質問した 特にこの広告は、政治攻撃広告における AI の最初の実質的な使用を示しているためです。 AI によって生成されたメディアがより主流になるにつれて、テキストベースのラベル、キャプション、および透かしが透明性にとって重要であると多くの人が主張しています。
しかし、これらのラベルは実際に機能するのでしょうか? そうでないかもしれない。
ラベルが機能するには、判読可能である必要があります。 文字は読みやすい大きさですか？ 単語はアクセス可能ですか？ また、メディアがどのように作成され、使用されているかについて、視聴者に意味のあるコンテキストを提供する必要があります。 そして最良の場合、それは意図も明らかにします。なぜこのメディアが世に出されたのか?
ジャーナリズム、ドキュメンタリー メディア、業界、および科学出版物は、必要なコンテキストを視聴者とユーザーに提供するために、開示に長い間依存してきました。 ジャーナリズム映画やドキュメンタリー映画では、一般にオーバーレイ テキストを使用して情報源を引用します。 警告ラベルとタグは、製品、食品、医薬品に広く使用されています。 科学的報告では、データと分析がどのように取得されたかを開示することが不可欠です。 しかし、特にソーシャル メディア プラットフォームでは、合成メディア、AI 生成コンテンツ、およびディープフェイクにラベル付けすることは、望ましくない負担と見なされることがよくあります。 平手打ちの後付けです。 誤報/偽情報の時代における退屈なコンプライアンス。
そのため、透かしやラベルなど、既存の多くの AI メディア開示慣行は簡単に削除できます。 彼らがそこにいるときでさえ、聴衆の目は、今では急速な視覚入力に訓練されているようです. 見えない 透かしと開示。 たとえば、2019 年 9 月、有名なイタリアの風刺テレビ番組 ストリシア・ラ・ノティツィア 投稿した 低忠実度の顔交換ビデオ マッテオ・レンツィ元首相がデスクに座って、当時の連立パートナーであるマッテオ・サルビーニをソーシャルメディアで誇張された手のジェスチャーで侮辱している. にもかかわらず ストリシア 透かしと明確なテキストベースの免責事項により、一部の視聴者はビデオが本物であると信じていました.
これはコンテキスト シフトと呼ばれます。たとえラベルや透かしが入っていたとしても、メディアが政治化された閉鎖的なソーシャル メディア グループに配布されると、作成者はそれがどのように組み立てられ、解釈され、共有されるかを制御できなくなります。 ジョイントで見つけたように 調査研究 Witness と MIT の間で、風刺がディープフェイクと混ざると、この場合のように混乱が生じることがよくあります。 ストリシア ビデオ。 このような単純なテキストベースのラベルは、追加の 誤解 ラベルのないものは操作されていませんが、実際にはそうではない可能性があります。
技術者は、暗号化された来歴や詳細なファイル メタデータなど、合成メディアの起源を迅速かつ正確に追跡する方法に取り組んでいます。 代替のラベル付け方法に関して言えば、アーティストや人権活動家は、ラベル付けを追加ではなく創造的な行為として再構成することにより、この種のコンテンツをより適切に識別するための有望な新しい方法を提供しています.
開示がメディア自体に組み込まれている場合、それを削除することはできません。実際には、メディアがどのように作成され、なぜ作成されたのかを視聴者に理解させるためのツールとして使用できます。 たとえば、David France のドキュメンタリーでは チェチェンへようこそ、脆弱なインタビュー対象者は、発明の助けを借りてデジタル的に偽装されました 合成メディア ツール ディープフェイクの作成に使用されるもののように。 さらに、彼らの顔の周りに微妙な後光が現れました。これは、視聴者が見ている画像が操作されたこと、およびこれらの被験者がストーリーを共有する際に大きなリスクを冒していたことの手がかりです。 そして、ケンドリック・ラマーの 2022 年のミュージック ビデオでは、「ハートパート5」、ディレクターはディープフェイク技術を使用して、ラマーの顔をウィル・スミス、OJシンプソン、コービー・ブライアントなどの故人と生きている有名人の両方に変えました. このテクノロジーの使用は、ラマーが手を使って顔をスワイプするときのように、曲の歌詞と振り付けに直接書き込まれており、明らかにディープフェイク編集を示しています。 結果として得られるビデオは、ディープフェイク自体に関するメタ コメンタリーです。