モニターは a 週刊コラム 映画からミーム、テレビ、Twitter まで、WIRED の文化の世界で起こっていることすべてに専念しています。
未来の世代は、雰囲気の変化を認めるでしょう。 それは先週末、ソーシャルメディアのフィードが突然、教皇フランシスの画像でいっぱいになったときに起こりました。通常は敬虔で素朴な男で、なめらかな白いフグコートを着たボスのように見えます。 それはすぐにミーム、悪いニュースの海のLOLでした. それも現実ではありませんでした。 誰かが人工知能ツール Midjourney を使用して画像を作成しました。 しかし、それは多くの人々をだましました—ニュースアウトレットが始まったほど多くの人 それを呼ぶ 「人工知能に起因する大規模な誤報の最初の例の 1 つです。」
その文をタイプするだけで頭から離れなくなります。 赤いマントを着た人を初めて見たときのように 侍女の物語. これがディストピアの前兆というわけではありません。 結局のところ、法王がハエのように見える 1 つのイメージにすぎませんでした。 しかし、それがウクライナでの戦争の戦場であると宣言する画像だったらどうでしょうか? それとも、バイデン大統領が何らかの秘密会議を開いているのでしょうか? AI がその種の誤った情報を生成する可能性は、気が遠くなるようなものです。
もちろん、ヴォロディミール・ゼレンスキーの悲惨なディープフェイクに何十人もの人々を陥らせるには、教皇の間抜けな写真で彼らを誤解させるよりも少し手間がかかります. チャーリー・ウォーゼル役 指摘した の アトランティック 今週、誰もが「さまざまなヒューリスティックを使って真実を突き止めようとしています」。たとえば、逮捕された前大統領のドナルド・トランプの AI 画像が本物であるなどというよりも、教皇フランシスコがパファーを着ていると信じる方が簡単です。 ですから、多くの人がそれらを見て、くすくす笑い、真正性を疑うことなくスクロールし続けた理由を理解するのは難しくありません.
しかし、これは厄介な前例を設定します。 教皇のコートの画像の作成者は、誰かを誤解させようとしているわけではありません。 実際、彼は BuzzFeed Newsに語った 彼はちょうどマッシュルームにつまずいて、面白いイメージを考えようとしていました. しかし、それが誤報キャンペーンの一部だったとしたらどうでしょうか? AI によって生成されたコンテンツの多くは、すでに非常にクリーンであるため、人間の目や耳がその起源を検出するのは困難です。
視聴者は、アンソニー・ボーデインの声がドキュメンタリーで偽造されたことをおそらく知らなかったでしょう ロードランナー モーガン・ネヴィル監督がいなかったら 言った ニューヨーカー. ディープフェイクはすでに使用されている 政治の道具として. 現状では、懐疑論者は、画像が偽物であると疑われる場合、信頼できるニュース ソースに相談できますが、ニュース メディアへの信頼はすでに失われています。 記録的な安値に近づいています. 誰かが何かの画像を生成できるようになり、その画像を暴く可能性のあるソースへの信頼が史上最低になった場合、誰が彼らの嘘をついた目を信じるでしょうか?
AI が生成したフランシスコ法王の画像が口コミで広まった数日後、教皇はローマの病院に運ばれました。 呼吸器感染症の場合. それ以来、彼は改善していますが、その（本当の）ニュースが広まるにつれて、偽のイメージの話の中で少し失われました. 教皇は 2 つの非常に異なる理由で流行していました。
ソーシャル メディアの時代は、Very Online をかなり優れた探偵に変えました。 懐疑論が支配しています。 しかし、陰謀論も同様です。 ポスト真実の時代を超えて、説得力のある画像、テキスト、さらにはビデオさえも何もないところから生成できる時代です。 インターネットの大きな期待の 1 つは、誰もが以前よりもはるかに多くの聴衆に情報をブロードキャストできることでした。 何年もの間、嘘つきは簡単に見つけられるようになりました: 悪い URL、くだらないフォトショップ、タイプミス – これらすべてが悪党を遠ざけました。 AI は彼らのミスを滑らかにすることができます。 私はチキン・リトルではありませんが、落ちてくる空のイメージにまだだまされていないだけかもしれません。