文字通り誰も驚くべきことではありませんが、有料青色小切手と生成 AI の組み合わせにより、誤った情報が非常に簡単に拡散されてしまいます。 月曜日の朝、実際には爆発が起きなかったにもかかわらず、AIが生成したと思われる国防総省の爆発の画像がインターネット上で拡散した。
約30分以内に、この画像は「ブルームバーグ・フィード」と呼ばれる認証済みTwitterアカウントに表示されたが、特に青い小切手が付いていたため、本物のブルームバーグ関連アカウントと非常に簡単に間違われる可能性があった。 その後、そのアカウントは停止されました。 ロシア国営ニュースネットワーク RT ツイートが削除される前にユーザーが撮影したスクリーンショットによると、彼らも画像を共有したという。 数十万人のフォロワーを持ついくつかの Twitter アカウント: デイタワン、 OSINTディフェンダー と ホエールチャート それを共有しました。 たとえ インドのテレビネットワーク 偽の国防総省爆発事件を報じた。 この偽画像とニュース記事がどこから来たのかはすぐには明らかではありません。
偽の画像がインターネットを騙すことに成功したのはこれが初めてではないが、偽の出来事がバレンシアガのコートを着たローマ法王よりも米国政府ビルの爆発だった場合のリスクはより高くなる。 この偽の画像がS&P 500指数の25ベーシスポイントの変動に関連付けられている可能性があると報告する人もいるが、下落は長くは続かず、それが完全にこのデマの結果であることを証明する方法はない。 この事件は、将来、株式市場を攻略するために生成 AI をどのように使用できるかという疑問を投げかけています。結局のところ、Reddit がそれを実行したのです。
誤った情報はインターネットと同じくらい古い問題ですが、生成型 AI の成長と Twitter の検証システムの変化が同時に起こっているため、特に肥沃な土壌が生まれています。 既存の青色小切手のステータスを剥奪し、誰でもシンボルの代金を支払えるようにするというTwitterオーナーのイーロン・マスク氏の計画は、当初から大失敗だった。 青いチェックはもう正当性を示さないとわかっていても、15 年近く培ってきた視覚的な習慣を断ち切るのは難しいです。青いチェックが国防総省への攻撃について投稿している「ブルームバーグ フィード」というアカウントを見つけた場合。 、おそらくそれが本物だと思う傾向があります。 フェイク画像を見分けるのがますます難しくなっているため、今後もこのような誤ったニュース報道が見られるだけになるだろう。