生成人工知能の中で ここ数か月の狂気のように、セキュリティ研究者は、AI によって生成された音声、または音声のディープフェイクが十分に説得力があり、簡単に作成できるようになったため、詐欺師がそれらを大量に使用し始めるという懸念を再検討しています.
近年、サイバー犯罪者による注目を集める事件がいくつかあります。 使用されたと伝えられている 声のディープフェイク 企業のCEOの ドキュメンタリストがアンソニー・ボーデインの声のディープフェイクを死後に作成したことは言うまでもありません。 しかし、特定のスパム通話に兄弟のクローンの声が含まれる可能性があるターニングポイントに犯罪者はいますか? 必死に「保釈金？」 いいえ、研究者は言います—少なくともまだです。
説得力のある堅牢な音声ディープフェイクを作成する技術は強力であり、制御された設定や状況でますます普及しています。 人の声の広範な録音 ご利用いただけます。 2 月末、マザーボードのレポーター、ジョセフ・コックス 発表された調査結果 彼は自分自身の会話を 5 分間録音した後、一般に公開されているジェネレーティブ AI サービスである ElevenLabs を使用して、銀行の音声認証システムを破る音声ディープフェイクを作成しました。 しかし、テキスト生成チャットボットの制限を含む、他のメディアにおけるジェネレーティブ AI の欠点と同様に、音声ディープフェイク サービスは依然として一貫して完璧な結果を生み出すことはできません。
「攻撃シナリオによっては、リアルタイム機能と盗まれた音声サンプルの品質を考慮する必要があります」と、ドイツの CISPA Helmholtz Center for Information Security のセキュリティおよび敵対的機械学習研究者である Lea Schönherr は述べています。 「盗んだ声はほんの数秒で済むとよく言われますが、オーディオ ディープフェイクの結果には、品質と長さが大きな影響を与えます。」
デジタル詐欺やフィッシングなどのソーシャル エンジニアリング攻撃は、脅威が増え続けているように見えますが、研究者は、攻撃者が被害者を呼び出し、標的が知っている人物になりすまそうとする詐欺は何十年も前から存在していると指摘しています。AI は必要ありません。 そして、その寿命が長いということは、これらの喧噪が、人々をだまして攻撃者に送金させるのに少なくともある程度効果的であることを意味します。
「これらの詐欺は永遠に存在しています。 ほとんどの場合、それはうまくいきませんが、何らかの理由で、彼らの言うことを信じる準備ができている犠牲者を得ることがあります」と、ソーシャルエンジニアリングの長年の研究者であり、FBI の元デジタル行動アナリストである Crane Hassold は言います。 「多くの場合、これらの被害者は、話している相手がなりすましの人物であると断言しますが、実際には、脳がギャップを埋めているだけです。」
Hassold によると、彼の祖母は 2000 年代半ばになりすまし詐欺の被害者であり、攻撃者が彼になりすまして電話をかけ、1,500 ドルを送金するよう説得したという。
「私の祖母の場合、詐欺師は最初に誰から電話がかかってきたかは言いませんでした。カナダで開催された音楽祭に出席中に逮捕され、保釈金を送金する必要があったことを話し始めたのです。 彼女の反応は「クレーン、あなたですか?」でした。 そして、彼らは必要なものを正確に手に入れました」と彼は言います。 「詐欺師は本質的に、被害者が信じてほしいことを信じるように仕向けています。」
多くのソーシャル エンジニアリング詐欺と同様に、音声偽装の短所は、ターゲットが切迫感に巻き込まれ、誰かを助けようとしている、または自分の責任であると信じているタスクを完了しようとしている場合に最も効果的です。
「私が車で通勤しているときに、祖母がボイスメールを残してくれました。『あなたが無事でありますように。 心配しないで、私はお金を送りました、そして私は誰にも言いません.
サイバーセキュリティ企業 Set Solutions の研究開発担当ディレクターである Justin Hutchens 氏は、ディープフェイク音声詐欺が懸念の高まりを見せていると述べていますが、AI を利用した詐欺がさらに自動化される未来についても心配しています。
「近い将来、ディープフェイク音声技術と大規模な言語モデルがサポートする会話型インタラクションを組み合わせた脅威アクターが出現し始めると予想しています」と、Open AI の ChatGPT のようなプラットフォームについて Hutchens 氏は述べています。
しかし今のところ、Hassold 氏は、声のなりすまし詐欺がディープフェイクによって引き起こされていると仮定するのは早計であることに注意を払っています。 結局のところ、詐欺のアナログ バージョンはいまだに存在しており、適切なタイミングで適切なターゲットを引き付けています。