オンライン詐欺を見分けることは、以前よりもはるかに困難になっています。 ナイジェリアの王子、ひどい書き方の電子メール、そして明らかに偽の Web アドレスの時代は終わりました。
サイバー犯罪者はかつてないほど巧妙になっています。 彼らは、大手小売店からの発送通知、本当の友人からの金銭的援助の懇願、または期限を過ぎた請求書の支払いを求める上司からのメモにそっくりな電子メールやテキストを作成しています。
詐欺が成功すると巨額の利益が得られる可能性があるからだ。 連邦取引委員会によるとアメリカの消費者は2022年に詐欺により88億ドルを失ったと報告されています。
専門家らは、ChatGPTのような人工知能ツールの台頭により、詐欺師にとっては作業が簡単になるだけで、高度にカスタマイズされ、よく書かれた大量のメッセージを作成するために利用できると述べている。 さらに、この技術は、音声またはビデオの形式で人物を模倣し、その人物が実際に行っていないことを言ったり行ったりしたかのように見せる、いわゆるディープフェイクの作成に使用される可能性があります。
あるサイバーセキュリティ企業の関係者らは、急速に増大する問題の解決策もAIにあるかもしれないと述べている。 ノートン消費者向けウイルス対策ソフトウェアの長年のメーカーである Norton Genie は、一般の人々が詐欺を発見し、騙されないように支援する新しい無料のアプリおよびデスクトップベースのツールです。
Genieは、火曜日にAppleのアプリストアと ノートンの Web サイトは、AI を使用して電子メール、テキスト メッセージ、Web サイト、ソーシャル メディア投稿のテキスト、アドレス、含まれるリンク、その他のコンポーネントを迅速に分析し、詐欺である可能性がある危険信号を探します。
ノートンの親会社であるジェンの最高技術責任者であるミハル・ペチョーセク氏は、近年、攻撃者はネットワークやデバイスを攻撃することから、詐欺、フィッシング、ソーシャルエンジニアリング攻撃でそれらを使用する人々を狙うようになっていると述べた。
「そして、AI全体で我々が見てきたのは、AIがこうした攻撃の検出をより困難にし、ユーザーにとってより危険なものにしているということだ」とペチューチェク氏はインタビューで語った。
その結果、現在の脅威だけでなく将来出現する脅威から消費者を守るためには、AIでAIと戦う必要があると述べた。
この場合、AI が行うことは、電子メールやテキストの内容と、ノートンの消費者向けウイルス対策ソフトウェアやその他のサイバーセキュリティ業務によって収集された数百万のサンプルとを比較的迅速に比較する方法をユーザーに提供することです。 AI は、検出した内容に基づいて、電子メールまたはテキストが詐欺である可能性が高い、または疑わしい可能性があると判断する可能性があります。 また、次に何をすべきかについてユーザーにアドバイスを提供し、電子メールまたはテキストが悪意のあるものである可能性があると判断する理由についての洞察も提供します。
同じようなことを行う消費者向けサービスは他にもあるが、それらはリアルタイムでは機能せず、手作業で調査を行い、消費者に24時間以内に回答を与えるとGen社の主任プロダクトマネージャー、サヒル・プルティ氏は述べた。 しかし、その時点までに、潜在的に危険なリンクをクリックするか、それとも疑わしい電子メールに返信するかについて、ユーザーはすでにほぼ決定を下している、と同氏は言う。
「詐欺に遭っていると思ったら、友人や兄弟に電話する必要はない。すぐに答えが得られるはずだ」とプルーティ氏は語った。
Genie はまだ電光石火の速さではないかもしれませんが、詐欺の発見に関してはほぼ正確に機能します。 発売前の数日間、アプリ版 Genie を試す機会がありました。 多くのプレリリース アプリやソフトウェアと同様に、少し遅くてバグがありますが、おおむね正常に動作しています。
特定のテキストまたは電子メールが詐欺かどうかを確認するには、テキストを切り取って貼り付けるか、スクリーンショットを Genie アプリにドロップします。 これらは、詐欺であることが判明したテキストと、Genie が安全であると正しくフラグを立てた電子メールの例です。
私の個人の電話に送られた、「デビットカードがロックされた」という内容のテキストメッセージは、前払い詐欺としてフラグが立てられました。前払い詐欺とは、サイバー犯罪者が人々をだまして、偽の製品やサービスの前払い金を送金させようとするものです。 社会保障局を装った詐欺師からのメールのコピー＆ペーストされたテキストも、トップのウイルス対策プロバイダーを装った誰かからのメールのスクリーンショットと同様に、この種の詐欺としてフラグが立てられました。
逆に、Amazon と Starbucks から私に送信された電子メール広告のスクリーンショットは、パスワードが変更されたばかりであることを知らせる Google から受信したテキスト メッセージの写真と同様に、正規のものとして正しくフラグが付けられました。
主な問題は、以前のケーブルプロバイダーからの請求明細のような電子メールに関係していました。 電子メール本文のテキストをコピーして貼り付けたところ、Genie は「不審な点は何もありませんでした」と言いました。 しかし、送信者の電子メールアドレス（明らかにケーブル会社の公式アドレスではない）が含まれる電子メールの冒頭のスクリーンショットを送ったところ、本文に基づいてアドバイスすることはできないが、「疑わしいようだ」とだけ言われた。
他の偽の請求明細書や配送通知のスクリーンショットでも、「疑わしいようです」または「よくわかりません」という決定的ではない応答が生成されました。
プルーティ氏は、ジーニーが少なくともまだ完璧ではないことを認めましたが、完璧さは作成者が目指し続けているものです。 さらに、AI は、ユーザーが送信した詐欺サンプルから「学習」することで、より知識と正確性を高め続けます。
「我々はゆっくりとそこに到達している」と彼は言い、ジーニーは現在80歳くらいで正しく理解していると付け加えた。[%] 90％の確率で。 「そして私たちは100％に達するために継続的にトレーニングを続けています。」