RSAでは 今週サンフランシスコで開催されたセキュリティ カンファレンスでは、不可避の雰囲気が漂っています。 広大なモスコーニ コンベンション センター全体の講演やパネル、ショー フロアのすべてのベンダー ブース、ホールでの何気ない会話の中で、誰かがジェネレーティブ AI と、それがデジタル セキュリティや悪意のあるハッキングに与える潜在的な影響を持ち出しようとしていることがわかります。 . NSA のサイバーセキュリティ ディレクターであるロブ ジョイスもそれを感じています。
「AI とマルウェアの話をせずに RSA を歩き回ることはできません」と彼は水曜日の午後、現在毎年恒例の「State of the Hack」プレゼンテーションで述べました。 「私たちは皆、爆発を見たことがあると思います。 まだ提供されているとは言えませんが、これは本当に革新的なテクノロジーです。」
ここ数か月で、OpenAI の ChatGPT のような大規模な言語モデルを搭載したチャットボットにより、長年にわたる機械学習の開発と研究がより具体的になり、世界中の人々がアクセスしやすくなりました。 しかし、これらの新しいツールが悪意のある人物によってどのように操作および悪用され、マルウェアを開発および拡散し、誤った情報や本物ではないコンテンツの作成を助長し、ハッキングを自動化する攻撃者の能力を拡大するかについては、実際的な疑問があります。 同時に、セキュリティ コミュニティは、ジェネレーティブ AI を利用してシステムを防御し、防御力を獲得することに熱心です。 ただし、この初期の段階では、次に何が起こるかを正確に分析することは困難です。
ジョイス氏は、国家安全保障局は、生成型 AI がフィッシングなどのすでに効果的な詐欺を助長することを期待していると述べました。 このような攻撃は、説得力のある説得力のあるコンテンツに依存しており、被害者をだまして無意識のうちに攻撃者を支援させます。そのため、ジェネレーティブ AI は、カスタマイズされたコミュニケーションと資料を迅速に作成するための明白な用途を持っています。
「英語を上手に話せないロシア出身のハッカーが、従業員にくだらないメールを作成することはもうありません」とジョイス氏は言います。 「母国語の英語になるだろうし、意味をなすだろうし、スニフテストに合格するだろう…だから今日ここにいるのだ。そして私たちは、国家と犯罪者の両方の敵が、彼らに英語の機会を与えるChatGPTタイプの世代。
一方、AI チャットボットは完全に武器化された新しいマルウェアをゼロから開発することはできないかもしれませんが、攻撃者はプラットフォームが持つコーディング スキルを利用して、大きな影響を与える可能性のある小さな変更を加えることができるとジョイス氏は述べています。 ジェネレーティブ AI を使用して既存のマルウェアを修正し、ウイルス対策ソフトウェアなどのスキャン ツールが新しい反復を認識してフラグを立てないように、その特性と動作を十分に変更するという考えです。
「コードを書き直し、署名とその属性を変更する方法でコードを作成するのに役立ちます」とジョイスは言いました。 “それか [is] 近い将来、私たちにとって挑戦的なものになるでしょう。」
弁護の面では、Joyce はジェネレーティブ AI がビッグデータの分析と自動化を支援する可能性に期待を寄せているように見えました。 彼は、このテクノロジーが「防御の促進剤」として「真の可能性を示している」3 つの領域を挙げました。それは、デジタル ログのスキャン、脆弱性悪用のパターンの発見、および組織がセキュリティ問題に優先順位を付けるのを支援することです。 ただし、防御者やコミュニティが日常生活でこれらのツールに広く依存するようになる前に、まず、生成 AI システムを操作および悪用する方法を研究する必要があると彼は警告しました。
Joyce 氏は主に、AI とセキュリティの現在の状況が不透明で予測不可能であることを強調し、セキュリティ コミュニティに対して、今後起こりそうな事態に備えるよう警告しました。
「私は、AI によって生成された、あらゆるものを活用する魔法のような技術的能力を期待していません」と彼は言いました。 しかし、「来年、同様の年を振り返ると、兵器化された場所、使用された場所、成功した場所の例がたくさんあると思います。」