過去を超えて 8 か月間、ChatGPT の生成能力は何百万人もの人々に感動を与えてきました。 リアルな見た目のテキスト、ストーリーからコードまであらゆるものを書きます。 しかし、OpenAI が開発したチャットボットは、できることがまだ比較的限られています。
大規模言語モデル (LLM) は、ユーザーからの「プロンプト」を受け取り、それを使用して表面上関連するテキストを生成します。 これらの応答は、2021 年 9 月にインターネットから収集されたデータの一部から作成されており、ウェブから新しいデータを取得するものではありません。 プラグインを導入すると、機能が追加されますが、OpenAI モデルの更新バージョンである GPT-4 へのアクセスに料金を支払った人のみが利用できます。
OpenAI が 3 月に ChatGPT 用のプラグインを発表して以来、開発者はチャットボットがさらに多くのことを実行できるようにするプラグインの作成と公開を競ってきました。 既存のプラグインを使用すると、フライトを検索して旅行を計画でき、ChatGPT が Web サイト、ドキュメント、ビデオ上のテキストにアクセスして分析できるようになります。 他のプラグインはよりニッチなもので、テスラのオーナーズマニュアルとチャットしたり、英国の政治演説を検索したりする機能を約束しています。 現在、ChatGPT のプラグイン ストアには 100 ページを超えるプラグインがリストされています。
しかし、こうした拡張機能が急増する中、セキュリティ研究者らは、プラグインの動作方法にいくつかの問題があり、人々のデータを危険にさらしたり、悪意のあるハッカーによって悪用される可能性があると述べている。
Electronic Arts のレッド チーム ディレクターでセキュリティ研究者である Johann Rehberger は、暇なときに ChatGPT のプラグインの問題を文書化しています。 研究者は、ChatGPT プラグインを使用して窃盗を行う方法を文書化しました。 誰かのチャット履歴、 入手 個人情報を保護し、誰かのマシン上でリモートからコードを実行できるようにする。 彼は主に、オンライン アカウント間でデータを共有できる Web 標準である OAuth を使用するプラグインに焦点を当ててきました。 Rehberger 氏は、問題を提起するために約 6 人のプラグイン開発者と個人的に連絡を取り、OpenAI にも数回連絡を取ったと述べています。
「ChatGPT はプラグインを信頼できません」と Rehberger 氏は言います。 「プラグインから返されるものは何でもあり得るため、基本的には信頼できません。」 悪意のある Web サイトまたはドキュメントは、プラグインの使用を通じて、大規模言語モデル (LLM) に対してプロンプト インジェクション攻撃を実行しようとする可能性があります。 あるいは、悪意のあるペイロードが挿入される可能性もあるとレーバーガー氏は言います。
データが盗まれる可能性もあります クロスプラグインリクエストフォージェリと研究者は言う。 Web サイトには、ChatGPT に別のプラグインを開かせて追加のアクションを実行させるプロンプト インジェクションが含まれる可能性があります。 コンセプトの証明。 研究者はこれを「チェーン」と呼び、あるプラグインが別のプラグインを呼び出して動作させます。 ChatGPT プラグイン内には「実際のセキュリティ境界はありません」と Rehberger 氏は言います。 「セキュリティと信頼とは何か、実際の責任とは何かなど、あまり明確に定義されていません。 [are] 各ステークホルダーの。」
ChatGPT のプラグインは 3 月にリリースされて以来、ベータ版、つまり初期の実験版として提供されてきました。 ChatGPT でプラグインを使用する場合、システムは、プラグインを使用する前にプラグインを信頼する必要があること、およびプラグインが機能するためには ChatGPT が会話やその他のデータをプラグインに送信する必要がある可能性があることを警告します。
OpenAIの広報担当者ニコ・フェリックス氏は、同社はシステムの悪用につながる可能性のある「エクスプロイト」に対するChatGPTの改善に取り組んでいると述べた。 現在、プラグインはストアに追加される前にレビューされています。 で 6月のブログ投稿同社は、「ツールの出力から得られる信頼できないデータがモデルに意図しないアクションを実行するよう指示する可能性がある」ことを示す研究を確認したと述べた。 また、電子メールの送信など、「現実世界に影響を与える」アクションが ChatGPT によって実行される前に、開発者に確認ボタンをクリックさせるよう奨励しています。