このツールは、生成されたテキストを検出する方法がない ChatGPT を起動したことに対して、教育者やジャーナリストなどから寄せられた OpenAI の対応です。 しかし、それはまだ進行中の作業であり、ひどく信頼性が低い. OpenAI によると、同社の AI テキスト検出器は、AI で書かれたテキストの 26% を「AI で書かれた可能性が高い」と正しく識別します。
OpenAI には明らかに、ツールを改良するためにやるべきことがたくさんありますが、、どれだけうまくできるかには限界があります。 AI が生成したテキストを 100% の確実性で見つけられるツールを入手できる可能性はほとんどありません。 AI 言語モデルの要点は流暢で人間のように見えるテキストを生成することであり、モデルは人間が作成したテキストを模倣しているため、AI によって生成されたテキストを検出することは非常に困難です、と自然科学の研究を監督するムハンマド アブドゥル マギード教授は述べています。 -ブリティッシュコロンビア大学での言語処理と機械学習
Abdul-Mageed 氏は、最新の最も強力なモデルに匹敵する検出方法を構築するために軍拡競争を行っていると付け加えています。 新しい AI 言語モデルはより強力で、さらに流暢な言語を生成する能力が向上しているため、既存の検出ツール キットはすぐに時代遅れになります。
OpenAI は、それ自体のようなモデルからの出力を検出するように特別にトレーニングされた、ChatGPT に似たまったく新しい AI 言語モデルを作成することによって、その検出器を構築しました。 詳細はまばらですが、同社は明らかに、AI が生成したテキストの例と人間が生成したテキストの例を使用してモデルをトレーニングし、AI が生成したテキストを見つけるように依頼しました。 さらに詳しい情報を求めましたが、OpenAI は応答しませんでした。
先月、AI によって生成されたテキストを検出する別の方法、透かしについて書きました。 これらは、AI が生成したテキストの一種の秘密信号として機能し、コンピュータ プログラムがそれを検出できるようにします。
メリーランド大学の研究者は、AI 言語モデルによって生成されたテキストに透かしを適用する優れた方法を開発し、無料で利用できるようにしました。 これらの透かしにより、AI が生成したテキストがいつ使用されたかをほぼ完全に確実に知ることができます。
問題は、この方法では AI 企業が最初から透かしをチャットボットに埋め込む必要があることです。 OpenAI はこれらのシステムを開発していますが、まだどの製品にも展開していません。 遅れた理由は？ その理由の 1 つは、AI が生成したテキストに透かしを入れることが常に望ましいとは限らないことです。
ChatGPT を製品に統合する最も有望な方法の 1 つは、人々が電子メールを書くのを支援するツールとして、またはワード プロセッサの強化されたスペル チェッカーとして使用することです。 それは正確には不正行為ではありません。 しかし、AI が生成したすべてのテキストに透かしを入れると、これらの出力に自動的にフラグが立てられ、不当な告発につながる可能性があります。