AI によって生成されたテキスト ChatGPT のようなツールが日常生活に影響を与え始めています。 教師は教室での授業の一環としてそれをテストしています。 マーケティング担当者は、 インターン生を入れ替える. メンバーが行く バックワイルド. 自分？ じゃないと言えば嘘になる 少し 私の執筆ギグにロボットがやってくるのが心配です。 (幸いなことに、ChatGPT はまだ Zoom コールに参加してインタビューを行うことはできません。)
ジェネレーティブ AI ツールが一般に公開されるようになったため、Web サーフィン中により多くの合成コンテンツに遭遇する可能性があります。 一部のインスタンスは良性である可能性があります。 自動生成された BuzzFeed クイズ どの揚げ物デザートがあなたの政治的信念と一致するか. (あなたは民主党支持者ですか、それとも共和党支持者ですか?) 他の事例は、外国政府による高度なプロパガンダ キャンペーンのように、より不吉なものである可能性があります。
学術研究者は、一連の単語が ChatGPT のようなプログラムによって生成されたかどうかを検出する方法を調べています。 今、あなたが読んでいるものが AI の助けを借りてスピンアップされたことを示す決定的な指標は何ですか?
驚きの欠如。
エントロピー、評価済み
自然な文章のパターンを模倣する機能を備えたアルゴリズムは、あなたが思っているよりも数年前から存在しています。 2019 年、ハーバードと MIT-IBM ワトソン AI ラボ 実験ツールをリリースしました テキストをスキャンし、ランダム性のレベルに基づいて単語を強調表示します。
なぜこれが役立つのでしょうか? AI テキスト ジェネレーターは基本的に神秘的なパターン マシンです。擬態に優れ、変化球を投げるのが苦手です。 確かに、上司にメールを打ち込んだり、友人にグループ テキストを送信したりするときの口調や調子は予測できるかもしれませんが、人間のコミュニケーション スタイルには根底に気まぐれな性質があります。
プリンストン大学の学生、エドワード・ティアンは、 ウイルスにかかった 今年初めに、 GPTZエロ、教育者を対象としています。 これは、コンテンツの一部が ChatGPT によって生成された可能性を、その「困惑」 (ランダム性とも呼ばれます) と「バースト性」 (分散とも呼ばれます) に基づいて測定します。 ChatGPT の背後にある OpenAI がドロップ 別のツール 1,000 文字を超える長さのテキストをスキャンし、判断を下すように作られています。 同社は、誤検知や英語以外での限定的な有効性など、ツールの限界について率直に語っています。 多くの場合、英語のデータが AI テキスト ジェネレーターの背後にある人々にとって最優先事項であるのと同じように、AI テキスト検出用のほとんどのツールは現在、英語を話す人に利益をもたらすのに最適です。
ニュース記事の少なくとも一部が AI によって作成されたかどうかを感知できますか? 「これらの AI 生成テキストは、リースのようなジャーナリストの仕事をすることはできません」とティアンは言います。 心優しい感想です。 テクノロジーに焦点を当てた Web サイトである CNET は、複数の記事を公開しました。 アルゴリズムによって書かれた記事 人間に引きずられてフィニッシュラインを越えた。 現時点では、ChatGPT には特定の厚かましさが欠けています。 時々幻覚を見る、これは信頼できるレポートにとって問題になる可能性があります。 資格のあるジャーナリストがサイケデリックスを営業時間外に保存していることは誰もが知っています。
エントロピー、模倣
これらの検出ツールは今のところ役に立ちますが、コンピューター サイエンスの教授である Tom Goldstein は、 メリーランド大学、自然言語処理がより高度になるにつれて、それらの効果が低下する未来を見ています。 「この種の検出器は、人間のテキストと機械のテキストの間に体系的な違いがあるという事実に依存しています」とゴールドスタインは言います。 「しかし、これらの企業の目標は、人間のテキストに可能な限り近い機械テキストを作成することです。」 これは、合成メディア検出のすべての希望が失われたことを意味しますか? 絶対違う。
ゴールドスタインは、 最近の論文 AIテキストジェネレーターを強化する大規模な言語モデルに組み込むことができる可能な透かし方法を研究しています。 絶対確実というわけではありませんが、魅力的なアイデアです。 ChatGPT は文中の次に可能性の高い単語を予測しようとし、その過程で複数の選択肢を比較します。 透かしは、特定の単語パターンを AI テキスト ジェネレーターの立ち入り禁止に指定できる場合があります。 そのため、テキストがスキャンされ、透かしの規則が何度も破られた場合、その傑作が人間によって打ちのめされた可能性が高いことを示しています。