AI によって生成されたフィクションが文芸誌に殺到しているが、だれも騙していない

「The Last Hope」というタイトルの短編小説が、1 月初旬に Sheila Williams のデスクに初めて届きました。 の編集者であるウィリアムズは、 アシモフのSF 雑誌、物語を見直し、それを伝えました。

最初、彼女はそれについてあまり考えていませんでした。 彼女は仕事の一環として毎日ライターを読んで返信し、月に 700 から 750 の記事を受け取ります。 しかし、「最後の希望」というタイトルの別の物語が数週間後に別の名前の作家によってもたらされたとき、ウィリアムズは疑わしくなりました. 数日後、さらに別の「最後の希望」が発表されるまでに、ウィリアムズは自分の手に問題があることにすぐに気付きました。

「それは氷山の一角のようなものです」とウィリアムズは言います。

その最初の提出以来、ウィリアムズは「最後の希望」というタイトルの 20 以上の短編小説を、それぞれ異なる著者名と電子メール アドレスから受け取っています。 Williams 氏は、それらはすべて人工知能ツールを使用して生成されたと考えており、ここ数か月で小規模な出版社を圧倒している他の何百もの同様の投稿も同様です。

アシモフの 1 月に約 900 件の検討用のストーリーを受け取り、今月は 1,000 件を獲得する予定です。 ウィリアムズ氏は、増加のほとんどすべてが AI によって生成されたと思われる作品に起因する可能性があると述べています。彼女は非常に多くの本を読んでいるため、最初の数語から何かが人間によって書かれたものではないかどうかを判断できることがよくあります。

タイトルの繰り返しに加えて、頻繁に登場する傾向がある特定のキャラクター名があるとウィリアムズは言います. 場合によっては、原稿に 違う タイトルは、オンライン フォームに示されているものよりも異なります。 著者名は、多くの場合、ファーストネームとラストネームの融合のように見えます。 一部の著者は、オプションのカバー レターに、まだ受け入れられていない記事にお金を振り込む方法についての指示を含めています。 送信者は、「[name]」 独自のもので。

ChatGPTを使用して、 ザ・バージ ウィリアムズが見た提出物のいくつかの要素を複製することができました. 短い SF 小説を書くように促す — 加えて、 アシモフの 提出ガイドライン — 「The Last Echo」、「The Last Message」、「The Last Day of Autumn」、「The Last Voyager」など、似たようなタイトルが連続して何十ものストーリーを作成しました。

ウィリアムズと彼女のチームは、AI によって生成された作品を見つけることを学びましたが、提出物の流入は依然としてイライラしています. のようなアウトレット アシモフの AI 仲間に圧倒され、編集者や読者の時間を奪い、新しいライターからの本物の投稿を締め出す可能性があります。 そして、問題は悪化の一途をたどる可能性があります。書くボットが広く利用できるようになったことで、手っ取り早く一攫千金を狙う新しいジャンルが生み出されたため、投稿が公開されている文芸雑誌が、ゲームをしようとするスパム投稿の新しい表面の受信側にいることを発見したからです。システム。

ウィリアムズは、AI によって生成されたのではないかと疑う部分について、「基本的には、できる限り素早く調べています」と述べています。 「提出物をダウンロードして開き、見るのにかかる時間は同じです。 そして、その時間を正当な提出物に費やしたいと思っています。」

一部の編集者にとっては、AI によって生成された提出物の流入により、新しい仕事の受け入れを停止せざるを得なくなりました。

先週、人気のSF雑誌 クラークスワールド 発表した AI によって生成された作業が殺到するため、提出を一時的に停止します。 で 以前のブログ投稿、編集者のニール・クラークは、自動化されたツールを使用して生成された記事を投稿したため、雑誌が急増する数の著者を禁止せざるを得なかったと指摘しました. 2月だけでも、 クラークスワールド クラーク氏によると、人間によって書かれた 700 件の投稿と、機械で生成された 500 件の記事が寄せられました。

クラーク氏は、スパムのような投稿は、手っ取り早くお金を稼ぎたいと思っている人や、 クラークスワールド 「サイドハッスル」のインフルエンサーやウェブサイトを通じて他の出版物。 たとえば、ある Web サイトには、マーケティング、執筆、ビジネスに関する SEO のおとり記事やキーワードが満載されており、読者がすぐにお金を稼ぐのに役立つと約束しています。 このサイトの記事には、約 20 の文芸雑誌とウェブサイトが掲載されています。 クラークスワールド と アシモフの、 BBCのようなより大きなアウトレットだけでなく、 — 支払い率と提出の詳細。 この記事では、読者が AI ツールを使用して支援することを奨励しており、AI 書き込みソフトウェアである Jasper へのアフィリエイト マーケティング リンクが含まれています。

ほとんどの出版物は、1 単語あたり 8 ～ 10 セント程度の少額の料金を支払っていますが、受け入れられた作品に対して最大数百ドルの定額料金を支払っている出版物もあります。 クラーク氏は自身のブログで、一部の地域から「不正な投稿の割合が高い」と書いているが、それらの国からの作家が詐欺師であると見なされる可能性があることを懸念して、名前を明かすことを拒否した.

場合によっては、Clarke は、AI によって生成された作品の提出を禁止された人々に、お金が必要であると連絡を取りました。 別の編集者は言った ザ・バージ AI が記事を生成する前でさえ、彼らは、生活費が安く、80 ドルの出版料が米国よりはるかに高い国の作家から投稿やメールを受け取っていた.

彼の雑誌が使用する投稿システムを構築したクラークは、AI ストーリー スパマーの取り組みを「洗練されていない」と表現しました。クラークは、メモを他の編集者と比較することで、同じ作品が同じ IP アドレスから複数の出版物に投稿されていることを確認できました。ほんの数分間隔で、多くの場合、雑誌がリストに表示される順序で表示されます。

「これが中の人だったら [science fiction and fantasy] コミュニティであれば、彼らはそれがうまくいかないことを知っているでしょう。 彼らには、これを行うことができず、機能することを期待できないことがすぐに明らかになります」とクラークは言います.

この問題は、サイエンス フィクションやファンタジーの出版物にとどまりません。 フラッシュフィクションオンライン ホラーや文学小説など、さまざまなジャンルを受け入れます。 2 月 14 日に、アウトレットは投稿フォームに次の通知を追加しました。 私たちは、主に言語モデリング ソフトウェア、ChatGPT、チャット ボット、またはその他の AI アプリ、ボット、またはソフトウェアによって生成または作成されたと疑われる提出物を拒否する権利を留保します。」

更新された規約は、 FFO 発行者で共同編集長の Anna Yeatts 氏によると、数日以内に 1 つの情報源から 30 件以上の投稿がありました。 それぞれの記事は、Yeats が AI によって生成された作品で見た決まり文句にヒットし、それぞれの記事には、出版物が通常目にするものとは異なり、構造化され、書かれた独自のカバー レターがありました。 しかし Yeatts 氏とその同僚は、1 月以降、送られてきた作品の一部が AI ツールを使用して作成されたのではないかと疑っていました。

Yeatts は 12 月から ChatGPT をいじり、特定のジャンルのストーリーやゴシック ロマンスのようなスタイルのストーリーを作成するためのツール プロンプトを提供していました。 このシステムは、主人公の設定や設定、対立の導入などの技術的要素を再現することはできましたが、「深い視点」を生み出すことができませんでした。エンディングはあまりにも端正で完璧であり、感情がしばしばメロドラマにこぼれました。 誰もが「突き刺すような緑色の目」を持っており、登場人物が座った状態で物語が始まることがよくあります。 1,000点以上の作品のうち FFO Yeatts の推定では、AI によって生成された可能性が高いのは約 5% です。

「私たちはその恐ろしい小さな警告を出しました [on the submissions page]」とイェイツは言います。 ただし、それを実施することは困難であることが判明する可能性があります。

過去に、 FFO さまざまな読解レベルにアクセス可能な、より従来の文体と声を持つ主流の作品を発表しました。 そのため、AI ツールを使用して生成されたストーリーは、ベースライン要件を超える可能性があると Yeatts 氏は言います。

「あなたが探そうとするストーリーのすべての部分が含まれています。 始まり、中間、終わりがあります。 解像度、文字があります。 文法は良いです」と Yeatts 氏は言います。 FFO チームは、スタッフが投稿の最初のパスを取得する際に、特定のストーリー要素を探すようにスタッフの読者をトレーニングする作業を行っています。

Yeatts 氏は、AI によって生成された作品の波の高まりによって、文字による作品が文字通り締め出される可能性があることを懸念しています。 このアウトレットは、人気のある投稿サービスである Submittable を使用しており、 FFOのプランには、記事の月間上限が含まれており、その後ポータルが閉じられます。 何百人もの人々が不適格な AI 生成作品を送信した場合、人間の作者が自分のストーリーを送信できなくなる可能性があります。

Yeatts 氏は、雑誌が記事の掲載を止めるために何ができるか確信が持てません。 提出可能な計画をアップグレードすると、費用がかかります FFO、それは「わずかな予算で」実行されます、と Yeatts 氏は言います。

「私たちは他の著者に記事を依頼することについて話しましたが、新しい作家を思いとどまらせることになるため、出版物としての私たちの存在に実際には当てはまりません」と Yeatts 氏は言います。 「私たちは本当に良い解決策を持っていません。」

コミュニティの他のメンバーは、他のパブリッシャーに殺到している問題に注目しており、さらに広がる前に対応する方法を考えています。 SF 作家であり、多数の出版物で使用されているオンライン提出システムである Moksha の作成者である Matthew Kressel は、AI ツールを使用して書かれたと思われるスパム的な提出物を受け取ったクライアントからの連絡を受け取り始めたと述べています。

Kressel 氏は、チャットボットを使用して生成された送信の価値に関しては、Moksha を「不可知論者」に保ちたいと述べています。 Kressel氏によると、出版社は、作品がAIシステムを使用していないことを作家が確認できるチェックボックスを追加することができ、AIツールを使用して投稿をブロックまたは部分的に制限できる出版物のオプションを追加することを検討しています.

「作品が AI によって生成されたものであるかどうかを著者が自己肯定できるようにすることは、良い第一歩です」と Kressel 氏は語っています。 ザ・バージ メールで。 「現時点では多くの不確実性があるため、全体の透明性が向上します。」

の編集者であるウィリアムズにとって、 アシモフの、 AI によって生成されたがらくたの山をふるいにかけるために彼女の時間を使うことを余儀なくされているのは苛立たしいことです。 しかし、さらに懸念されるのは、合法的な新しい著者が何が起こっているのかを見て、編集者が自分の原稿に到達することはないと考えるかもしれないということです.

「私ががらくたで溢れかえっているので、私が仕事を逃してしまうのではないかと作家に心配させたくありません」とウィリアムズは言います。 良い話は非常に早い段階で明らかです。 「興味深い物語を作り上げる心は危険にさらされていません。」