不条理な性質でインターネット (そして私たち) を魅了した後、AI によって生成された「となりのサインフェルド」のなりすまし「Nothing, Forever」は、Twitch から 14 日間停止されました。
「となりのサインフェルド」のパロディーの一部として、「ナッシング、フォーエバー」で繰り返されるシーンの 1 つで、ラリー ファインバーグ (ジェリー サインフェルドのキャラクター) がスタンドアップ ルーチンを実行しています。 通常、ラリーのジョークは次のようなものでした。 グミベア。 しかし、「Nothing, Forever」の作成者である Mismatch Media が TechCrunch に語ったように、チームは AI のコンテンツ フィルターでミスを犯し、その結果、Larry はトランスフォビアのスタンドアップ ルーチンを配信しました。
「Nothing, Forever」は 12 月からほぼコンスタントにストリーミングされており、当初は GPT-3 の Davinci モデルと Open AI のコンテンツ フィルタリング プロトコルを介してキャラクターの会話を生成していました。 しかし、ダヴィンチが技術的な問題を抱え始めたとき、チームはあまり洗練されていないキュリー モデルに切り替えました。 モデルを変更した後、作成者は AI モデレーション ツールを適切に組み込みませんでした。 すぐに、ラリーはトランスフォビアのジョークを吐き出し、「何も、永遠に」は中断されました.
「最初に、私たちが生成したテキストは間違いでした。非常に恥ずかしい思いをしています。生成された生成コンテンツは、スタッフの価値観や意見を反映したものではありません」と、共同作成者の Skyler Hartle は TechCrunch への電子メールに書いています。 . 「これが起こったことを非常に残念に思っており、適切な保護手段をすべて講じて、すぐに放送に戻ることを望んでいます。」
ハートルはまた、放送中にコンテンツ モデレーション フィルターが機能しなくなった場合に備えて、冗長性として追加するセカンダリ コンテンツ モデレーション システムを調査していると述べました。
Twitch はコメントのリクエストに応じませんでした。 ハートル氏は、Twitch と直接やり取りしたこともないと述べた。 しかし、クリエイターは、一時停止のタイミングが原因で、一時停止はラリーのトランス嫌悪のコメントの結果であると考えています.
Twitchの コミュニティ ガイドライン 性同一性に基づく差別や嫌がらせを含む、特定のアイデンティティ グループに対する憎悪に満ちたレトリックを禁止する。 プラットフォームのコンテンツ モデレーション システムは、AI である Larry のトランスフォビアのレトリックをすぐに捉えたようです。 しかし、Twitch のシステムは AI のデプラットフォーム化に迅速に対応しましたが、トランスジェンダーの人々への意図的な嫌がらせを軽減することについては、一貫して成功しているとは言えません。
約 1 年半前、このプラットフォームは悪意のある「ヘイト レイド」に悩まされ、特に黒人やトランスジェンダーのクリエイターを標的にしていました。 クリエイター主導の集団行動の後、Twitch はストリーマーをこれらの暴力的なサイバー攻撃から保護するのに役立つ新しい安全機能を展開しました。 昨年、トランスジェンダーとして Twitchストリーマーケファルス LGBTQ+ の問題について話すことで有名になりましたが、彼女は自分の家で標的にされるほどの厳しい嫌がらせを受け、 隠蔽. (この嫌がらせの多くは他の Web サイトに起因していますが、2021 年現在、Twitch のコミュニティ ガイドラインでは、プラットフォーム外での嫌がらせについて Twitch ユーザーに責任を負わせることができます。)
「Nothing, Forever」の制作者は、トランスフォビアの論評を放映するつもりはなかったと述べ、それらの見解を支持していないと述べています。 しかし、この苦境は、ジェネレーティブ AI エンターテインメントが放っておかれると、いかに急速に衰退するかを示しています。 結局のところ、GPT-3 はインターネット自体でトレーニングされているため、Web 全体からの最も凶悪なレトリックの一部を反映する可能性があります。
この事件には皮肉な点があります。コンテンツ フィルタリングのスナフが、基本的にロボットであるものの Twitch の停止を引き起こしたのです。 一方、デイヴ・シャペルはコメディ・アルバム『ザ・クローザー』でグラミー賞を受賞したばかりだが、同作はトランスフォビアであると強く批判されている。 しかし、AI によって生成された「Nothing, Forever」の世界の中でも、AI によって生成された聴衆は、ラリーのジョークをあまり面白く感じませんでした。
「ここには50人ほどの人がいて、誰も笑っていません。 誰か提案はありますか？」 AIは、短いトランスフォビアのティレードに進む前に、コメディセットを開始しました。 そして、ラリーは「誰も笑っていないからやめよう。 今夜は来てくれてありがとう。 またね。 みんなどこ行った？」