Nothing, Forever は新しいガードレールを備えた状態で Twitch に戻るように設定されています

何も、永遠に、AI搭載 となりのサインフェルド Twitch でのスプーフィング ショーは、プラットフォーム上ですぐに次の大きなものになりました。 常時オンのストリーム中、 となりのサインフェルド-隣接するキャラクターは、混乱した会話をしたり、奇妙な冗談を言ったり、ラフでブロック状のグラフィックスの世界を移動したりしました.

しかし、ジェリー・サインフェルドのようなキャラクターがトランスフォビアの発言をした後、2週間中断されました. その一時停止は月曜日に解除される予定であり、Mismatch Media の作成者は、トランスフォビアなコメントが再び発生しないように取り組んでいますが、それを保証することはできません.

トランスフォビアの発言は、Mismatch がストリームを支える AI モデルを変更した後に発生しました。 「OpenAI の GPT-3 Davinci モデルを使用して障害が発生し始めたため、番組が異常な動作を示しました」 何も、永遠に 不和。 「OpenAI には、Davinci の前身である、あまり洗練されていないモデル、Curie があります。 Davinci が失敗し始めたとき、私たちは Curie に切り替えて、ダウンタイムなしでショーを実行し続けようとしました。 不適切なテキストが生成されたのは、Curie への切り替えが原因でした。」

Mismatch はその後の投稿で、「テキスト生成モデルに OpenAI のコンテンツ モデレーション システムを利用していると誤解していた」と付け加え、ショーが再開される前に OpenAI のコンテンツ モデレーション API の実装に取り​​組んでいると述べました。

それ以来、Mismatch はその実装に対して安定性テストを行っており、偽陰性がないことを確認しています。Mismatch の共同設立者である Skyler Hartle 氏は、 ザ・バージ. 「これまでのところ、それは本当によさそうだ」と彼は言った。 しかし、彼は「もちろん、ソフトウェアには常に変動性があります」と言ってヘッジしました。 私はハートル氏に、ミスマッチがそのガードレールを確実に機能させる方法を尋ねました。 「ジェネレーティブ AI とジェネレーティブ メディアの領域には、固有の不確実性があると思います。」

彼は、人々が ChatGPT と新しい Bing AI チャットボットを手に入れることができたワイルドなものの多くに言及して、「この分野の誰もが心配し、これについて考える必要があると思います」と述べています。 Mismatch Media は、AI の「安全協議会スラッシュ チーム」を作ることでこの問題に取り組んでいる、と Hartle 氏は述べた。このチームは、AI の安全対策が生成 AI の断片と共に進化できるように緩和戦略を見つけようとしている. 「これを可能な限り安全に行うことが、生成空間にいる人々としての私たちの義務であると強く感じています。」

公式の OpenAI コンテンツ モデレート API を活用することに加えて、Mismatch は OpenAI を使用して次のことも行いたいと考えています。 支援する 緩和プロセス中。 「私たちは実際に OpenAI を活用して私たちのコンテンツを彼らに渡し、一連の質問とプロンプトを行うガードレールの作成に取り組んでいます」と Hartle 氏は述べています。 ミスマッチとは、「OpenAI とこれらの大規模な言語モデルがこのプロセスを緩和するのに役立つ正しい方法を見つけ出すことです。 これらのモデルは現在、自然言語を解析するのに最適なものであるため、それらを二次システムとして使用しようとすることは非常に理にかなっています。」

ハートルは 何も、永遠に 追加のコンテンツ管理システムで変更します。 それはおそらく、ショーがより奇妙で不敬な瞬間を生み出し続けるのを見続けることを意味しますが、今回はトランスフォビアがないことを願っています.

Hartle 氏はまた、Mismatch は以前に構築したオーディエンス インタラクション システムを導入したいと考えていたが、これをローンチしないことにしたと述べた。 何も、永遠に. ハートル氏によると、このシステムにより、「ファンはショーと安全に対話し、ショーが向かう方向性を潜在的にマッサージしながら、その生成的な精神を維持することができます」. Mismatch は、Twitch の停止解除と同時にシステムをローンチしたいと考えていますが、「現時点では何も約束したくありません」。

私は個人的に、このようなアプリケーションでのオーディエンス インタラクション ツールに懐疑的です。 TwitchPlaysPokemonの全盛期のようなインターネットの団結の壮大な瞬間に使用できますが、Tayの大失敗のようなものに変わるのではないかと心配しています.

下 何も、永遠に、Mismatch Media は、クリエイターが独自の番組を制作するためのプラットフォームを構築したいと考えています。 ハートル氏は、「これには多くのことが含まれており、私たちが考え出し、反復していることがたくさんありますが、計画は、次世代の人々がこの種のことを行うように力を与えることです. 目標は、このプラットフォームを今後 6 ～ 12 か月以内に稼働させることです。

私はまた、最初にショーを見たときから疑問に思っていたことをハートルに尋ねました: 実際にそれを永遠に実行する計画はありますか? 「私たちの希望は、非常に費用がかかるため、経済的に理にかなっている限り、ショーをできる限り長く実行することです」とハートルは言いました. 「とはいえ、私たちはこれをテクノロジープラットフォームとして構築しています。 そして、私たちはもっと多くのショーを作りたいと思っています。 私たちがそれで成功し、私たちを中心にビジネスを構築することができれば、私には理由がわかりません。 何も、永遠に ファンやコミュニティが望んでいる限り、実行すべきではありません。」