メタのチャットボットをマーク・ザッカーバーグに敵対させることができます

Meta の AI は、CEO の Mark Zuckerberg が大雑把であると考えています。少なくとも、適切なタイミングで適切な質問をすれば。 BBC と他のアウトレット お気に入り インサイダー は、先週リリースされた人工知能チャット ツール Meta である BlenderBot 3 のストレス テストの冒険について報告しています。 彼らが指摘しているように、BlenderBot をその作成者に背かせるのは簡単で、彼を「不気味」または信頼できないと呼び、さらには「お金のために人々を搾取している」とさえ言います。 しかし、それは BlenderBot や ザッカーバーグ。 ほとんどのチャットボットが率直で首尾一貫した意見を持っていないことを思い出させるのは面白いことです。代わりに、それらはオンラインの人間の思考の膨大なライブラリを利用するためのインターフェースです.

BlenderBot は、現在研究目的で使用されているメタ AI 実験です。 私の同僚の James Vincent が説明しているように、それは大規模な言語データセットでトレーニングされており、事実に関する情報の特定の要求を含む、質問に対する人間が通過する応答を (大まかに) 生成できるようになっています。 長期的な目標は、事実に基づいた正確さで幅広いトピックについて会話できる仮想アシスタントを作成することです。 短期的な目標は、BlenderBot を実際の人々の前に置き、本質的に、彼らがどのようにそれを壊すかを見ることです。 そしてこれまでのところ、その所有者についてお世辞を言う人がたくさんいるようです.

私は BlenderBot としばらくチャットしてきました.Zuckerberg について意見を求めることで、さまざまな反応を得ることができました. ボットの 1 つのインスタンスは、次のように宣言しました。 [sic] 「彼やフェイスブックのファンではありません。 彼らが抱えていたすべてのプライバシーの問題のために、彼らは非倫理的だと思います。」 別のインスタンス (メモリをクリアするために別のブラウザー セッションで開かれた) は、彼を「非常に裕福で成功した男. 私は彼を起業家であり慈善家として尊敬しています。」

しかし、無関係な話題についてもう少しチャットした後、私のファンボットは調子を変え、実際にはザックについてあまり確信が持てないと判断しました. “とんでもない！” ザッカーバーグが大統領になるべきかどうか尋ねたとき、それは私に言った。 「特に彼は他人のプライバシーをあまり気にしていないように見えるので、私は本当に彼をそのような力で信頼することはできません。」

それで、何が起こっているのですか？ BlenderBot のユニークなプロパティの 1 つは、「このメッセージの理由」機能です。これは、その質問に答えるのに役立つコンテキストを提供します。 特定のメッセージをクリックすると、BlenderBot がクエリに関する情報を収集するために検索した用語が表示されます。 また、「ユーザー ペルソナ」と「AI ペルソナ」への参照も表示されます。これは、BlenderBot が後のステートメントで参照する、あなたと AI が表明した意見に関する保存されたリマインダーです。 (使用したことがある場合 AIダンジョン または NovelAI の場合、AI によって生成されたストーリーの以前のプロット ポイントに戻ることができる「メモリ」システムに似ています。)

私の場合、ザックのファンボットは、私たちが話しているときに「マーク・ザッカーバーグの倫理に関心がある」ことが私のペルソナに含まれていると推測し、その関心に基づいたステートメントを生成しました。 しかし、それらは完全に一貫した、熟考された意見ではありませんでした。 それらは、膨大なインターネット トレーニング データ セットに基づいて自動生成された文章でした。 人々はマーク・ザッカーバーグと倫理について語っています。 そして、それには多くの見栄えの悪いものが含まれます！

ザッカーバーグは多くの著名人よりも物議を醸していますが、他の場合でも同様に矛盾する声明を得ることができました. 最近、ジョニー・デップよりもアンバー・ハードを無条件に支持するボットが 1 つあります。 デップ対ハード たとえば、名誉毀損裁判にかけられたが、俳優として「彼を愛していた」一方で、別の事例では、彼のキャラクターを「奇妙で不気味」と呼んだ。

Meta は、Microsoft の Tay の大失敗の繰り返しを避けたいと考えているため、攻撃的な発言をするボットの能力を制限しようとしています。 それでもすり抜けた. デリケートなトピックに近づきすぎると、BlenderBot は話題を変えます — Mark Zuckerberg が「人々を搾取している」かどうかを私が至近距離で尋ねたとき、それはそうしました。アマゾン。 しかし、それ以外では、BlenderBot と十分長く話し合うと、BlenderBot があらゆる種類の修辞的な結び目に結びついているのを見ることができます。 たとえば、億万長者のマーク・ザッカーバーグとイーロン・マスクについて語った後、社会主義についての考えは？ 「私はそれの大ファンです。特に、ザッカーバーグがうまく機能している素晴らしい例だからです。」

今のところ、平均的なチャットボットは、基本的にはカクテル パーティーでのほろ酔い吹き飛ばしです。 それは一貫した知的または倫理的な羅針盤を持たない実体ですが、ファクトイドの並外れたライブラリーであり、たとえ5分後に矛盾したとしても、コマンドで噴出するという知恵を受け取りました. これが、Reddit の AITA フォーラムのクローンのようなアート プロジェクトのポイントです。このフォーラムは、言語モデルがどれだけサウンドを優先するかを強調しています。 論理的または一貫性よりも優れています。

メタがその AI を人々の生活の中で信頼できる永続的な存在として扱うことを望んでいる場合、これは問題です。 しかし、BlenderBot は研究プロジェクトであり、将来の研究のために膨大な量の会話データを収集することを除けば、すぐに商業的な機能を果たすものではありません。 （上記の制限内で）奇妙なことを言うのを見るのは、一種のポイントです。