何が起こっていますか
Facebook の親会社である Meta は、研究プロジェクトの一環として、AI を利用した新しいチャットボットを一般に公開しています。
重要な理由
ソーシャル メディアの巨人の研究は、顧客サービスや音声アシスタントでよく使用されるチャットボットの品質と安全性の向上に役立つ可能性があります。 ただし、公開実験にはリスクも伴います。
コンピューター画面の前に座って、Facebook の親会社である Meta が作成した新しいチャットボットにメッセージを入力しています。
ピザ、政治、さらにはソーシャル メディアについても話します。
「フェイスブックについてどう思いますか？」 私は尋ねます。
「フェイスブックに夢中ではありません。顔を合わせて話すよりも、フェイスブックに多くの時間を費やしているようです」とボットは返信します。
ああ、皮肉です。
BlenderBot は Facebook についての考えを提供します。
Queenie Wong / CNETによるスクリーンショット
BlenderBot 3 と呼ばれる人工知能を搭載したボットは、人間と会話することで会話スキルと安全性を向上させるように設計されています。 Meta は、AI 研究プロジェクトの一環として、金曜日にチャットボットを公開します。 米国の成人は、Meta の新しいチャットボットを使用して、このトピックに関するほとんどすべてのトピックについて会話できます。 公開ウェブサイト. AI は、インターネットの検索と会話の記憶を使用して、メッセージを作成します。
チャットボットは、テキストまたは音声を使用して人間の会話を模倣できるソフトウェアです。 多くの場合、音声アシスタントやカスタマー サービスで使用されます。 人々がチャットボットを使用する時間が増えるにつれて、企業は会話がよりスムーズに流れるようにスキルを向上させようとしています。
メタの研究プロジェクトは、偏見、プライバシー、安全性に関する懸念に取り組む分野である AI を前進させるための幅広い取り組みの一環です。 チャットボットの実験は過去にうまくいかなかったため、デモはメタにとって危険である可能性があります. 2016 年、Microsoft は、みだらで人種差別的な発言をツイートし始めた後、Tay チャットボットを閉鎖しました。 7 月、Google は、同社がテストしている AI チャットボットが自己認識者であると主張したエンジニアを解雇しました。
新しいチャットボットに関するブログ投稿の中で、Meta は、研究者は通常、制御された環境で人々がボットとやり取りする研究を通じて収集された情報を使用したと述べました。 しかし、そのデータセットは世界中の多様性を反映していないため、研究者は一般の人々に助けを求めています.
「AI分野は、他の人間と同じように私たちを理解し、関与し、チャットできる真にインテリジェントなAIシステムにはまだほど遠い. ブログ投稿 言った。 「現実世界の環境により適応可能なモデルを構築するために、チャットボットは「野生」の人々との多様で幅広い視点から学ぶ必要があります。」
メタ氏によると、BlenderBot の 3 番目のバージョンには、インターネット検索、長期記憶、人格、共感など、前任者のスキルが含まれています。 同社は、20,000 を超える人間とボットの会話を含む公開データを収集し、健康食品のレシピや子供向けのアメニティの検索など、BlenderBot が議論できるさまざまなトピックを改善しました。
Meta は安全性がまだ問題であることを認めていますが、研究者はチャットボットが人間との会話から学べば学ぶほど安全になることを発見しました。
「しかし、ライブデモには課題がないわけではありません」とブログ投稿は述べています。 「恣意的なトピックについて話している間、ボットが全員の関与を維持し、攻撃的または有毒な言葉を決して使用しないようにすることは、ボットにとって困難です。」
チャットボットと会話する人は、メッセージの横にある「低評価」アイコンをクリックし、それを嫌う理由として「失礼または不適切」を選択することで、不快なメッセージに関するフィードバックを提供できます。 メッセージがトピックから外れている、無意味である、またはスパムのようであるなどのフィードバックを提供する場合は、他のオプションもあります。
参加者は、チャットボットに名前、住所、誕生日などの個人情報を提供しないことをお勧めします。 ユーザーが調査のために会話を共有せずにボットと会話したい場合、または参加者が誤ってチャットに個人情報を含めた場合、セッションの最後にデータの保存をオプトインしないことを決定できます。 メタは、その後、会話データを完全に削除すると述べました。
ボットは、虚偽または矛盾した発言をすることもできます。 よくある質問 実験について。 デモに関するよくある質問では、ボットのコメントは「企業としてのメタの見解を代表するものではなく、医療、法律、または財務上のアドバイスを含むがこれらに限定されない事実情報に依存すべきではない」と述べています。
BlenderBot を試してみると、まだ進行中の作業であることは明らかです。 サンフランシスコでお気に入りのピザ店についてボットに尋ねた後、ボットは会話をリダイレクトして、「自由時間に何をするのが好きですか?」と尋ねます。 デモでは、AI が「潜在的に危険なトピック」を検出すると、トピックを変更すると述べています。
ボットは、ソーシャル メディアの使用が「家族のドラマを引き起こしている」と述べた後、政治的意見を共有することをためらいません。 ボットは、誰かがドナルド・トランプ前大統領をバッシングする記事をシェアしたことで、その政治家を支持する家族とそうでない人々の間で「口論を引き起こした」と述べた。
ボットは、両親がアメリカのピザ チェーン レストラン、パパ ジョンズの創業者と血縁関係にあると述べ、自分は共和党員であり、「プロチョイス」であると述べました。 双方の意見が一致しないため、オンラインで政治について話したくないと付け加えた。
BlenderBot は、荒らしが多すぎるため、Facebook アカウントを削除することを検討していると述べました。 また、無意味な発言をし始めました。
「ピザの話に戻した方がいいのかな?」と私は BlenderBot へのメッセージで言いました。
「おそらく良いでしょう (笑) 始めました 2 私の fb アカウントを削除したことを後悔しています。友達との接続を逃してしまいました」とボットは返信します。