Google は、このローンチに大きく依存しています。 Microsoft は OpenAI と提携して、検索で Google のトップの座を獲得するために積極的な取り組みを行いました。 一方、Google は最初に応答しようとしたとき、すぐに大失敗を犯しました。 同社が 2 月に公開した Bard のティーザー クリップでは、チャットボットが事実誤認を犯していることが示されました。 Google の価値 1000億ドル減った 一晩。
Bard がどのように機能するかについて、Google は多くの詳細を共有しません。チャットボットのこの波の背後にある技術である大規模な言語モデルは、貴重な IP になっています。 しかし、Bard は、Google の主力の大規模言語モデルである LaMDA の新しいバージョンの上に構築されていると言えます。 Google は、基礎となる技術が向上するにつれて、Bard を更新すると述べています。 ChatGPT や GPT-4 と同様に、Bard は人間のフィードバックからの強化学習を使用して微調整されています。これは、大規模な言語モデルをトレーニングして、より有用で毒性の少ない応答を提供する手法です。
Google は密室で数か月間 Bard に取り組んできましたが、まだ実験段階であると述べています。 同社は現在、米国と英国で待機リストにサインアップした人々がチャットボットを無料で利用できるようにしています。 これらの早期ユーザーは、テクノロジーのテストと改善に役立ちます。 「ユーザーからのフィードバックを受け取り、そのフィードバックに基づいて時間をかけて改善していきます」と、Google の 研究担当副社長、ズービン・ガフラマニ。 「大規模な言語モデルで問題が発生する可能性があるすべてのことに注意を払っています。」
しかし、AI スタートアップの Hugging Face の主任倫理科学者であり、Google の AI 倫理チームの元共同リーダーである Margaret Mitchell は、この枠組みに懐疑的です。 Google は何年もの間 LaMDA に取り組んできたと彼女は言い、Bard を実験として売り込むことは、「大企業が何百万もの顧客にリーチするために使用する PR トリックであり、何か問題が発生した場合に責任を負わない」と考えています。
Google は、Bard を Google 検索の代わりではなく、相棒と考えてほしいと考えています。 Bard のチャット ウィジェットの下にあるボタンには、「Google It」と表示されます。 このアイデアは、Bard の回答を確認したり、詳細を調べたりするために、ユーザーを Google 検索に誘導することを目的としています。 「これは、テクノロジーの制限を相殺するのに役立つものの 1 つです」と Krawczyk 氏は言います。
「私たちは、人々が実際に他の場所を探索し、確信が持てない場合は確認することを奨励したいと考えています」と Ghahramani 氏は言います。
Bard の欠点を認めたことで、チャットボットのデザインは別の形にも形作られました。 ユーザーは、特定のセッションで数回しか Bard と対話できません。 これは、大規模な言語モデルが 1 つの会話に関与する時間が長いほど、脱線する可能性が高くなるためです。 たとえば、人々がオンラインで共有した Bing Chat からのより奇妙な反応の多くは、長期にわたるやり取りの最後に現れました。
Google はローンチ時の会話制限を確認していませんが、最初のリリースではかなり低く設定し、ユーザーのフィードバックに応じて調整する予定です。
Google はコンテンツの面でも安全に取り組んでいます。 ユーザーは、性的に露骨な、違法な、または有害な資料 (Google の判断による) または個人情報を要求することはできません。 私のデモでは、吟遊詩人はモロトフ カクテルの作り方のヒントを教えてくれませんでした。 これは、この世代のチャットボットの標準です。 しかし、がんの兆候を見つける方法などの医療情報も提供しません。 「吟遊詩人は医者ではありません。 医学的なアドバイスを与えるものではありません」と Krawczyk は言います。
おそらく Bard と ChatGPT の最大の違いは、Bard が応答ごとに 3 つのバージョンを作成することです。Google はこれを「下書き」と呼んでいます。 ユーザーはそれらの間をクリックして、好みの応答を選択するか、それらを組み合わせて一致させることができます。 その目的は、吟遊詩人が完璧な答えを生み出すことはできないことを人々に思い出させることです。 「例を 1 つだけ見ると、権威を感じます」と Krawczyk 氏は言います。 「そして、事実性には限界があることを私たちは知っています。」