ChatGPT のようなシステムのもう 1 つの問題は、応答がトレーニングされたデータのみに基づいていることです。 モデル全体を再トレーニングすると、そのサイズとデータの規模のために数百万ドルの費用がかかる可能性があります。 You Chat は、最新のスポーツの結果を尋ねられて戸惑いましたが、現在のニューヨークの天気はわかっています。 Socher 氏は、最新の情報がどのように組み込まれているかを明らかにしたくありません。
「現在、これらのチャット インターフェイスの多くは、ある意味では検索エクスペリエンスよりもはるかに優れていると思いますが、他の点では明らかにまだはるかに劣っています」と Socher 氏は言います。 「私たちはこれらすべての問題を減らすことに取り組んでいます。」
以前は OpenAI で働いていた検索スタートアップ Perplexity AI の創設者兼 CEO である Aravind Srinivas 氏は、ChatGPT のようなシステムを最新の情報で更新するという課題は、それらを何か他のものと組み合わせる必要があることを意味すると述べています。 「単独では優れた検索エンジンにはなれないでしょう」と彼は言います。
Greylock Partners のベンチャー キャピタリストで、AI ベースの検索会社 Neeva に投資した Saam Motamedi 氏は、検索エンジンの主要な収益モデルである広告と、チャット インターフェイスがどの程度互換性があるかについても不明であると述べています。 Google と Bing は検索クエリを使用して、応答として提供されるリンクのリストの一番上に表示される広告を選択します。 Motamedi 氏は、チャット スタイルの検索インターフェイスが実行可能になるためには、新しい形式の広告が登場する必要があるのではないかと考えていますが、それがどのようなものになるかは完全には明らかではありません。 Neeva は、広告なしの無制限の検索に対してサブスクリプション料金を請求します。
Google の規模で ChatGPT のようなモデルを実行するコストも問題になる可能性があります。 企業が機械学習アルゴリズムを導入するコストを削減するのを支援する企業、OctoML の共同設立者兼 CEO である Luis Ceze 氏は、ChatGPT 検索を実行すると、Google 検索よりも 10 倍の費用がかかる可能性があると推定しています。複雑な AI モデル。
ChatGPT マニアの規模は、基礎となる技術に精通している一部のコーダーや AI 研究者を驚かせました。 GPT と呼ばれるボットのコアにあるアルゴリズムは、 2018 年に OpenAI によって最初に開発された、およびより強力なバージョンである GPT-2 が 2019 年に公開されました。これは、テキストを取り込み、次に何が起こるかを予測するように設計された機械学習モデルであり、OpenAI は、膨大な量のテキストでトレーニングした場合に印象的なパフォーマンスを発揮できることを示しました。 このテクノロジーの最初の商用バージョンである GPT-3 は、開発者が 2020 年 6 月から使用できるようになっており、ChatGPT が最近期待されている多くのことを達成できます。
ChatGPT は基礎となるアルゴリズムの改善されたバージョンを使用しますが、その能力の最大の飛躍は、満足のいく答えを生み出すものについて人間がシステムにフィードバックを提供する OpenAI によってもたらされます。 しかし、それ以前のテキスト生成システムと同様に、ChatGPT は依然としてトレーニング データからバイアスを再現する傾向があり、もっともらしいが誤った結果を「幻覚」させる傾向があります。
ニューヨーク大学の名誉教授であり、AI の誇大宣伝を声高に批判するゲイリー・マーカスは、次のように考えています。 ChatGPT は検索に不向きです それは自分の言っていることを真に理解していないからです。 彼は、ChatGPT のようなツールは、AI によって生成され、検索エンジンによって最適化されたテキストでインターネットをあふれさせることによって、検索会社に別の問題を引き起こす可能性があると付け加えています。 「すべての検索エンジンが問題を抱えようとしています」と彼は言います。
アレックス・ラトナー、ワシントン大学の助教授であり、 シュノーケル AIAI モデルのトレーニングをより効率的に行う . しかし、彼はまた、GPT のような言語モデルがでっち上げを防ぐ方法を見つけるには、しばらく時間がかかる可能性があるとも述べています。 彼は、検索を新鮮に保つために新しい情報でそれらを最新の状態に保つ方法を見つけるには、基盤となる AI モデルをトレーニングするための新しいアプローチが必要になる可能性が高いと考えています。
これらの修正が発明され、証明されるまでにどれくらいの時間がかかるかは不明です。 テクノロジーが人々が答えを探す方法を根本的に変えるには、しばらく時間がかかるかもしれません。 新しいレシピを思いつく または、勉強やプログラミングの相棒としての役割を果たします。 Moveworks の Chen 氏は次のように述べています。 「しかし、それが検索に取って代わるかどうかは別の問題です。」