しかし、Google を含む大規模な言語モデルに取り組んでいる Meta やその他の企業は、この問題を真剣に受け止めていません。
Galactica は科学のための大規模な言語モデルであり、4,800 万件の科学記事、Web サイト、教科書、講義ノート、および百科事典の例でトレーニングされています。 メタは、研究者や学生の近道としてそのモデルを宣伝しました。 同社の言葉を借りれば、Galactica は「学術論文の要約、数学の問題の解決、Wiki 記事の生成、科学的なコードの記述、分子やタンパク質への注釈付けなどを行うことができます。」
しかし、光沢のあるベニヤはすぐにすり減りました。 すべての言語モデルと同様に、Galactica はフィクションと事実を区別できない無知なボットです。 数時間以内に、科学者は偏った誤った結果をソーシャル メディアで共有しました。
ワシントン大学で検索技術を研究している Chirag Shah は、次のように述べています。 「これらのもののデモを行うとなると、それらはとても幻想的で、魔法のようで、知的に見えます。 しかし、人々は、原則として、そのようなことは私たちが誇大宣伝する方法ではうまくいかないということをまだ理解していないようです。」
デモを削除した理由についての声明を求められた Meta は、MIT テクノロジー レビューを次のように指摘しました。 つぶやき 「Galactica モデルのデモをお試しいただきありがとうございます。 これまでにコミュニティから寄せられたフィードバックに感謝し、現在デモを一時停止しています。 私たちのモデルは、研究についてもっと知りたい、論文で結果を再現したい研究者に利用できます。」