Microsoft の新しい OpenAI の ChatGPT のカスタム バージョンを搭載した改良された Bing は、目まぐるしいほどの急速な逆転を経験しました。 そして、まあ、それはすべてマイクロソフトのせいです。
ChatGPT は、使い慣れていない新しいテクノロジの非常に興味深いデモンストレーションです。 したがって、今後登場する他のすべての AI 隣接構造と同様に、この目新しさにより、強力な技術タイプから通常はこの分野に関心のない人々まで、すべての人がその機能を過大評価することになることは驚くべきことではありません.
お茶やビールを飲みながら議論するのに適切な「技術準備レベル」にあります。アート、文学、または哲学に対するジェネレーティブ AI のメリットとリスクは何ですか? それがオリジナル、模倣、幻覚であることをどのように確認できますか？ クリエイター、コーダー、カスタマー サービス担当者にとって、どのような影響がありますか? 最後に、暗号の 2 年間を経て、何か興味深い話をしましょう。
誇大広告は、多かれ少なかれ議論を引き起こすように設計された技術であり、すべての AI の進歩に共通する論争から借用しているため、大きすぎるように見えます。 その点では「ザ・ドレス」に似ています。 コマンド 応答、およびその応答は、さらなる応答を生成します。 誇大宣伝は、ある意味で、それ自体が生成されます。
単なる議論ではなく、ChatGPT のような大規模な言語モデルは、終わりのないマリオなどのローステークスの実験にも適しています。 実際、これこそが OpenAI の開発に対する基本的なアプローチです。最初に非公開でモデルをリリースして、最も鋭いエッジを磨き上げ、次に公開して、100 万人のユーザーが同時にタイヤを蹴ったときにモデルがどのように反応するかを確認します。 ある時点で、人々はあなたにお金をくれます。
得るものなし、失うものなし
このアプローチで重要なことは、「失敗」は実際にはマイナスの結果をもたらさず、プラスの結果しかもたらさないということです。 そのモデルを実験的であり、学術的でさえあると特徴づけることにより、GPT シリーズのモデルへの参加または関与は、単に大規模なテストにすぎません。
誰かが何かクールなものを作ると、そのモデルが有望であるという考えが強化されます。 誰かが顕著な失敗状態を発見した場合、実際に実験的な AI に他に何を期待していましたか? それはあいまいに沈みます。 すべてがそうであれば、何も予期しないことはありません — 奇跡はモデルがそれと同じように機能することです.
このようにして、OpenAI は、そのモデルを改良するための驚くべき量の独自のテスト データを収集しました。 何百万人もの人々が GPT-2、GPT-3、ChatGPT、DALL-E、および DALL-E 2 (とりわけ) を突っついたり突っ込んだりして、それらの機能、欠点、およびもちろん一般的なユース ケースの詳細なマップを作成しました。
しかし、それが機能するのは、賭け金が低いからです。 これは、私たちがロボット工学の進歩をどのように認識しているかに似ています。つまり、ロボットがバク転すると驚き、引き出しを開けようとして転んでも平気です。 もしそれが病院に試験瓶を落としていたとしたら、私たちはそれほど慈善的ではないでしょう. または、さらに言えば、OpenAI がモデルの安全性と高度な機能について大声で主張していた場合でも、幸いなことにそうではありませんでした。
マイクロソフトに入社。 (さらに言えば、Google ですが、Microsoft が独自の目標を熱心に追求している間に、Google はただ急いでプレイしただけです。)
マイクロソフトは大きな過ちを犯しました。 実際、Bingの間違いです。
先週の大きな発表では、カスタム BingGPT (彼らがそれを呼んだものではありませんが、賢明な公式名がない場合のあいまいさをなくすために使用します) をより安全で、よりスマートで、より有能。 実際、不適切な応答の可能性を軽減すると思われる、Prometheus と呼ばれる特別なラッパー システム全体がありました。
残念ながら、傲慢とギリシャ神話に精通している人なら誰でも予測できたように、プロメテウスが際限なく、非常に公然と肝臓を引き裂かれている部分にまっすぐスキップしたようです.
おっと、AIがまたやった
画像クレジット: マイクロソフト/OpenAI
そもそも、Microsoft は自社のブランドを OpenAI のブランドと結びつけすぎるという戦略的な誤りを犯しました。 GPT が行っている調査の投資家および利害関係者として、GPT は取り除かれ、GPT が起こしたいかなる悪ふざけも非難されませんでした。 しかし、誰かが、Microsoft のすでにいくらか危険な Bing のブランディングに全面的に取り組むという頭の痛い決定を下し、会話型 AI の最悪の傾向を好奇心から責任へと変えました。
研究プログラムとして、ChatGPT は多くのことを許されます。 ただし、製品として、レポートを書いたり、旅行を計画したり、最近のニュースを要約したりするのにどのように役立つかなどの主張が箱に記載されているため、以前はほとんど信頼できず、現在は誰も信頼していません. Microsoft が新しい Bing の独自のプレゼンテーションで公開した最良のシナリオであったに違いないものでさえ、 エラーだらけ.
これらのエラーは、OpenAI または ChatGPT に起因するものではありません。 メッセージング、ブランディング、およびインターフェイスを所有するという Microsoft の決定により、うまくいかないことはすべて Bing の問題になります。 そして、Microsoft のさらなる不幸は、Microsoft の永遠に劣っている検索エンジンが、昔のジョークに出てくる野郎の無分別さのようになってしまうことです。 いいえ、そうではありません。」 1 つの失敗は永遠の懐疑論を意味します。
州北部への 1 回の旅行で失敗したということは、Bing が休暇の計画を立てることを誰も信用しないことを意味します。 ニュース記事の 1 つの誤解を招く (または防御的な) 要約は、それが客観的であるとは誰も信じないことを意味します。 ワクチンの偽情報が 1 回繰り返されるということは、それが本物か偽物かを知るために誰も信用しないということです。
Bing の新しい会話型検索に対するプロンプトと応答。
そして、Microsoft は、Prometheus とそれが管理する「次世代」AI のおかげで、これは問題にならないとすでに小言を言っているので、Microsoft が「修正した!」と言ったとしても、誰も Microsoft を信用しません。
Microsoft は、Bing を投入したばかりの井戸を毒殺しました。 現在、消費者の行動は気まぐれであり、その結果を予測するのは容易ではありません。 この活動と好奇心の急増により、おそらく一部のユーザーは固執し、Microsoft が完全な展開を遅らせたとしても (そして私はそうなると思います)、最終的な効果は Bing ユーザーの増加になるでしょう. ピュロスの勝利ですが、それでも勝利です。
私がさらに心配しているのは、 戦術的な マイクロソフトは、製品化して宣伝するのに適していると考えたテクノロジを理解できていなかったようです。
「そのまま発送してください。」 -誰か、おそらく
BingGPT が最初に実証されたまさにその日、私の同僚である Frederic Lardinois は、非常に簡単に、消費者 AI が行うべきではない 2 つのことを実行させることができました。注意や警告はありません。
大規模な AI モデルがフラクタルな攻撃面を備えていることは明らかであり、古い弱点が強化されたところに新しい弱点を巧妙に即興で作ります。 人々は常にそれを利用します。実際、熱心な迅速なハッカーが安全システムを回避する方法を示すことは、社会のためであり、最近では OpenAI のためでもあります。
Microsoft が、Bing ステッカーを貼った他の誰かの AI モデルがあらゆる四半期から攻撃され、非常に奇妙なことを言う可能性が高いという考えに平和的であると判断したとしたら、一種の恐ろしいことです。 危険ですが、正直です。 他のみんなと同じように、ベータ版だと言ってください。
しかし、彼らはこれが起こることに気づいていなかったようです. 実際、彼らは脅威の性質や複雑さをまったく理解していないようです。 そして、これはテイの悪名高い腐敗の後です! すべての企業の中で、Microsoft は、会話から学習する単純なモデルをリリースすることに最も慎重であるべきです。
重要なブランドを賭ける前に (Bing が検索における Google に対する Microsoft の唯一の防波堤であるという点で)、ある程度のテストが必要になると考える人もいるでしょう。 BingGPT が登場してから最初の 1 週間で、これらの厄介な問題がすべて発生したという事実は、Microsoft が BingGPT を社内で適切にテストしていないことを証明しているようです。 それはさまざまな方法で失敗する可能性があるため、詳細をスキップできますが、最終結果は議論の余地がありません.新しいBingは、単に一般的な使用の準備ができていませんでした.
これは、今や世界中の誰にとっても明らかなことのように思えます。 なぜそれがマイクロソフトに明らかにされなかったのですか? おそらく、ChatGPT の誇大広告に目がくらみ、Google と同様に、先を急いで「検索を再考する」ことに決めたのでしょう。
人々は今、検索を再考しています。 彼らは、Microsoft と Google のいずれかが、AI によって生成されたかどうかにかかわらず、基本的なレベルで事実上正しい検索結果を提供することを信頼できるかどうかを再考しています! どちらの企業も (Meta も) この能力をまったく実証しておらず、この課題に取り組んでいる他の少数の企業はまだ大規模にそれを行っていません.
マイクロソフトがこの状況をどのように救えるかわかりません。 OpenAI との関係を利用して、愚かな Google を飛び越えるために、彼らは新しい Bing と AI を利用した検索の約束にコミットしました。 彼らはケーキを焼くことができません。
彼らが完全に撤退する可能性は非常に低いです。 それは大規模な恥ずかしさを伴うでしょう – 現在経験しているよりもさらに大規模です. また、被害はすでに発生しているため、Bing の助けにもならない可能性があります。
同様に、Microsoft が何も問題がなかったかのように突進することはほとんど想像できません。 そのAIは本当に変です！ 確かに、このようなことを強要されていますが、脅迫を行ったり、複数のアイデンティティを主張したり、ユーザーを侮辱したり、至る所で幻覚を見せたりしています。 彼らは、貧しいプロメテウスによって制御されている不適切な行動に関する彼らの主張が、嘘ではないにしても、少なくとも真実ではないことを認めなければなりません. これまで見てきたように、彼らは明らかにこのシステムを適切にテストしていません。
マイクロソフトにとって唯一の合理的な選択肢は、彼らがすでに採用していると思われるものです。つまり、「新しい Bing」への招待を抑制し、缶を蹴って一度にいくつかの特定の機能をリリースすることです。 たぶん、現在のバージョンに有効期限や限られた数のトークンを与えて、列車が最終的に減速して停止するようにすることさえできます.
これは、自分が考案したものではなく、完全に理解していない、十分に評価できないテクノロジを展開した結果です。 この大失敗により、消費者向けアプリケーションでの AI の主要な展開が大幅に後退した可能性があります。これは、おそらく OpenAI や次世代モデルを構築する他の人々に適しています。
AI は検索の未来かもしれませんが、それが現在ではないことは確かです。 マイクロソフトは、それを見つけるために非常に苦痛な方法を選択しました。