OpenAIはBingの奇妙なAI反応についてMicrosoftに警告したと伝えられている

OpenAIは、Microsoftに対して、GPT-4を自社のBing検索エンジンに統合することにより、不正確で予測不可能な応答が発生するのを避けるために、ゆっくりと取り組むよう警告したと伝えられている。 ウォールストリートジャーナル レポート OpenAI チームは、GPT-4 の未リリース バージョンに基づくチャットボットを時期尚早に押し出すことのマイナスのリスクについて警告しました。

不正確で奇妙な応答を最小限に抑えるには時間がかかるかもしれないという警告にもかかわらず、マイクロソフトは続行した。 2 月に Bing Chat がローンチされてから数日後、ユーザーは、このチャットボットが予測不可能で、ユーザーを侮辱したり、嘘をついたり、不機嫌になったり、人々をガスライトしたり、さらには敵を特定すると主張したりする可能性があることに気づきました。

Microsoft は、AI が本当におかしくなるのを防ぐために、すぐに Bing チャットの応答を制限しました。Bing チャットボットを、予期せぬ暴発を起こさずに長い往復会話ができるレベルに戻すまでに、数か月の作業を要しました。 ただし、それでも問題が発生することがよくあります。

ウォールストリートジャーナルのレポートでは、両社が AI 機能で協力し、競争する際の緊張関係についても説明されています。 Microsoft幹部らは昨年のChatGPTの立ち上げに不安を感じていたと伝えられている。 の WSJ OpenAI は、ソフトウェア大手が OpenAI のモデルを Bing に統合し始めたのと同じ時期に、Microsoft に ChatGPT の公開テストを開始することを数週間前に通知したと述べています。

Microsoft と OpenAI はかなりユニークなパートナーシップを結んでいますが、両社は同時にお互いをサポートし、競争しているため、舞台裏ではいくつかの対立につながっています。

Microsoft は、Bing、Azure、Office、Windows、その他多くの製品で使用できる OpenAI モデルとテクノロジのライセンスを取得しています。 Microsoftは、約100億ドルの価値があると噂される「数十億ドルの投資」で新しいBingチャットボットを発売するまでの1か月も経たないうちに、この緊密なパートナーシップを延長した。 Microsoft は OpenAI の独占的なクラウド パートナーであり、Microsoft のクラウド サービスは、製品、API サービス、研究にわたるすべての OpenAI ワークロードを強化します。 同時に、OpenAI は、Microsoft が求愛しているのと同じ顧客にアピールする独自の製品と API サービスを開発しました。 ChatGPT は Bing AI とも競合します。 情報 報告 今年初めに起きたこうしたトラブルのいくつかについて。

で 有線 今日のインタビュー Microsoft CEO Satya Nadella との対談では、OpenAI とのこの競争の側面について簡単に触れられました。 「OpenAI も私たちと同じことを目指していると感じました」とナデラ氏は言います。 「そこで、5 つの異なる基礎モデルをトレーニングしようとする代わりに、プラットフォーム効果の基礎となる 1 つの基礎が必要でした。 そこで私たちは提携しました。 彼らは私たちに賭けました、私たちも彼らに賭けました。」

MicrosoftがOpenAIを買収しようとしたのかとの質問に対し、ナデラ氏は質問をはぐらかした。 私はBingに対し、MicrosoftがOpenAIの買収を試みたかどうか尋ねたが、同社はまた、「Microsoftが過去にOpenAIの買収を試みたことを示唆する情報は見つからなかった」という明白な事柄については議論したがらなかった。