生成 AI 分野での競争が激化する中、OpenAI は価格を引き下げながらテキスト生成モデルをアップグレードしています。
今日、OpenAI 発表された GPT-3.5-turbo と GPT-4 の新バージョンのリリース。後者は関数呼び出しと呼ばれる機能を備えた最新のテキスト生成 AI です。 OpenAI が次のように説明しています。 ブログ投稿、関数呼び出しにより、開発者は GPT-3.5-turbo および GPT-4 にプログラミング関数を記述し、モデルにそれらの関数を実行するコードを作成させることができます。
たとえば、関数呼び出しは、外部ツールを呼び出して質問に答えたり、自然言語をデータベース クエリに変換したり、テキストから構造化データを抽出したりするチャットボットの作成に役立ちます。 「これらのモデルは、関数を呼び出す必要があるときを検出し、次のように応答するように微調整されています。 JSON それは関数シグネチャに準拠しています」と OpenAI は書いています。 「関数呼び出しにより、開発者はモデルから構造化データをより確実に取得できるようになります。」
OpenAI は、関数呼び出しを超えて、大幅に拡張されたコンテキスト ウィンドウを備えた GPT-3.5-turbo のフレーバーを導入しています。 コンテキスト ウィンドウ (測定単位) トークン、または生のテキストビット、 追加のテキストを生成する前にモデルが考慮するテキストを指します。 コンテキスト ウィンドウが小さいモデルは、ごく最近の会話の内容さえ「忘れる」傾向があり、話題からそれてしまうことが多く、問題のある形になってしまいます。
新しい GPT-3.5-turbo は、バニラ GPT-3.5-turbo の 4 倍のコンテキスト長 (16,000 トークン) を 2 倍の価格 (入力トークン (モデルに入力されるトークン) 1,000 あたり 0.003 ドル、出力トークン 1,000 あたり 0.004 ドル) で提供します。モデルが生成するトークン)。 OpenAI によれば、一度に約 20 ページのテキストを取り込むことができるが、特に AI スタートアップ Anthropic の主力モデルが処理できる数百ページには及ばない。 (OpenAI は、32,000 トークンのコンテキスト ウィンドウを備えたバージョンの GPT-4 をテストしていますが、限定リリースのみです。)
プラス面として、OpenAI は GPT-3.5-turbo (コンテキスト ウィンドウが拡張されたバージョンではなくオリジナル) の価格を 25% 値下げすると述べています。 開発者は現在、1,000 入力トークンあたり 0.0015 ドル、1,000 出力トークンあたり 0.002 ドルでこのモデルを使用できます。これは 1 ドルあたり約 700 ページに相当します。
OpenAI の最も人気のあるテキスト埋め込みモデルの 1 つである text-embedding-ada-002 の価格も引き下げられます。 テキスト埋め込みはテキスト文字列の関連性を測定し、一般的に検索 (結果がクエリ文字列との関連性によってランク付けされる) および推奨 (関連するテキスト文字列を持つアイテムが推奨される) に使用されます。
Text-embedding-ada-002 の料金は 1,000 トークンあたり 0.0001 ドルとなり、以前の価格から 75% 値下げされました。 OpenAIは、この削減はシステムの効率性の向上によって可能になったと述べているが、これは間違いなくスタートアップにとって重要な焦点分野であり、投資を行っているためである。 何億もの 研究開発とインフラストラクチャに多額の費用がかかります。
OpenAI は、3 月初旬の GPT-4 リリース後の MO は、ゼロからの大規模な新しいモデルではなく、既存モデルの増分アップデートであると通知しました。 エコノミック・タイムズが主催した最近のカンファレンスで、最高経営責任者（CEO）のサム・アルトマン氏は、OpenAIがGPT-4の後継モデルのトレーニングを開始していないことを再確認し、同社がそのモデルを開始する前に「やるべきことがたくさんある」ことを示唆した。