OpenAI 共同創設者兼 CEO の Sam Altman は、先週後半にこの編集者との幅広いインタビューに腰を下ろし、彼の最も野心的な個人的な投資のいくつかと、OpenAI の将来についての質問に答えました。
議論すべきことがたくさんありました。 現在 8 歳のこの衣装は、人のように質問に答えるチャットボットである ChatGPT をリリースしてから 2 か月で、全国的な会話を支配しています。 OpenAI の製品は、ユーザーを驚かせただけではありません。 同社は、新しい投資家への既存の株式の売却を監督するために交渉中であると伝えられています 290億ドル その比較的にもかかわらず評価 名目収入. そんな中、心配 教育者 ますます ブロッキング 学生が不正行為に使用するのではないかという懸念から、ChatGPT へのアクセスを拒否しました。
Altman は同社の現在の商取引について話すことを拒否し、私たちの座談会で関連する質問をされたとき、少し警告を発した。
ただし、彼は会社の今後の計画について少し明らかにしました。 1つには、ChatGPTと衣装の人気のデジタルアートジェネレーターであるDALL-Eに加えて、アルトマンはビデオモデルも来ることを確認しました.それは「もうすぐかもしれません。 それは正当な研究プロジェクトです。 しばらく時間がかかる可能性があります。」
Altman は、OpenAI と Microsoft とのパートナーシップが進化していることを明らかにしました — Microsoft は最初に OpenA に投資しました 2019年 そして今日の早い時間 計画を確認した ChatGPT のような AI ツールをすべての製品に組み込むことは、排他的な協定ではありません。
さらに、Altman は、OpenAI が自社の技術を他の企業にライセンス供与することに加えて、独自のソフトウェア製品とサービスを構築できることを確認しました。 これは、OpenAI が独自の検索エンジンを介して Google と直接競合する日が来るのではないかと考えていた業界ウォッチャーにとって注目すべきことです。 (このシナリオについて尋ねられたアルトマン氏は次のように述べています。「誰かがテクノロジーが他の巨大企業の終わりになると話すときはいつでも、それは通常間違っています。人々は、ここで対抗策を講じることができることを忘れています。彼らはかなり頭が良く、かなり有能です。 」）
OpenAI が GPT の第 4 バージョン (ChatGPT のベースとなる洗練された言語モデル) をリリースする計画については、Altman 氏は、熱く期待されている製品は「できると確信できる時点でリリースされる」としか言いません。 [release] 安全かつ責任を持って。」 彼も OpenAI の現在の深層学習モデルとは対照的に、GPT-4 に関する期待を和らげようとしました。「私たちは実際の AGI を持っていない」と言って、問題を解決し、試行を通じてパターンを特定する OpenAI の現在の深層学習モデルに対して、汎用人工知能、または独自の緊急知能を持つ技術を意味します。とエラー。
“私が思うに [AGI] GPT-4は、その期待に人々を「失望させるだろう」と彼は言った。
そんな中、聞かれたのは いつ アルトマン氏は、汎用人工知能が登場することを期待しており、それは想像以上に近いと考えていますが、「AGI」への移行は一部の人が予想するほど急激ではないとも述べています。 「近づくほど [to AGI]人々が考えているよりもはるかに曖昧で、段階的な移行になると思うので、答えるのが難しくなります」と彼は言いました.
当然のことながら、話をまとめる前に、OpenAI がすでに世界に公開している技術に対して社会が十分なガードレールを備えているかどうかなど、安全性について時間をかけて話しました。 （多くの批評家は、私たちがそうではないと信じています。特に、Google は、独自の AI チャットボットである LaMDA のリリースに消極的であると伝えられています。風評リスク」）
アルトマン氏はここで、OpenAI には「物事を壊して影響を研究しようとする内部プロセスがあります。 外部監査人を利用しています。 私たちは外部を持っています 赤チーム. 私たちは他の研究所と協力し、安全組織に調査を依頼しています。」
同時に、この技術は OpenAI などから登場しつつあり、人々はそれとどのように共存していくかを考え始める必要がある、と彼は示唆した。 「ChatGPT が引き起こしようとしている、または引き起こしつつある社会的変化があります。 現在進行中の大きな問題は、教育と学問的誠実性への影響に関するものです。」 それでも、彼は次のように主張した。 [product releases] 今 [makes sense]、社会が更新する時間がない状態で業界全体が数年後に持っているものを単に発表するのではなく、賭け金がまだ比較的低い場合.
実際、教育者、そしておそらく保護者も、魔神を瓶に戻してはならないことを理解する必要があります。 Altman 氏は、OpenAI やその他の AI 組織が透かし技術やその他の検証技術を「実験」して、学生が AI によって生成されたコピーを自分のものとして偽装しようとしているかどうかを評価するのに役立つと述べましたが、この特定のシナリオに焦点を合わせすぎていることもほのめかしました。無駄。 「教師が GPT のようなシステムの出力をもう少し検出できるようにする方法はあるかもしれませんが、正直なところ、決心した人は彼らを回避しようとしており、それが社会でできることではないと思います。または長期的に依存する必要があります。」
人々が大きな変化にうまく順応したのはこれが初めてではない、と彼は付け加えた。 アルトマンは、「数学の授業でテストする内容を変えた」電卓と、事実を記憶する必要性をはるかに少なくした Google 自体を指摘し、ディープ ラーニング モデルは両方の開発の「より極端なバージョン」を表していると述べました。 しかし、彼は次のように主張しました。 当然のことながら、これが宿題に与える影響について非常に神経質になっている教師から聞いています。 また、「うわー、これは各子供のための信じられないほどの個人的な家庭教師です。」
OpenAI と、AI の商品化、規制に関する Altman の進化する見解、および AI が 5 ～ 7 年前に多くの人が想像していた「正反対の方向」に進んでいる理由についての完全な会話については、以下のクリップをチェックする価値があります。
また、Altman が AI の可能性と危険性に関して、最良のシナリオと最悪のシナリオに対処することも聞くことができます。
ショートバージョン？ 「良いケースは信じられないほど良いので、それについて話し始めるのは本当にクレイジーな人のように聞こえます」と彼は言いました. 「そして、悪いケースは、これを言うことが重要だと思いますが、私たち全員が消灯するようなものです。」