3 年以上前、この編集者は、2015 年にイーロン マスクと共に設立した AI 企業の CEO に就任するために Y Combinator の社長としての役割を辞任した直後に、サンフランシスコでの小さなイベントのためにサム アルトマンと会談しました。その他、OpenAI。
当時、Altman は OpenAI の可能性について、風変わりに聞こえる言葉で説明していました。 アルトマン氏は、たとえば、人工知能 (人間だけでなく問題を解決できる機械知能) の可能性は非常に大きく、OpenAI がそれを解読できれば、「おそらくすべての未来の光円錐を捉えることができるかもしれない」と述べています。宇宙の価値。」 彼は、同社が非常に強力であるため、「研究を公開しないようにする必要があるだろう」と述べました. OpenAI は恐怖をあおる行為の罪を犯しているかとの質問 — 組織の共同創設者であるイーロン マスクは、AI を開発しているすべての組織に、 規制された — アルトマンは危険性について話しました いいえ 「指数曲線で何かを構築している」ときの「社会的影響」について考えます。
聴衆は、アルトマンをどれほど真剣に受け止めるべきか確信が持てず、会話のさまざまな時点で笑いました。 しかし、今は誰も笑っていません。 機械はまだ人間ほどスマートではありませんが、一部の ハイテク それ以来 OpenAI が世界にリリースしたことは、一部の批評家がそれが私たちの破滅ではないかと恐れるほど十分に近づいています。
確かに、 チャットGPT 先週一般公開された OpenAI のモデルは、質問に答えることができるさまざまな業界の専門家がその影響を処理するのに苦労している人のような質問。 たとえば、教育者は、自分たちが受け取ることになっているアルゴリズムによって生成されたエッセイとオリジナルの文章をどのように区別できるのか、そしてそれを回避できるのか疑問に思っています。 剽窃防止ソフトウェア.
ポール・ケドロスキーは教育者ではありません。 彼はエコノミストであり、ベンチャー キャピタリストであり、MIT のフェローでもあり、「複雑なシステムにおけるリスクと意図しない結果について考えるのが好きで、フラストレーションを抱えた普通の人」と自称しています。 しかし、彼は突然、私たちの集団の将来について非常に心配している人々の一人です。 つぶやく 昨日： “[S]このポケット核爆弾を無制限に準備不足の社会に向けて発射した OpenAI に敬意を表します。」 Kedrosky 氏は次のように書いています。 そして、再導入されたとしても、厳しい制限がある場合のみです。」
私たちは昨日、彼の懸念のいくつかについて話し、OpenAI が「100 年で米国経済が経験した中で最も破壊的な変化」であり、良い意味ではないと彼が信じていることを推進していると考える理由について話しました。
私たちのチャットは、長さと明確さのために編集されています.
TC: ChatGPT は先週の水曜日にリリースされました。 Twitterでの反応のきっかけは何ですか?
PK: 私は過去にこれらの会話型ユーザー インターフェイスと AI サービスを試してきましたが、これは明らかに大きな飛躍です。 そして、ここで特に私を悩ませたのは、それがさりげなく残忍であり、多くのさまざまな活動に大きな影響を与えていることです. それは、高校のエッセイの書き方のような明白なものだけでなく、文法があるほとんどすべての領域にまたがる — [meaning] 自分を表現する組織的な方法。 それは、ソフトウェア エンジニアリング、高校のエッセイ、法律文書などです。 それらはすべて、この貪欲な獣に簡単に食べられ、訓練に使用されたものを補償することなく、再び吐き出します.
[ was heard a story from a colleague at UCLA who told me they have no idea what to do with essays at the end of the current term, where they’re getting hundreds per course and thousands per department, because they have no idea anymore what’s fake and what’s not. So to do this so casually — as someone said to me earlier today — is reminiscent of the so-called [ethical] ホワイト ハット ハッカーは、広く使用されている製品にバグを発見し、一般に知られる前に開発者に通知して、開発者が製品にパッチを適用できるようにし、大規模な荒廃や送電網の停止を回避します。 これは逆で、ウイルスが結果を気にせずに野生に放出された場合です。
それは世界を飲み込むことができるように感じます。
「自動化が自動車工場に導入され、自動車労働者が失業したとき、あなたも同じように感じましたか?」と言う人もいるかもしれません。 これは一種のより広範な現象だからです。 しかし、これは大きく異なります。 これらの特定の学習技術は自己触媒的です。 彼らはリクエストから学んでいます。 したがって、製造工場のロボットは、破壊的で、そこで働く人々に信じられないほどの経済的影響をもたらしますが、その後方向転換して、工場内で行われるすべてのものを吸収し始め、セクターごとに移動しませんでしたが、それはまさに私たちが期待できることだけではありませんしかし、あなたが期待すべきこと。
Musk は OpenAI を部分的に去った 不一致 同社の発展について、彼は 2019 年に述べ、AI を実存的な脅威として長い間語ってきました。 しかし、人々は、彼が話していることを知らなかったと言いました。 今、私たちはこの強力な技術に直面していますが、誰がそれに対処するために介入するのかは明らかではありません.
一度にたくさんの場所で始まると思いますが、そのほとんどは本当に不器用に見え、人々は [then] それは技術者がすることだからです。 しかし、残念なことに、私たちはそのような結果を伴うものを作成することによって、これに踏み込んでしまいました. 何年も前に FTC がブログを運営している人々に [make clear they] アフィリエイト リンクを張って、そこからお金を稼いでいるとしたら、些細なレベルで、人々は「私たちは何も書いていません。 これはすべて機械で生成されたものです。
また、新しいエネルギーが見られると思います 進行中の訴訟 Microsoft と OpenAI に対して、トレーニング中の機械学習アルゴリズムのコンテキストにおける著作権侵害をめぐって。 このサービスに関しては、ここでより広範な DMCA 問題が発生すると思います。
そして、私は可能性があると思います [massive] サービスの結果に関しては、最終的には訴訟と和解が必要です。これにはおそらく時間がかかりすぎて、十分な数の人を助けることはできませんが、どうやって最終的に解決しないのかわかりません。 [this place] これらの技術に関して。
MIT ではどのような考えがありますか?
アンディ・マカフィー 彼のグループはより楽観的であり、より正統な見方をしており、混乱を目の当たりにするたびに、他の機会が生まれ、人々は移動し、場所から場所へ、職業から職業へと移動しますが、そうすべきではありませんこの特定のテクノロジーの進化は、私たちが変化したり移行したりできないものであると私たちは考えています。 そして、それは広く真実だと思います。
しかし、特に過去 5 年間の教訓は、これらの変化には長い時間がかかる可能性があるということです。 たとえば、自由貿易は、経済全体に影響を与える非常に破壊的な経験の 1 つです。私たちは経済学者として、経済は順応し、一般の人々は価格低下から恩恵を受けると考えていました。 誰も予想していなかったのは、誰かがすべての怒っている人々を組織し、ドナルド・トランプを選出するということでした. つまり、結果がどうなるかを予想して予測できるという考えがありますが、 [we can’t].
あなたは高校と大学のエッセイの書き方について話しました。 私たちの子供の 1 人がすでに質問しています — 理論的には! — ChatGPT を使用して論文を執筆することが剽窃となる場合。
エッセイを書く目的は、あなたが考えることができることを証明することであるため、これはプロセスを短絡させ、目的を無効にします. 繰り返しになりますが、結果と外部性に関して言えば、カンニングをしているかどうかわからなくなったために宿題を出すことができない場合、それはすべてが教室で行われ、監督されなければならないことを意味します. 家に持ち帰るものはありません。 より多くのことを口頭で行う必要がありますが、それはどういう意味ですか? これは、学校がより高価で、より職人的で、より小さくなったことを意味し、まさにその時期に、私たちは反対のことをしようとしています. 高等教育への影響は、実際にサービスを提供しなくなったという点で壊滅的です。
普遍的なベーシックインカムのアイデア、または誰もが参加できるようにすることについてどう思いますか? 利益 AIから？
私は、COVID以前よりも支持者としてははるかに弱くなりました。 その理由は、ある意味で、COVID はユニバーサル ベーシック インカムの実験だったからです。 私たちは家にいるように人々にお金を払いました、そして彼らはQAnonを思いつきました. ですから、人々が車に飛び乗り、どこかへドライブし、嫌いな仕事をして、また家に帰る必要がなくなったとき、私は本当に心配しています。怠惰な手と多くの悪魔のようなもの。