大幅な人事異動が予定されている OpenAI、ChatGPT の立ち上げにより、ほぼ独力で生成 AI の概念を世界的な公の議論に挿入した人工知能の巨人です。 業界のベテランであり、スタートアップの信頼と安全の責任者であるデイブ・ウィルナー氏は、次のように発表した。 LinkedIn に投稿する 昨夜、彼は仕事を辞め、顧問の役割に移ったとのこと。 彼は若い家族ともっと多くの時間を過ごすつもりだ、と彼は語った。 彼はその役を1年半務めていた。
同氏の退任はAIの世界にとって重要な時期に迫っている。
生成 AI プラットフォーム (大規模な言語モデルに基づいており、ユーザーからの簡単なプロンプトに基づいて自由に生成されたテキスト、画像、音楽などを超高速で生成するプラットフォーム) の機能に対する興奮とともに、質問のリストも増えています。 この素晴らしい新しい世界で活動や企業を規制するにはどうすればよいでしょうか? あらゆる問題全体にわたって有害な影響を軽減するにはどうすればよいでしょうか? 信頼と安全は、こうした会話の基礎となる部分です。
ちょうど今日、OpenAIの社長グレッグ・ブロックマンがアンスロピック、グーグル、インフレクション、マイクロソフト、メタ、アマゾンの幹部らとともにホワイトハウスに現れ、現在進行中のAI大統領令に先立ち、共通の安全性と透明性の目標を追求する自発的な取り組みを支持する予定だ。 これは、AI規制に関連して欧州で多くの騒ぎが起きたことを受けてのことだ。 移り変わる感情 の中 他の何人か。
このすべてのうち重要なことは、OpenAI で失われることはありません。 位置そのもの フィールド上では自覚的で責任感のあるプレーヤーとして。
ウィルナー氏は LinkedIn の投稿の中で、特にそのことについては言及していません。 その代わりに、彼はそれをハイレベルに保ち、次のように述べています。 ChatGPT の立ち上げ後、彼の OpenAI の仕事の要求は「高強度段階」に移行したと述べています。
「私はOpenAI時代に私たちのチームが成し遂げてきたことすべてを誇りに思っています。そこでの私の仕事は、現在可能な中で最もクールで最も興味深い仕事の1つでしたが、私が最初に参加したときよりも、その範囲と規模は劇的に成長しました。」と彼は書いています。 彼とその妻、同じく信頼と安全のスペシャリストであるチャリオット・ウィルナー氏は、二人とも常に家族を第一に考えると約束したが、「ChatGPT の立ち上げから数か月間、契約を守るのがますます難しくなった」と彼は語った。
ウィルナー氏は OpenAI のポストに就任してまだ 1 年半ですが、Facebook や Airbnb の信頼および安全性チームを率いるなど、この分野での長いキャリアを積んできました。
Facebookの取り組みは特に興味深いです。 そこで彼は、会社の最初のコミュニティ標準の立場を明確にするのに貢献した初期の従業員であり、それは今日でも会社のアプローチの基礎として使用されています。
これは同社にとって、そして間違いなく、インターネットと社会全体にとって、ソーシャル メディアの世界的な発展に Facebook が与えた影響を考えると、非常に形成的な時期でした。 それらの年には、言論の自由や、物議を醸すグループや物議を醸す投稿を抑制するよう求める声に Facebook がどのように抵抗する必要があるかについて、非常に率直な立場が目立った時期もあった。
その好例の1つは、2009年にフェイスブックがホロコースト否定派のアカウントや投稿をどのように扱っているかについて公開フォーラムで展開された非常に大きな論争だった。 一部の従業員や外部観察者は、フェイスブックには毅然とした態度をとり、こうした投稿を禁止する義務があると感じていた。 また、そうすることは検閲に似ており、自由な言論に関して誤ったメッセージを送っていると考える人もいた。
ウィルナーは後者の陣営に属し、「ヘイトスピーチ」は「直接的な危害」と同じではないため、同じように緩和されるべきではないと信じていた。 「私はホロコースト否定という考えを信じていません。 [sic] それは本質的に他人の安全に対する脅威である」と彼は当時書いた。 (TechCrunch の過去の記事については、こちらの投稿全文をご覧ください。)
振り返ってみると、他の多くのことがどのように展開したかを考えると、それはかなり近視眼的でナイーブな立場でした。 しかし、それらのアイデアの少なくとも一部は進化したようです。 2019年までに、彼はソーシャルネットワークでの雇用を失い、 反対して声を上げる 同社がどのようにして政治家や著名人に、より弱いコンテンツモデレーション例外を認めたかったのか。
しかし、Facebook に適切な基礎を築く必要性が当時の人々の予想よりも大きかったとすれば、テクノロジーの新たな波が到来した今では、おそらくそれがさらに当てはまるでしょう。 これによれば ニューヨークタイムズの記事 1 か月も経たない前から、ウィルナー氏は当初、スタートアップの画像ジェネレーターである Dall-E が悪用され、生成型 AI 児童ポルノの作成などに使用されるのを防ぐ方法を見つけるために OpenAI に引き入れられました。
しかし、 言うことは行きます、OpenAI（および業界）は昨日そのポリシーを必要としています。 「1年以内に、この分野では非常に問題のある状態に達するだろう」とスタンフォードインターネット天文台の主任技術者デビッド・ティール氏はNYTに語った。
さて、ウィルナーがいない場合、誰がOpenAIの責任を率いてこの問題に対処するのでしょうか?
(OpenAI にコメントを求めており、返答があればこの投稿を更新します。)