25 周年を迎える前夜、Firefox ブラウザーの背後にある非営利団体である Mozilla は、AI に焦点を当てたスタートアップを立ち上げます。
呼ばれた Mozilla.aiMozilla のエグゼクティブ プレジデントであり Mozilla.ai の責任者である Mark Surman によると、その使命はオープン ソースで「信頼できる」AI を構築することです。
「信頼できる AI に 5 年近く取り組んできましたが、常に興奮と不安が入り混じっています」と彼は TechCrunch の電子メール インタビューで語っています。 「この 1 か月か 2 か月間、矢継ぎ早にビッグ テック AI が発表されましたが、それも例外ではありませんでした。 本当にエキサイティングな新しいテクノロジーが登場しています。新しいツールは、すぐにアーティストや創業者など、あらゆる種類の人々に新しいことをするきっかけを与えました。 ガードレールを見ている人がほとんどいないことに気がつくと不安になります。」
サーマン氏は、ここ数か月で AI モデルが急増していることに言及していましたが、その能力は印象的ですが、現実世界には懸念すべき影響があります。 リリース時に、OpenAI のテキスト生成 ChatGPT は、マルウェアを作成し、オープン ソース コードのエクスプロイトを特定し、トラフィックの多いサイトに似たフィッシング Web サイトを作成するように促される可能性があります。 一方、Stable Diffusion のようなテキストから画像への AI は、ポルノ、同意のないディープフェイク、暴力の超グラフィック描写を作成するために採用されています。
これらのモデルの作成者は、虐待を抑制するための措置を講じていると述べています。 しかし、Mozilla は十分に行われていないと感じていました。
「私たちは約 5 年間、公益研究の側面で信頼できる AI に取り組んできました。より多くの AI の専門知識を持つ他の業界プレーヤーが、より信頼できる技術を構築するためにステップアップすることを期待しています」と Surman 氏は述べています。 「そうではありません。 そのため、昨年半ばに自分たちでそれを行う必要があると判断し、私たちと一緒にそれを行う志を同じくするパートナーを見つける必要がありました. 次に、それを率いるために、学術的および業界の AI 経験を適切に組み合わせた人物を探し始めました。」
Mozilla の親組織である Mozilla Foundation からの 3,000 万ドルのシード投資によって資金提供された Mozilla.ai は、Mozilla Foundation の完全子会社です。Mozilla Corporation (Firefox の開発を担当する組織) や Mozilla Ventures (Mozilla Foundation の VC基金）。 同社のマネージング ディレクターは、以前は Huawei の Noah’s Ark AI ラボのチーフ サイエンティストであり、コンサルティング会社 Capgemini のグローバル チーフ サイエンティストであった Moez Draief です。
Harvard の Karim Lakhani、Credo の Navrina Singh、Surman が Mozilla.ai の最初の理事会メンバーを務めます。 Lakhani は、ハーバード大学の Digital, Data and Design Institute の会長兼共同設立者であり、Singh は、米国商務省の National AI Advisory Committee のメンバーであり、AI に関するさまざまな倫理問題について大統領に助言しています。
Surman は、Mozilla.ai を研究会社であり、コミュニティでもあると説明しています。これは、信頼できる独立したオープンソース AI スタックの作成を支援することに専念するスタートアップです。 当初、Mozilla.ai の優先事項は、OpenAI の GPT-4 に沿った「信頼できる」レコメンデーション システムと大規模な言語モデルに取り組むために、約 25 人のエンジニア、科学者、プロダクト マネージャーからなるチームを構築することです。 しかし、同社のより広い野望は、ビジョンを共有する提携企業や研究グループ (Mozilla Ventures が支援するスタートアップや学術機関を含む) のネットワークを確立することです。
「信頼できる AI には商用市場があると考えています。業界が AI を私たち全員が日常的に使用するアプリ、製品、サービスに組み込む方法を変えたいのであれば、この市場は成長する必要があると考えています」と Surman 氏は述べています。 「Mozilla.ai — 多くの関連企業、研究者、政府と緩やかに連携 — [has] 「信頼第一」のオープンソース AI スタックを共同で作成する機会。 私たちが成功すれば、業界の主流は、過去 20 年間に Linux や Apache スタックで行ってきたように、このスタックを通常のツールキットの一部として利用することになるでしょう。」
Mozilla.ai だけではありません — 完全ではありません。 Canva や Hugging Face などの企業支援者から資金提供を受けて最近設立された EleutherAI Institute など、いくつかの非営利団体が AI ツールの民主化を使命としています。 また、マイクロソフトの共同創設者である故ポール アレンによって設立されたアレン AI 研究所と、アラン チューリング研究所もあります。 小規模ながら有望な取り組みとしては、AI スタートアップの Cohere の Cohere For AI や、Timnit Gebru の Distributed AI Research (グローバルな分散型研究組織) などがあります。
言うまでもなく、Mozilla.ai は非営利団体ではありません。 それは特定の倫理原則に縛られていますが（つまり、 Mozilla マニフェスト)、スピンアウトする可能性があり、実際にスピンアウトすることを目指しています。オープンソース プロジェクトに加えて、製品や企業へのより成功した調査です。
Draief は、これを欠点ではなくプラスと見なし、非営利団体に欠けている Mozilla.ai の柔軟性を提供すると主張しています。 彼の指摘によると、2015 年に非営利団体として設立された OpenAI のような警告的な話がありますが、その後、進行中の研究に資金を提供するために「制限付き利益」構造への移行を余儀なくされました。
「大きな問題は、新しくて小規模で信頼できる AI スタートアップのうち、どれだけの企業が独立を維持できるかということです。」 ドレイフはメールで TechCrunch に語った。 「大手企業、特に Amazon、Google、Microsoft のクラウド プラットフォームが AI 分野の統合を急いでいることは明らかです。 これは、すべてのお金が作られているところです。 中小企業がこの統合に巻き込まれないようにするのは難しいでしょう。」
その日の AI 研究のトレンドを追い求めて — 偶然ではなく、より資金の潤沢な研究分野 — Mozilla.ai は今後数か月かけてツールを開発する予定です。たとえば、ユーザーは AI チャットボットの回答の背後にある情報源を調査できます。あげて。 同社はまた、Mozilla の既存の調査に基づいて、個人またはコミュニティの価値に合わせてレコメンデーションを最適化するシステムのように、ユーザーがコンテンツ レコメンデーション AI (つまり、YouTube、Twitter、および TikTok フィードを駆動するアルゴリズム) をより制御できるようにするシステムを作成しようとしています。
Draief は、AI スタックを有意義な方法で移行することが迅速なプロセスになるとは考えていません。 彼は、Mozilla.ai が「今年」にコードを出荷することを誓約している一方で、複数年という観点で語っています。
しかし、測定可能な成功には時間以上のものが必要です。
歴史が示すものであれば、任意のフレームワークや 1 回限りのツールは、たとえあったとしても大きな変化をもたらすことはありません。 Mozilla.ai の課題は、信頼できる AI という同社のビジョンが正しいものであることを業界に納得させ、そのビジョンを採用することです。
「このような信頼できる AI 機能は、追加するのは些細なことのように思えますが、ほとんどの場合、まだ研究室で見られます」と Draief 氏は述べています。 「Mozilla.ai は研究者と協力して、彼らの作業を実用的なコードに変換し、従来の AI ツールと連携して使用できるようにします。」