フォトニックコンピューティングのスタートアップ ライトマター は、業界のレベルアップに貢献し、起動に必要な電力を大幅に節約できると主張するハードウェアとソフトウェアの組み合わせにより、急速に成長する AI 計算市場に大きな挑戦を行っています。
Lightmatter のチップは基本的にオプティカル フローを使用して、行列ベクトル積などの計算プロセスを解決します。 この計算は多くの AI 作業の中心であり、現在、この計算を専門とする GPU と TPU によって実行されていますが、従来のシリコン ゲートとトランジスタが使用されています。
これらの問題は、特定のワット数またはサイズにおける密度、つまり速度の限界に近づいていることです。 進歩は今も続いていますが、多大なコストと古典物理学の限界を押し広げています。 GPT-4 のようなトレーニング モデルを可能にするスーパーコンピューターは巨大で、大量の電力を消費し、大量の廃熱を生成します。
「世界最大手の企業はエネルギー電力の壁にぶつかり、AI のスケーラビリティに関して大きな課題に直面しています。 従来のチップは冷却の限界を押し広げており、データセンターではますます大きなエネルギーフットプリントが生成されます。 データセンターに新しいソリューションを導入しない限り、AI の進歩は大幅に遅くなるでしょう」と Lightmatter CEO 兼創設者のニック・ハリス氏は述べています。
「単一の大規模言語モデルをトレーニングするには、米国の家庭 100 軒が 1 年間に消費するエネルギーよりも多くのエネルギーが必要になると予測する人もいます。 さらに、新しいコンピューティング パラダイムが作成されない限り、10 年代の終わりまでに世界の総力の 10 ～ 20 パーセントが AI 推論に投入されるだろうとの推定もあります。」
もちろん、Lightmatter は、そうした新しいパラダイムの 1 つとなることを目指しています。 そのアプローチは、少なくとも潜在的にはより高速かつ効率的であり、微細な光導波路のアレイを使用して、光がそれらを通過するだけで本質的に論理演算を実行できるようにするものであり、一種のアナログとデジタルのハイブリッドです。 導波路は受動的であるため、主な消費電力は光自体を生成し、出力を読み取って処理することです。
この形式の光学コンピューティングの非常に興味深い側面の 1 つは、一度に複数の色を使用するだけでチップの出力を向上できることです。 青は 1 つの操作を実行し、赤は別の操作を実行します。ただし、実際には、800 ナノメートルの波長が 1 つの操作を実行し、820 ナノメートルの波長が別の操作を実行するようなものです。 もちろん、そうするのは簡単ではありませんが、これらの「仮想チップ」により、アレイ上で実行される計算量が大幅に増加する可能性があります。 2 倍の色、2 倍のパワー。
ハリス氏は、彼と彼のチームがMITで行った光コンピューティングの研究（関連特許を彼らにライセンス供与している）に基づいて会社を設立し、2018年に1100万ドルのシードラウンドを勝ち取ることに成功した。当時、ある投資家はこう語った。しかし、ハリス氏は2021年に、この技術が「原理的には」機能するはずであることはわかっていたものの、それを実用化するにはやるべきことが非常に多かった、と認めた。 幸いなことに、彼は投資家が会社にさらに 8,000 万ドルを投じているという文脈で私にそのことを話してくれました。
現在、LightmatterはCラウンドで1億5,400万ドルを調達し、実際のデビューに向けて準備を進めている。 同社は、Envise (コンピューティングハードウェア)、Passage (大規模なコンピューティング操作に不可欠な相互接続)、および機械学習開発者が迅速に適応できるようにするソフトウェアプラットフォームである Idiom のフルスタックを使用したいくつかのパイロットを行っています。
捕虜となったライトマター・エンヴィスのユニット。
「私たちは、PyTorch および TensorFlow とシームレスに統合するソフトウェア スタックを構築しました。 そこからの機械学習開発者のワークフローは同じです。これらの業界標準アプリケーションに構築されたニューラル ネットワークを取得し、ライブラリをインポートするので、すべてのコードが Envise 上で実行されます。」と彼は説明しました。
同社は高速化や効率向上について具体的な主張を避けており、アーキテクチャやコンピューティング方式が異なるため、同一の比較を行うのは難しい。 しかし、私たちは間違いなく、わずか 10 パーセントや 15 パーセントではなく、桁違いの規模で話しています。 インターコネクトも同様にアップグレードされます。そのレベルの処理を 1 つのボードに分離しても意味がないからです。
もちろん、これはラップトップで使用できるような汎用チップではありません。 これはこのタスクに非常に特化したものです。 しかし、この規模でのタスクの具体性の欠如が AI 開発を遅らせているように見えます。ただし、AI の開発は非常に速いスピードで進められているため、「足を引っ張る」という表現は間違っています。 しかし、その開発には莫大な費用がかかり、扱いが困難です。
パイロット版はベータ版で、大量生産は 2024 年に計画されており、その時点でデータセンターに展開するのに十分なフィードバックと成熟度が得られているはずです。
このラウンドの資金は、SIP Global、Fidelity Management & Research Company、Viking Global Investors、GV、HPE Pathfinder、および既存の投資家から提供されました。