今週はアメリカ 上院議員らは、チェックされていないAIが仕事を奪い、誤った情報を広め、一般的には「かなり間違った方向に進む」(それが何を意味するかはともかく)OpenAI CEO サム・アルトマンの言葉です。 同氏と数人の議員は、米国がこの技術の開発を監督する新たな連邦機関を必要とする可能性があることに同意した。 しかし公聴会では、潜在的に生産性を向上させ、米国が新たな技術革命で主導権を握る可能性のある技術の開発を誰も望んでいないという点でも一致した。
心配している上院議員は、次のような人たちと話し合うことを検討するかもしれない ミッシー・カミングス、 かつての戦闘機パイロット ジョージ・メイソン大学の工学およびロボット工学教授。 彼女は自動車や航空機などの安全性が重要なシステムにおける AI と自動化の利用を研究しており、テスラのオートパイロットや自動運転車などの自動車技術を監督する米国道路交通安全局での勤務を経て、今年初めに学界に戻った。 カミングスの視点は、大々的に宣伝されている新しいアルゴリズムの有望性と、その先に待ち受けるリスクを比較検討しようとしている政治家や政策立案者にとって役立つかもしれない。
カミングス氏は今週、多くの自動車メーカーが導入している自動運転システムに深い懸念を抱いてNHTSAを辞めたと語った。 「これらの車の性能という点で、私たちは深刻な問題に直面しています」とカミングス氏は言う。 「彼らは人々が思っているほどの能力には程遠いのです。」
私は、AI の力に対する興奮と懸念を煽る ChatGPT や同様のチャットボットとの類似点に衝撃を受けました。 自動運転機能は以前から存在していましたが、大規模な言語モデルと同様に、本質的に予測不可能で検査が困難な機械学習アルゴリズムに依存しており、過去とは異なる種類のエンジニアリング的思考が必要です。
また、ChatGPT と同様に、Tesla の Autopilot やその他の自動運転プロジェクトも、不条理な誇大宣伝によって高められてきました。 自動車メーカー、新興企業、投資家は、交通革命という夢に夢中になって、まだ多くの未解決の問題を抱えた技術の開発と導入に巨額の資金をつぎ込んだ。 2010年代半ばには自動運転車を巡る規制環境は寛容で、政府当局者は米国企業にとって数十億ドルの価値が見込まれる技術にブレーキをかけることを嫌がっていた。
この技術に何十億ドルも費やしたにもかかわらず、自動運転車は依然として問題に悩まされており、一部の自動車会社は大規模な自動運転プロジェクトから手を引いている。 一方、カミングス氏が言うように、半自律型テクノロジーが実際にどの程度の能力があるのか、一般の人々はよくわかっていません。
政府や議員が生成 AI ツールや大規模言語モデルの規制をすぐに提案しているのは、ある意味では良いことです。 現在のパニックは、ChatGPT のような大規模な言語モデルやツールに集中しています。これらのツールには、自信を持って事実を捏造するなど、依然として重大な欠点があるにもかかわらず、質問に答えて問題を解決するのに非常に優れています。
今週の上院公聴会で、ChatGPTを提供したOpenAIのアルトマン氏は、同氏のような企業が高度なAIに取り組むことを許可するかどうかを管理するライセンス制度の創設を要求するまでに至った。 アルトマン氏は公聴会で「私が最も恐れているのは、私たち、この分野、テクノロジー、業界が世界に重大な害をもたらしていることだ」と述べた。