SECはチャットボットが市場パニックを煽る可能性があると懸念している

米国証券取引委員会（SEC）は、生成AIが金融市場に与える影響について懸念を表明した。

の スピーチ SECのゲーリー・ゲンスラー委員長は月曜日にナショナル・記者クラブに行った講演で、最近の生成AIの進歩により、各機関が同じ情報のサブセットに依存して意思決定を行う可能性が高まっていると述べた。

ゲンスラー氏は、データとコンピューティング能力への需要が大きいため、少数の技術プラットフォームだけがこの分野を独占し、企業が使用できるAIモデルの分野が狭まる可能性があると述べた。 モデルが不正確または無関係な情報を提供すると、金融機関は同じ欠陥のあるデータを使用し、同じ誤った決定を下すことになる可能性があり、銀行が信用からの情報に基づいて「リーダーに従う」という 2008 年の金融危機のような事態が生じるリスクが生じます。評価者、または ツイッターに煽られたシリコンバレー銀行の経営。 ゲンスラー氏は、潜在的な影響を2008年の金融危機のようなものに例え、金融における「一元化されたデータセットまたはモデル」のリスクを示したと述べた。

「AIは基本モデルやデータアグリゲーターから同じシグナルを受け取っているため、同様の意思決定を行う個々の主体による群集を促進する可能性があるため、AIは財務の脆弱性を高める可能性がある」とゲンスラー氏は述べた。 同氏は、生成AIやその他の深層学習モデルの台頭により、「世界の金融システムに固有のネットワークの相互接続性が悪化する可能性がある」と付け加えた。

金融業界では長い間 AI システムが使用されてきました。 一部の保険会社や債権者は、融資額を決定する前に財務データを解析するためにアルゴリズムと自然言語処理を導入しています。 商社は AI を利用して、人間がコンピュータ画面を見ているよりもはるかに速く不正行為の有無をチェックし、市場シグナルをチェックしてきました。

ここでゲンスラー氏は大規模言語モデルに焦点を当て、生成 AI と LLM を「現代で最も革新的なテクノロジー」と呼びました。 彼のスピーチでは、これをより一般的なカテゴリの AI テクノロジーと混同することがありましたが、これらのシステムすべてが同じリスクや疑問を引き起こすわけではありません。 ゲンスラー氏はまた、生成AIは金融分野ではまだ広く使用されていないと指摘した。

ゲンスラー氏がAIが金融市場に影響を与えることに警鐘を鳴らしたのはこれが初めてではない。 MIT在学中、ゲンスラーと共著者リリー・ベイリー 論文を書きました 現在の規制構造が金融における AI の使用から生じる問題にどのように対処できないかを調査します。

AI規制もSECにとって新しいテーマではない。 同庁は2018年に、AI、暗号通貨、その他のフィンテック関連の問題に関する質問に答えるために設立されたリソースセンターであるFinHubを設立した。同庁は、特に暗号通貨分野で法律に違反していると思われる新興テクノロジー企業に対する訴訟を積極的に追及している。空。

SEC 自体も、市場監視を支援して政策を執行するために機械学習を使用しています。

ゲンスラー氏は、リスク管理に関する現行のガイドラインは新しく強力なテクノロジーに対応するために更新する必要があるが、その利用方法については金融業界全体で再考する必要があるかもしれないと述べた。