先週、 フューチャー オブ ライフ インスティテュートは、 公開状 「危険な」AI競争に6か月のモラトリアムを提案。 それ以来、AI コミュニティの影響力のあるメンバーを含む 3,000 人以上が署名しています。 しかし、AI システムのリスクがコミュニティ内および社会全体で認知度を高めていることは良いことですが、この書簡で説明されている問題と提案されている行動の両方が非現実的で不必要です。
AI の作業を一時停止するという呼びかけは、あいまいであるだけでなく、実行不可能でもあります。 営利企業による大規模な言語モデルのトレーニングが最も注目されていますが、それが唯一の種類の AI 作業ではありません。 実際、AI の研究と実践は、企業、学界、および Kaggle コンテスト 効率から安全性まで、さまざまなトピックについて世界中で開催されています。 これは、「危険な」AI 研究を停止し、「安全な」種類の AI 研究のみを許可する、誰もが押すことができる魔法のボタンがないことを意味します。 また、書簡で名前が挙げられている AI のリスクはすべて仮説に基づいており、 長期主義者の考え方 次のような実際の問題を見落とす傾向があります アルゴリズムによる差別 人類への潜在的な実存的リスクを支持して、現在個人に害を及ぼしている予測警察。
AI が将来失敗する可能性に注目するのではなく、現在の AI の成功を構成する要素を明確に定義することに注目する必要があります。 この道筋は非常に明確です。研究を停止するのではなく、AI システムの展開に関するガイドラインを作成しながら、透明性と説明責任を改善する必要があります。 これらの方向に沿った政策、研究、およびユーザー主導のイニシアチブは、さまざまなセクターで数十年にわたって存在しており、AI の現在のリスクに対処するための具体的な提案がすでにあります。
世界中の規制当局は、新しい AI テクノロジーの使用と開発を管理するための法律とプロトコルをすでに起草しています。 米国上院の アルゴリズム説明責任法 および同様のイニシアチブ EU と カナダ AIシステムのトレーニングに使用できるデータと使用できないデータを定義し、著作権とライセンスの問題に対処し、リスクの高い環境でAIを使用するために必要な特別な考慮事項を検討するのに役立つ. これらのルールの重要な部分の 1 つは透明性です。AI システムの作成者は、トレーニング データの出所、モデルのトレーニングに使用されるコード、セーフティ フィルターなどの機能の実装方法などの技術的な詳細について、より多くの情報を提供する必要があります。 AI モデルの開発者とその下流のユーザーの両方が、代表者と関わり、上記の問題に関する法律の策定を支援することで、これらの取り組みをサポートできます。 結局のところ、私たちのデータが使用され、私たちの生活が影響を受けているのです。
しかし、この種の情報を利用可能にするだけでは十分ではありません。 AIモデルを開発している企業は、システムの外部監査も可能にする必要があり、リスクや欠点が特定された場合は対処する責任を負う必要があります。 たとえば、ChatGPT、Bard、GPT-4 などの最新の AI モデルの多くは、最も制限が厳しく、それらを作成した企業によって完全に制御される API またはゲート アクセスを介してのみ利用できます。 これは本質的に、アウトプットが日ごとに変化したり、人によって異なる結果を生み出したりするブラックボックスになります。 企業が承認した GPT-4 のようなツールの赤いチームがいくつかありましたが、研究者が基礎となるシステムにアクセスする方法がなく、科学的分析と監査が不可能になっています。 これは、モデルが社会に展開される前に危険な行動や害が検出されるように、モデル開発プロセスのさまざまな段階で概観することを求めたデボラ・ラジのような学者によって提案された AI システムの監査のアプローチに反します。
安全性に向けたもう 1 つの重要なステップは、AI の作成方法と使用方法をまとめて再考することです。 AI の開発者や研究者は、長年にわたってより倫理的な AI を提唱してきた多くの個人の意見に耳を傾けることで、AI の実践に関する規範とガイドラインの確立を開始できます。 これには、「スロー AI」運動を提唱した Timnit Gebru や、倫理的な AI の指針を作成することの重要性を強調した Ruha Benjamin などの研究者が含まれます。 基調講演 最近の AI カンファレンスで。 によって実施されている倫理規定のようなコミュニティ主導のイニシアチブ NeurIPS カンファレンス (私が議長を務めている取り組み) もこの運動の一部であり、AI 研究の観点から許容されるものと、社会へのより広範な影響をどのように考慮するかについてのガイドラインを確立することを目指しています。