AIモデルは時間の経過とともに変化する可能性があるため、説明責任と監視は継続する必要があります。 実際、従来のデータ ツールとは対照的に、ディープ ラーニングをめぐる誇大宣伝は、変化するデータに応じて調整および変更する柔軟性に基づいています。 しかし、それはモデルのドリフトのような問題につながる可能性があります。たとえば、予測精度などのモデルのパフォーマンスが時間の経過とともに低下したり、欠陥やバイアスを示し始めたりすると、モデルの寿命が長くなります。 説明可能性手法とヒューマン イン ザ ループ監視システムは、データ サイエンティストや製品所有者が最初から高品質の AI モデルを作成するのに役立つだけでなく、展開後の監視システムを通じて使用して、モデルの品質が年々低下しないようにすることもできます。時間。
「私たちは、モデルのトレーニングや、トレーニング モデルが偏っていないことを確認することだけに焦点を当てているわけではありません。 また、機械学習の開発ライフサイクルに関わるすべての側面にも注目しています」と Cukor 氏は言います。 「これは挑戦ですが、これが AI の未来です」と彼は言います。 「誰もがそのレベルの規律を見たいと思っています。」
責任ある AI を優先する
RAI は重要であり、あると便利なものではないという明確なビジネス コンセンサスがあります。 PwCでは 2022年AIビジネス調査、回答者の 98% は、AI ガバナンスの改善、AI モデルのパフォーマンスの監視と報告、意思決定が解釈可能で簡単に説明できることの確認などの手段を通じて、AI に責任を持たせるための少なくともいくつかの計画があると述べています。
これらの願望にもかかわらず、一部の企業は RAI の実装に苦労しています。 PwC の世論調査によると、RAI の具体的な行動を計画している回答者は半数未満でした。 別 MIT Sloan Management Review とボストン コンサルティング グループによる調査 ほとんどの企業は RAI をテクノロジーのリスク (安全性、偏見、公平性、プライバシーに関連するリスクを含む) を軽減するための手段と見なしているが、優先順位を付けていないことを認めており、56% が RAI を最優先事項であると述べており、25% しか持っていない完全に成熟したプログラムが整っています。 課題は、組織の複雑さと文化、倫理的慣行またはツールに関するコンセンサスの欠如、不十分な能力または従業員のトレーニング、規制の不確実性、および既存のリスクおよびデータ慣行との統合から生じる可能性があります。
Cukor にとって、これらの重要な運用上の課題にもかかわらず、RAI はオプションではありません。 「多くの人にとって、責任あるイノベーションを迅速に実現するためのガードレールとプラクティスへの投資は、トレードオフのように感じられます。 JPモルガン・チェースは、顧客に対して責任を持ってイノベーションを行う義務があります。これは、リソース、堅牢性、プライバシー、権力、説明可能性、ビジネスへの影響などの問題の間で課題のバランスを慎重にとることを意味します。」 データ AI ライフサイクルのすべての段階で早い段階で適切な管理とリスク管理慣行に投資することで、企業はイノベーションを加速し、最終的には企業の競争上の優位性として機能することができると彼は主張します。
RAI イニシアチブを成功させるには、RAI が 組織の文化に組み込まれている、単に技術的なチェックマークとして追加するのではなく。 これらの文化的変化を実装するには、適切なスキルと考え方が必要です。 MIT Sloan Management Review と Boston Consulting Group の世論調査では、回答者の 54% が RAI の専門知識と人材を見つけるのに苦労していることが判明し、53% は現在のスタッフ メンバーのトレーニングや知識が不足していることを示しています。
才能を見つけることは、言うは易く行うは難しです。 RAI は初期の分野であり、その実践者は、社会学者、データ サイエンティスト、哲学者、デザイナー、政策の専門家、弁護士などの分野を例に挙げると、明らかに学際的な性質を持っていることに注目しています。
「この独特な状況と私たちの分野の新しさを考えると、AI/ML の技術的スキル、倫理の専門知識、金融の分野の専門知識という 3 つの要素を備えた個人を見つけることはめったにありません」と Cukor 氏は言います。 「これが、金融における RAI がコラボレーションを中心とした学際的な実践でなければならない理由です。 才能と視点の適切な組み合わせを得るには、さまざまな分野の専門家を雇う必要があります。そうすることで、難しい会話をしたり、他の人が見落としている可能性のある問題を明らかにしたりできるようになります。」
この記事は情報提供のみを目的としており、法律、税務、財務、投資、会計、または規制に関するアドバイスを意図したものではありません。 ここに記載されている意見は個人の見解であり、JP モルガン・チェースの見解を表すものではありません。いかなる記述、リンクされたリソース、報告された調査結果または引用の正確性についても、JP モルガン・チェースは責任を負いません。
このコンテンツは、MIT Technology Review のカスタム コンテンツ部門である Insights によって作成されました。 これは MIT Technology Review の編集スタッフによって書かれたものではありません。