実際、ここで説明したことは、各グループのパフォーマンスに影響を与える簡単な変更を加えることで公平性を確保できる最良のシナリオです。 実際には、公平性アルゴリズムは、はるかに急進的かつ予測不可能な動作をする可能性があります。 今回の調査 平均して、コンピューター ビジョンのほとんどのアルゴリズムは、すべてのグループに害を与えることで公平性を改善することがわかりました。たとえば、再現率と精度が低下します。 1 つのグループが被る害を減らしたという仮説とは異なり、レベルを下げると、全員が直接的に悪化する可能性があります。
ランのレベルダウン 社会におけるアルゴリズムの公平性とより広範な平等の目標の目的に反して、歴史的に不利な立場に置かれた、または疎外されたグループの結果を改善すること。 パフォーマンスの高いグループのパフォーマンスを低下させても、パフォーマンスの低いグループに利益をもたらすことは自明ではありません。 さらに、レベルダウンすることで 歴史的に恵まれないグループに直接害を与える. 利益を他の人と分かち合うのではなく取り除くという選択は、懸念、連帯、そして問題を実際に解決する機会を利用する意欲の欠如を示しています. それは、歴史的に不利な立場に立たされたグループに汚名を着せ、そもそも問題を引き起こした分離と社会的不平等を固めます。
人々の生活に関する意思決定を行う AI システムを構築するとき、私たちの設計上の意思決定は、何を優先すべきかについての暗黙の価値判断をエンコードします。 レベルダウンは、実用性、福祉、優先順位、および現実世界での平等の問題の中心となるその他の財を無視しながら、グループ間の格差の観点からのみ公平性を測定および是正するという選択の結果です。 これは、アルゴリズムの公平性の避けられない運命ではありません。 むしろ、それは数学的な抵抗が最も少ない道を選んだ結果であり、社会的、法律的、または倫理的な理由からではありません。
先に進むには、次の 3 つのオプションがあります。
• 私たちは、表向きは人口の 1 つの特権セグメントのみに利益をもたらし、他の人々に深刻な害を及ぼす偏ったシステムを展開し続けることができます。
• 形式的な数学的用語で公平性を定義し続け、すべてのグループに対して精度が低く、一部のグループに対して積極的に有害な AI を展開することができます。
• 「レベルアップ」することで公平性を実現し、行動に移すことができます。
レベルアップは、道徳的、倫理的、および法的に許容される唯一の前進の道であると私たちは信じています。 AI の将来の公平性に対する課題は、レベルダウンによる手続き上の公平性だけでなく、実質的に公平なシステムを作成することです。 レベルアップはより複雑な課題です。AI システムのバイアスの実際の原因を根絶するための積極的な手順と組み合わせる必要があります。 多くの場合、技術的な解決策は、壊れたシステムに対処するための応急処置にすぎません。 ヘルスケアへのアクセスを改善し、より多様なデータセットをキュレーションし、歴史的に恵まれないコミュニティが直面している問題を具体的に対象とするツールを開発することは、実質的な公平性を実現するのに役立ちます.
これは、単にシステムを微調整してグループ間で 2 つの数値を等しくするよりもはるかに複雑な課題です。 AIシステムを一から再設計するなど、技術的および方法論的な大幅な革新だけでなく、医療へのアクセスや支出などの分野での実質的な社会的変化も必要になる可能性があります。
難しいかもしれませんが、この「公正な AI」に再び焦点を当てることが不可欠です。 AI システムは、人生を変える決定を下します。 どのように公平であるべきか、誰に対して公平であるべきかという選択は、公平性を解決すべき単純な数学的問題として扱うにはあまりにも重要です。 これが現状であり、レベルダウンによって平等を達成する公平性の方法がもたらされました。 これまでのところ、数学的に公平な方法を作成してきましたが、不利な立場に置かれたグループに利益をもたらすことはできず、実証されていません。
これはたりない。 既存のツールは、アルゴリズムの公平性に対するソリューションとして扱われていますが、これまでのところ、その約束を果たしていません。 それらの道徳的に曖昧な効果は、それらが使用される可能性を低くし、これらの問題に対する実際の解決を遅らせる可能性があります. 私たちが必要としているのは、レベルアップを通じて公平であり、他の人を恣意的に傷つけることなく、パフォーマンスの悪いグループを助けるシステムです。 これが私たちが今解決しなければならない課題です。 数学的にだけでなく、実質的に公正な AI が必要です。