ポーコーニーの訴訟はまだ進行中です。 12 月、オランダ人権研究所 発行済み VU Amsterdam で使用されているソフトウェアが差別的であるという疑いが強いという暫定的な判決が下され、大学に 10 週間の抗弁を提出する猶予が与えられました。 その反論はまだ公表されていませんが、VU Amsterdam は以前、Pocornie のログ データ (彼女が試験にログインするのにかかった時間と、ソフトウェアを再起動しなければならなかった回数を示す) が、不安定なインターネットが原因で問題が発生したことを示唆していると主張しました。顔検出技術の問題とは対照的に、接続。 判決は今年後半に予定されています。
Proctorio のような不正防止ソフトウェアのメーカーは、試験会場が学生の自宅に取って代わられたため、パンデミックによって後押しされました。 デジタル監視は、学校や大学がロックダウン中も通常どおりの業務を維持できるようにすることを目的としており、監視されていない学生がカンニングをする機会を作ることはありませんでした。 しかし、パンデミックは終わり、世界中の学生が対面授業に戻ったとしても、ソフトウェアはまだ使用されています。 「私たちはそれがなくなるとは信じていません」 言った 米国に本拠を置く電子フロンティア財団で学生の監視に焦点を当てているジェイソン・ケリーは、2022 年 12 月に学生のプライバシーの状態をレビューしました。
米国では、アマヤ ロスは、オハイオ州にある彼女の大学が今でも不正行為防止ソフトウェアを使用していると述べています。 しかし、彼女はログインするたびに、パンデミック中の経験が繰り返されることに不安を感じています。 黒人のロスは、2021 年に最初にこのソフトウェアに出会ったとき、テストにアクセスできなかったとも言います。 そのメッセージを 3、4 回受信した後、彼女は近くのランプや窓のブラインドをいじり始めました。 彼女は、天井のライトの真下で、立ったままテストを受けようとさえしました。
最終的に彼女は、机の近くの棚に LED 懐中電灯のバランスを取り、顔にまっすぐ向けると、光がほとんどまぶしかったにもかかわらず、理科のテストを受けることができることを発見しました。 彼女はこの経験を、ヘッドライトをフルビームにして反対方向から近づいてくる車を夜に運転することと比較します。 「それが完了するまで、力を入れなければなりませんでした」と彼女は言います。
ロスは、彼女がまだ使用しているソフトウェアを作った会社の名前を明かすことを断った (プロクトリオは 訴えられた その批評家の少なくとも一人）。 しかし、母親のジャニス・ワイアット・ロスの後、 投稿した Twitter で何が起こったのかについて、Ross はビジネスの担当者が手を差し伸べ、白い壁の前でテストを受けるのをやめるようにアドバイスしたと言います. 現在、彼女はマルチカラーの壁掛けを後ろに置いてテストを受けていますが、これは今のところうまくいっているようです。 ロスが黒人または肌の色が濃い友人にこのソフトウェアについて尋ねたところ、多くの友人が同様の問題を経験していました。 「でも、白人の友達に聞いてみたら、『暗闇の中でテストを受けている』って言われたんです」と彼女は言います。
Mozilla Foundation のフェローである Deborah Raji は、企業がさまざまなデータセットでトレーニングされていないモデルを使用する場合、通常、顔認識および検出技術は肌の色が濃い人を認識できないと述べています。 2019年、ラジ 共著 商業的に展開されている顔認識製品の監査では、白人男性よりも肌の色の濃い女性の認識が最大 30% 悪かった製品があることがわかりました。 「以前は顔認識分野で主流だった多くのデータセットが [2019] それ以来、進歩は見られたが、これは「解決された」問題ではない.