ワシントンDCは、 地球上で最も強力な政府の本拠地。 また、690,000 人の居住地でもあり、彼らの生活を形成する 29 のあいまいなアルゴリズムがあります。 市当局は自動化を使用して、住宅の申請者を選別し、犯罪の再犯を予測し、食品援助詐欺を特定し、高校生が中退する可能性があるかどうかを判断し、若者の量刑決定を通知し、その他多くのことを行っています。
半自動化された都市生活のスナップショットは、 新しいレポート 電子プライバシー情報センター (EPIC) から。 この非営利団体は 14 か月をかけて市のアルゴリズムの使用状況を調査し、20 の機関で使用されており、その 3 分の 1 以上が警察や刑事司法に配備されていることを発見しました。 多くのシステムについて、市当局は、その技術がどのように機能し、どのように使用されたかについて完全な詳細を提供しませんでした。 プロジェクト チームは、市が明らかにできなかったさらに多くのアルゴリズムを使用している可能性が高いと結論付けました。
この調査結果は、ワシントン DC 以外でも注目に値します。なぜなら、多くの都市が官僚的なアルゴリズムを部門全体で静かに機能させ、市民の生活に影響を与える決定に貢献できるという証拠を追加するからです。
政府機関は、官僚的なプロセスに効率性や客観性を追加することを期待して自動化に目を向けることがよくありますが、市民が自分が働いていることを知ることはしばしば困難であり、一部のシステムは差別し、人の命を台無しにする決定につながることがわかっています. ミシガン州では、エラー率 93% の失業詐欺検出アルゴリズム 40,000件の虚偽の詐欺の申し立てを引き起こした. あ 2020年の分析 スタンフォード大学とニューヨーク大学の調査によると、連邦政府機関のほぼ半数が何らかの形の自動意思決定システムを使用していることがわかりました。
EPIC は、ある都市でのアルゴリズムの使用を深く掘り下げ、アルゴリズムが市民の生活に影響を与え、他の場所の人々にも同様の演習を行うよう促すさまざまな方法を理解しました。 非営利団体の AI と人権に関する活動を率いるベン ウィンターズは、ワシントンが選ばれた理由の 1 つは、ワシントンの住民の約半数が黒人であると自認しているからだと述べています。
「多くの場合、自動化された意思決定システムは黒人コミュニティに不均衡な影響を与えています」と Winters 氏は言います。 このプロジェクトでは、自動交通取締りカメラが、黒人居住者が多い地域に不均衡に配置されているという証拠を発見しました。
かなりの黒人人口を抱える都市は、最近、自治体のアルゴリズムに反対するキャンペーン、特に警察活動において中心的な役割を果たしています。 デトロイトは、2019 年にロバート ウィリアムズとマイケル オリバーがアルゴリズムによって誤認されて逮捕された後、顔認識に関する議論の震源地となりました。 2015 年、ボルチモアで警察の拘留中にフレディ グレイが死亡した後、顔認識が導入されたことで、法執行機関によるこの技術の使用に関する最初の議会調査がいくつか行われました。
EPIC は、市の機関による公開情報を探すことでアルゴリズムを探し、また公的記録の要求を提出し、契約、データ共有契約、プライバシー影響評価、およびその他の情報を要求しました。 市の 12 機関のうち 6 機関が回答し、次のような文書を共有しました。 295,000ドルの契約 トムソン・ロイター傘下のポンデラ・システムズは、食料支援の申請者をスクリーニングするために使用される FraudCaster と呼ばれる詐欺検出ソフトウェアを製造しています。 今年初め、カリフォルニア州の当局者は、ポンデラのソフトウェアが疑わしいとフラグを立てたという州住民による 110 万件の申し立ての半数以上が、 実際に合法だった.