外部から、 ロッテルダムの福祉アルゴリズムは複雑に見えます。 このシステムは、2018 年に市が開発を引き継ぐ前にコンサルティング会社のアクセンチュアによって開発されたもので、ロッテルダムの福祉部門によって収集されたデータに基づいてトレーニングされています。 315 の要因に基づいて人々のリスク スコアを割り当てます。 年齢や性同一性など、客観的な事実も含まれます。 その他、外見や社交性などは主観的で、ソーシャルワーカーの判断に基づいています。
ロッテルダムの西に位置し、行政上はロッテルダムの一部であるホーク ファン ホラントの町で、ペピータ シーリーは、アルゴリズムが自分を危険度が高いと判断した理由を理解しようとしています。 シーリーは 61 歳で、刺青が深く、明るいピンク色のバズ カットが施されています。 彼女は英語を話すのが好きで、すぐに要点をつかみます。 過去 10 年間、彼女は慢性的な背中の痛みと疲労を抱えて生活しており、家を出るときはいつも電動スクーターを使用しています。
Ceelie はロッテルダムの福祉詐欺チームによって 2 回調査されました。1 回目は 2015 年、2 回目は 2021 年です。 最近のケースでは、彼女は市のリスクスコアリングアルゴリズムによる調査対象に選ばれました。 Ceelie さんは、60 歳の誕生日に兄が 150 ユーロ (180 ドル) を彼女に送った理由を捜査官に説明しなければならず、捜査が終結するまでに 5 か月以上かかったと述べています。
庭の写真で飾られた 1950 年代のブロック状の家に座って、Ceelie はラップトップをタップします。 彼女は、この調査の一環として作成されたロッテルダムの福祉リスク スコアリング システムの再構築に詳細を入力しています。 市のアルゴリズムとデータに基づいて構築されたユーザー インターフェイスは、Ceelie のリスク スコアがどのように計算されたかを示し、どの要因が彼女を詐欺の調査に導いたかを示します。
リスク スコアリング システムの 315 の要素はすべて、最初は、データ セット内の「平均」値を持つ架空の人物を表すように設定されています。 シーリーが自分の詳細でシステムをパーソナライズすると、彼女のスコアが変化し始めます。 彼女はデフォルトのスコア 0.3483 から始めます。スコアが 1 に近いほど、詐欺のリスクが高いと見なされます。 彼女が仕事を探す計画が整っていないことをシステムに伝えると、スコアは上昇します (0.4174)。 彼女がその家に 20 年間住んでいることを入力すると、値が下がります (0.3891)。 ロッテルダム中心部の外に住むと、0.4 を超えます。
性別を男性から女性に切り替えると、彼女のスコアは 0.5123 になります。 「これはクレイジーです」とシーリーは言います。 彼女の成人した息子は彼女と一緒に住んでいませんが、彼の存在は、アルゴリズムにとって、彼女が福祉詐欺を犯す可能性を高めます. 「彼はこれと何の関係があるのですか？」 彼女が言います。 ロッテルダムのシステムによると、Ceelie の離婚は彼女のリスク スコアを再び上げ、彼女は 0.643 のスコアで終了します。これは高リスクです。
「彼らは私のことを知りません。私は数字ではありません」と Ceelie は言います。 「私は人間です。」 2 つの福祉詐欺調査の後、Ceelie はシステムに腹を立てています。 「彼らは私に反対しただけで、私を自殺念慮に駆り立てました」と彼女は言います。 調査中、彼女は他の人々の話を聞いており、オランダの福祉制度に問題を抱えている人々のために設立された Facebook サポート グループに目を向けました。 Ceelie は、食料品の支払いや両親から受け取ったお金を報告しないなどの軽微な違反で、人々が利益を失っていると述べています。
ロッテルダムの福祉罰則に対する数十件の控訴を扱ってきた弁護士のジャクリーン・ニーウストラテンは、「人々が福祉を享受するとき、多くのことが明確ではありません。 彼女は、このシステムはすぐに人々を処罰し、捜査官は個々の状況を適切に考慮できていないと述べています。
オランダは、ポピュリストの右翼政治家に後押しされて、福祉詐欺に対して厳しい姿勢をとっています。 国のすべての地域の中で、ロッテルダムは福祉詐欺を最も厳しく取り締まっています。 毎年市から給付を受ける約 30,000 人のうち、約 1,000 人が市のアルゴリズムによってフラグが立てられた後、調査されます。 合計で、ロッテルダムは毎年最大 6,000 人を調査して、支払いが正しいかどうかを確認しています。 ロッテルダムは 2019 年に 2,400 件の給付罰則を発行しました。これには、罰金や人々の給付の完全なカットが含まれる場合があります。 2022 年に国の最高裁判所に上告された上訴のほぼ 4 分の 1 ロッテルダムから来た.