欧州連合 最終決定する予定です プラットフォーム作業指令、デジタル労働プラットフォームを規制する新しい法律が今月発表されました。 これは、欧州連合レベルで提案された、明示的に規制する最初の法律です。アルゴリズム管理」: 自動化された監視、評価、および意思決定システムを使用して、採用、雇用、タスクの割り当て、および終了を含む決定を下したり通知したりすること。
ただし、プラットフォーム作業指令の範囲は、デジタル労働プラットフォーム、つまり「プラットフォーム作業」に限定されています。 そして、アルゴリズム管理しながら 最初 ギグエコノミーの労働プラットフォームで広まったが、過去数年間 — パンデミックの最中 — でアルゴリズム管理技術と実践が急速に取り込まれている。 伝統的な雇用関係.
最も綿密に管理され、有害で、よく知られた用途のいくつかは、 倉庫作業とコールセンター. たとえば、倉庫の労働者は割り当てを報告しています トイレに行く時間がないほど厳しい そして、彼らは、彼らに会わなかったためにアルゴリズムによって解雇されたと言います。 アルゴリズム管理 も文書化されています の 小売り と 製造業; の ソフトウェア工学、 マーケティング、 と コンサルティング; そして 公共部門の仕事、 含む 健康管理 と ポリシング.
人事の専門家は、これらのアルゴリズム管理プラクティスを「人の分析」 だが 何人かのオブザーバー と 研究者 従業員のコンピューターや電話にインストールされ、しばしば依存する監視ソフトウェアのより明確な名前を開発しました。ボスウェア」 それは、仕事の生活に新しいレベルの監視を追加しました: 場所の追跡。 キーストロークのログ; 労働者の画面のスクリーンショット; また、場合によっては、従業員のコンピューターの Web カメラで撮影されたビデオや写真も含まれます。
その結果、 研究者と政策立案者の間での新たな地位 プラットフォーム作業指令は十分ではなく、欧州連合は伝統的な雇用の文脈でアルゴリズム管理を具体的に規制する指令も作成する必要がある.
それは厳しくない 従来の組織がアルゴリズム管理を使用している理由を確認してください。 最も明白な利点は、情報処理の速度と規模の向上に関係しています。 たとえば、人材募集や雇用では、企業は 1 つの募集職種に対して何千もの応募を受け取ることがあります。 履歴書スクリーニング ソフトウェアやその他の自動ツールは、この膨大な量の情報を整理するのに役立ちます。 場合によっては、アルゴリズム管理が組織のパフォーマンスの向上に役立つ場合があります。たとえば、従業員と仕事をよりスマートに組み合わせることができます。 また、これまでのところほとんど実現されていない場合でも、いくつかの潜在的な利点があります。 慎重に設計されたアルゴリズム管理は、採用、評価、および昇進におけるバイアスを減らし、トレーニングやサポートの必要性を検出することで従業員の幸福を改善することができます。
しかし、労働者や組織に対しても、明らかな害とリスクがあります。 システムは常に優れているとは限らず、明らかに適切な決定を下すこともあります。 間違った また 差別的な. これらは大量のデータを必要とするため、多くの場合、新たに広範囲にわたる従業員の綿密な監視が行われ、比較的少ない従業員の入力で設計および展開されることがよくあります。 その結果、偏った、またはその他の点で不適切な管理上の決定を下すことがあります。 プライバシー侵害を引き起こします。 それらは、組織を規制および広報のリスクにさらします。 そして、従業員と経営陣の間の信頼を損なう可能性があります。
EU におけるアルゴリズム管理に関する現在の規制状況は複雑です。 多くの法体系がすでに適用されています。 たとえば、データ保護法は、労働および雇用法、差別法、および労働安全衛生法の国内制度と同様に、労働者および求職者に一定の権利を与えています。 しかし、まだ欠けている部分があります。 たとえば、データ保護法は、従業員と応募者に関して保存するデータが「正確」であることを保証する義務を雇用者に課していますが、 意思決定システムがそのデータに基づいて合理的な推論または決定を下す義務があることは明らかではありません. 悪いカスタマー レビューが原因でサービス ワーカーが解雇されたが、そのレビューがワーカーの制御を超えた要因によって動機付けられた場合、データは顧客の不満足な経験を反映しているという意味で「正確」である可能性があります。 したがって、それに基づく決定は合法である可能性がありますが、それでも不合理で不適切です。
これは奇妙なパラドックスにつながります。 一方では、より多くの保護が必要です。 一方、既存の法律のウェルターは、責任を持ってアルゴリズム管理を使用しようとする組織にとって不必要な複雑さを生み出します。 さらに混乱を招くのは、新しいプラットフォーム作業指令のアルゴリズム管理条項は、長い間法律によって十分に保護されていなかったプラットフォーム ワーカーが、従来の従業員よりも、侵入型の監視やエラーが発生しやすいアルゴリズム管理からより多く保護される可能性が高いことを意味します。