メタは、ミャンマーで民族間の暴力を扇動するフェイスブックの役割について、ロヒンギャの人々に賠償金を支払うよう新たに求められている。
あ 新しいレポート アムネスティ インターナショナルによる — 2017 年にロヒンギャに対して行われた残虐行為でメタ (別名 Fb) が果たした役割の「この種のものとしては初の、詳細な人権分析」と呼ばれるものを提供 — 技術巨人の貢献を発見した大量虐殺の原因は、同社が主張しようとしてきたように、単に「受動的で中立的なプラットフォーム」が大規模な危機に不十分に対応したことではなく、Facebook のコア ビジネス モデルである行動広告が、憎悪を積極的に煽る責任を負っていたということです。利益のために。
「メタのコンテンツ形成アルゴリズムは、ロヒンギャに対する暴力、憎悪、差別を扇動する Facebook プラットフォーム上のコンテンツを積極的に増幅し、宣伝した」とアムネスティは結論づけ、追跡ベースのビジネス モデル、つまり「侵略的なプロファイリングと標的型攻撃」に責任があると指摘した。広告」—「扇動的で、分裂的で、有害なコンテンツ」をフィードすると言われています。 ロヒンギャへの暴力を積極的に扇動したのは、フェイスブックが利益のための関与を優先した結果であると示唆するダイナミクスです。
国連の人権調査官は2018年、フェイスブックがミャンマーの地元イスラム教徒少数派に対するヘイトスピーチと暴力の拡散に貢献していると警告した. テクノロジーの巨人は、それが「遅すぎて誤報やヘイトを防ぐことができない」がそのプラットフォームに広がっています。 しかし、エンゲージメントを最大化するように設計されたアルゴリズムの使用が、差別化と怒りを増幅することを好む広告システムの結果として、民族間の暴力を助長し、プラットフォームがヘイトスピーチを最適化するようになったという非難を受け入れていません。
アムネスティの報告書は、ロヒンギャ難民、元メタ スタッフ、市民社会団体、その他の専門家へのインタビューに基づいており、フェイスブックの内部告発者であるフランシス ハウゲンスが昨年リークした文書から収集した新たな証拠も利用しているという。 — それは、「ロヒンギャが受けた危害に対するメタの貢献の本質と範囲についての衝撃的な新しい理解」を提供すると述べています.
「この証拠は、ニュース フィード、ランキング、推奨機能など、Facebook プラットフォームを強化するコア コンテンツ シェーピング アルゴリズムのすべてが、暴力と差別を扇動するコンテンツを積極的に増幅および配信し、このコンテンツを最も可能性の高い人々に直接配信していることを示しています。そのような扇動に基づいて行動する」と、政府へのエグゼクティブサマリーに書いています。 74ページのレポート.
「結果として、コンテンツのモデレーションだけでは、アルゴリズムによって増幅された害に対する解決策として本質的に不十分です」と続けています。 「内部メタ文書はこれらの制限を認識しており、2019 年 7 月のある文書では、『プラットフォーム上のヘイトスピーチの約 2% に対してのみ措置を講じている』と述べています。 別の文書によると、少なくとも一部のメタ スタッフは、コンテンツ モデレートの限界を認識しています。 2019 年 12 月付けの内部メモには次のように書かれています。
「このレポートはさらに、Meta がそのアルゴリズムに関連するリスクを長い間認識していたにもかかわらず、それに応じて適切に行動できなかったことを明らかにしています。 2012 年にさかのぼる内部調査では、Meta のコンテンツ シェーピング アルゴリズムが現実世界に深刻な害を及ぼす可能性があることが一貫して示されています。 2016年、ラカイン州北部での2017年の残虐行為の前に、社内のメタリサーチは「[o]あなたの推薦システムは、過激主義の問題を大きくしています。 これらの内部調査により、Meta はそのアルゴリズムに関連する人権リスクを軽減するための効果的な対策を実施するきっかけとなった可能性があり、そうすべきでしたが、同社は繰り返し行動を起こしませんでした。」
「あくなき利益追求」
アムネスティはまた、Facebook の文書は、Meta が「絶え間ない利益の追求」において、コンテンツ シェーピング アルゴリズムによって生成されるリスクを無視し続けていることも示していると述べています。さまざまな情報源から、Facebook や一連のアプリに関するヘイトスピーチ、分裂を招く政治的発言、誤った情報が世界中の社会に影響を与えているという証拠があります。 また、バイラリティ、レコメンデーション、エンゲージメントの最適化などのコア製品の仕組みが、この種のスピーチがプラットフォームで繁栄する理由の重要な部分であるという説得力のある証拠もあります。」
「アムネスティ・インターナショナルの分析は、メタのコンテンツ形成アルゴリズムと無謀なビジネス慣行がロヒンギャに対する差別と暴力を助長し、可能にしたことを示している」と続けている。 「Meta のアルゴリズムは、ロヒンギャに対する憎悪の擁護を含む有害な反ロヒンギャ コンテンツを増幅することにより、害に直接貢献しました。 彼らはまた、ミャンマー軍の行動を可能にし、促進し、奨励することによって、生命への権利、拷問を受けない権利、適切な住居への権利の侵害を含む、ロヒンギャに対する現実世界の暴力に間接的に貢献した. さらに、メタは、2017年の残虐行為に先立って、ミャンマーでの事業に関して適切な人権デューデリジェンスに従事することに完全に失敗しました. この分析に疑いの余地はほとんどありません。メタは、ロヒンギャが受けた人権への悪影響に大きく貢献しており、サバイバーに効果的な救済策を提供する責任があります。」
メタは、2017 年 8 月以降、ミャンマーの軍事政権が犯した暴力、レイプ、殺人のキャンペーンの下で国外に逃れた (少なくとも) 数十万人のロヒンギャ難民への補償を求める要求に抵抗してきました。 そして直面している ロヒンギャ難民による集団訴訟 大量虐殺を扇動した同社の役割に対して数十億ドルの損害賠償を求めて、米国と英国で同社を訴えている。
アムネスティは、メタが難民に賠償金を支払うよう求める声を追加しました。
その報告によると、メタは以前、バングラデシュのコックスバザールにある難民グループによるものなど、ロヒンギャ難民グループによる支援資金の要求を拒否し、キャンプでの100万ドルの教育プロジェクトに資金を提供するよう求めていました。慈善活動に直接参加する。」
アムネスティは報告書で次のように主張し、「ロヒンギャ コミュニティが慈善活動の要請として救済を追求しているというメタの発表は、同社の人権に対する責任についての深い誤解を描写している」と主張し、次のように付け加えた。ロヒンギャに対して、メタは今日まで、影響を受けたロヒンギャのコミュニティに効果的な救済策を提供できていません。」
報告書で一連の勧告を行い、アムネスティはメタに対し、サバイバーと彼らを支援する市民社会組織と協力して、「影響を受けたロヒンギャ コミュニティに効果的な救済策」を提供するよう求めています。多国籍企業のための OECD ガイドラインに基づき、アイルランドの国内連絡窓口を通じて難民によって提出された会社に対する苦情。
アムネスティはまた、メタに対して、そのビジネスモデルとアルゴリズムの影響について継続的な人権デューデリジェンスを採用し、「プライバシーの権利を弱体化させ、さまざまな人権を脅かす侵害的な個人データ」の収集を停止するよう求めています。つまり、追跡ベースの広告の慣行を終了し、コンテキスト広告などの害の少ない代替手段を採用するよう促しています.
また、Meta の米国および EU での事業を監督する規制当局および議員に対し、「侵略的」慣行に基づく、または個人データの処理を伴う追跡ベースのターゲット広告を禁止するよう求めています。 また、テクノロジー企業を規制して、コンテンツ形成アルゴリズムがデフォルトでプロファイリングに基づいていないことを確認します。また、オプトインが「自由に与えられ、具体的で、情報に基づいた、明確な」ものであることに同意して、(オプトアウトではなく) オプトインを要求する必要があります。 」、EUの一部の議員による呼びかけに反響しています。
メタは、アムネスティの報告への回答を求めて連絡を受けました。 同社の広報担当者は、次の声明を送信しました — メタ APAC の新興市場向け公共政策担当ディレクター、ラファエル フランケルによるものです。
「メタは国際社会と連帯し、ロヒンギャの人々に対する犯罪の責任を国軍に負わせるための努力を支持します。 そのために、国連の調査メカニズムに対して自発的で合法的なデータ開示を行いました。 ミャンマー およびガンビアに、現在もOECDの苦情処理に参加しています。 私たちの安全と誠実さは ミャンマー 国連事実調査団を含む、地元の市民社会組織や国際機関からのフィードバックに引き続き導かれています。 ミャンマー 2018 年に委託した人権影響評価。 進行中の人権リスク管理と同様に。」
アムネスティの報告書はまた、同社が「メタの人権に対する目に余る軽視」と呼んでいる調査結果は、ロヒンギャの生存者だけに関連するものではないと警告している。
「すでに、エチオピアからインド、そして紛争や民族間暴力の影響を受けている他の地域に至るまで、メタは人権に対する現実的かつ現在の危険を表しています。 メタのロヒンギャとの歴史が他の場所で繰り返されないようにするためには、緊急かつ広範な改革が必要です」と付け加えています。