この記事は、権力、政治、シリコン バレーに関する MIT Technology Review の毎週の技術政策ニュースレターである The Technocrat からのものです。 毎週金曜日に受信トレイで受け取るには、ここでサインアップ.
Google、Instagram、Wikipedia、または YouTube を使用している場合は、今後 6 か月で、これらのサイトのコンテンツ モデレート、透明性、および安全機能が変更されていることに気付くでしょう。
なぜ？ これは、昨年 EU で可決されたものの、特に米国では十分な注目を集めていない (IMO) いくつかの主要な技術関連法案にかかっています。 私は、デジタル サービス法 (DSA) とデジタル マーケット法 (DMA) と呼ばれる 2 つの法案について言及しています。
この行為は実際には非常に革命的であり、世界的なゴールドスタンダードユーザー生成コンテンツに関する技術規制のために。 DSA はテクノロジー企業によるデジタルの安全性と透明性を扱い、DMA は業界における反トラストと競争に対処します。 説明させてください。
数週間前、DSA は大きなマイルストーンに達しました。 2023 年 2 月 17 日までに、ヨーロッパのすべての主要なテクノロジー プラットフォームは、企業をさまざまな階層にグループ化するために使用される規模を自己申告する必要がありました。 EU で 4,500 万人を超えるアクティブな月間ユーザー (または EU 人口の約 10%) を抱える大企業は、創造的に「非常に大規模なオンライン プラットフォーム」(または VLOP) または「非常に大規模なオンライン検索エンジン」(または VLOSE) と呼ばれ、透明性と規制の最も厳しい基準が適用されます。 小規模なオンライン プラットフォームは、義務がはるかに少なく、これはビッグ テックに責任を負わせながら、競争と革新を促進するように設計されたポリシーの一部でした。
「頼めば [small companies]たとえば、30,000 人のモデレーターを雇うには、小さな会社を殺すことになります」と、フランスのデジタル問題担当大使である Henri Verdier 氏は昨年私に語った。
では、DSA は実際に何をするのでしょうか?これまでのところ、YouTube、TikTok、Instagram、Pinterest、Google、Snapchat などの有名なプレーヤーのほとんどを含む、少なくとも 18 社が VLOP および VLOSE の資格があると宣言しています。 (リスト全体が必要な場合は、ロンドン スクール オブ エコノミクスの法学教授 Martin Husovec が優れた Google ドキュメントそれはすべての主要なプレーヤーがどこに手を振っているかを示しており、同行説明者.)
DSA は、これらの企業に対し、違法なコンテンツや選挙操作の可能性など、プラットフォーム上のリスクを評価し、安全性を検証するための独立した監査でそれらのリスクを軽減する計画を立てることを要求します。 小規模な企業 (ユーザー数が 4,500 万人未満の企業) も、フラグが付けられた違法コンテンツを「迅速に」削除し、その削除をユーザーに通知し、既存の企業ポリシーの施行を強化することを含む、新しいコンテンツ モデレーション基準を満たす必要があります。
この法案の支持者は、この法案がテクノロジー企業の自主規制の時代に終止符を打つのに役立つと述べています。 「私は、権力の分離、説明責任、報告、争う可能性なしに、何が禁止され、何が禁止されていないかを企業に決定させたくありません」とヴェルディエは言います。 「とても危険です。」
とは言え、法案はプラットフォームがユーザーが作成した違法なコンテンツについては、そのコンテンツを認識して削除しない限り、責任を負いません。
おそらく最も重要なことは、DSA は、「サービス利用規約」通知の報告義務と、コンテンツ モデレーションに関する定期的な監査済みレポートを通じて、透明性を大幅に高めることを企業に要求していることです。 規制当局の希望これは広範囲に影響を与えるでしょうヘイトスピーチ、誤情報、暴力などの大手テクノロジープラットフォームの社会的リスクに関する公の会話について。
あなたは何に気づきますか？企業が行うコンテンツ モデレーションの決定に参加し、正式に異議を申し立てることができます。 DSA は、シャドー禁止 (予告なしにコンテンツの優先順位を下げる慣行) を効果的に禁止し、女性に対するサイバー暴力を抑制し、18 歳未満のユーザーを対象としたターゲット広告を禁止します。また、推奨アルゴリズム、広告、コンテンツ、およびアカウント管理はプラットフォーム上で機能し、最大のテクノロジー企業がどのように運営されているかについて新たな光を当てています。 歴史的に、テクノロジー企業は非常にプラットフォームのデータを一般に公開することをためらうまた学術研究者であっても.
次は何ですか？現在、欧州委員会 (EC) は、報告されたユーザー数を確認し、テクノロジー企業に異議を申し立てるか、より多くの情報を要求する時間があります。 注目すべき問題の 1 つは、Husovec が「ショッキング」と呼んだ「非常に大きい」カテゴリからポルノ サイトが除外されたことです。 彼は、報告されたユーザー数は EC によって異議を唱えられるべきだと考えていると私に言いました。
規模のグループ化が確認されると、最大規模の企業は 2023 年 9 月 1 日まで、小規模な企業は 2024 年 2 月 17 日まで規制を順守する必要があります。多くの専門家は、企業がすべてのユーザーに変更の一部を展開すると予想しています。 、EUに住んでいる人だけではありません。 セクション 230 の改革が米国で実施される可能性は低いため、多くの米国ユーザーは、海外で義務付けられたより安全なインターネットから恩恵を受けるでしょう。
他に何について読んでいますか
Twitterでのさらなる混乱とレイオフ。
- Elon は、週末にさらに 200 人、つまり Twitter の残りのスタッフの 10% を解雇した後、再び大きなニュースの週を迎えました. これらの従業員はおそらく、マスクの強引な労働条件を順守することに同意した「ハードコア」コホートの一部でした。
- NetBlocks は 4 つの主要な停止を報告しています2月上旬からのサイトです。
誰もがジェネレーティブ AI 騒ぎを理解しようとしています。
- FTC は、AI の能力について嘘をつかないように企業に警告する声明を発表しました。 また、同僚の Melissa Heikkilä からの次の役立つ記事を読むことをお勧めします。ジェネレーティブ AI を責任を持って使用する方法そしてこの説明者についてジェネレーティブ AI の 10 の法的およびビジネス上のリスクTech Policy Press の Matthew Ferraro 著。
- テクノロジーの危険性はすでにニュースになっています。このレポーターは彼の銀行口座に侵入しましたAIが生成した音声を使用。
2022 年にはかつてないほど多くのインターネットが遮断され、権威主義的な検閲の傾向が続いています。
- 今週、Access Now はそのシャットダウンを追跡する年次報告書世界中で。 インド、再び、シャットダウンが最も多いリストのトップ.
- 昨年、私はダン・キーザーリングと話しましたシャットダウンがどのように兵器化されているかについて詳しく知るために、2021年のレポートに取り組んだ人。 インタビューの中で、彼は私に次のように語った。 より多くの政府が、市民の行動に影響を与えるツールとして、インターネット アクセスの制限を試みています。 政府がこれに対処する方法についてより洗練されているため、インターネットのシャットダウンのコストは間違いなく増加していますが、また、私たちはオンラインでより多くの生活を送っています。」
今週学んだこと
によると、データブローカーはメンタルヘルスデータをオンラインで販売しています。a新しい 報告デューク サイバー ポリシー プログラムから。 研究者は 37 人のデータ ブローカーにメンタルヘルスに関する情報を求め、11 人が喜んで回答しました。 このレポートでは、これらの厳選されたデータ ブローカーが、うつ病、ADHD、不眠症に関する情報をほとんど制限なく販売する方法を詳しく説明しています。 一部のデータは、人々の名前と住所に関連付けられていました。
インタビューでPBSでプロジェクト リーダーの Justin Sherman 氏は次のように説明しています。 そのため、彼らはこの種の健康データを合法的に自由に収集し、共有および販売することさえできます。これにより、通常はこれにアクセスできないさまざまな企業 (広告会社、大手製薬会社、さらには健康保険会社) がこのデータを購入することができます。広告の掲載、消費者のプロファイリング、健康保険の価格設定に関する決定などを行うため。 また、データ ブローカーにより、これらの企業は健康規制を回避することができます。」
3月3日、FTCは禁止を発表しましたオンラインのメンタルヘルス企業である BetterHelp が人々のデータを他の企業と共有することを防止します。