/cdn.vox-cdn.com/uploads/chorus_asset/file/24465233/Take_It_Down_tool.jpg)
行方不明および搾取された子供のための国立センター (NCMEC) 新しいプラットフォームを発表しました インターネットから未成年者の性的に露骨な画像を削除するのに役立つように設計されています。 Meta はブログ投稿で、 NCMEC の無料で使用できる「Take It Down」ツール、これにより、ユーザーは、参加プラットフォームで見つかった未成年の個人の「ヌード、部分的にヌード、または性的に露骨な画像またはビデオ」を匿名で報告して削除し、問題のあるコンテンツが再び共有されるのをブロックできます.
Facebook と Instagram はプラットフォームの統合にサインオンしており、OnlyFans、Pornhub、Yubo も同様です。 Take It Down は、未成年者が自分の画像や動画を自己申告できるように設計されています。 ただし、18 歳未満のときにそのようなコンテンツに出演した成人も、このサービスを使用して報告し、削除することができます。 保護者やその他の信頼できる大人も、お子様に代わって報告を行うことができます。
アン テイク イット ダウンに関するよくある質問 は、ユーザーがサービスを使用するには、デバイスに報告された画像またはビデオが必要であると述べています。 このコンテンツは報告プロセスの一部として送信されないため、非公開のままです。 代わりに、コンテンツを使用してハッシュ値が生成されます。これは、各画像とビデオに割り当てられた一意のデジタル フィンガープリントであり、参加プラットフォームに提供されて、ウェブサイトやアプリ全体でそれを検出して削除できます。実際の内容。
NCMECの社長兼CEOであるMichelle DeLauneは、次のように述べています。 「私たちは、子供たちがこのサービスに気づき、画像を削除するためのツールが存在することに安心感を覚えることを願っています. NCMECがお手伝いします。」
テイク イット ダウン サービスは、 ストップNCⅡは、2021 年に開始されたサービスで、18 歳以上のユーザーが合意なく画像を共有することを防止することを目的としています。StopNCII も同様にハッシュ値を使用して、Facebook、Instagram、TikTok、および Bumble で露骨なコンテンツを検出して削除します。
Meta は昨年 11 月、Instagram と Facebook の新しいプライバシー機能の立ち上げとともに、新しいプラットフォームをほのめかしました。
に加えて 昨年11月にNCMECとの提携を発表、Meta は、プラットフォームを使用する未成年者を保護することを目的とした、Instagram と Facebook の新しいプライバシー機能を展開しました。 これらには、疑わしい成人をブロックした後にアカウントを報告するよう 10 代の若者に促すこと、ブロックされた履歴を持つ成人が閲覧したときに 10 代の Instagram アカウントのメッセージ ボタンを削除すること、16 歳未満の Facebook ユーザー (または一部の国では 18）。
プログラムに参加している他のプラットフォームは、未成年者を描写した明示的なコンテンツを防止および削除するための措置を講じています。 フランスのソーシャル ネットワーキング アプリ Yubo は、 さまざまな AI および人間が操作するモデレーション ツール 未成年者を描いた性的な素材を検出できる一方で、Pornhub は個人が 削除依頼を直接出す そのプラットフォームで公開された違法または同意のないコンテンツ。
参加しているすべてのプラットフォームは、未成年者を性的搾取から保護していないとして以前に批判されてきました
参加している5つのプラットフォームはすべて、未成年者を性的搾取から保護していないとして以前に批判されてきました. あ BBCのニュース 2021年からのレポートが見つかりました 子供たちは、OnlyFans の年齢確認システムを簡単に迂回できる、Pornhubながら 同年、性的搾取の被害者34人から訴えられた、レイプ、児童の性的搾取、人身売買、およびその他の同意のない性的コンテンツを描いたビデオから、サイトが故意に利益を得たと主張している. ユボ — 説明された 「十代の若者向けの火口」として – 捕食者によって使用されてきました 未成年のユーザーに連絡してレイプする、 そしてその NCMECは昨年推定 そのプラットフォームにエンドツーエンドの暗号化を適用する Meta の計画は、そのプラットフォームで現在検出および報告されている児童の性的虐待資料の 70% を効果的に隠すことができる.
「テクノロジー企業がエンドツーエンドの暗号化を実装し、既知の子供の性的虐待資料を検出するための予防策が組み込まれていない場合、子供の安全への影響は壊滅的です。」 DeLaune 氏は今月初めに上院司法委員会で次のように述べています。.
あ プレスリリース For Take It Down は、参加プラットフォームが提供されたハッシュ値を使用して、「公開または暗号化されていないサイトおよびアプリ」全体の画像を検出および削除できると述べていますが、これが Meta のサービス全体でのエンドツーエンド暗号化の使用にまで及ぶかどうかは明らかではありませんメッセンジャーのように。 確認のために Meta に連絡を取りました。返信があり次第、このストーリーを更新します。