チャットボットを使用することは、より直接的で、おそらくより魅力的であると、 Quit It Now ヘルプライン ルーシー・フェイスフル財団が運営。 チャットボットが 3 月に 17 万回以上表示された後、158 人がクリックしてヘルプラインの World-wide-web サイトにアクセスしました。 その数は「控えめ」ですが、Findlater 氏は、これらの人々は重要な一歩を踏み出したと述べています。 「彼らはそれを行うためにかなり多くのハードルを克服しました」と Findlater 氏は言います。 IWF の Hargreaves 氏は、「旅を始めたばかりの人々を止めるものはすべて、成功の尺度です」と付け加えています。 「私たちは人々がそれを使用していることを知っています。 彼らが紹介を行っていること、サービスにアクセスしていることはわかっています。」
Pornhub は、その World wide web サイトでのビデオのモデレートについて、さまざまな評判があり、レポートは詳細に説明しています。 女性と少女が自分の動画をアップロードした方法 彼らの同意なしに。 2020年12月、 Pornhub は 1,000 万本以上の動画を削除しました そのウェブサイトから人を必要とし始めました 身元を確認するためのコンテンツのアップロード. 去年、 9,000 個の CSAM Pornhubから削除されました。
「IWFチャットボットは、ユーザーが私たちのプラットフォームでそのような違法なコンテンツを見つけないように教育し、彼らの行動を変えるのを助けるために今すぐ停止するように勧めるためのもう1つの保護層です」とPornhubの広報担当者は述べています。違法な素材に対する「ゼロトレランス」と CSAM に関する明確なポリシー. チャットボット プロジェクトの関係者によると、Pornhub は自発的に参加し、報酬は支払われておらず、このシステムは外部の研究者による評価を受ける前に来年、Pornhub の英国の World wide web サイトで実行される予定です。
スタンフォード インターネット天文台の政策アナリストで、このプロジェクトには関与していない John Perrino 氏は、近年、「設計による安全性」 オンラインで害と戦うために。 「ユーザーを支援し、健全なリソースと健全な習慣に向けさせるための一連のポリシーと世間の認識において、これは興味深いコラボレーションです」と Perrino 氏は言います。 彼は、これとまったく同じツールがポルノ World-wide-web サイト用に開発されたのを見たことがないと付け加えました。
この種の技術的介入が、児童の性的虐待の可能性のある素材から人々をそらし、オンラインでの CSAM の検索数を減らすのに効果があるという証拠がすでにいくつかあります。 たとえば、 2013年にさかのぼる、Google は Lucy Faithfull Basis と協力して、ユーザーが CSAM にリンクしている可能性のある用語を検索したときに警告メッセージを表示するようにしました。 2018 年、Google は警告の結果として、児童の性的虐待に関する検索数が「13 分の 1 に減少」したと述べています。
別 2015年の研究で発見 児童の性的虐待に関連する用語に対するブロック対策を講じた検索エンジンでは、対策を講じていない検索エンジンと比較して、検索数が大幅に減少しました。 CSAM を探している人々をドイツ国内の電話回線に案内するように設計された 1 セットの広告 鋸 3 年間で 240,000 回の World wide web サイト クリックと 2,000 万回以上のインプレッション。 あ 2021年の研究 ギャンブル World-wide-web サイトの警告ポップアップ メッセージを調べたところ、ナッジの影響は「限定的」であることがわかりました。
チャットボットの関係者は、チャットボットが児童の性的虐待に関するコンテンツをオンラインで見つけるのを止める唯一の方法だとは考えていないと強調している。 「解決策は、インターネット上での児童への性的虐待の需要を止める特効薬ではありません。 特定の環境に展開されます」と Sexton 氏は言います。 ただし、システムが成功すれば、他の World-wide-web サイトやオンライン サービスに展開できる可能性があると彼は付け加えます。
「さまざまなソーシャル メディア サイトであろうと、さまざまなゲーム プラットフォームであろうと、彼らが見ている他の場所もあります」と Findlater 氏は言います。 ただし、これが発生した場合、ポップアップを引き起こすトリガーを評価し、それが存在する特定の Web サイト用にシステムを再構築する必要があります。 たとえば、Pornhub で使用される検索用語は、Google 検索では機能しません。 「一連の警告を別のコンテキストに転送することはできません」と Findlater 氏は言います。