オンライン コンテンツのモデレートは困難です (Elon Musk が現在発見しているように)。 しかし、Facebook、Instagram、WhatsApp の背後にある企業である Meta は、他のプラットフォームでも簡単にできるようにしたいと考えています。 先週発表された Hasher-Matcher-Actioner (HMA) ツールのソース コードを公開し、自由に利用できるようにします。 このニュースは、メタが議長に就任するように設定されているときに発生します テロ対策グローバル インターネット フォーラム (GIFCT) の運営委員会。
2017 年に Facebook、Microsoft、Twitter、YouTube によって設立された GIFCT は、加盟企業、政府、市民社会組織と協力して、インターネット上のテロリストや暴力的な過激派のコンテンツに取り組む非営利団体に発展しました。 これの1つの側面は、維持することです 過激派コンテンツの共有ハッシュ データベース Facebook などの 1 つの企業が何かをテロ関連としてフラグ付けした場合、YouTube などの他の企業が自動的に削除できるようにします。
これらのデータベースが効率的に機能するように (そしてどの企業も数ペタバイトもの恐ろしく暴力的なコンテンツを保存する必要がないように)、問題のあるコンテンツの完全なコピーを保存していません。 代わりに、一意のデジタル フィンガープリントまたはハッシュを保存します。
ハッシュの作成方法は次のとおりです。本質的に、過激派のビデオ、テロリストの写真、PDF マニフェスト、またはその他のコピーが、数字と文字の一意の文字列に変換するアルゴリズムを介して供給されます。 ハッシュを使用してコンテンツを再作成することはできませんが、同じビデオをアルゴリズムに通すと、常に同じ結果が得られます。 すべてのプラットフォームが同じアルゴリズムを使用してハッシュを作成している限り、共有データベースを使用してテロリストのコンテンツを追跡できます。
[Related: Antivaxxers use emojis to evade Facebook guidelines]
Meta の HMA ツールを使用すると、プラットフォームは画像や動画のハッシュ化、データベースとの照合、動画の投稿の停止や投稿を試みるアカウントのブロックなどのアクションの実行を自動化できます。 テロリストのコンテンツに限定されるものではなく、GICT によって維持されているような共有データベースや独自のデータベースと連携できます。 YouTube のコンテンツ ID のような.
これらすべてが常にバックグラウンドで行われていることに注意してください。 HMA またはその他の同様の自動化ツールが起動して実行されると、ユーザーが投稿したすべての写真とビデオがハッシュされ、アップロード時に関連データベースと照合されます。 後でモデレーターによって、暴力的、攻撃的、またはその他の削除が必要であるとフラグが付けられた場合、プラットフォーム上に存在する他のインスタンスを元に戻し、自動的に削除することができます。 これは、不快なコンテンツが見られたり拡散されたりしないようにするための継続的なプロセスです。
ほとんどの大手プラットフォームはすでに何らかの自動化されたコンテンツ モデレーションで運用されていますが、Meta は HMA ツールが主要プラットフォームのリソースを欠いている中小企業を支援することを望んでいます。 「多くの企業は、大量の違反コンテンツを見つけて管理するための社内技術機能を持っていません」と、イギリスの元副首相で現在は Meta のグローバル アフェアーズ プレジデントである Nick Clegg 氏は次のように説明しています。 プレスリリース. また、共有ハッシュ データベースに参加する企業の数が増えるほど、すべての企業が恐ろしいコンテンツを削除する能力が向上します。 「このコンテンツを共有するために、人々はしばしばあるプラットフォームから別のプラットフォームに移動します。」
Meta は昨年、安全とセキュリティに約 50 億ドルを費やしたと主張しており、「サービス上の有害なコンテンツからユーザーを保護するためのより広範なアプローチの一環として」、テロリストのコンテンツに取り組むことを約束しています。 Clegg は、「Facebook のコンテンツの 10,000 回の閲覧ごとにヘイトスピーチが 2 回閲覧されるようになりました。3 年前には 10,000 回の閲覧ごとに 10 ～ 11 回でした」と主張しています。と いくつかのレポート 同社独自のシステムが 完璧にはほど遠い. ただし、HMA や 監視委員会 少なくとも、メタが公正かつ一貫した方法でコンテンツ管理の問題を解決することに真剣に取り組んでいるという印象を与えてください。ツイッターと違って.