したがって、コンテンツ モデレーション (UGC の監視) は、オンライン エクスペリエンスに不可欠です。 社会学者のタールトン・ギレスピーは著書「インターネットの管理人」の中で、オープンなインターネットの「ユートピア的概念」にもかかわらず、デジタル プラットフォームが機能するには効果的なコンテンツ モデレーションが必要であると書いています。 「ある程度、ルールを課さないプラットフォームはありません。ルールを課さないことは、単に受け入れられないことです」と彼は書いています。 「プラットフォームは、何らかの形でモデレートする必要があります。あるユーザーを別のユーザーから、またはあるグループをその敵対者から保護し、攻撃的、卑劣、または違法なユーザーを排除するだけでなく、新しいユーザーに最高の顔を見せるためにも、広告主やパートナー、そして一般大衆に。」
コンテンツ モデレーションは、さまざまな業界の幅広いコンテンツに対応するために使用されます。 巧みなコンテンツ モデレーションは、組織がユーザーを安全に保ち、プラットフォームを使いやすくし、評判を損なわないようにするのに役立ちます。 コンテンツ モデレーションのベスト プラクティス アプローチは、ますます高度で正確な技術的ソリューションを活用しながら、人間のスキルと判断力でこれらの取り組みを後押しします。
コンテンツ モデレーションは急速に成長している業界であり、デジタル空間に集まるすべての組織や個人にとって重要です (つまり、 50億人以上）。 Everest Group の信頼と安全 (T&S) を専門とするプラクティス ディレクターである Abhijnan Dasgupta 氏によると、この業界は 2021 年に約 75 億ドルと評価されており、専門家はその数が 2024 年までに 2 倍になると予想しています。 ガートナーの調査 大企業のほぼ 3 分の 1 (30%) が、2024 年までにコンテンツ モデレーションを最優先事項と見なすようになると示唆しています。
コンテンツ管理: ソーシャル メディア以上のもの
コンテンツ モデレーターは、毎日何十万もの問題のあるコンテンツを削除しています。 フェイスブックの コミュニティ基準施行レポートたとえば、2022 年第 3 四半期だけで、14 億のスパム投稿と 15 億の偽アカウントに加えて、同社は 2,320 万件の暴力的で生々しいコンテンツと 1,060 万件のヘイトスピーチを削除したことを文書化しています。 しかし、ソーシャル メディアが最も広く報告されている例かもしれませんが、非常に多くの業界が UGC に依存しており、製品のレビューからカスタマー サービスのやり取りまで、すべてにおいてコンテンツのモデレーションが必要です。
「社内で作成されたものではない情報を受け入れるサイトには、コンテンツのモデレーションが必要です。インディアナ大学で工学。 コンテンツ モデレーションに大きく依存している他のセクターには、遠隔医療、ゲーム、電子商取引、小売、公共部門、政府などがあります。
攻撃的なコンテンツの削除に加えて、コンテンツ モデレーションは、ボットの検出と排除、偽のユーザー プロファイルの特定と削除、偽のレビューと評価への対処、スパムの削除、欺瞞的な広告の取り締まり、略奪的なコンテンツ (特に未成年者を対象とするもの) の軽減、安全な 2 つの促進を行うことができます。 -wayコミュニケーション
オンラインメッセージングシステムで。 深刻な懸念事項の 1 つは、特に e コマース プラットフォームでの詐欺です。 「偽の製品を売ろうとする悪い行為者や詐欺師がたくさんいます。また、偽のレビューにも大きな問題があります」グローバルブランド。 「コンテンツモデレーターは、製品がプラットフォームのガイドラインに従っていることを確認するのに役立ち、禁止されている商品も削除します。」
このコンテンツは、MIT Technology Review のカスタム コンテンツ部門である Insights によって作成されました。 これは MIT Technology Review の編集スタッフによって書かれたものではありません。