Twitter の新しい所有者である Elon Musk は、彼の「Twitter ファイル」を熱狂的に宣伝しています。これは、同情的なマニアによって苦労してツイートされた会社からの内部通信を選択したものです。 しかし、彼が一部の党派クラーケンを解放したというマスクの明らかな確信は誤りです。陰謀や組織的な悪用とはほど遠く、ファイルは大規模な節度の背後にある貴重な覗き見であり、すべてのソーシャル メディア プラットフォームが引き受けるシーシュフィアンの労働を暗示しています。
10 年間、Twitter、YouTube、Facebook などの企業は、モデレーション プロセスの詳細を、悪意のある人物、規制当局、マスコミの目に触れないようにするために精巧なダンスを披露してきました。
明らかにしすぎると、プロセスがスパマーや詐欺師 (漏洩または公開されたすべての詳細を実際に利用する) による悪用にさらされることになりますが、明らかにしすぎると、物語を制御できなくなり、有害なレポートや噂につながります。 その間、彼らは自分たちの方法を正当化して文書化する準備ができていなければなりません。そうしないと、政府機関から非難や罰金を科される危険があります。
その結果、誰もが 少し これらの企業が自社のプラットフォームに投稿されたコンテンツをどのように正確に検査、フィルタリング、整理しているかについては、私たちが目にしているものは氷山の一角に過ぎないことを確認するだけで十分です.
時々、私たちが疑った方法の露出があります.1時間ごとの請負業者は、暴力的で性的な画像をクリックして、忌まわしいが明らかに必要な業界です. AI がモデレーションに革命をもたらしていると繰り返し主張し、その後、この目的のための AI システムは不可解で信頼性が低いと報告するなど、企業は度を越していることがあります。
ほとんど起こらないこと (通常、企業は強制されない限りこれを行いません) は、大規模なコンテンツ モデレーションの実際のツールとプロセスがフィルターなしで公開されることです。 そして、それは Musk が行ったことであり、おそらく彼自身の危険にさらされていますが、何百万人もの人々に影響を与える可能性のある決定を下す際に、モデレーターが実際に何をし、発言し、クリックするのか疑問に思ったことがある人にとっては、非常に興味深いものであることは間違いありません。
カーテンの後ろの正直で複雑な会話に注意を払わないでください
先週リリースされた電子メール チェーン、Slack の会話、スクリーンショット (またはスクリーン ショット) は、この重要であまり理解されていないプロセスを垣間見せてくれます。 私たちが見ているのは生の素材の一部であり、一部の人が期待する党派的なイルミナティではありませんが、非常に選択的なプレゼンテーションによって、これが私たちが知覚することを意図していることは明らかですが.
それどころか、関係者は慎重で自信に満ち、現実的で哲学的であり、率直で親切であり、制限または禁止の選択が恣意的に行われるのではなく、対立する視点の進化するコンセンサスに従って行われることを示しています.
ハンター・バイデンのラップトップの話題を一時的に制限するという選択に至るまで – おそらくこの時点で、トランプを禁止することの背後にある、過去数年間で最も論争の的となっている節度の決定 – 文書の爆弾パッケージによってほのめかされた党派心や陰謀はありません.
代わりに、矛盾した不適切な定義やポリシーを調整しようとする真面目で思慮深い人々を目にします。 この評価またはその評価にどの程度自信がありますか? 比例応答とは何ですか？ いつ、誰に、どのように伝えるべきか。 制限しない場合、制限しない場合、どのような結果が生じるでしょうか? どのような先例を設定または破りますか?
これらの質問に対する答えはまったく明白ではなく、通常、数か月に及ぶ調査と議論、または法廷でさえも突き詰められるようなものです (判例は、法的言語と影響に影響を与えます)。 そして、状況が何らかの形で制御不能になる前に、それらを迅速に作成する必要がありました. 内外からの反対意見 (米国代表からの反対意見も同様です — 皮肉なことに、同じポリシーに違反してジャック・ドーシーと一緒にスレッドに晒されています) が考慮され、正直に統合されました。
「これは、事実が不明確なままの新たな状況です」と、元トラスト・アンド・セーフティ・チーフのヨエル・ロスは述べています。 「警告を含めて、このコンテンツが増幅されないようにするという誤った考えを持っています。」
決定に疑問を呈する人もいます。 提示された事実に疑問を呈する人もいます。 他の人は、ポリシーを読んでも支持されないと言います。 党派的なものとして精査されることは明らかなので、行動のアドホックな根拠と範囲を非常に明確にする必要があると言う人もいます。 副法務顧問のジム・ベイカーは、より多くの情報を求めていますが、注意が必要であると述べています. 明確な前例はありません。 事実は現時点では存在しないか、検証されていません。 素材の一部は明らかに同意のないヌード画像です。
ロ・カンナ下院議員は、「Twitter 自体がトレンド ニュースに推奨するものや掲載するものを削減する必要があると考えています。QAnon グループに対するあなたのポリシーはすべて良いものです」と認め、問題の行動は行き過ぎだと主張しています。 「バランスが難しい。」
一般の人々もマスコミも、これらの会話に関与していません。真実は、私たちの読者と同じくらい好奇心旺盛で、ほとんどが暗闇の中であるということです. 公開された資料をプロセス全体の完全または正確な表現とさえ呼ぶのは正しくありません (それらは、効果的でないとしても、物語に合うように選択され選択されています)。 .
商売道具
さらに直接的に明らかになったのは、次のスレッドで、Twitter の従業員が実際に使用しているモデレーション ツールのスクリーンショットが掲載されていました。 スレッドは不誠実にこれらのツールの使用をシャドー禁止と同一視しようとしますが、スクリーンショットは悪質な活動を示しておらず、興味深いものにするためにそれらを必要としていません.
画像クレジット: ツイッター
それどころか、示されていることは、それが非常に平凡で、非常に当たり障りのない体系的であるというまさにその理由で説得力があります. すべてのソーシャル メディア企業が繰り返し説明してきたさまざまな手法を以下に示しますが、以前は PR の陽気な外交的カントで表現されていましたが、今ではコメントなしで提示されています。行動しない」など。
一方、Yoel Roth 氏は、行動と政策をより一致させる必要があり、より多くの研究が必要であり、改善計画が進行中であると説明しています。
私たちが実装したことの多くの根底にある仮説は、たとえば、誤った情報への露出が直接害を及ぼす場合、露出を減らす修復を使用する必要があり、コンテンツの拡散/ウイルス性を制限することがそれを行うための良い方法であるというものです…これをポリシー修正のレパートリーに含めるには、より確固たるケースを作成する必要があります。特に他のポリシー ドメインについてはそうです。
繰り返しになりますが、内容はそれが提示されている文脈に反しています。これらは、禁止ハンマーでイデオロギーの敵を攻撃している秘密のリベラルな陰謀団の審議ではありません。 これは、リード トラッキング、ロジスティクス、またはアカウントに見られるようなエンタープライズ グレードのダッシュボードであり、現実的な制限内で働き、複数の利害関係者を満足させることを目指している冷静な人々によって議論され、繰り返されます。
当然のことですが、Twitter は、他のソーシャル メディア プラットフォームと同様に、大規模に機能するのに十分な効率的かつ体系的なモデレーション プロセスを作成するために何年にもわたって取り組んできました。 プラットフォームがボットやスパムであふれないようにするだけでなく、FTC 命令や GDPR などの法的枠組みに準拠するためです。 (そのうち、写真のツールへの「広範な、フィルタリングされていないアクセス」の部外者が与えられたのは、おそらく侵害を構成する可能性があります。関係当局はTechCrunchに、この問題についてTwitterと「関与している」と語った.)
ルーブリックや監視なしに恣意的な決定を下す一握りの従業員は、効果的に調整したり、そのような法的要件を満たす方法はありません。 どちらでもない（ 辞任 Twitter の Trust & Safety Council で今日証言されているいくつかのうちの 1 つが自動化であると証言しています。 明確な境界とエスカレーション手順を備えた、標準化されたシステムに従って協力して作業する人々の大規模なネットワークが必要です。 それは確かに、Musk が公開させたスクリーンショットによって示されているようです。
文書に示されていないのは、あらゆる種類の体系的な偏見であり、マスクの代役はそれをほのめかしているが、立証することはできていない. しかし、それが彼らが望む物語に適合するかどうかにかかわらず、公開されているものは、これらの企業が自社のポリシーについてもっと率直であるべきだと考えている人にとって興味深いものです. Muskの不透明なアプローチが多かれ少なかれ偶然にそれを達成したとしても、それは透明性の勝利です.