先週金曜日の午後、 Twitter は、推奨アルゴリズムのソース コードを GitHub に投稿しました。 Twitter は、アルゴリズムを「オープンソース化」していると言いました。 レコメンデーション アルゴリズムとオープン ソース コードは、研究者としての私の仕事の主な焦点であり、テクノロジー業界における企業の説明責任の提唱者です。 私の研究は 実証済み YouTube のような企業が、レコメンデーション アルゴリズムの内部の仕組みについて、より透明性を高める必要がある理由と方法 – そして、そうするように圧力をかけるキャンペーンを実行しました。 私がシニア フェローを務める非営利団体 Mozilla は、 オープンソース Netscape ブラウザ コードを開発し、1998 年に世界中の開発者コミュニティに貢献を呼びかけました。それ以来、オープンなインターネットを推進し続けています。 では、なぜ私は Musk の決定に感心したり興奮したりしないのでしょうか?
どちらかといえば、Twitterのいわゆる「オープンソース」は、最近の動きから気をそらすための巧妙なニシンです あちらへ 透明度から。 ほんの数週間前、Twitter は API の無料版を閉鎖することを静かに発表しました。API は、世界中の研究者が有害なコンテンツ、偽情報、公衆衛生、選挙監視、政治行動などの研究を行うために何年にもわたって依存してきたツールです。 . 置き換えられたツールは、研究者や開発者に月額 42,000 ～ 210,000 ドルの費用がかかります。 ツイッターの動きは、議員や市民社会組織の注目を集めた（ 独立した技術研究のための連合、私が理事会に参加している）、Twitterの決定を非難した.
皮肉なことに、週末にソース コードを分析している間に人々が提起した問題の多くは、Twitter が無効にしようとしているまさにそのツールによって実際にテストできたということです。 たとえば、研究者は、Twitter のソース コードで見つかった「UkraineCrisisTopic」パラメータが、アルゴリズムがウクライナ侵略に言及するツイートを格下げするためのシグナルであると推測しました。 研究者は Twitter の API を使用して、ウクライナ侵攻に関連するツイートを取得し、その関与を分析して、アルゴリズムがそれらを増幅または非増幅したかどうかを判断することができました。 このようなツールを使用すると、一般の人々は、ソース コードが提供する情報の一部を独自に確認 (または反論) することができます。 それらがなければ、私たちは Twitter が真実であると言っていることに翻弄されてしまいます。
Twitter のスタントは、テクノロジー業界による透明性洗浄の最新の例にすぎません。 2020 年、TikTok は「ソース コード」という言葉を使用して、プラットフォームの仕組みについてより透明性を要求する米国とヨーロッパの規制当局を驚かせました。 これは、物理的な「透明性センター」の開設を発表した最初のプラットフォームであり、「専門家が TikTok の慣行を調査および検証できるようにする」ように設計されているとされています。 2021 年に私はセンターのバーチャル ツアーに参加しましたが、これは TikTok のポリシー スタッフによる Powerpoint プレゼンテーションにすぎず、アプリの仕組みを説明し、既に公開されているコンテンツ モデレーション ポリシーを見直しました。 それから 3 年が経ち、センターは一般公開されず (TikTok の Web サイトではパンデミックが理由として挙げられています)、TikTok はソース コードを一切公開していません。
マスクが本当に Twitter のアルゴリズムに説明責任を持たせたいと思っていたなら、彼はそれを実現できたはずです。 精査可能な に加えて 透明. たとえば、一連の入力に基づいてアルゴリズム システムの出力をシミュレートするツールを作成できたはずです。 これにより、研究者は制御された実験を実施して、レコメンデーション システムが実際のコンテンツをどのようにランク付けするかをテストできます。 これらのツールは、公共の利益のために働く研究者 (そしてもちろん、彼らの方法が人々のプライバシーをどのように尊重するかを実証できる研究者) が、ほとんどまたはまったく費用をかけずに利用できるようにする必要があります。
この点については良いニュースがあります: ヨーロッパのデジタル サービス法は、今年の夏に非常に大規模なオンライン プラットフォームに対して発効する予定であり、プラットフォームがアルゴリズムに害を及ぼすリスクがないことを確認するために、第三者による監査を実施することを強制します。人々。 このような監査に必要なデータの種類は、Twitter、TikTok、またはその他のプラットフォームが現在提供しているものをはるかに超えています。
ソースコードのリリースは、大胆ではあるが性急な動きであり、Twitter 自体は準備ができていないように思われた. ソースコードはアルゴリズムシステムの根底にあるロジックを明らかにしていますが、実際のツイートでシステムがリアルタイムでどのように機能するかについてはほとんど何も教えてくれません. イーロン・マスクの決定により、プラットフォームで現在何が起こっているのか、次に何が起こるのかを知ることができなくなりました.
有線の意見 幅広い視点を代表する外部寄稿者による記事を公開しています。 感想をもっと読む ここ、提出ガイドラインを参照してください ここ. に論説を提出する 意見@wired.com.