バンブルは、独自のアプリでディックの写真からのみ保護できます。 しかし今では、Private Detector として知られる画像検出 AI が、すべてのアプリにサイバーフラッシャーをシャットダウンする力を与えることができます。
2019 年に Bumble のアプリ専用に初めてリリースされた Private Detector は、不適切な画像を自動的にぼかし、潜在的な淫乱について警告します。 これにより、画像を表示、ブロック、または報告することができます。 月曜日に、Bumble は、Private Detector の改良版をインターネットの荒野にリリースしました。 オープンソースのリポジトリ.
続きを読む: Bumble は AI を使用して不要なペニスの写真からあなたを守ります
Private Detector は、オフラインとオンラインの両方のテストで 98% を超える精度を達成したと同社は述べており、最新のイテレーションは効率と柔軟性を重視しており、より幅広い開発者が使用できるようになっています。 Private Detector のオープンソース パッケージには、開発者向けのソース コードだけでなく、そのまま展開できるすぐに使用できるモデル、広範なドキュメント、および プロジェクトに関するホワイトペーパー.
バンブルの会員安全担当バイスプレジデント、レイチェル・ハス氏は電子メールで、「安全は私たちのすべての活動の中心であり、インターネットを女性にとってより安全な場所にするために私たちの製品と技術を使用したいと考えています. 「この機能をオープンソース化することは、誰もが健全で公平な関係、敬意に満ちた交流、オンラインでの親切なつながりに値するという私たちの信念を堅持することです。」
バンブル氏は、同社の 10 年間の機械学習のレッグワークにより、2019 年のイテレーションよりも高速で正確なプライベート ディテクター ニューラル ネットワーク用の柔軟で新しいアーキテクチャを作成できるようになったと述べています。 Private Detector の新機能は、検出器のトレーニング速度と効率を高める EfficientNetv2 ベースのバイナリ分類器であり、ツールの他のレイヤーと連携して全体的な実行を高速化します。
バンブル
Private Detector AI モデルは、オンラインのセクシャルハラスメントやサイバーフラッシングに対抗するための Bumble の唯一の戦略ではありません。 同社は、世界で最も望ましくないカメラユーザーを妨害することを目的とした法律を制定するよう、繰り返しロビー活動を行ってきました。 2018 年の調査で、バンブルは、バンブルの女性の 3 人に 1 人が誰かから未承諾のわいせつな写真を受け取り、96% がそれらの写真を見ることに満足していないことを発見しました。 それ以来、Bumble は、テキサス州とバージニア州の両方で反サイバーフラッシュ法を制定するためのロビー活動に成功し、現在、他の 4 つの州でも同様の措置を推進しています。
「Bumble は、コミュニティが特定の写真を見たいかどうかを同意の上で決定し、そうでない場合は安全基準を作成する権限をコミュニティに与えることで、サイバーフラッシュに対処した最初のアプリの 1 つでした。何年にもわたってオンラインで説明責任を果たしてきたが、この問題は 1 社だけの問題ではない」と、バンブルの公共政策責任者であるペイトン イヘム氏は述べています。
「これは私たちだけではできません。」
そして、会社はそうする必要がないかもしれません。 Private Detector を無料で提供することで、Bumble はその大義への支援の群れを呼び起こしたのかもしれません。