あなたはその気持ちを知っています。 あなたは出会い系アプリを使っていて、誰かと会話を始めました。 あなたが見た 火口詐欺師 Netflixで、あなたは突然疑問に思っています: 誰かが私にお金を要求しようとしていますか? のチーム 出会い系サイト フィルターオフ 検出されたすべての詐欺師は、愛らしいシングルを装った独自のチャットボットと他の詐欺師のみを含むデート希望者のサイドプールに追加されました. ご想像のとおり、陽気さが続きました。
プラットフォームとしての Filter Off は、COVID-19 によるロックダウンの開始時に開始されたビデオ ファーストの出会い系アプリです。 デートがバーやギャラリー、ピクニックから、チャットやビデオ ファーストに移行するにつれて、同社は離陸し、さまざまなトピックに関する仮想スピードデート イベントを提供しました。 ハリー・ポッターのデートの夜、犬好きのデートの夜、ニューヨーク市のデートの夜など、名前を付けてみましょう。 このプラットフォームには何十万人ものユーザーがおり、愛を求める人々の間でその人気が高まるにつれて、創設者は、お金を求める人々も引き付けていることに気付きました。
「問題があることに最初に気付いたのは、ジョージ・クルーニーがフィルター・オフに参加したことを知ったときでした。 「なんてこった、これはワイルドだ、信じられない…」と思っていましたが、その後、彼のプロフィールを詳しく調べました」と、TechCrunch とのインタビューで、Filter Off の製品責任者である Brian Weinreich は笑いました。 彼は、クルーニーがおそらく出会い系サイトに参加することはないだろうし、仮にいたとしても、彼はナイジェリアのラゴス出身の 34 歳ではないことに気付きました。 「私は彼らをアプリから外すために彼らのプロフィールを削除しました。 それから、実在の人物のように見えるこれらすべてのプロファイルに気付き始めましたが、それらはすべて異なるプロファイルであり、足し合わせることができませんでした。」
製品チームはアルゴリズムを使って問題を解決しようと決め、ユーザーを人間に分類するソフトウェアを作成しました。 」 彼らは詐欺師である可能性がかなり高い. チームはプロファイルを削除し続けましたが、彼らが削減した詐欺師ごとに、代わりに別の 5 つが Medusa スタイルでポップアップ表示されました.
Weinreich 氏は、「詐欺師を排除する方法が必要ですが、詐欺師が戻ってきてプラットフォームに再び参加できないようにする方法が必要だと思いました」と述べています。 「Reddit やその他のプラットフォームには、ユーザーが投稿を続けることはできますが、通常のユーザーにはコンテンツが表示されない「シャドウ バン」の形式があることを思い出しました。」
そして、仕事が始まりました。 チームが使用した GPT-3 人間のような顔を生成するスクリプトと組み合わせて多数のチャットボットを作成し、多数の偽のプロファイル自体を作成します。 注意: これらのプロファイルは、「通常の」ユーザーには表示されず、アルゴリズムが詐欺師であると判断したユーザーにのみ表示されます。 彼らは、本物の人間のように見えて話す何千ものボットのプールにそれらを入れました.
「T彼の面白い部分は、2 つのことが起こるということです。 まず、詐欺師は他のボットに出くわしますが、他の詐欺師にも出くわし、お互いに詐欺をしようとします」と Weinreich 氏は笑います。 「彼らは、『Google Play ギフト カードで 40 ドルが必要です』のようなもので、他の詐欺師は『いいえ、あなたはギフト カードを贈りません』と答えます。 自分」そして彼らはただ議論し続けました。 これは面白いことです。現在、私たちのアプリには、おそらく 1,000 人以上の詐欺師がいて、ボットだけに積極的に話しかけていることを知っています。 それは素晴らしい。 彼らは時間を無駄にしており、実際のユーザーとやり取りする必要はありません。」
プラットフォームには、実際のユーザーが潜在的な詐欺師を報告できる報告およびブロック機能があります。 報告された場合、チームはアルゴリズムを改善し、詐欺師をボット プールに手動で配置することもできます。
「T私たちのレポート機能で最もおもしろいのは、ボットと話しているという詐欺師からのレポートの数です。 私は『ええ、わかっています、それがポイントです』みたいな感じです」と Weinreich は肩をすくめます。
会社が回収した 詐欺師同士やボットとの最もばかげた会話の一部をブログに掲載、これもスキムする価値があります。