Snapchat は昨年、新しい「ファミリー センター」機能を通じてアプリのペアレンタル コントロールを開始しました。 本日、同社は オンラインのプライバシーと安全ハブに投稿する コンテンツ フィルタリング機能が追加され、保護者は 10 代の若者が機密または暗示的であると識別されたコンテンツにさらされるのを制限できるようになります。
この機能を有効にするために、保護者は Snapchat のファミリー センターで「機密コンテンツの制限」フィルターをオンに切り替えることができます。 有効にすると、10 代のユーザーはブロックされたコンテンツをストーリーとスポットライト (プラットフォームの短いビデオ セクション) で見ることができなくなります。 トグルの下のテキストは、このフィルターをオンにしてもチャット、スナップ、および検索で共有されるコンテンツに影響を与えないことを示しています。
この変更に伴い、Snapchat もその変更を公開しています。 コンテンツのガイドライン Stories と Spotlight のクリエイターに、そのプラットフォームで推奨される可能性のある投稿の種類と、コミュニティ ガイドラインの下で「機密」と見なされるコンテンツについて、より多くの洞察を初めて提供します。 プラットフォームは、これらのガイドラインをSnap Starsプログラムの下で一連のクリエイターとそのメディアパートナーと共有したと述べましたが、現在、同社は ウェブサイトのページ.
同社はすでに、ヘイトコンテンツ、テロリズム、暴力的過激主義、違法行為、有害な虚偽または虚偽の情報、嫌がらせやいじめ、暴力の脅威などのコンテンツがプラットフォームに表示されることを禁止しています. しかし現在、ガイドラインは、さまざまなカテゴリのどのコンテンツが「機密」と見なされるかを指定しています。 これは、推奨の対象となる可能性があるコンテンツですが、これらの新しい管理下にある 10 代のユーザーからはブロックされる可能性があり、年齢、場所、または個人的な好みに基づいてアプリの他のユーザーからはブロックされる可能性があります。
たとえば、性的なコンテンツ カテゴリの下で、Snap は、コンテンツに「すべてのヌード、性行為のすべての描写、たとえ服を着ていても、画像が本物でなくても」含まれている場合、「センシティブ」と見なされると説明しています。 AI画像の場合と同様に、セックスワーク、タブー、性器、大人のおもちゃなど、性行為やその他のセックスに関連するものを説明する「露骨な言葉」、「明らかに暗示的な画像」、「無神経または侮辱的な性的コンテンツ」および「操作されたメディア」
嫌がらせ、不快または暴力的なコンテンツ、虚偽または欺瞞的な情報、違法または規制された活動、憎悪に満ちたコンテンツ、テロリズムおよび暴力的過激主義、および商用コンテンツ (非営利団体からの明白な購入勧誘) など、他のカテゴリでも同様に機密と見なされるものに対処します。承認されたクリエイター）。 これには、薬物の描写、エンゲージメント ベイト (「それを待つ」)、自傷行為、身体改造、流血、ニュースでの暴力、人間の身体的疾患の生々しい画像、動物の苦しみ、配布のセンセーショナルな報道など、さまざまなコンテンツが含まれます。暴力犯罪や性犯罪、危険な行為などの事件。
この変更は、性的なビデオゲームへの招待や、バーやポルノに行くことに関する記事など、アプリの Discover フィードにアダルト関連のコンテンツを表示することについて Snap が厳しく批判された 2021 年の議会公聴会のずっと後に行われました。 上院議員が正しく指摘したように、Snap のアプリは App Store で 12+ としてリストされていましたが、共有しているコンテンツは明らかにより大人の視聴者を対象としていました。 宣伝しているビデオゲームでさえ、場合によっては、年配のユーザーを対象としていると評価されました.
「これらの新しいツールとガイドラインが、保護者、介護者、信頼できる大人、10 代の若者が Snapchat 体験をパーソナライズするだけでなく、オンライン体験について生産的な会話ができるようになることを願っています」とソーシャル メディア企業は述べています。 ブログ投稿.
ただし、この新機能は、一部の地域で 10 代の視聴者からの機密コンテンツを制限するのに大いに役立つかもしれませんが、議会が呼びかけた分野の 1 つである Discover フィードには対応していません。 ここで、スナップは、そのガイドラインの下で「機密」と見なされる可能性のあるコンテンツを公開する人を含む、パブリッシャーのコンテンツを特徴としています。 率直に言って、それは多くのクリックベイトです。 しかし、この領域は新しい管理では対処されていません。
さらに、この機能では、親が何も知らない可能性が高いトグルをオンにして行動を起こす必要があります.
要するに、これは、ソーシャル メディア企業に関する法律や規制の欠如が、若いユーザーを危害から保護するのに十分ではない自主規制につながっていることを示すもう 1 つの例です。
Snap は、コンテンツ コントロールに加えて、10 代の若者が新しい My AI チャットボットを使用する際の「可視性とコントロール」を保護者に提供するツールの追加に取り組んでいると述べています。
先月、ソーシャル ネットワークは、Snapchat+ サブスクリプションの下で Open AI の GPT 技術を利用したこのチャットボットを開始しました。 ちなみに、Snapchat の発表は、チャット中にチャットボットが暴走した後に行われます。 十代のふりをしているワシントン・ポストのコラムニスト. ボットは、誕生日パーティーをしている間、鍋とアルコールのにおいを隠すようにコラムニストにアドバイスしたと言われています。 これとは別に、 人間工学センター ボットが性的なアドバイスをしたことがわかった 13 歳を装ったユーザー.
チャットボットを対象とする追加ツールはまだ展開されていません。