Snapchat は、年齢に応じたフィルターや、保護者が AI チャットボットをより安全に利用できるようにするための洞察など、新しいツールを立ち上げています。
Snapchat が Snapchat+ サブスクライバー向けに GPT を利用したチャットボットを開始してから数日後、ワシントンポストのレポートは、ボットが 安全で不適切な方法.
ソーシャル ジャイアントは、ローンチ後、人々が「チャットボットをだまして、私たちのガイドラインに準拠しない応答を提供させようとしている」ことを知ったと述べました。 そのため、Snapchat は AI の反応を抑えるためのツールをいくつか立ち上げています。
Snap には新しい年齢フィルターが組み込まれています。これにより、AI はユーザーの生年月日を認識し、年齢に応じた応答を提供できます。 同社によると、チャットボットはユーザーと会話する際に「一貫して年齢を考慮に入れる」という。
Snap はまた、昨年 8 月にローンチされたファミリー センターでのボットとの子どもたちのやり取りについて、今後数週間で親や保護者にさらに多くの洞察を提供する予定です。 新しい機能は、10 代の若者が AI と通信しているかどうか、およびそれらの相互作用の頻度を共有します。 これらのペアレンタル コントロール機能を使用するには、保護者と未成年者の両方がファミリー センターの使用にオプトインする必要があります。
の ブログ投稿, Snap は、My AI チャットボットは「本当の友達」ではなく、応答を改善するために会話履歴を使用すると説明しました。 ユーザーがボットとのチャットを開始すると、データ保持についても通知されます。
同社によると、ボットは「不適合」な言葉で 0.01% の応答しか返さなかったという。 Snap は、暴力、性的に露骨な言葉、違法薬物の使用、児童の性的虐待、いじめ、ヘイト スピーチ、軽蔑的または偏見のある発言、人種差別、ミソジニー、または過小評価されたグループの過小評価への言及を含むすべての応答を「不適合」としてカウントします。
ソーシャルネットワークは、ほとんどの場合、これらの不適切な反応は、ユーザーが言ったことをオウム返しした結果であると述べました. 同社は、サービスを悪用しているユーザーの AI ボットへのアクセスを一時的にブロックすることにも言及しました。
「これらの学習を引き続き使用して、My AI を改善します。 このデータは、My AI の誤用を制限する新しいシステムの導入にも役立ちます。 OpenAI のモデレーション テクノロジーを既存のツールセットに追加することで、潜在的に有害なコンテンツの重大度を評価し、Snapchat ユーザーがサービスを悪用した場合に My AI へのアクセスを一時的に制限できるようになります」と Snap は述べています。
AI を利用したツールが急速に普及していることを考えると、多くの人々がその安全性とプライバシーについて懸念しています。 先週、と呼ばれる倫理グループ Center for Artificial Intelligence and Digital Policy は FTC に手紙を書きました、OpenAIのGPT-4技術の展開を停止するよう代理店に要請し、新興企業の技術は「偏見があり、欺瞞的であり、プライバシーと公共の安全に対するリスク」であると非難した.
先月、マイケル・ベネット上院議員も 手紙を書いた OpenAI、Meta、Google、Microsoft、Snap に対し、10 代の若者が使用するジェネレーティブ AI ツールの安全性について懸念を表明しています。
これらの新しいチャットボット モデルは、有害な入力の影響を受けやすく、不適切な出力を生成することが明らかになっています。 テクノロジー企業はこれらのツールの迅速な展開を望んでいるかもしれませんが、チャットボットが悪用されるのを防ぐ十分なガードレールを周囲に確保する必要があります。