ElevenLabs が音声クローン プラットフォームを開設してからわずか 1 週間後、人々はそれを使用して、エマ ワトソン、ジョー ローガン、トム クルーズなどの声をディープフェイクし、人種差別主義者やその他のあらゆる種類の「主義と主義」について語っています。
ElevenLabs とは?
ElevenLabs が作成したソフトウェアを使用すると、ユーザーは誰かが話しているクリップをアップロードできます。このクリップは、人工的な声を生成するために使用されます。 これは、会社のテキスト読み上げ音声合成機能に適用できます。この機能は、デフォルトで、一度に最大 2,500 文字を読み取ることができるさまざまなアクセントを持つ文字のリストを提供します。
4chan にアップロードされたクリップは、有名人に焦点を当てています。 しかし、生成された音声の高品質と、人々が簡単に作成できることを考えると、ディープフェイク オーディオ クリップの危険性が迫っていることを浮き彫りにしています。
私が忠実に検索し、以下に提供した一例では、左端のエマ・ワトソンがアドルフ・ヒトラーの我が闘争の一節を読んでいるのを聞くことができます。
これなら何時間でも聴ける pic.twitter.com/6f13RW4Evy
— ◤スペクトラリスト◥ (@demispectral) 2023年1月31日
彼らはロン・スワンソンをゲイにした！
別の例では、トランプ大統領がどのように ラスト・オブ・アス ロン・スワンソンをゲイにした。 十分に検索すると、ベン・シャーピオがアレクサンドリア・オカシオ・コルテスについて人種差別的な発言をしたり、タッカー・カールソンが人種戦争を呼びかけたり、ジョー・バイデンが「トランスフォビア」であることがわかります。
— 私、偽善者 (@lporiginalg) 2023年2月1日
そして究極の皮肉として、あなたはリック・サンチェスを リック & モーティ 言って:
「私は妻のモーティを倒すつもりです。 クソ妻のモーティを倒すつもりだ。 彼女を殴り殺すつもりだ、モーティ。」
サンチェスの声を担当するジャスティン・ロイランドは最近、重罪の家庭内暴力の容疑で公判前審理のために法廷に出廷し、彼自身のショーから解雇されたことを心に留めておいてください. 当然のことながら、これはうまくいかず、ElevenLabs は迅速に対応しました。
クレイジーな週末
クリップが 4chan で流通した直後の月曜日に、ElevenLabs は Twitter で次のように書いています。
「クレイジーな週末です。ベータ プラットフォームを試してくれた皆さん、ありがとうございます。 私たちの技術が積極的に活用されている一方で、音声複製の悪用事例も増えています。」
ElevenLabs は、生成された音声を特定のユーザーにまでさかのぼることができる一方で、より多くの保護手段を模索していると付け加えました。 これらには、音声複製を実行するための支払い情報または完全な ID 識別の要求、またはすべての音声複製要求を手動で検証することが含まれます。
なんて時が生きてるんだ！
Last Movie Outpost で新しいコンテンツを毎日チェックしてください。
Facebookで私たちを好きになるには ここをクリック
Twitterでフォローするには ここをクリック
YouTube チャンネルをご覧ください ここをクリック