Balasubramaniyan 氏は、音声 AI サービスは、財務情報や医療情報などの個人データを保存する他の企業と同等のセキュリティを提供する必要があると述べています。
「会社に「私の AI の声はどのように保存されるのですか?」と尋ねなければなりません。 あなたは実際に私の録音を保存していますか? 暗号化して保存していますか？ 誰がアクセスできますか?」と Balasubramaniyan 氏は言います。 「それは私の一部です。 それは私の親密な自己です。 私もそれを守る必要があります。
Podcastle によると、音声モデルはエンド ツー エンドで暗号化されており、モデルの作成後に会社が録音を保持することはありません。 ボイス クリップを録音したアカウント所有者のみがアクセスできます。 Podcastle では、Revoice で他のオーディオをアップロードまたは分析することもできません。 実際、自分の声のコピーを作成する人は、事前に書かれたテキストの行を Revoice のアプリに直接録音する必要があります。 事前に記録されたファイルをアップロードすることはできません。
「許可を与え、コンテンツを作成するのはあなたです」と Podcastle の Yeritsyan は言います。 「それが人工的であろうとオリジナルであろうと、これがディープフェイクの声でなければ、それはこの人の声であり、彼はそれを世に出しました。 問題は見当たりません。」
ポッドキャッスルは、同意した人のクローン化された声だけでオーディオをレンダリングできるようにすることで、人々があまりにも恐ろしいことを言わないようにすることを望んでいます. 現在、このサービスには、特定の単語やフレーズに対するコンテンツのモデレーションや制限はありません。 Yeritsyan 氏は、Spotify、Apple Podcasts、YouTube など、オーディオを公開するサービスやアウトレットがプラットフォームにプッシュされるコンテンツを取り締まるかどうかにかかっていると述べています。
「ソーシャル プラットフォームやストリーミング プラットフォームには巨大なモデレーション チームが存在します」と Yeritsyan 氏は言います。 「ですから、他の誰かが偽の声を使用して、ばかげたものや倫理に反するものを作成し、そこで公開することを許可しないことが彼らの仕事です。」
声のディープフェイクと同意のない AI クローンという非常に厄介な問題が解決されたとしても、人々がコンピューター化されたクローンを人間の代役として受け入れられるかどうかはまだ不明です.
3 月末、コメディアンの Drew Carey は別の音声 AI サービスを使用しました。 イレブンラボ、彼の声のクローンが読んだラジオ番組のエピソード全体をリリースする. ほとんどの場合、人々 嫌いだった. ポッドキャスティングは親密なメディアであり、ロボットがマイクに近づくと、人々の会話や物語を聞いているときに感じる明確な人間関係が簡単に失われます。
しかし、技術が進歩して違いが分からなくなったらどうなるでしょうか。 お気に入りのポッドキャスターでなくてもかまいませんか? クローン化された AI の音声は、人間の音声と区別がつかないようになるまでにはまだ道のりがありますが、確実に急速に追いついています。 ほんの 1 年前までは、AI が生成した画像は漫画のように見えましたが、今では何百万人もの人々を騙して、法王が素晴らしい新しいアウターウェアを着ていると思い込ませるほどリアルになっています。 AI によって生成されたオーディオが同様の軌跡をたどることは容易に想像できます。
また、これらの AI を利用したツールに関心を寄せているもう 1 つの非常に人間的な特徴があります。それは怠惰です。 AI音声技術は、実際の声を正確に模倣できるようになると仮定すると、ホストをスタジオに戻さなくても、簡単に編集や再撮影を行うことができます.
「最終的には、クリエイター エコノミーが勝つでしょう」と Balasubramaniyan 氏は言います。 「倫理的な影響についてどれだけ考えても、あなたは人々の生活をシンプルにしただけなので、勝つでしょう。」