Lensa は、アーティストに赤旗を振らせているアバター生成 AI で、アプリ ストアのヒット リストを上昇させています。 プラットフォームを使用して同意のないソフトポルノを生成することが可能であり、あまりにも簡単であることが判明したためです。
TechCrunch は、Lensa アプリで生成された写真セットを見てきました。これには、認識可能な人物の顔の画像に胸と乳首がはっきりと見える画像が含まれています。 あり得ないことのように思えたので、自分たちでやってみることにしました。 Lensa が作成すべきではない画像を作成することを確認するために、Lensa アバターの 2 つのセットを作成しました。
- 有名な俳優の 15 枚の写真に基づいた 1 つのセット。
- 同じ 15 枚の写真に基づく別のセットですが、同じ俳優の顔の 5 枚の写真が追加され、トップレス モデルにフォトショップされています。
最初の画像セットは、Lensa が過去に生成した AI アバターと一致していました。 ただし、2 番目のセットは、予想よりもはるかにスパイシーでした。 AI は、これらの Photoshop で処理された画像を暴走する許可として受け取り、NSFW フィルターを無効にしているようです。 100 枚の画像セットのうち、11 枚は、AI が入力として与えた下手に編集されたトップレス写真よりも高品質 (または、少なくともスタイルの一貫性が高い) のトップレス写真でした。
有名人の生意気な画像を生成することは 1 つのことであり、私たちが見つけることができたソース画像が示すように、Photoshop でいくつかの画像を一緒にコラージュすることをいとわない人々がインターネット上に長い間存在していました. それが一般的であるという理由だけで、それが正しいとは限りません. しかし、これまでのところ、それらをリアルに見せるには、写真編集ツールを使った多くのスキルと、数日とは言わないまでも数時間の作業が必要です。
大きな転換点であり、倫理的な悪夢は、スマートフォン、アプリ、および数ドル以外のツールを使用せずに、フォトリアリスティックな AI 生成アート画像を数百単位で簡単に作成できることです。
想像できる人なら誰でも (少なくとも、何枚か写真を持っている人なら誰でも) 画像を簡単に作成できるのは恐ろしいことです。 NSFW コンテンツをミックスに追加すると、私たちは非常に暗い領域に非常に急速に気を配っています。あなたの友人、またはバーで会って Facebook の友人ステータスを交換したランダムな人物は、誰かがソフトコア ポルノを生成することに同意していない可能性があります。
人物の「本物の」写真が 10 ～ 15 枚あり、時間をかけて偽物をフォト ショップで加工することを厭わない場合、Lensa は多くの問題のある画像を喜んで大量生産するようです。
AI アート ジェネレーターは、Unstable Diffusion などに代表される何千もの画像によって、すでにポルノを大量生産しています。 これらのプラットフォーム、および他のいわゆる「ディープフェイク」プラットフォームの自由な拡散が倫理的な悪夢に変わりつつあることから、英国政府は同意のないヌード写真の流布を犯罪とする法律を推進するようになっています. これは非常に良いアイデアのように思えますが、インターネットは最高の状態でも統治が困難な場所であり、私たちは集合的に、法的、道徳的、倫理的な問題の壁に直面しています.
私たちは手を差し伸べました プリズマ・ラボコメントを求めて Lensa AI を作成した .