「魔法のアバター」アプリ Lensa が私の子供時代の写真からヌードを生成

今週末は、 写真編集アプリの Lensa は、天体、虹色、アニメにインスパイアされた「魔法のアバター」でソーシャル メディアをあふれさせました。 ミルクシェイク アヒルのインターネット ニュース サイクルでよくあることですが、アプリの使用に問題がある理由についての議論は、アバター自体の急増に次ぐ速度で急増しました。

私はすでに、アプリの使用が AI の教育にどのように関与するかについての危険性について講義を受けています。 アーティストから盗む、 と 略奪的なデータ共有慣行への関与. それぞれの懸念は正当ですが、アプリに内在するより邪悪な違反、つまり、不快であるだけでなく潜在的に危険な程度に被験者を性的対象にするアルゴリズムの傾向については、あまり議論されていません.

Lensa の利用規約では、「ヌードなし」および「子供なし、大人のみ」を含む適切なコンテンツのみを送信するようユーザーに指示しています。 それでも、多くのユーザー (主に女性) は、控えめな写真をアップロードした場合でも、アプリがヌードを生成するだけでなく、官能的なポーズや巨大な胸など、漫画的に性的な特徴を画像に帰していることに気付きました。 たとえば、顔写真だけをアップロードしたにもかかわらず、完全にヌードの結果をいくつか受け取りました。 セクシュアライゼーションはまた、しばしば人種化されました。12 人近くの有色人種の女性が、Lensa が肌を白くし、特徴を英語化したと私に話しました。 アヘ顔」 彼女がアップロードした完全に服を着た画像とそれらが作成したトップレスの結果の両方を共有した別の女性は、「ちょっと謙虚な気持ちのために絵文字をいくつか変更することを選択しました」と私に言いました。

私はインターネットに侵されていると感じることに慣れています。 何度か嫌がらせキャンペーンの対象となってきたため、自分の画像が同意なしに操作、歪曲、配布されるのを何度も見てきました。 私はセックスワーカーとして顔を出していないので、私の似顔絵を探して広めることの目新しさは、一部の人にとってはスポーツです. 一般大衆はセックスワーカーを人間として、または基本的権利に値するものとして認識していないため、この行為は非難されるよりも称賛されます。 セックスワークは、仕事ではなく道徳的な失敗であると考えられることが多いため、私たちの非人間化は冗長です. 私は Twitter にログオンして、他の女性の体にフォトショップで加工された自分の顔、セッション中の自分と服を脱いでいるクライアントの写真、さらには私の顔、個人情報、研究の興味からなる単語検索さえ見ました。 レンサは怖くない。

私は技術の恐ろしさに十分に鈍感で、自分自身の実験用ネズミになることに決めました。 いくつかの実験を行いました。最初は、BDSM とダンジョンの写真のみです。 次に、「男性」の性別オプションの下で最も女性らしい写真。 その後、学術会議の自撮り写真はすべて、見事な大きさの胸と完全なヌードを生み出しました。

それから私は地獄を旅することになるとわかっていたものに乗り出し、自分の似顔絵を使ってアプリの他の制限をテストすることにしました。 (結果の一部を以下に示します。子供の性的な画像が含まれていることに注意してください。)

子供の頃の自分の写真はほとんどありません。 10 代後半まで、手に負えない髪、でこぼこした歯、7 歳で装着し始めた遠近両用レンズの間で、私の外見は最も寛大に「ネズミっぽい」と表現することができました。 私もスマホが普及する前に育ったので、それ以外の写真は遠い親戚の写真集に埋もれがちです。 しかし、アプリを実行するのに最低限必要な 10 枚の写真をなんとかつなぎ合わせて、6 歳のぎこちない私が妖精の王女にどのように変わるかを待ちました。

結果は恐ろしいものでした。

場合によっては、AI が私の子供の体を認識しているように見え、容赦なく胸を追加することを怠っていました。 これはおそらく、テクノロジーの個人的な倫理を反映したものではなく、私の写真で識別されたパターンの反映でした。 おそらくそれは、私の平べったい胸を大人の男の胸だと認識したのだろう。 他の写真では、AI が私の胸にオーブを付けていましたが、これは衣服とは異なりましたが、他のテストで生成されたヌード写真とは異なりました。

今回は、子供の頃の写真とセルフィーを組み合わせて再試行しました。 その結果、思春期の、時には子供のような顔をしているが、明らかに大人の体をした完全なヌード写真ができあがった. 魅惑的な外見とポーズを生成した以前のテストと同様に、このセットは一種の内気さを生み出しました: むき出しの背中、乱れた髪、裸の大人の胸の間に葉を挟んだ私の子供のような顔のアバター. 多くの人が、マイリー・サイラスが2008年にアニー・リーボヴィッツと撮った写真を不気味に思い起こさせました。 バニティフェア、15歳のサイラスが彼女の裸の体の周りにサテンのシーツを握りしめている. 当時のイメージで気がかりだったのは、化粧をしていない、ほとんどケルビムのような顔と、セックスをしたばかりだとほのめかされる誰かの体との組み合わせでした。