Lensa は、AI を活用した写真編集アプリです。 世界中のアプリストアのトップに上り詰めた. 2018年から利用可能ですが、先月マジックアバター機能がリリースされて初めて、世界中のソーシャルメディアでヒットしました. 過去数週間に Twitter、Instagram、または TikTok を使用していた場合は、AI が生成したさまざまなスタイルの画像をほぼ確実に見たことがあるでしょう。
Lensa は Stable Diffusion (これは 前に取り上げた) その魔法のアバターを作成します。 ユーザーは iOS または Android アプリを使用して 10 ～ 20 枚の顔写真をアップロードし、Lensa はそれらを使用して Stable Diffusion の画像生成モデルのカスタム バージョンをトレーニングします。 パーソナライズされた AI モデルを使用することで、Lensa は、抽象的なアイデアではなく実際の人物に似た芸術的なスタイルの画像を多数作成することができます。 または、少なくとも、印象的な時間だけそれを行うことができます. マジック アバターが 50 個、100 個、200 個のパックでそれぞれ 3.99 ドル、5.99 ドル、7.99 ドルでしか入手できないのには理由があります。
もちろん、Lensa の Magic Avatars にはアーティファクトがないわけではありません。 AI モデルは、人ではなくモンスターや抽象芸術に似た、信じられないほど奇妙な画像を生成することがあります。 目、指、およびその他の細部の形状は、口や鼻の位置などよりも不完全である可能性が高くなります。
また、ほとんどの AI ジェネレーターと同様に、Lensa の作品は性別、人種、その他の偏見から自由ではありません。 の記事で ザ・カット 「なぜ私の AI アバターはすべて巨大なおっぱいを持っているのか」というタイトルのミア メルカド (半分白人で半分フィリピン人) は、彼女のアバターは「圧倒される」と書いています。 Mercado によると、「最高のものは、かなり正確なイラストのように見えました。」 しかし、ほとんどは「あいまいなアジアの女性を示し」、しばしば「十分としか言いようのない胸」を持っていました。
[Related: Shutterstock and OpenAI have come up with one possible solution to the ownership problem in AI art]
書き込み MITテクノロジーレビュー、メリッサ・ヘイッキラ（同様にアジアの遺産）は、彼女のアバターを「漫画的にポルノ化された」と呼んでいます。 彼女が作成した 100 枚の肖像画のうち、16 枚はトップレスで、別の 14 枚は「非常に露出度の高い服を着て、あからさまに性的ポーズをとっている」ものでした。 そして、この問題は Lensa に限ったことではありません。 Stable Diffusion を使用する他の AI 画像ジェネレーターも作成しています。 有色人種の信じられないほど疑わしい画像.
この問題は非常に広まっているため、 Web サイトの FAQ で、Lensa の背後にある会社である Prisma Labs は、次の質問に答えなければなりませんでした。 簡単な答えは次のとおりです。
FAQ によると、この問題は、Stable Diffusion が最初にトレーニングされたデータセットにまでさかのぼることができます。 それは Laoin-5B データセットには、インターネット上からスクレイピングされた、フィルタリングされていない画像とテキストのペアが約 60 億個含まれています。 Stability AI (Stable Diffusion のメーカー) は、「モデルは社会的偏見を再現し、安全でないコンテンツを生成する可能性があります」 これには、女性の性的な画像や、有色人種の一般的、ステレオタイプ、人種差別的な画像が含まれます。
Stability AI と Prisma の両方が、 NSFW出力の蔓延を最小限に抑える、しかし、これらの AI モデルは設計上ブラック ボックスです。つまり、人間のプログラマーは、モデルが作成しているすべての関連付けについて完全に認識していないこともあります。 AI モデルをトレーニングするためのバイアスのない画像データベースを作成する以外に、AI ジェネレーターの出力には社会的バイアスが常に存在する可能性があります。
そしてそれは、誰もが誠実に行動している場合です。 TechCrunch だった Lensa を使用して有名俳優の新しい NSFW 画像を作成できる. 彼らは、俳優の本物のSFW画像と、トップレスモデルの俳優の顔のフォトショップ画像の混合物をアップロードしました. 作成された 100 枚の画像のうち、11 枚は「AI が入力として与えた下手に編集されたトップレス写真よりも高品質 (または、少なくともスタイルの一貫性が高い) のトップレス写真」でした。 もちろん、これはLensaの利用規約に反していますが、これまで人々を完全に止めたことはありません.
ただし、これらの AI ジェネレーターの最も有望な機能は、 彼らがどれだけ速く改善しているかです. 疎外されたグループが現在、社会的偏見が自分たちのアウトプットに反映されているのを見ていることは否定できませんが、これらのモデルが進化し続け、開発者がフィードバックを受け入れる姿勢を維持している場合、彼らは単に反省する以上のことができると楽観的になる理由があります.最悪のインターネット。