AI ポルノの生成を収益化しようとしているグループ、Unstable Diffusion は、 $56,000 Kickstarter で 867 人の支援者から。 今、キックスターターとして その考え方を変える どのような種類の AI ベースのプロジェクトが許可されるかについて、クラウドファンディング プラットフォームは Unstable Diffusion のキャンペーンを終了しました。 Kickstarter は全か無かのモデルを実行しており、キャンペーンはまだ終了していないため、Unstable Diffusion が調達した資金は資金提供者に返還されます。 言い換えれば、Unstable Diffusion は $56,000 を目にすることはありません。これは当初の $25,000 目標の 2 倍以上です。
「過去数日間、私たちはコミュニティ諮問委員会と協力し、私たちのチームとソーシャルメディアを通じて私たちへのフィードバックを読みました. ブログ投稿. 「そして 1 つはっきりしていることは、Kickstarter は創造的な仕事とその背後にいる人間の側にいなければならず、これからもそうあり続けるということです。 私たちは、創造的な仕事が繁栄するのを助けるためにここにいます。」
AI プロジェクトをホストするための Kickstarter の新しいアプローチは、意図的にあいまいです。
「この技術は本当に新しく、すべての答えを持っているわけではありません」と Taylor 氏は書いています。 「私たちが現在行う決定は、将来行うものではない可能性があるため、これを皆さんとの継続的な会話にしたいと考えています。」
現在、プラットフォームは、特にアーティストの作品が同意なしにアルゴリズムのトレーニングデータに表示されている場合に、プロジェクトが著作権で保護された素材とどのようにやり取りするかを検討していると述べています. Kickstarter はまた、プロジェクトが「特定のコミュニティを悪用するか、誰かを危害の危険にさらす」かどうかを検討します。
ここ数か月で、OpenAI の ChatGPT や Stability AI の Stable Diffusion などのツールが主流の成功を収め、AI アートワークの倫理に関する会話が公の議論の最前線に持ち込まれました。 Lensa AI のようなアプリがオープンソースの Stable Diffusion を活用して、プロのアーティストの作品のように見える芸術的なアバターを即座に作成できるとしたら、それは同じアーティストにどのような影響を与えるでしょうか?
一部のアーティストは、AI アート ジェネレーターがアーティストのキャリアをどのように脅かすかについての懸念を理由に、Twitter で Kickstarter に Unstable Diffusion プロジェクトを中止するよう圧力をかけました。
多くの人が運命を引き合いに出す グレッグ・ルトコウスキーの作品 何がうまくいかないかの例として。 「Dungeons & Dragons」などのフランチャイズ向けに詳細でハイ ファンタジーなアートワークを作成した生前のイラストレーターである Rutkowski の名前は、Stable Diffusion が 9 月にサービスを開始したとき、最も人気のある検索用語の 1 つであり、ユーザーは彼の独特のスタイルを簡単に再現することができました。 Rutkowski は、彼のアートワークがアルゴリズムのトレーニングに使用されることに決して同意しなかったため、AI アート ジェネレーターが現役のアーティストにどのような影響を与えるかについて声高に支持するようになりました。
「25,000 ドルの資金があれば、約 2,500 万のアニメとコスプレの画像、Artstation/DeviantArt/Behance からの約 2,500 万の芸術的な画像、および約 2,500 万の写真で構成される 7,500 万の高品質の画像で新しいモデルをトレーニングする余裕があります。」不安定な拡散はその中で書いた キックスターター.
産卵、アーティストをサポートするために設計された一連の AI ツールは、 私は訓練を受けましたか、これにより、アーティストは自分の作品が人気のあるデータセットに表示されるかどうかを確認し、オプトアウトできます。 4 月の訴訟によると、公にアクセス可能なデータのスクレイピングを弁護する判例があります。
AIポルノ生成に固有の問題
NSFW コンテンツの開発を中心とする Unstable Diffusion のようなプロジェクトを考えると、AI アートワークに関する倫理的な問題はさらに深刻になります。
Stable Diffusion は、23 億の画像のデータセットを使用して、テキストから画像へのジェネレーターをトレーニングします。 しかし、データセットの推定 2.9% のみ 含む NSFW の素材であり、露骨なコンテンツに関してはモデルにほとんど影響を与えません。 そこで、Unstable Diffusion の出番です。Equilibrium AI の一部であるこのプロジェクトは、Discord サーバーからボランティアを募集して、アルゴリズムを微調整するためのより堅牢なポルノ データセットを開発しました。家具生成 AI を作成する場合は、データセットを使用します。
しかし、どの AI ジェネレーターも、アルゴリズムの背後にいる人間が持つバイアスの犠牲になりがちです。 無料でオンラインで簡単にアクセスできるポルノの多くは、男性の視線向けに開発されています。つまり、ユーザーがデータセットに入力している種類の画像である場合は特に、AI が吐き出す可能性が高いことを意味します。
現在中断されている Kickstarter で、Unstable Diffusion は、「人間の解剖学をより適切に処理し、多様で制御可能な芸術的スタイルで生成し、LGBTQ や人種や性別などの十分に訓練されていない概念をより公平に表現できる AI アート モデルの作成に取り組む」と述べています。 」
さらに、インターネット上で無料で入手できるポルノの多くが同意の上で作成されたかどうかを確認する方法はありません (ただし、OnlyFans や ManyVids などの有料プラットフォームを使用するアダルト クリエイターは、これらのサービスを使用する前に年齢と身元を確認する必要があります)。 それでも、モデルがポルノに出演することに同意したとしても、それは彼らの画像が AI のトレーニングに使用されることに同意したことを意味するものではありません。 このテクノロジーは驚くほどリアルな画像を作成できますが、それはまた、武器化して同意のないディープフェイク ポルノを作成できることを意味します。
現在、同意のないディープフェイク ポルノに関連する法律は世界中でほとんどありません。 米国では、バージニア州とカリフォルニア州のみが、フェイクおよびディープフェイクのポルノ メディアの特定の使用を制限する規制を設けています。
「私が特に心配しているのは、AI が生成したポルノが女性に与えるさまざまな影響です」と、Mission Control の責任ある AI 担当副社長である Ravit Dotan 氏は先月、TechCrunch に語った。 「たとえば、人の服を脱ぐことができる以前の AI ベースのアプリは、女性に対してのみ機能します。」
Unstable Diffusion は、発行時のコメントの要求に応答しませんでした。