DeviantArt が AI アートの地雷原をどのようにナビゲートしているか

人工知能はアートを作ることを学んでいますが、インターネット上で最も有名なアーティストの家の 1 つである DeviantArt を含め、誰もそれを処理する方法を完全に理解していません。 先週、DeviantArt は AI 画像生成の地雷原に足を踏み入れることを決定しました。 DreamUp というツールを起動する 誰でもテキスト プロンプトから画像を作成できます。 これは、人間のアーティストにより多くのコントロールを与えようとする DeviantArt の大規模な試みの一部ですが、混乱も引き起こし、一部のユーザーの間では怒りを引き起こしています。

DreamUp は、Stability AI によって作成されたオープンソースの画像生成プログラムである Stable Diffusion に基づいています。 誰でも DeviantArt にサインインして 5 つのプロンプトを無料で入手でき、サイトのコア サブスクリプション プランで毎月 50 から 300 を購入でき、さらにプロンプ​​トごとの料金でそれ以上を購入できます。 他のジェネレーターとは異なり、DreamUp には独特の癖が 1 つあります。それは、他のアーティストのスタイルを模倣しようとしているときにそれを検出するように構築されていることです。 アーティストが反対すれば、それはあなたを止めることになっています。

「AIは避けて通れるものではありません。 テクノロジーは日ごとに強化されるだけです」と、DeviantArt の CMO である Liat Karpel Gurwicz 氏は述べています。 「しかし、そうは言っても、人々が自分のしていることについて透明性を保ち、クリエイターを尊重し、クリエイターの作品と彼らの希望を尊重していることを確認する必要があると私たちは考えています。仕事。”

に反して いくつかの報告と Gurwicz 氏と DeviantArt CEO の Moti Levy 氏は語る。 ザ・バージ DeviantArt は、DreamUp のための DeviantArt 固有のトレーニングを行っていない (または計画していない)。 このツールは標準的な Stable Diffusion であり、DeviantArt が採用した時点で Stability AI がスクレイピングしたデータに基づいてトレーニングされています。 アートが DreamUp が使用するモデルのトレーニングに使用された場合、DeviantArt はそれを Stability データセットから削除してアルゴリズムを再トレーニングすることはできません。 代わりに、DeviantArt は別の角度から模倣者に対処しています。特定のアーティストの名前 (およびその別名や個々の作品の名前) をプロンプトで使用することを禁止しています。 アーティストはできる フォームに記入する このオプトアウトをリクエストすると、手動で承認されます。

物議を醸すように、Stable Diffusion は Web 画像の膨大なコレクションでトレーニングされており、作成者の大多数は含めることに同意しませんでした。 1 つの結果として、プロンプトの最後に「in the style of」などの語句を追加することで、アーティストのスタイルを再現できることがよくあります。 話題になりました 個人的または職業上の理由から、自動化されたツールが独特の外観をコピーすることを望まない現代のアーティストやイラストレーターにとって.

これらの問題は、他の AI アート プラットフォームでも発生します。 他の要因の中でも、同意に関する質問が Web プラットフォームをリードしてきました。 ArtStation と Fur Affinity を含む、AI によって生成された作業を完全に禁止します。 (ストック画像プラットフォームのゲッティも AI アートを禁止しましたが、同時に AI を利用した編集ツールでイスラエルの会社 Bria と提携しており、この問題に関する一種の妥協を示しています。)

DeviantArt にはそのような計画はありません。 「私たちは常にあらゆるタイプのクリエイティビティとクリエイターを受け入れてきました。 どんな種類のアートも検閲すべきだとは思いません」と Gurwicz 氏は言います。

代わりに、DreamUp は問題を軽減しようとする試みです。主に、許可なく直接意図的にコピーすることを制限することです。 「残念ながら、作成者の同意なしにトレーニングされなかったモデルやデータセットは存在しないと思います」と Gurwicz 氏は言います。 (これは確かに Stable Diffusion に当てはまり、DALL-E のような他の大きなモデルにも当てはまる可能性がありますが、これらのモデルの完全なデータセットはまったく知られていない場合があります。)

「どのモデルで作業を開始しても、この荷物が付属していることはわかっていました」と彼は続けました。 「DreamUp でできる唯一のことは、クリエイターの同意なしにトレーニングされたという事実を人々が利用するのを防ぐことです。」

アーティストなら は コピーされても問題ない場合、DeviantArt はユーザーにクレジットを表示するよう促します。 DeviantArt のサイトに DreamUp の画像を投稿すると、インターフェイスは特定のアーティストのスタイルで作業しているかどうかを尋ね、そうであれば名前 (または複数の名前) を尋ねます。 承認が必要であり、DreamUp の作品に不適切なタグが付けられたとして誰かがフラグを立てた場合、DeviantArt は作成者が使用したプロンプトを確認し、判断を下すことができます。 クレジットを省略した作品、または名前のスペルミスなどの戦術で意図的にフィルターを回避した作品は、削除される可能性があります。

このアプローチは、いくつかの点で非常に実用的です。 アーティストの作品がシステムのトレーニングに使用されているという抽象的な問題には対処していませんが、問題が生み出す最も明白な問題をブロックしています。

それでも、いくつかの実用的な欠点があります。 アーティストは DreamUp について知り、自分の名前をブロックするリクエストを送信できることを理解する必要があります。 このシステムは、AI アートに声高に反対する DeviantArt 以外のアーティストではなく、プラットフォーム上のアーティストにコントロールを与えることを主な目的としています。 （私はグレッグ・ルトコウスキーのスタイルで作品を作ることができました. 嫌いなことを公言した そしておそらく最も重要なことは、ブロッキングは DeviantArt 独自のジェネレーターでのみ機能することです。 別の Stable Diffusion 実装に簡単に切り替えて、作業をプラットフォームにアップロードできます。

DreamUp と並んで、DeviantArt は、根本的なトレーニングの質問に対処するための別のツールを展開しました。 プラットフォームは、アーティストが AI トレーニング データセットに含めるかどうかを示すためにチェックできるオプションのフラグを追加しました。 「ノアイ」の旗は、アーティストの作品が公正なゲームとして扱われることが多い、暗く削ぎ落とされた風景に確実性を生み出すことを目的としています。 このツールの設計はオープンソースであるため、他のアート プラットフォームでも自由に採用できます。

前に述べたように、DeviantArt 自体はトレーニングを行っていません。 しかし、他の企業や組織は、少なくとも紙の上では、DeviantArt の利用規約に準拠するために、このフラグを尊重する必要があります。 ただし、実際には、ほとんどが野心的なようです。 「アーティストは、同意したかどうかにかかわらず、これらのデータセットとプラットフォームに非常に明確に通知します」と Levy 氏は言います。 「今、そのコンテンツを探す努力をしたいかどうかは、それらの企業にかかっています。」 先週 DeviantArt と話をしたとき、AI アート ジェネレーターのいずれも、フラグに基づく画像をさかのぼって削除することは言うまでもなく、フラグを尊重することに同意していませんでした。

ローンチ時、フラグは DeviantArt が避けたいと思っていたことを正確に実行しました。つまり、アーティストは同意が侵害されているように感じました。 それは、トレーニングの許可をデフォルトで与え、反対する場合はフラグを設定するように求めるオプトアウト システムとして始まりました。 これらの画像をスクレイピングする企業はすでに現状にあったため、この決定はおそらくすぐにはあまり効果がありませんでした。 しかし、それは一部のユーザーを激怒させました。 1 人気ツイート アーティストのイアン・フェイから、この動きは「非常に汚い」と呼ばれました。 アーティスト ミーガン・ローズ・ルイス 一連のビデオをリリースしました 決定を批判。 「これは、すべてのアーティストに影響を与える大きな問題になるでしょう」と彼女は言いました。

DeviantArt は、多くの人が相反する他の技術、特に代替不可能なトークン (NFT) からアーティストを保護するツールを提供したため、抗議は特に顕著でした。 この 1 年間で、NFT に許可なく使用されたアートを検出して削除するプログラムを開始し、拡張してきました。

DeviantArt は以来、 対処しようとした 新しい AI ツールに対する批判。 デフォルトで「noai」フラグが設定されているため、アーティストは画像をスクレイピングすることに同意することを明示的に通知する必要があります。 また、利用規約を更新して、サードパーティのサービスにアーティストの旗を尊重するよう明示的に命じました。

しかし、本当の問題は、特に広範な AI の専門知識がなければ、小規模なプラットフォームでは多くのことしかできないことです。 ジェネレーティブ アートのクリエイターの権利 (または一般的な著作権) に関する明確な法的ガイダンスはありません。 これまでの議題は、OpenAI や Stability などの動きの速い AI スタートアップや、Google などの技術大手によって設定されています。 AI で生成された作品を単に禁止するだけでなく、多くのアーティストにとって第 3 のレールとなっているものに触れずにシステムをナビゲートする簡単な方法はありません。 「これは DeviantArt が独自に修正できるものではありません」と Gurwicz 氏は認めています。 「適切な規制が整備されるまで、これらの AI モデルとプラットフォームは、法的に要求されていることを超えて、倫理的に、何が正しくて何が公正かを考える必要があります。」

今のところ、DeviantArt はそのような考え方を刺激しようと努力していますが、まだいくつかの大きな問題を解決しているところです。