彼の独特のスタイルのおかげで、Rutkowski は新しいオープンソースの AI アート ジェネレーターで最も一般的に使用されるプロンプトの 1 つになりました。 安定拡散は先月下旬に発売されましたが、ピカソのような世界で最も有名なアーティストよりもはるかに人気があります。 彼の名前は、プロンプトとして約 93,000 回使用されています。
しかし、彼はそれについて満足していません。 彼は、それが自分の生計を脅かす可能性があると考えています。そして、自分の作品がこのように使用されることをオプトインするかオプトアウトするかを選択することはできませんでした。
この話は、影響を受ける人間のことを考えずに、AI 開発者が何かクールなものを展開しようと急いでいるもう 1 つの例です。
Secure Diffusion は誰でも無料で使用でき、強力なモデルを使用して製品を構築したい AI 開発者に優れたリソースを提供します。 しかし、これらのオープンソース プログラムは、インターネットから画像をスクレイピングして構築されているため、多くの場合、アーティストへの許可や適切な帰属がなく、倫理、著作権、およびセキュリティに関するトリッキーな問題が提起されています。
Rutkowski のようなアーティストはもう十分です。 まだ始まったばかりですが、この問題に取り組む方法を模索しているアーティストの連合が増えています。 将来的には、映画や音楽業界で使用されているようなペイ パー プレイまたはサブスクリプション モデルにアート セクターが移行する可能性があります。 興味があり、詳しく知りたい場合は、私のストーリーを読んでください。
それはアーティストだけではありません。 AI モデルのトレーニング データ セットに何が含まれているかについては、特にこれらのテクノロジがインターネットのインフラストラクチャの重要な部分になっているため、注意を払う必要があります。
で 紙 昨年発表された AI 研究者の Abeba Birhane、Vinay Uday Prabhu、Emmanuel Kahembwe は、Stable Diffusion の構築に使用されたものと同様の小さなデータセットを分析しました。 彼らの調査結果は悲惨です。 データはインターネットから収集されたものであり、インターネットは恐ろしい場所であるため、データ セットには露骨なレイプ画像、ポルノ、悪意のある固定観念、人種差別的および民族的中傷が含まれています。
と呼ばれるウェブサイト 私は訓練を受けましたか 人気のある AI アート モデルの最新バッチのトレーニングに使用される画像を検索できます。 無邪気な検索用語でさえ、多くの不穏な結果をもたらします。 データベースで自分の民族性を検索してみましたが、返ってきたのはポルノだけでした。 たくさんのポルノ。 AI が「アジア人」という言葉から連想するのは裸の東アジア人女性だけだというのは憂鬱な考えです。
これを AI セクターが解決すべき問題だと誰もが考えているわけではありません。 Steady Diffusion を構築した Steadiness.AI の創設者である Emad Mostaque は、 言った Twitter で、彼はこれらのモデルをめぐる倫理論争は「人や社会を信頼しない父権主義的な愚かさ」であると考えました。
しかし、大きな安全上の問題があります。 モントリオール AI 倫理研究所の創設者であり、ボストン コンサルティング グループの責任ある AI 専門家である Abhishek Gupta 氏は、Stable Diffusion や大規模言語モデル BLOOM などの無料のオープンソース モデルは、悪意のある攻撃者に最小限のリソースで有害なコンテンツを大規模に生成するツールを提供すると主張しています。 .
これらのシステムが可能にする大混乱の規模は、人々が生成できる画像の数を制限したり、危険なコンテンツの生成を制限したりする従来の制御の有効性を制限するだろう、と Gupta は言います。 ステロイドに関するディープフェイクや偽情報を考えてみてください。 強力な AI システムが「野放し」になると、Gupta 氏は次のように述べています。 [someone’s] 似ている。
猫をバッグに戻すことはできませんであるため、実際にこれらの AI モデルを実際に扱う方法を検討する必要がある、と Gupta 氏は言います。 これには、AI システムがローンチされた後にどのように使用されるかを監視し、「最悪のシナリオでも害を最小限に抑えることができる」制御を考えることが含まれます。
より深い学習
新しい中国の画像作成AIに天安門広場はありません