この話はもともと、AI に関する週刊ニュースレターである The Algorithm に掲載されたものです。 このような記事を最初に受信トレイに入れるには、 ここでサインアップ.
今週の私のソーシャル メディア フィードは、OpenAI の最新のチャットボットである ChatGPT とバイラル AI アバター アプリの Lensa という 2 つのホットなトピックで占められていました。 私は新しいテクノロジーをいじるのが大好きなので、Lensa を試してみました。
MIT Technology Review の同僚と同じような結果が得られることを望んでいました。 このアプリは、宇宙飛行士、戦士、エレクトロニック ミュージックのアルバム カバーなど、現実的で魅力的なアバターを生成しました。
代わりに、たくさんのヌードを手に入れました。 私が生成した 100 のアバターのうち、16 はトップレスで、別の 14 は極端に露出度の高い服を着て、あからさまに性的なポーズをとっていました。 あなたはできる ここで私の話を読んでください.
Lensa は、テキスト プロンプトに基づいて画像を生成するオープンソースの AI モデルである Stable Diffusion を使用してアバターを作成します。 Stable Diffusion は、インターネットから画像をスクレイピングしてコンパイルされた大規模なオープンソース データ セットである LAION-5B でトレーニングされています。
また、インターネットには、裸またはほとんど服を着ていない女性の画像や、性差別的、人種差別的なステレオタイプを反映した画像があふれているため、データ セットもこれらの種類の画像に偏っています。
アジアの女性として、私はそれをすべて見たと思っていました.以前のデート相手がアジア人女性だけだったことに気づいて、気分が悪くなってしまいました。 私は、アジアの女性が素晴らしい主婦になると考えている男性と喧嘩をしてきました. 私の性器についての粗雑なコメントを聞いたことがあります。 私は部屋の他のアジア人と混同されています。
驚くべきことではありませんが、AI によって性的にされることは私が予想していたことではありませんでした。 率直に言って、それは非常に残念でした。 私の同僚や友人は、自分自身の芸術的な表現に様式化されるという特権を得ました. 彼らはアバターで認識できました！ 私ではありませんでした。 アニメのキャラクターやビデオゲームをはっきりとモデルにした一般的なアジアの女性の画像を手に入れました。
おかしなことに、自分が男性であることをアプリに伝えると、自分自身がよりリアルに描かれていることがわかりました。 これにより、おそらく別のプロンプト セットが画像に適用されました。 違いは明らかです。 男性フィルターを使用して生成された画像では、私は服を着ており、自己主張が強く、最も重要なこととして、写真の中で自分を認識することができます。
「女性は性的コンテンツに関連付けられています。一方、男性は、医学、科学、ビジネスなどの重要な分野の専門的でキャリア関連のコンテンツに関連付けられています」と、ワシントン大学の助教授で、AI システムのバイアスと表現を研究している Aylin Caliskan は言います。
この種の固定観念は、AI スタートアップの Hugging Face で働く研究者 Sasha Luccioni が作成した新しいツールを使用して簡単に見つけることができます。さまざまな偏見を探る安定拡散で。
このツールは、AI モデルが医師、建築家、デザイナーなどの白人男性の写真を提供し、女性が美容師やメイドとして描かれている様子を示しています。
しかし、問題があるのはトレーニング データだけではありません。これらのモデルやアプリを開発している企業は、データの使用方法について積極的に選択していると、カーネギー メロン大学の博士課程の学生で、画像生成アルゴリズムのバイアスを研究している Ryan Steed は言います。
「誰かがトレーニング データを選択し、モデルを構築することを決定し、それらのバイアスを軽減するために特定の手順を実行するかどうかを決定する必要があります」と彼は言います。
Lensa の背後にある企業である Prisma Labs は、すべての性別が「散発的なセクシュアライゼーション」に直面していると述べています。 しかし、私にはそれだけでは十分ではありません。 誰かが、特定の配色とシナリオを適用し、特定の体の部分を強調するという意識的な決定を下しました。
短期的には、女性や子供の同意のないヌード画像を作成するディープフェイク ジェネレーターへの簡単なアクセスなど、これらの決定によって明らかな害が生じる可能性があります。
しかし、アイリン・カリスカンは、さらに大きな長期的な問題が待ち受けていると考えています。 バイアスが埋め込まれた AI によって生成された画像がインターネットにあふれているため、それらは最終的に将来の AI モデルのトレーニング データになります。 「これらの偏見を増幅し、人口を過小評価し続ける未来を私たちは作るつもりですか?」 彼女が言います。
それは本当に恐ろしい考えであり、問題がさらに大きくなり、根深いものになる前に、これらの問題に十分な時間をかけて検討することを願っています.
より深い学習
都市がテロ攻撃に備えるのを支援するための助成金は、米国警察の「監視技術の大量購入」に費やされている、と擁護団体の Action Center on Race and Economy (ACRE)、LittleSis、MediaJustice、および The Immigrant による新しいレポート防衛プロジェクトが示しています。
AI を活用したスパイテックの購入:たとえば、ロサンゼルス警察は、テロ対策を目的とした資金を使用して、少なくとも 127 万ドル相当の自動ナンバー プレート リーダー、2,400 万ドル以上の価値のある無線機器、Palantir データ フュージョン プラットフォーム (AI を活用した予測ポリシングによく使用される)、およびソーシャル ネットワークを購入しました。メディア監視ソフトウェア。
これが重要な理由: さまざまな理由から、問題のある技術の多くは、監視がほとんどまたはまったくない警察などのリスクの高い分野に行き着きます。 たとえば、顔認識企業の Clearview AI は、その技術の「無料試用版」を警察に提供しており、購入契約や予算の承認なしに警察が使用できるようになっています。 テロ対策に対する連邦政府の助成金は、公共の透明性と監視をそれほど必要としません。 報告書の調査結果は、市民がますます警察の技術調達について闇に包まれている傾向が強まっていることを示すもう 1 つの例です。 Tate Ryan-Mosley の詳細については、こちらをご覧ください。
ビットとバイト
hatGPT、Galactica、プログレス トラップ
AI 研究者の Abeba Birhane と Deborah Raji は、(Meta の Galactica で見られるように) 「モデル リリースへの怠惰なアプローチ」と、批判的なフィードバックに対する非常に防御的な対応が、現在の AI の「非常に懸念される」傾向を構成していると書いています。 彼らは、モデルが「被害を受ける可能性が最も高い人々の期待に応えられない」場合、「彼らの製品はこれらのコミュニティに役立つ準備ができておらず、広くリリースするに値しない」と主張しています. (有線)
新しいチャットボットは世界を変える可能性があります。 それらを信頼できますか？
人々は ChatGPT の一貫性に圧倒されています。 問題は、それが吐き出すもののかなりの量がナンセンスであることです. 大規模な言語モデルは自信に満ちたでたらめでしかありません。そのことを念頭に置いてアプローチするのが賢明です。
(ニューヨークタイムズ)
自分の言葉につまずいて、AIにしゃべらせる人もいる
この技術には欠陥があるにもかかわらず、学習障害のある人などの一部の人々は、大規模な言語モデルが自分自身を表現する方法として依然として有用であると考えています。
(ワシントン・ポスト)
EU 諸国の AI 規則に対する姿勢は、議員や活動家からの批判を呼んでいます
EU の AI 法である AI 法は、最終決定に近づいています。 EU諸国は、規制がどのようなものであるべきかについての立場を承認しましたが、批評家は、公共の場所での企業による顔認識の使用など、多くの重要な問題が対処されておらず、多くの保護手段が骨抜きにされていると述べています. (ロイター)
投資家はジェネレーティブ AI スタートアップから利益を得ようとしている
それはあなただけではありません。 ベンチャーキャピタリストはまた、人気のあるテキストから画像へのモデルである Stable Diffusion を作成した Stability.AI などのジェネレーティブ AI スタートアップが、現在テクノロジー業界で最も注目されていると考えています。 そして、彼らは彼らに大金を投げつけています。 (フィナンシャル・タイムズ)