先週、私は、AI スタートアップの Hugging Face とライプツィヒ大学の研究者によって開発された新しいツールについての記事を公開しました。これにより、AI モデルがさまざまな性別や民族に対してどのような固有のバイアスを持っているかを人々が自分の目で確かめることができます。
人間の偏見が AI モデルにどのように反映されるかについては多くの記事を書いてきましたが、AI の人間がどれほど青白く、男性的で、陳腐であるかを正確に理解するのは依然として不快に感じました。 これは、「CEO」や「ディレクター」などのプロンプトが与えられると、97% の確率で白人男性を生成する DALL-E 2 に特に当てはまりました。
そして、バイアスの問題は、あなたが思っているよりもさらに深いところにあります AIが創るより広い世界へ。 これらのモデルはアメリカの企業によって構築され、北米のデータに基づいてトレーニングされているため、ドアから家に至るまでありふれた日用品を生成するように求められると、アメリカ風のオブジェクトを作成すると、スタンフォード大学の研究者である Federico Bianchi 氏は語っています。自分。
世界が AI によって生成された画像でますます満たされるにつれて、アメリカの偏見、文化、価値観を反映した画像がほとんど見られるようになるでしょう。 AIが最終的にアメリカのソフトパワーの主要な手段になると誰が知っていたでしょうか?
では、これらの問題にどのように対処すればよいでしょうか。 AI モデルがトレーニングされるデータセットのバイアスを修正するために、多くの作業が行われました。 しかし、最近の 2 つの研究論文では、興味深い新しいアプローチが提案されています。
トレーニング データの偏りを少なくする代わりに、偏りの少ない回答をモデルに求めることができたらどうでしょうか?
ドイツのダルムシュタット工科大学と AI スタートアップの Hugging Face の研究者チーム ツールを開発した と呼ばれる 公平な拡散 これにより、AI モデルを微調整して、必要な種類の画像を生成することが容易になります。 たとえば、さまざまな設定で CEO のストック フォトを生成し、Fair Diffusion を使用して、画像内の白人男性を女性またはさまざまな民族の人々に置き換えることができます。
Hugging Face ツールが示すように、トレーニング データ内の画像とテキストのペアに基づいて画像を生成する AI モデルは、職業、性別、および民族性に関してデフォルトで非常に強い偏見を持っています。 ドイツの研究者の Fair Diffusion ツールは、彼らが開発した技術に基づいています。 セマンティックガイダンス、これにより、ユーザーは AI システムが人物の画像を生成する方法をガイドし、結果を編集できます。
この作業に参加したダルムシュタット工科大学のコンピューター サイエンス教授であるクリスチャン カースティングは、AI システムは元の画像に非常に近い状態を維持していると述べています。