最初にこの機能を無効にした後、OpenAI は本日、DALL-E 2 にアクセスできる顧客は、AI を利用した画像生成システムを使用して、人の顔をアップロードして編集できることを発表しました。 以前は、OpenAI は、ユーザーが写真のようにリアルな顔を操作して共有することのみを許可し、著名な有名人や著名人の写真を含む、実在の人物を描写している可能性のある写真のアップロードを禁止していました。
OpenAIは、安全システムの改善により、ディープフェイクや性的、政治的、暴力的なコンテンツを作成しようとする試みによる「害の可能性を最小限に抑える」ことで、顔編集機能が可能になったと主張しています. 顧客への電子メールで、同社は次のように書いています。
DALL-E を使って衣装やヘアスタイルを自分で考えたり、家族写真の背景を編集したりするのが恋しいという声を多くの方からいただいています。 ある再建外科医は、DALL-E を使用して患者が結果を視覚化できるようにしていたと語っています。 また、映画製作者は、人々がいるシーンの画像を編集して、創造的なプロセスをスピードアップできるようにしたいと言っています… [We] 悪用を阻止するための新しい検出および対応技術を構築しました。
ポリシーの変更は、必ずしも水門を開くわけではありません。 OpenAI の利用規約は、ユーザーの同意なしに人物の写真やユーザーが権利を持たない画像をアップロードすることを引き続き禁止します。
いずれにせよ、これは OpenAI のフィルタリング テクノロジーの真のテストとなるでしょう。 熱心すぎる と やや不正確. ディープフェイクにはさまざまな種類があります。 偽の休暇の写真 に 戦争で荒廃した国の大統領. 出現する虐待のすべての形を説明することは、終わりのない戦いであり、場合によっては非常に高いリスクが伴います。
Microsoft や Khosla Ventures などの著名な VC 企業の支援を受けている OpenAI は、Stability AI の Stable Diffusion に関連する論争を避けたいと考えていることは間違いありません。Stable Diffusion は、オープン ソース形式で制限なく利用できる画像生成システムです。 TechCrunch が最近書いたように、Stable Diffusion (顔画像も編集できる) が、エマ・ワトソンのような有名人のポルノ的で同意のないディープフェイクを作成するために使用されるようになるまで、それほど時間はかかりませんでした。
これまでのところ、OpenAI は、制限のない安定性 AI に代わる、ブランドに優しく、ボタンを押した代替手段としての地位を確立しています。 また、DALL-E 2 の新しい顔編集機能に関する制約により、同社は現状を維持しています。
DALL-E 2 は招待制のベータ版のままです。 8 月下旬、OpenAI は 100 万人以上がサービスを利用していると発表しました。