コンテンツモデレーションは、 悪名高い厄介な仕事、そしてそれを取り巻く急成長している労働アウトソーシング業界は、人間の労働者を労働者に服従させるアプローチの倫理について、定期的に厳しい精査に直面しています。 インターネットの最も暗いコーナー. 水曜日に、 時間 Sama は最近、OpenAI に、インターネットが提供する最悪のコンテンツのいくつかを読むことだけを任された労働者を提供した会社です。
この取り組みの全体的な目標は、人気があり、話題になっている ChatGPT プログラムに役立つ、必要な内部 AI フィルターを開発することでしたが、Sama の元従業員は、性的暴行、近親相姦、獣姦を説明する何千もの恐ろしいオンライン テキストの抜粋をふるいにかけている在職期間から、現在は PTSD に苦しんでいると述べています。新しいレポートによると、児童虐待、拷問、殺人。 言うまでもなく、報告書によると、主にケニアを拠点とするこれらの従業員は、時給が 2 ドル未満でした。
[Related: Popular youth mental health service faces backlash after experimenting with AI-chatbot advice.]
OpenAI の ChatGPT は、事実上あらゆる人間のプロンプトからクリエイティブなテキストをほぼ瞬時に生成する能力により、昨年最も話題になった技術的ブレークスルーの 1 つになりました。 同様のプログラムはすでに存在しますが、これらのプログラムは、攻撃を行うことができないため、憎悪に満ちたまったくの虐待的なコンテンツを吐き出す傾向があります。 内部で有毒物質を特定する 生成的な参照ポイントとして利用されるインターネット書き込みの山の中で.
すでに 100万人をはるかに超えるユーザー、ChatGPT はこのような問題からほぼ解放されています (他にも多くの懸念が残っていますが)。これは主に、インターネットのひどい部分の多くを省略することを目的とした追加のビルトイン AI フィルタリング システムのおかげです。 しかし、その有用性にもかかわらず、現在の AI プログラムは、不適切な素材を自分で認識するほど十分に自己認識していません。まず、あらゆる種類の文脈上のキーワードや主題にフラグを立てるために、人間からのトレーニングが必要です。
請求日 そのホームページ 「AI開発の次の時代」として、シリコンバレーのビジネスのためにケニア、インド、ウガンダで労働者を雇用している米国に本拠を置くデータラベリング会社であるSamaは、 5万人 世界中で、雇用機会を通じて貧困を克服しています。 によると 時間の調査は、何百ページもの内部文書、契約書、および労働者の給与明細をもとに行われましたが、数十人の労働者のコストは、1.32 ドルから 2 ドルの間の手取りの時給のための自称「拷問」に達しました。
[Related: OpenAI’s new chatbot offers solid conversations and fewer hot takes.]
労働者は主張する 時間 彼らは割り当てられた時間をはるかに超えて働き、1 日あたり 150 ～ 250 の不快なテキスト パッセージをふるいにかけ、ChatGPT の AI フィルター トレーニングのコンテンツにフラグを立てました。 ウェルネス カウンセラー サービスが利用可能であったと伝えられていますが、それにもかかわらず、Sama の従業員は、それらのサービスの能力を超える長引く感情的および精神的犠牲を経験しました。 に提供された声明では、 時間、Sama は作業負荷に異議を唱えており、彼らの請負業者はシフトごとに約 70 のテキストのみをレビューすることが期待されていると述べました。
「これらの企業は、AI と自動化をあたかも労働者を排除するかのように私たちに提示しますが、実際にはほとんどそうではありません。」 パリ・マルクス、テクノロジー文化評論家であり、 どこにも行かない道: シリコンバレーが輸送に関して間違っていること、PopSci に説明します。 「…これは、Facebook のコンテンツ モデレーターの話です。そのうちの何人かは、サマによってケニアでも雇われました。」
マルクスは、この種の精神的および身体的搾取を回避する唯一の方法は、テクノロジー業界内で大規模な文化的再編を必要とするだろうと主張している. 「これは、これらの企業が選択した AI 開発のモデルです」と彼らは書いています。[and] それを変えるには、彼らがやっていることの目標と基本的な仮定を完全にひっくり返す必要があります。」
Sama は当初、このプロジェクトに関連して OpenAI と 20 万ドルのコンテンツ モデレーション契約を結びましたが、「コンピューター ビジョン データ アノテーション ソリューション」に集中するために早期に関係を切ったと伝えられています。 OpenAI は現在、290 億ドルの評価額で資金を調達するために投資家と交渉中であり、そのうち 100 億ドルは Microsoft から提供される可能性があります。 ロイター 以前に報告された OpenAI の今年の収益は 2 億ドル、2024 年には 10 億ドル以上になると予想されています。最新の暴露記事で再び明らかになったように、これらの利益は日常の労働者にとって舞台裏で大きなコストがかかることがよくあります。