たぶん難しいです 自分がスパイ工作の標的になるとは想像もつきませんが、従業員のスパイ活動は軍事 AI の次のフロンティアです。 権威主義的独裁政権ではおなじみの監視技術が、現在ではアメリカの労働者を標的にするために再利用されている。
過去 10 年間で、「オープンソース インテリジェンス」、「評判管理」、「インサイダー脅威評価」などのサービスのサブスクリプションを雇用主に販売する企業が数十社出現しました。これらのツールは、多くの場合、元々はインテリジェンス用途のために防衛請負業者によって開発されました。 過去数年間でディープ ラーニングと新しいデータ ソースが利用可能になるにつれて、これらのツールは劇的に洗練されました。 これらを活用すれば、上司は高度なデータ分析を使用して、労働組織、内部漏洩者、会社の批判者を特定できる可能性があります。
それは秘密ではありません 労働組合はすでに結成されている アマゾンのような大企業によって監視されています。 しかし、労働者を追跡するツールの拡大と正規化については、その不気味な起源にもかかわらず、ほとんどコメントを集めていない。 彼らが主張するほど強力である場合、あるいはその方向に進んでいる場合でも、これらの情報兵器を民間の手に渡す賢明さについて公に話し合う必要があります。 軍事グレードの AI は、名目上は選挙で選ばれた民主的政府の管理下にある我が国の敵を標的にすることを目的としており、国民に対する使用を防ぐための安全策が講じられていました。 同じシステムが、支払い能力のある人であれば誰でも広く導入できるようになったという考えには、私たち全員が懸念を抱くべきです。
たとえば、FiveCast は 反テロスタートアップ に販売する 軍事的しかし、そのツールは企業や法執行機関に引き渡され、収集と分析に使用できるようになりました。 あらゆる種類の公開データ、ソーシャルメディアの投稿も含まれます。 FiveCast は単にキーワードを数えるのではなく、「商用セキュリティ」などの製品は、人々のネットワークを識別し、画像内のテキストを読み取り、さらにはマルチメディア コンテンツ内のオブジェクト、画像、ロゴ、感情、コンセプトを検出できます。 同社の「サプライチェーンリスク管理」ツールは、次のような将来の混乱を予測することを目的としています。 ストライキ、法人向け。
したがって、テロ組織を特定するために開発されたネットワーク分析ツールを使用して、主要な労働組織者を特定し、雇用主が違法に活動できるようにすることができます。 労働組合が結成される前に彼らを解雇する。 の 採用時にこれらのツールを標準的に使用する 雇用主がそのような主催者を雇うことを最初から避けるよう促す可能性があります。 そして、差し迫った攻撃に対して国民に警告するために考案された定量的なリスク評価戦略は、労働組織化能力が高いと推定される地域や供給業者から撤退するかどうかなどの投資決定に情報を提供できるようになった。
これらのツールがその誇大宣伝に応えられるかどうかは明らかではありません。 たとえば、ネットワーク分析手法では関連付けによってリスクを割り当てます。これは、特定のページまたはアカウントをフォローするだけでフラグが立てられる可能性があることを意味します。 これらのシステムは、新しい生成 AI を使用して簡単に大規模に作成される偽のコンテンツによってだまされる可能性もあります。 また、一部の企業は、怒りを示すコンテンツを識別するためのディープラーニングなどの高度な機械学習技術を提供しています。これは、労働組合結成につながる可能性のある苦情の信号であると考えられますが、感情の検出は効果的であることがわかっています。 偏見があり、誤った仮定に基づいている。
しかし、これらのシステムの機能は急速に成長しています。 企業は、自社の監視ツールに次世代の AI テクノロジーを間もなく組み込むと宣伝しています。 新機能は、プロンプトを通じてさまざまなデータ ソースの探索を容易にすることを約束していますが、最終的な目標は、ルーチン化された半自動の組合潰し監視システムのようです。
さらに、これらのサブスクリプション サービスは、機能しない場合でも機能します。 トラブルメーカーのレッテルを貼られた従業員が本当に不満を抱いているかどうかは問題ではないかもしれません。 経営陣や企業のセキュリティ担当者は依然として告発に基づいて行動し、不当に報復する可能性がある。 従業員の「感情」や企業のパブリックイメージに関する曖昧な総合判断が正確であるかどうかを検証することは、現時点では不可能です。 そして、こうした制度が存在するだけで、労働者の組織化など、法的に保護された行動に萎縮効果をもたらす可能性が高い。