AI 法の投票は圧倒的多数で可決され、AI 規制における世界で最も重要な進展の 1 つとして歓迎されました。 欧州議会のロベルタ・メッツォラ議長は、これを「間違いなく今後何年にもわたって世界標準を設定する法律」であると述べた。
ただし、すぐに明確にするために息を止めないでください。 ヨーロッパのシステムは少し複雑です。 次に、欧州議会の議員らは、規則草案が法律として成立する前に、欧州連合理事会およびEUの執行機関である欧州委員会と詳細を詰める必要がある。 最終的な法案は、3 つの機関からの 3 つの異なる草案の妥協案となり、内容は大きく異なります。 実際に施行されるまでには2年程度かかるとみられる。
水曜日の投票で達成されたのは、今後の最終交渉における欧州議会の立場を承認することであった。 オンライン プラットフォームの法的枠組みである EU のデジタル サービス法と同様の構造を持つ AI 法は、議員が AI アプリケーションがどの程度危険であると予測するかに基づいて制限を導入することで、「リスクベースのアプローチ」を採用しています。 企業はAIの使用に関する独自のリスク評価も提出する必要がある。
議員がリスクを「容認できない」とみなした場合、AIの一部のアプリケーションは完全に禁止される一方、「高リスク」とみなされたテクノロジーには、その使用に新たな制限が設けられ、透明性に関する要件が設けられることになる。
主な影響のいくつかを以下に示します。
- 感情認識AIの禁止。 欧州議会の草案は、警察、学校、職場で人々の感情を認識しようとするAIの使用を禁止している。 感情認識ソフトウェアのメーカーは、学生が特定の内容を理解していないときや、車の運転手が居眠りをしている可能性があるときをAIが判断できると主張している。 顔の検出と分析を行うための AI の使用は不正確さと偏見で批判されているが、他の 2 つの機関からの草案では禁止されておらず、政治的な争いが起こることを示唆している。
- 公共の場でのリアルタイムの生体認証と予測的取り締まりを禁止します。 これは、 大きな立法闘争なぜなら、EUのさまざまな機関は、禁止が法律で施行されるかどうか、またどのように施行されるかを整理する必要があるからである。 警察団体は、現代の警察活動に必要なリアルタイム生体認証技術の禁止には賛成していない。 フランスのようないくつかの国は実際に 顔認識の使用を増やすことを計画している。
- ソーシャルスコアリングの禁止。 公的機関による社会的スコアリングや、一般化やプロフィールを作成するために人々の社会的行動に関するデータを使用する行為は違法となる。 とはいえ、中国やその他の権威主義政府によく関連付けられている社会的スコアの見通しは、実際は思っているほど単純ではありません。 の実践 社会行動データを使用して人々を評価する 雇用や広告だけでなく、住宅ローンの融資や保険料率の設定でも一般的です。
- Gen AI に対する新しい制限。 この草案は、生成 AI を規制し、OpenAI の GPT-4 のような大規模言語モデルのトレーニング セットにおける著作権で保護された素材の使用を禁止する方法を初めて提案したものです。 OpenAI はすでにこの規制下にあります。 欧州議員に対する監視 データのプライバシーと著作権に関する懸念のため。 この法案では、AI が生成したコンテンツにそのようにラベルを付けることも義務付けています。 そうは言っても、欧州議会は現在、欧州委員会やテクノロジー業界からのロビー活動の圧力に直面する可能性が高い各国に政策を売り込む必要がある。
- ソーシャルメディア上の推奨アルゴリズムに対する新たな制限。 新しいドラフト 推奨システムを「高リスク」カテゴリに割り当てる、これは他の提案された法案からのエスカレーションです。 これは、この法案が可決されれば、ソーシャルメディアプラットフォーム上のレコメンダーシステムがどのように機能するかについてより厳しい監視の対象となり、ユーザーが作成したコンテンツの影響についてハイテク企業がより責任を負う可能性があることを意味する。
EU 委員会の副委員長であるマルグレーテ ベステアー氏が述べた AI のリスクは広範囲に及んでいます。 彼女は情報への信頼の将来、悪者による社会操作に対する脆弱性、そして大規模な監視についての懸念を強調した。
「もし私たちが何も信じられない状況に陥ったら、私たちの社会は完全に蝕まれていることになる」とベステアー氏 水曜日に記者団に語った。
今週読んでいるもの
- ロシア軍兵士がウクライナ軍の無人攻撃機に降伏したと報じた。 ウォール・ストリート・ジャーナルが公開したビデオ映像。 降伏は５月にウクライナ東部の都市バフムートで行われた。 ドローン操縦者は映像で兵士の嘆願を見て、国際法に従って救命することを決めた。 戦争において無人機は極めて重要であり、降伏は戦争の将来を興味深い視点で示している。
- 多くのRedditorは、多くのコミュニティが使用しているサードパーティのアプリやツールの機能を削除または削減するサイトのAPIの変更に抗議している。 抗議として、これらのコミュニティは「非公開化」されました。これは、ページが公的にアクセスできなくなったことを意味します。 Reddit はユーザーベースに力を与えていることで知られていますが、同社は今そのことを後悔しているのかもしれません。 ケイシー・ニュートンの鋭い評価によると。
- Googleの大規模言語モデル「Bard」を訓練した契約社員ら、賃金を上げた後に解雇されたと語る 労働条件や安全上の問題に関する懸念 AIそのものと一緒に。 請負業者らは、不当な納期を守ることを強いられたため、正確性への懸念が生じたと述べている。 Googleは、責任は労働者を雇用する契約代理店であるAppenにあると主張している。 歴史が物語っているとすれば、生成 AI を支配する競争では人的コストがかかることになるでしょう。
今週学んだこと
今週、ヒューマン・ライツ・ウォッチは次の報告書を発表した。 アルゴリズムに関する詳細なレポート ヨルダンでは福祉手当を支給していました。 同機関は、世界銀行の資金提供を受けたこのアルゴリズムにいくつかの重大な問題を発見し、このシステムは貧困に関する誤った、過度に単純化された仮定に基づいていたと述べている。 報告書の著者らはまた、透明性の欠如を非難し、世界銀行が実施する同様のプロジェクトに対して警告した。 私はその発見について短い物語を書きました。
一方で、政府サービスでアルゴリズムを使用する傾向が高まっています。 エリザベス・レニリス、著者 データを超えて: メタバースの夜明けにおける人権の回復は、この報告書について私に手紙を書き、この種のシステムが今後与える影響を強調しました：「特典にアクセスするプロセスがデフォルトでデジタル化されるにつれ、これらの特典が最も必要としている人たちに届く可能性はさらに低くなり、より深くなるだけです」デジタルデバイド。 これは、広範な自動化が人々に直接的かつ悪影響を与える可能性があることを示す代表的な例であり、私たちが今注目すべき AI リスクの議論です。」