2017 年、Holliday は ランドレポート 機械学習のバイアスを解決するには、多様なチームを雇う必要があり、技術的な手段だけでは修正できないと警告しています。 2020年、彼は非営利団体の設立を支援しました ロボット工学におけるブラック、業界における黒人やその他のマイノリティの存在を広めるために活動しています。 彼は 2 つの原則を考えています。 アルゴリズム権利章典 彼は当時、偏ったロボットを配備するリスクを減らすことができると提案しました。 1 つは、アルゴリズムが重大な決定を下して人々に影響を与えようとしているときに人々に知らせる開示を要求することです。 もう 1 つは、そのような決定を検討したり異議を唱えたりする権利を人々に与えることです。 ホワイトハウスの科学技術政策局は現在、AIの権利章典を作成しています。
一部の黒人ロボット工学者は、人種差別が自動化されたマシンに焼き付けられることへの懸念は、エンジニアリングの専門知識と個人的な経験の組み合わせから来ていると述べています。
Terrence Southern はデトロイトで育ち、現在はダラスに住み、トレーラー メーカーの ATW でロボットのメンテナンスを行っています。 彼は、ロボット業界への参入や、それを認識することさえも困難に直面していたことを思い出します。 「私の両親はどちらもゼネラルモーターズで働いていました。 ジェットソンズ そして、ロボットができることはスターウォーズです」とサザンは言います。 彼が大学を卒業したとき、ロボット企業で彼のような人を見たことがなく、それ以来ほとんど変わっていないと信じています。
サザン氏は、人種差別主義者のロボットの配備を完全に防ぐには遅すぎると考えていますが、高品質のデータセットを収集し、AI システムを構築している企業による誤った主張を独立した第三者が評価することで、規模を縮小できると考えています。
Andra Keay 氏は、業界グループ Silicon Valley Robotics のマネージング ディレクターであり、 ロボティクスの女性世界中に 1,700 人以上のメンバーを擁する も、人種差別的なロボット実験の結果は驚くべきものではないと考えています。 ロボットが世界をナビゲートするために必要なシステムの組み合わせは、「うまくいかない可能性のあるすべての大きなサラダ」に相当すると彼女は言いました。
キーイはすでに、電気電子技術者協会 (IEEE) などの標準化団体に、ロボットに明らかな性別を持たず、民族的に中立であることを要求する規則を採用するよう働きかけることを計画していました。 Covid-19 のパンデミックの結果、ロボットの採用率が上昇していることから、Keay 氏は、連邦政府が安全性を維持するという考えも支持している ロボット登録 業界ごとのマシンの展開を監視します。
2021 年後半、AI およびロボティクス コミュニティによって提起された懸念に部分的に対応して、IEEE 承認済み 新しい 透明度基準 ロボットがすべての人を公平に扱うことを企業に促すのに役立つ自律システム。 自律システムは、その行動や決定の原因を正直にユーザーに伝える必要があります。 ただし、標準設定の専門家グループには限界があります。2020 年には、Association for Computing Machinery の技術政策委員会が 企業や政府に促した 顔認識の使用をやめるには、ほとんど耳が聞こえませんでした。
Black in Robotics のナショナル ディレクターである Carlotta Berry は、先月、チェス ロボットが子供の指を骨折したと聞いたとき、最初に考えたことは次のとおりでした。駒と子供の指？」 彼女は、インディアナ州のローズ ハルマン工科大学でロボット工学プログラムの共同ディレクターを務めており、機械学習におけるバイアスの軽減に関する近刊の教科書の編集者でもあります。 彼女は、性差別的および人種差別的なマシンの展開を防ぐためのソリューションの一部は、一般に公開される前の新しいシステムの一般的な一連の評価方法であると考えています.
現在の AI の時代では、エンジニアと研究者が競い合って新しい仕事を急いで進めているため、ベリーは、ロボット ビルダーが自己制御や安全機能の追加に頼ることができることに懐疑的です。 彼女は、ユーザー テストにもっと重点を置くべきだと考えています。
「研究室の研究者が常に木を見て森を見ているとは思えず、問題が発生しても認識できないと思います」とベリーは言います。 AI システムの設計者は、それを使って構築すべきものとすべきでないものを思慮深く検討する能力よりも先に実行されている計算能力を利用できますか? 「それは難しい質問です」とベリーは言います。