数十億ドル AIに殺到しています。 しかし、AI モデルはすでに偏見の影響を受けており、黒人の将来の住宅所有者に対する住宅ローン差別によって証明されています。
このテクノロジーの構築において倫理がどのような役割を果たしているのか、そしておそらくもっと重要なこととして、投資家が急いで資金を提供しようとしているときに、どこに適合するのかを尋ねることは理にかなっています.
最近ある創業者は TechCrunch+ に、イノベーションが非常に急速に進むと倫理について考えるのは難しいと語った。人々はシステムを構築し、それを壊してから編集する。 したがって、投資家には、これらの新しいテクノロジーが倫理を念頭に置いて創業者によって構築されていることを確認する責任があります。
それが起こっているかどうかを確認するために、TechCrunch+ はこの分野の 4 人のアクティブな投資家に、AI の倫理についてどのように考えているか、創業者が偏見と正しいことをすることについてもっと考えるように促すにはどうすればよいかについて話しました。
私たちは視野を広げ、TechCrunch 調査に参加するより多くの投資家を探しています。TechCrunch 調査では、業界の課題についてトップの専門家を調査しています。
あなたが投資家であり、今後の調査に参加したい場合は、記入してください この形.
一部の投資家は、創業者の倫理についてデューデリジェンスを行い、会社がサポートできる意思決定を継続するかどうかを判断するのに役立てることで、この問題に取り組んでいると述べています。
Lightship Capital のプリンシパル、Alexis Alston 氏は、次のように述べています。 「そのような人々は、私たちが市場のリターンを求めている一方で、投資が地球に悪影響を及ぼさないように求めていることを理解しています。」
他の投資家は、難しい質問をすることが小麦と籾殻を区別するのに役立つと考えています。 ゼネラル カタリストのマネージング ディレクターであるディープ ニシャールは、次のように述べています。 「私たちの投資プロセスは、そのような意図しない結果を特定し、創業チームと話し合い、それらを緩和するための保護手段が導入されているか、導入されるかを評価することに重点を置いています。」
政府の政策も AI を狙っている: EU は通過した 機械学習の法則、および米国が導入した AIタスクフォースの計画 AI に関連するリスクについて検討を開始します。 それに加えて、 AI権利章典 昨年導入。 多くのトップVC企業が資金を投入している 中国におけるAIの取り組み、AI 内のグローバルな倫理を国境を越えてどのように実施できるかを尋ねることが重要です。
投資家がデュー デリジェンスにどのように取り組んでいるか、投資家が求めるグリーン フラグ、および AI の規制に対する彼らの期待を知るために読んでください。
私たちは話しました:
Lightship Capital プリンシパル、Alexis Alston 氏
AI 企業に投資する場合、その AI モデルがバイアスをどのように主張または処理するかについて、どの程度のデューデリジェンスを行いますか?
私たちにとって重要なのは、モデルがどのデータを取り込んでいるか、データがどこから来て、どのようにデータを消去しているかを正確に理解することです。 AI に焦点を当てた GP でかなりの技術的注意を払って、偏りを軽減または排除するようにモデルをトレーニングできるようにします。
私たちは皆、暗い手を洗うために蛇口を自動的にオンにすることができなかったこと、そしてGoogleの画像検索が「偶然に」黒い肌を霊長類と同一視した時代を覚えています. 私たちのポートフォリオにそのようなモデルが含まれないように、全力を尽くします。
EU と同様の機械学習法を可決する米国は、この分野で同国が見ているイノベーションのペースにどのような影響を与えるでしょうか?
私たちの政府には技術的な知識と精巧さが欠けているため、機械学習に関する実用的で正確な法律を可決する米国の能力について、私はほとんど信頼していません。 タイムリーな法律制定や、技術専門家が立法者に情報を提供するための特別委員会の一員となることに関しては、私たちには非常に長い後れがあります。
私たちの法律が通常どのように構成されているかを考えると、法律が ML の開発のペースに大きな変化をもたらすとは実際には思いません。 10 年前に米国でデザイナー ドラッグに関する法律をめぐる競争が行われたのと同様に、法律が追いつくことはありませんでした。