Broussard も最近乳がんから回復しました。彼女の電子カルテの詳細を読んだ後、AI が彼女の診断に関与していることに気付きました。これはますます一般的になっています。 その発見により、彼女は自分の実験を実行して、AI ががんの診断にどれほど優れているかについてさらに学ぶようになりました。
彼女が発見したこと、警察によるテクノロジーの使用に関する問題、「AI の公平性」の限界、AI がもたらすいくつかの課題に対する彼女の考えている解決策について、私たちは腰を下ろして話しました。 会話は、明確さと長さのために編集されています。
あなた自身の癌診断の一環としての AI についての本の中であなたが共有している個人的な話に私は感銘を受けました。 あなたが何をしたか、そしてその経験から何を学んだかを読者に教えてもらえますか?
パンデミックの初めに、私は乳がんと診断されました。 世界が閉鎖されたので、私は中に閉じ込められただけではありませんでした。 私も大きな手術を受けたので中に閉じ込められました。 ある日チャートを調べていたとき、スキャンの 1 つに次のように書かれていることに気付きました。 このスキャンは AI によって読み取られました. 私は思った、 AI が私のマンモグラムを読み取ったのはなぜですか? 誰も私にこれについて言及していませんでした。 それは私の電子医療記録のあいまいな部分にあっただけです。 AI ベースのがん検出の最先端に非常に興味を持ったので、自分の結果を再現できるかどうかを確認するための実験を考案しました。 私は自分のマンモグラムを撮影し、オープンソースの AI でスキャンして、がんが検出されるかどうかを確認しました。 私が発見したのは、がん診断における AI の仕組みについて多くの誤解を持っていたことであり、本でそれを探っています。
[Once Broussard got the code working, AI did ultimately predict that her own mammogram showed cancer. Her surgeon, however, said the use of the technology was entirely unnecessary for her diagnosis, since human doctors already had a clear and precise reading of her images.]
がん患者として私が気付いたことの 1 つは、私の診断と回復をサポートしてくれた医師、看護師、医療従事者が非常に素晴らしく、非常に重要であるということでした。 マンモグラフィーを行って、小さな赤いボックスが これは多分癌. 生命を脅かす病気について話しているとき、それは実際には誰も望んでいる未来ではありませんが、独自のマンモグラムを持っているAI研究者はそれほど多くありません.
AI のバイアスが十分に「修正」されれば、AI のテクノロジーはより広く普及する可能性があると耳にすることがあります。 あなたは、この議論には問題があると書いています。 なぜ？
この議論で私が抱えている大きな問題の 1 つは、何らかの方法で AI がその可能性を最大限に発揮し、それが誰もが努力すべき目標であるという考えです。 AIは単なる数学です。 世の中のすべてが数学に支配されるべきだとは思いません。 コンピューターは数学の問題を解くのが得意です。 しかし、彼らは社会問題を解決するのが得意ではありませんが、社会問題に適用されています. この種の想像上のエンドゲーム ああ、私たちはAIをすべてに使用するつもりです 私が署名した未来ではありません。
顔認識についても書いています。 私は最近、顔認識を (特に警察活動において) 禁止する動きが、技術をより公平に、またはより正確にするための努力を思いとどまらせているという議論を耳にしました。 あれについてどう思う？
私は間違いなく、警察での顔認識の使用を支持しない人々の陣営に陥ります。 本当に使いたいと思っている人が落胆していることは理解していますが、この本を研究している間に私が行ったことの 1 つは、警察の技術の歴史を深く掘り下げることでした。
私は素晴らしい本から始めました ブラックソフトウェア に [NYU professor of Media, Culture, and Communication] チャールトン・マキルウェイン、 そして彼は、1960 年代にいわゆる貧困戦争があったのと同時に、IBM が新しいコンピューターをたくさん売りたいと考えていることについて書いています。 本当に機械を売りたいと思っている人がいて、それを適用する問題を探し回っていましたが、彼らは社会問題を理解していませんでした。 今日に至るまで早送りします。私たちは、当時下された決定の悲惨な結果を今も抱えています。