歩道の配達ロボットが黄色の注意テープを横切り、ロサンゼルスの犯罪現場を駆け抜ける動画が今週口コミで広まり、Twitter で 650,000 回以上の視聴回数を記録し、この技術が本格的に利用できるかどうかについての議論を引き起こしました。
少なくともこの場合、ロボットのエラーは人間が原因であることが判明しました。
の ビデオ イベントの様子を撮影し、Twitter に投稿したのは、 ポリス LA を撮影する、ロサンゼルスを拠点とする警察の監視アカウント。 Gude 氏は午前 10 時ごろ、ハリウッド高校で銃乱射事件があったと疑われる地域にいたとき、ボットが混乱した様子で街角にホバリングしている様子をビデオで撮影しました。犯罪現場を通して。
Uber のスピンアウトである Serve Robotics は TechCrunch に、ロボットの自動運転システムは犯罪現場に侵入することを決定しなかったと語った。 ボットをリモートで操作していたのは、人間のオペレーターの選択でした。
同社の配送ロボットは、いわゆるレベル 4 の自律性を備えています。つまり、特定の条件下では、人間が引き継ぐ必要なく自動で運転できます。 サーブは 5 月以来、この地域で Uber Eats と一緒にロボットを試験運用しています。
Serve Robotics には、人間のオペレーターがすべての交差点でボットをリモートで監視および支援することを要求するポリシーがあります。 人間のオペレーターは、ボットが建設区域や倒木などの障害物に遭遇し、30 秒以内にその周囲を移動する方法を理解できない場合にも、リモートで制御を取得します。
この場合、配達を終えたばかりのボットが交差点に近づき、会社の内部運用ポリシーに従って人間のオペレーターが引き継ぎました。 最初、人間のオペレーターは黄色の注意テープで一時停止しました。 しかし、傍観者がテープを上げて「手を振った」ように見えると、人間のオペレーターは続行することに決めました。
「ロボットが (単独で) 横断することはありませんでした」とカシャニ氏は言います。 「ただ、人間が許可するまで交差しないようにするためのシステムがたくさんあります。」
ここでの判断ミスは、誰かが実際に渡り続けることにしたことだと彼は付け加えた。
理由が何であれ、カシャニはそれが起こるべきではなかったと言った. サーブは事件からデータを引き出し、人間とAIが将来これを防ぐための新しい一連のプロトコルに取り組んでいると彼は付け加えた.
いくつかの明白なステップは、従業員が標準操作手順 (SOP) に従うようにすることです。これには、適切なトレーニングと、個人がロボットをバリケード越しに動かそうとした場合の対処法に関する新しいルールの作成が含まれます。
しかし、Kashani 氏は、ソフトウェアを使用して、これが再び起こらないようにする方法もあると述べています。
ソフトウェアは、人々がより良い決定を下すのを助けたり、特定の地域を完全に避けたりするために使用できると、彼は言いました。 たとえば、同社は地元の法執行機関と協力して、警察の事件に関する最新情報をロボットに送信し、それらの地域を迂回できるようにすることができます。 もう 1 つのオプションは、法執行機関を特定し、人間の意思決定者に警告を発して現地の法律を思い出させる機能をソフトウェアに与えることです。
これらの教訓は、ロボットが進歩し、運用領域を拡大する際に重要になります。
「面白いのは、ロボットが正しいことをしたということです。 それは止まりました」とカシャニは言いました。 「つまり、これは、適切な決定を下すために人を必要としないという十分な確信が得られるまで、人々に適切な決定を下すための十分なコンテキストを提供するということです。」
Serve Robotics ボットはまだその段階に達していません。 しかし、Kashani 氏は TechCrunch に対し、ロボットはより独立性を高めており、交差点と何らかの封鎖の 2 つの例外を除いて、通常は単独で動作していると語った。
今週展開されたシナリオは、AI を見ている人の数とは対照的である、と Kashani 氏は述べています。
「一般的に、人間は特殊なケースで非常に優れているのに、AI が間違いを犯したり、おそらく現実世界に対応する準備ができていないというのが一般的な話だと思います」と Kashani 氏は述べています。 「面白いことに、私たちは逆のことを学んでいます。つまり、人々は多くの間違いを犯すことがわかっており、AI にもっと頼る必要があるのです。」