アマゾンは FTCに2500万ドルの罰金を支払う また、AI を改良するための児童オンライン プライバシー保護法違反の罪を回避するために、「削除慣行を徹底的に見直し、厳格なプライバシー保護措置を導入する」ことも求められています。
Amazon の音声インターフェイス Alexa は世界中の家庭で長年使用されており、Alexa を持っている親なら誰でも、子供たちがそれで遊んだり、ジョークを言わせたり、本来の目的に使用したりするのが大好きであることを知っています。 実際、字を書けない子供や障害を持つ子供たちにとって明らかに有益だったので、FTC は合理的な使用に対応するために COPPA 規則を緩和しました。文字起こしなど、子供たちのデータの特定のサービス固有の分析は、データが保持されない限り許可されました。合理的に必要な期間を超えて。
Amazon は、「合理的に必要な」時間スケールについてかなり広い視野を持っており、子供たちの音声データを多かれ少なかれ永久に保存しているようです。 FTC は次のように述べています。
訴状によると、アマゾンは、親がこの情報の削除を要求しない限り、子供の録音を無期限に保持したという。 そして、親がその情報を削除しようとしたにもかかわらず、アマゾンはすべてのデータベースから子供たちの発言の記録を削除できなかった、とFTCは述べた。
地理位置情報データも削除されておらず、同社はこの問題を「繰り返し修正できなかった」。
これは何年も続いている。FTCは、アマゾンは2018年にはこのことを知っていたが、当局が有益な後押しをした翌年9月まで行動を起こさなかったと主張している。
このようなタイミングは、通常、企業がこの慣行を永久に継続していたことを示しています。 どうやら、「不完全な修正とプロセスの大失敗」により、これらの慣行の一部は 2022 年まで継続されたようです。
子どもたちが Alexa と話している様子を大量に録音することに何の意味があるのかと疑問に思うかもしれません。 そうですね、音声インターフェイスで子供たちにたくさん話しかけさせるつもりなら、機械学習モデルをトレーニングできる音声インタラクションの秘密データベースを用意しておくと確かに役立ちます。 このようにしてFTCはアマゾンがこのデータの保持を正当化したと述べた。
FTC委員のベドヤ委員とスローター委員、およびカーン委員長は、和解案と訴状に付随する声明を書き、この点を特に強調した。
同委員会は、アマゾンが音声認識アルゴリズムをさらに改良するために子供のデータを無期限に保管していたと主張している。 機械学習モデルを改良するためにデータを蓄積しようとしていると思われるのは Amazon だけではありません。 現在、大規模な言語モデルの出現により、テクノロジー業界全体が同じことをしようと急いでいます。
今日の和解は、これらすべての企業に、「機械学習は法律違反の言い訳にはならない」というメッセージを送ることになる。 アルゴリズムを改善するにはデータを無期限に保持する必要があるという企業の主張は、データの無期限保持に対する法的禁止を無効にするものではありません。 アルゴリズムを改善するために使用するデータは、合法的に収集され、合法的に保持されなければなりません。 企業はこの教訓に留意するのがよいでしょう。
したがって、今日我々は 2,500 万ドルの罰金を課せられましたが、これはもちろん Amazon という企業の規模を考えれば無視できる金額ではありません。 明らかに、提案された命令の他の条項に準拠しているため、彼らは頭を悩ませることになるだろう。 FTC は、命令は次のとおりであると述べています。
- データ製品の作成または改善のために、Amazon が消費者の削除要求の対象となる位置情報、音声情報、および子供の音声情報を使用することを禁止します。
- 子供の非アクティブな Alexa アカウントを削除するよう会社に要求します。
- Amazonに対し、同社に対するFTC-DOJの措置についてユーザーに通知するよう義務付ける。
- Amazon に対して、保存および削除の慣行と管理についてユーザーに通知するよう義務付けます。
- Amazon が位置情報、音声、子供の声の情報に関連するプライバシー ポリシーを虚偽表示することを禁止します。
- 企業による位置情報の使用に関連するプライバシー プログラムの作成と実装を義務付けます。
この和解と措置は、本日発表されたアマゾン子会社リングとのFTCのもう一つの和解と措置とは完全に独立している。 ただし、「基本的なプライバシーとセキュリティの保護を実装していない」という共通点があります。
アマゾンは声明で「われわれはＦＴＣの主張に同意せず、法律違反は否定するが、今回の和解で問題は解決した」と述べた。 また、「18 か月以上非アクティブな子供のプロフィールを削除する」とも約束していますが、そのデータを保持するには信じられないほど長い期間がかかるようです。 その期間と、データが ML トレーニングに使用されるかどうかについての質問を追跡しており、返答があれば更新します。