大手テクノロジー企業は、有害なコンテンツを捕らえ、ラベルを付け、削除するのが驚くほど下手です。 理論的には、AI の新たな進歩により、その能力が向上するはずです。 実際には、AI はニュアンスやコンテキストを解釈するのがあまり得意ではありません。 また、ほとんどの自動コンテンツ モデレーション システムは英語のデータでトレーニングされているため、他の言語ではうまく機能しません。
最近の生成 AI や ChatGPT のような大規模言語モデルの出現により、コンテンツのモデレーションはさらに困難になる可能性が高くなります。
生成型 AI がオンライン情報領域にとって最終的に有害となるか役立つかは、AI によって生成されたコンテンツの検出とラベル付けという 1 つのことに大きくかかっています。 全文を読んでください。
—テート・ライアン＝モズリー
テイトの話は、シリコン バレーのあらゆる力に関する内部情報を提供する彼女の週刊ニュースレター、The Technocrat からのものです。 サインアップ 毎週金曜日に受信箱で受け取ることができます。
生成 AI に興味がある場合は、以下をチェックしてみてはいかがでしょうか。
+ AI が生成したテキストを見つける方法。 インターネットには、AI ソフトウェアによって書かれたテキストがますます溢れています。 それを検出するには新しいツールが必要です。 全文を読んでください。
+ ChatGPT を作成した人々から、ChatGPT がどのように構築されたかについての裏話。 AI 文化現象の背後にある主要人物との独占的な会話をお読みください。
+ Google はあらゆるものに生成 AI を投入しています。 しかし専門家は、欠陥を修正する前にこれらのモデルを世に出すことは、同社にとって非常に危険である可能性があると述べている。 全文を読んでください。