イーロン・マスクが引き起こした 先週の騒動 彼が言ったとき （最近解雇された）右翼の挑発者であるタッカー・カールソンは、OpenAI の ChatGPT の競争相手である「TruthGPT」を構築する計画を立てています。 マスク氏は、信じられないほど人気のあるボットが「目覚めた」バイアスを示しており、彼のバージョンは「最大限の真実を求める AI」になると述べており、彼自身の政治的見解だけが現実を反映していることを示唆しています。
言語モデルの政治的偏見を懸念しているのはマスク氏だけではありませんが、特定の視点を押し付けるのではなく、AI を使用して政治的分裂を橋渡ししようとしている人もいます。
デビッド・ロザドは、ニュージーランドを拠点とするデータ サイエンティストであり、ChatGPT における政治的偏見の問題に最初に注目した人物の 1 人でした。 数週間前、彼は、課税、銃の所有、自由市場などの問題に関するボットからのリベラル寄りの回答と考えられるものを文書化した後、より保守的な視点を表現する RightWingGPT と呼ばれる AI モデルを作成しました。 それは銃の所有に熱心で、税金のファンではありません。
Rozado は、Davinci GPT-3 と呼ばれる言語モデルを採用しました。これは、ChatGPT を強化するものと似ていますが、強力ではありません。クラウド コンピューティングに数百ドルを費やして、テキストを追加して微調整しました。 このプロジェクトについてどう考えても、将来人々がさまざまな視点を言語モデルに組み込むことがいかに簡単になるかを示しています。
Rozado は、LeftWingGPT と呼ばれるよりリベラルな言語モデルと、DepolarizingGPT と呼ばれるモデルの構築も計画していると語っています。 Rozado と中道派のシンクタンク 文化進化研究所 はこの夏、3 つのモデルすべてをオンラインにします。
ロザード氏は電子メールで、「思慮深い著者（挑発者ではない）の本を使って、右派、左派、そして『統合的』のそれぞれの側面を訓練している」と述べている。 DepolarizingGPT のテキストは、Thomas Sowell、Milton Freeman、William F. Buckley などの保守派の声と、Simone de Beauvoir、Orlando Patterson、Bill McKibben などのリベラルな思想家、およびその他の「精選された情報源」から来ています。
これまでのところ、より政治的に連携した AI ボットの開発への関心は、政治的分裂を引き起こす恐れがあります。 一部の保守的な組織は、ChatGPT の競合相手をすでに構築しています。 たとえば、極右ユーザーベースで知られるソーシャル ネットワーク Gab は、次のように述べています。 取りかかっている 「リベラルなプロパガンダの制約なしにコンテンツを自由に生成する機能」を備えた AI ツール。
調査によると、言語モデルは 微妙に影響を与えることができます ユーザーの道徳的観点に基づいているため、ユーザーの政治的歪曲は結果として生じる可能性があります。 中国政府は最近、新しい ジェネレーティブ AI に関するガイドライン これらのモデルの行動を飼いならし、彼らの政治的感覚を形成することを目的としています。
OpenAIは 警告した より有能な AI モデルは、「イデオロギー、世界観、真実と虚偽全体を強化する大きな可能性」を秘めている可能性があります。 2月、同社は次のように述べています。 ブログ投稿 ユーザーが自分の価値を定義できるようにするモデルの開発を検討します。
彼のプロジェクトについて Musk と話したことがないと言う Rozado は、特定の世界観を広めるボットを作成するのではなく、反省を促すことを目指しています。 「願わくば、社会として、分断の種をまくのではなく、架け橋を築くことに焦点を当てた AI を作成する方法を学べることを願っています」と彼は言います。
Rozado の目標は称賛に値するものですが、政治的分裂という霧の中で何が客観的に正しいかを判断し、それを言語モデルに教えるという問題が最大の障害になる可能性があります。
ChatGPT や同様の会話型ボットは、膨大な量のテキストが入力され、一連の単語の後にどの単語が続くかを予測するように訓練された複雑なアルゴリズムに基づいて構築されています。 そのプロセスは、非常に首尾一貫した出力を生成できますが、消費するトレーニング資料から多くの微妙なバイアスを捉えることもできます. 同様に重要なことは、これらのアルゴリズムは客観的な事実を理解するように教えられておらず、物事をでっち上げようとする傾向があることです。