先週、Googleは生成AIに全力で取り組んでいることを明らかにした。 同社は年次I/Oカンファレンスで、Googleドキュメントからコーディング、オンライン検索に至るまで、事実上すべての自社製品にAIツールを組み込む計画を発表した。 (私のストーリーをここで読んでください。)
Googleの発表は大きな出来事だ。 今後、何十億人もの人々が強力な最先端の AI モデルにアクセスし、テキストの生成からクエリへの回答、コードの作成とデバッグに至るまで、あらゆる種類のタスクを実行できるようになります。 MIT Technology Review の編集長 Mat Honan が I/O の分析で書いているように、AI が今や Google の中核製品であることは明らかです。
Google のアプローチは、これらの新機能を自社製品に導入することです徐々に。しかし、事態が悪化するのはおそらく時間の問題だろう。 同社は、これらの AI モデルに共通する問題を何ら解決していません。 彼らはまだ何かをでっち上げています。 彼らは依然として、独自のルールを破るために操作するのが簡単です。 彼らは依然として攻撃に対して脆弱です。 これらが偽情報、詐欺、スパムのツールとして使用されるのを防ぐ方法はほとんどありません。
この種の AI ツールは比較的新しいため、依然としてほとんど規制のない領域で運用されています。 しかし、それは持続可能とは思えません。 ChatGPT後の高揚感が薄れるにつれて規制を求める声は大きくなり、規制当局はこの技術について厳しい質問をし始めている。
米国の規制当局は、強力な AI ツールを管理する方法を見つけようとしています。今週、OpenAI CEO のサム・アルトマン氏が米国上院で証言する予定です（居心地の良い「教育的な」ディナー前夜に政治家と）。 この公聴会は、カマラ・ハリス副大統領とアルファベット、マイクロソフト、オープンAI、アンスロピックのCEOらとの先週の会談に続いて行われた。
ハリス氏は声明で、両社には製品の安全性を確保する「倫理的、道徳的、法的責任」があると述べた。 多数派リーダーであるニューヨーク州のチャック・シューマー上院議員は、提案された法案AIを規制するには、ルールを執行する新たな機関が含まれる可能性がある。
「誰もが何かをしていると見られたいと思っています。 このすべてがどこへ向かうのかについて多くの社会不安があります」とスタンフォード人間中心人工知能研究所のプライバシーおよびデータポリシー研究員のジェニファー・キングは言います。
新しいAI法案に対して超党派の支持を得るのは難しいだろう、とキング牧師は言う。 [generative AI] 社会レベルの現実的な脅威とみなされています。」 しかし、連邦取引委員会のリナ・カーン委員長は「猛然と」発言したと彼女は付け加えた。 今月初め、カーン氏はこう書いた。論説過去にハイテク分野に対して緩すぎたために生じた誤りを防ぐために、今すぐAI規制を求めている。 彼女は、米国では規制当局がAIを規制するためにすでにツールキットに含まれている独占禁止法や商行為法などの既存の法律を利用する可能性が高いと示唆した。
一方、欧州では議員らがAI法に関する最終合意に少しずつ近づいている。先週、欧州議会の議員らは次の協定に署名した。規制草案公共の場での顔認識技術の禁止を求めた。 また、予測ポリシング、感情認識、オンラインでの生体認証データの無差別スクレイピングも禁止されています。
EUも生成AIを制限するさらなる規則を制定する予定で、議会は大規模なAIモデルを開発する企業の透明性を高めることを求めている。 これらの対策には、AI が生成したコンテンツのラベル付け、モデルのトレーニングに使用された著作権で保護されたデータの概要の公開、モデルが違法なコンテンツを生成するのを防ぐ安全装置の設定などが含まれます。
しかし、ここに落とし穴があります。EU が生成 AI に関する規則を導入するまでにはまだ長い道のりがあり、AI 法の提案されている要素の多くは最終版には反映されないでしょう。 議会、欧州委員会、EU加盟国との間には依然として厳しい交渉が残されている。 AI法が施行されるまでには何年もかかるだろう。
規制当局が行動をまとめるのに苦労している一方で、テクノロジー業界の著名な声がオーバートンの枠を押し広げ始めている。マイクロソフトの首席エコノミスト、マイケル・シュワルツ氏は先週のイベントで、AIを規制する前にAIによる「重大な害」が確認されるまで待つべきだと述べた。 彼はそれを、何十人もの人が事故で死亡した後に導入された運転免許証と比較した。 「本当の問題が何かを知るためには、少なくとも少しの害がなければなりません」とシュワルツ氏は語った。
この発言はとんでもない。 AI によって引き起こされる害については、長年にわたって十分に文書化されてきました。 偏見や差別がありましたが、AIが生成したフェイクニュース、 と詐欺。他の AI システムによって、無実の人々が逮捕され、人々が貧困に陥り、数万人が被害に遭っています。不当に詐欺罪で告発されたd. Google のような発表のおかげで、生成 AI が私たちの社会に深く統合されるにつれて、これらの害は指数関数的に増大する可能性があります。
私たちが自問すべき問題は、どの程度の害を許容するのかということです。 もう十分見てきたと思います。
より深い学習
オープンソース AI ブームはビッグテックの配布物に基づいて構築されています。 どれくらい続きますか？
研究者やアプリ開発者が研究、構築、変更できる、Google の Bard や OpenAI の ChatGPT に代わる、新しいオープンソースの大規模言語モデルが、ピニャータから出てくるキャンディーのように登場しています。 これらは、大企業によって作成されたクラス最高の AI モデルの小型で安価なバージョンであり、パフォーマンスにおいて (ほぼ) 匹敵し、無料で共有されます。
AI の作り方と使用方法の未来は岐路に立っています。 一方で、これらのモデルへのアクセスが向上したことは、イノベーションの推進に役立ちました。 また、彼らの欠点を見つけるのにも役立ちます。 しかし、このオープンソースブームは不安定です。 ほとんどのオープンソース リリースは依然として、潤沢な資金を持つ大企業が発行する巨大なモデルの肩の上に立っています。 OpenAIとMetaが閉店を決定すれば、新興都市が僻地になる可能性がある。 ウィル・ダグラス・ヘブンの続きを読む。
ビットとバイト
AmazonはChatGPTのような機能を備えた秘密の家庭用ロボットの開発に取り組んでいる
流出した文書には、見たものや理解したものを記憶し、人々がロボットに質問したり命令したりできるアストロロボットの最新バージョンの計画が示されている。 しかし、これらのモデルを安全に家庭内に大規模に導入できるようになるまでに、アマゾンは多くの問題を解決する必要がある。 (インサイダー）
Stability AI がテキストからアニメーションへのモデルをリリースしました
オープンソースのテキストから画像へのモデルである Stable Diffusion を作成した会社は、テキスト、画像、ビデオ プロンプトを使用してアニメーションを作成できる別のツールを立ち上げました。 著作権の問題はさておき、これらのツールはクリエイターにとって強力なツールになる可能性があり、オープンソースであるという事実により、より多くの人がアクセスできるようになります。 これは、避けられない次のステップであるオープンソースのテキストからビデオへの変換の前の一時しのぎでもあります。 (安定性AI）
AI は文化戦争に巻き込まれつつある — ハリウッド作家のストライキを参照
一つ紛争アメリカ脚本家組合とハリウッドスタジオの間で争われているのは、人々が映画やテレビの脚本を書くためにAIを使用することを許可されるべきかどうかだ。 予測可能性がうんざりする中、米国の文化戦争旅団がこの戦いに参入した。 オンライン荒らしたちは、AIが自分たちに取って代わるだろうと、ストライキをする作家たちに嬉々として語っている。 (ニューヨークマガジン）
見る: AI が生成した予告編ロード・オブ・ザ・リング…でも、ウェス・アンダーソンにしてください
これはかわいかったです。