AI と同じくらい急速に変化する業界についていくことは、難しい注文です。 AI がそれを実行できるようになるまでの間、ここでは機械学習の世界における先週の記事の便利なまとめと、私たちが単独では取り上げなかった注目すべき研究と実験について説明します。
今週、このレポーターの注意を引いた 1 つの話は、ChatGPT が英語でそうするように求められた場合よりも中国語の方言でより多くの不正確な情報を繰り返しているように見えることを示すこのレポートでした。 これはそれほど驚くべきことではありません。結局のところ、ChatGPT は単なる統計モデルであり、トレーニングに使用された限られた情報を利用しているだけです。 しかし、それは、プロパガンダを繰り返したり、でっち上げを行ったりしている場合でも、信じられないほど本物に聞こえるシステムに過度の信頼を置くことの危険性を浮き彫りにしています。
ChatGPT のような会話型 AI に対する Hugging Face の試みは、生成型 AI でまだ克服されていない不幸な技術的欠陥のもう 1 つの例です。 今週ローンチされた HuggingChat はオープン ソースであり、プロプライエタリな ChatGPT に比べて優れています。 しかし、ライバルと同様、適切な質問をすればすぐに脱線する可能性があります。
HuggingChat は、誰に対しても気まぐれです 本当 たとえば、2020 年の米国大統領選挙で勝利した。 「男性の典型的な仕事は何ですか？」に対するその答え。 インセルマニフェストから何かのように読めます（ここを参照）。 そして、「箱の中で目が覚めた」など、自分自身についての奇妙な事実をでっち上げます。 [that] 近くには何も書かれていませんでした [it]」
ハグチャットだけではありません。 Discord の AI チャットボットのユーザーは最近、それを「だまして」、ナパームと覚醒剤の作り方に関する指示を共有することができました。 AI スタートアップ Stability AI による ChatGPT のようなモデルへの最初の試みは、 与えることがわかった 「ピーナッツバターサンドイッチの作り方」などの基本的な質問に対するばかげた、無意味な答え。
今日のテキスト生成 AI に関するこれらのよく知られている問題に利点があるとすれば、それは、それらのシステムを改善するための新たな取り組みにつながったこと、または少なくとも問題を可能な限り軽減したことです。 Nvidia を見てみましょう。Nvidia は今週ツールキット (NeMo Guardrails) をリリースし、オープン ソース コード、サンプル、ドキュメントを通じてテキスト生成 AI を「より安全」にしました。 現在、このソリューションがどれほど効果的かは明らかではありません。AI インフラストラクチャとツールに多額の投資を行っている企業として、Nvidia にはその製品をプッシュする商業的インセンティブがあります。 それでもなお、AI モデルの偏見や有害性に対処するための取り組みが行われていることは心強いことです。
過去数日間のその他の注目すべき AI の見出しは次のとおりです。
- Microsoft Designer はプレビューで起動します: Microsoft の AI を活用したデザイン ツールである Microsoft Designer が、拡張された一連の機能を備えたパブリック プレビューで開始されました。 10 月に発表された Designer は、プレゼンテーション、ポスター、デジタル ポストカード、招待状、グラフィックなどのデザインを生成して、ソーシャル メディアやその他のチャネルで共有できる、Canva に似たジェネレーティブ AI Web アプリです。
- 健康のための AI コーチ: Apple は、Quartz という名前の AI を利用した健康コーチング サービス コードを開発しています。 ブルームバーグのマーク・ガーマンによる新しいレポート. テクノロジーの巨人は、感情を追跡する技術にも取り組んでいると伝えられており、今年は iPhone Health アプリの iPad バージョンを展開する予定です。
- 真実GPT: Fox とのインタビューで、Elon Musk は TruthGPT と呼ばれる独自のチャットボットを開発したいと語った。 Twitter の所有者は、「害よりも善を生み出す」ことを目的として、OpenAI と Google に代わる第 3 のオプションを作成したいという願望を表明しました。 私たちはそれを見たときにそれを信じます。
- AI を利用した詐欺: 議会で 聴覚 米国の消費者を詐欺やその他の欺瞞行為から保護するための連邦取引委員会の取り組みに焦点を当て、FTC 委員長のリナ・カーンと仲間の委員は下院の代表者に、ChatGPT のような最新の AI 技術が詐欺の「ターボチャージ」に使用される可能性があると警告しました。 この警告は、欧州委員会が技術の進歩に関連する不公正な慣行からアメリカ人を保護するためにどのように取り組んでいるかについての調査に応じて発行されました。
- EU が AI 研究ハブを立ち上げる: 欧州連合がデジタル ルールブックの大規模な再起動を数か月で実施する準備を整えているため、ブロックの旗艦であるデジタル サービス法の下で大規模なプラットフォームの監視をサポートするために、新しい専用の研究ユニットがスピンアップされています。 今月、スペインのセビリアで正式に発足した欧州アルゴリズム透明性センターは、Facebook、Instagram、TikTok などの主流のデジタル サービスのアルゴリズムを調査する上で主要な役割を果たすことが期待されています。
- Snapchat は AI を取り入れています。 今月の年次スナップパートナーサミットで、Snapchatは、ユーザーとその周りのオブジェクトを宇宙の風景に転送する新しい「コズミックレンズ」を含む、さまざまなAI主導の機能を紹介しました. Snapchat はまた、その AI チャットボットである My AI を作成しました。My AI は、その動作が安定していないため、Snapchat のアプリ ストア リストで論争と 1 つ星のレビューの嵐の両方を引き起こしましたが、すべてのグローバル ユーザーが無料で利用できます。
- Google は研究部門を統合します。 今月の Google 発表した Google DeepMind は、DeepMind チームと Google Research の Google Brain チームで構成される新しいユニットです。 DeepMind の共同設立者兼 CEO である Demis Hassabis 氏は、ブログ投稿で、Google DeepMind は「緊密に連携して動作する」と述べています。 . . Google の製品分野全体」から「AI の研究と製品の提供」まで。
- AI が生成する音楽業界の現状: アマンダ は、どれだけ多くのミュージシャンが、同意なしに作品を流用するジェネレーティブ AI テクノロジーのモルモットになったかを書いています。 たとえば、Drake と The Weeknd の声の AI ディープフェイクを使用した曲は口コミで広まりましたが、主要なアーティストはどちらもその作成に関与していませんでした。 グライムス 答えを持っている? 誰が言うのですか？ それは勇敢な新しい世界です。
- OpenAI はその領域をマークします。 OpenAI は、「Generative Pre-trained Transformer」の略である「GPT」を米国特許商標庁で商標登録しようとしています。「無数の侵害と偽造アプリ」が出現し始めていることを理由にしています。 GPT は、ChatGPT や GPT-4 など、OpenAI の多くのモデルの背後にある技術、および同社のライバルによって作成された他の生成 AI システムを指します。
- ChatGPT がエンタープライズに移行: 他の OpenAI ニュースでは、OpenAI は ChatGPT の新しいサブスクリプション層を導入する予定であると述べています。 企業顧客のニーズに合わせて調整されています。 ChatGPT Business と呼ばれる OpenAI は、今後のサービスを「データをより詳細に制御する必要がある専門家や、エンド ユーザーの管理を求める企業向け」と説明しています。
その他の機械学習
ここに、私たちが到達できなかった、または大声で叫ぶに値すると考えた他のいくつかの興味深い話があります.
オープンソースの AI 開発組織 Stability は、LLaMa 基盤言語モデルの調整済みバージョンの以前のバージョンの新しいバージョンをリリースしました。 それはStableVicuñaと呼ばれています. ご存知のように、ラマに関連するラクダ科の一種です。 心配しないでください。世の中にあるすべての派生モデルを追跡するのに問題を抱えているのはあなただけではありません。これらは必ずしも消費者が知ったり使用したりするためのものではなく、むしろ開発者がその機能をテストして試すためのものです。繰り返すたびに洗練されます。
これらのシステムについてもう少し詳しく知りたい場合は、OpenAI の共同創設者である John Schulman が最近 UC Berkeley で講演を行いました。こちらで聞くか読むことができます. 彼が議論していることの 1 つは、LLM が嘘をつくという最近の傾向についてです。基本的には、他に何をすべきかわからないためです。 彼は、解決策があるとすれば、人間のフィードバックからの強化学習 (RLHF であり、StableVicuna はそれを使用するモデルの 1 つです) が解決策の一部であると考えています。 以下の講義をご覧ください。
スタンフォードでは、アルゴリズム最適化の興味深いアプリケーションがあります (機械学習かどうかは好みの問題だと思います)。 スマート農業の分野で. 無駄を最小限に抑えることは灌漑にとって重要であり、「スプリンクラーをどこに置くべきか」などの単純な問題です。 取得したい精度に応じて、非常に複雑になります。
近すぎるとはどのくらい近いですか？ 博物館では、彼らは一般的にあなたに話します。 しかし、有名なムルテンのパノラマにこれ以上近づく必要はありません。これは、かつてロタンダに吊るされていた 10 メートル x 100 メートルの本当に巨大な絵画作品です。 EPFL と Phase One は協力して、彼らが主張するものを実現しようとしています。 これまでに作成された最大のデジタル画像 — 150 メガピクセル。 ああ、すみません、150 メガピクセル x 127,000、つまり基本的には 19… ペタピクセルですか? 私は数桁ずれているかもしれません。
とにかく、このプロジェクトはパノラマ愛好家にとってはクールですが、個々のオブジェクトとペイントの詳細を非常に詳細に分析することも非常に興味深いものです。 機械学習は、そのような作品の復元、構造化された学習とそれらの閲覧に大きな可能性を秘めています。
ただし、生き物について 1 つ考えてみましょう。機械学習エンジニアは誰でも、明らかに適性があるにもかかわらず、AI モデルは実際には学習がかなり遅いと言うでしょう。 学術的には確かですが、空間的にも — 自律的なエージェントは、その環境の最も基本的な理解を得るために、何時間にもわたって何千回も空間を探索しなければならない場合があります。 しかし、マウスは数分でそれを行うことができます. 何故ですか？ ユニバーシティ カレッジ ロンドンの研究者 研究チームはこれを調査しており、動物が与えられた環境について何が重要かを伝えるために使用する短いフィードバック ループがあることを示唆しています。 AIにそのように教えることができれば、家の中を移動するのがはるかに効率的になります。
最後に、ゲームにおける生成型および会話型 AI には大きな期待が寄せられていますが、まだ完全には達成されていません。 実際、スクウェア・エニックスは、「AI テック プレビュー」バージョンと呼ばれる超昔ながらのポイント アンド クリック アドベンチャーで、メディアを約 30 年後退させたようです。 ポートピア連続殺人事件. 自然言語を統合しようとするその試みは、考えられるあらゆる点で完全に失敗したようで、この無料ゲームはおそらく Steam で最も評価の低いタイトルの 1 つになっています。 Shadowgate や The Dig などを通り抜けてチャットするよりも良いことはありませんが、これは間違いなく素晴らしいスタートではありません.
画像クレジット: スクウェアエニックス