企業が生成 AI をより深く研究するにつれて、より混乱を招く問題の 1 つは幻覚問題です。モデルが答えを知らない場合、それが意味があるかどうかに関係なく、モデルは単純に答えを作り出すだけです。 ビジネスで働くには、この問題を軽減する方法を見つけることが最も重要です。
今日、 ライター生成 AI ライティング プラットフォームの Knowledge Graph をパブリック ベータ版で発表しました。これは、企業が組織全体の現在のソース コンテンツをすべてグラフ データベースに収集できるようにするツールです。 同社 CEO の May Habib 氏は、顧客独自のコンテンツを利用することで、Knowledge Graph は一種のコンテンツ検証ツールとして機能し、生成されたコンテンツと照合してチェックできると述べています。
「LLM の素晴らしい点は、ユーザーがやろうとしていることに関する実際の情報があれば、その情報を使用することです」と彼女は言いました。 「Knowledge Graph は、データベース、ナレッジ ベース、共有ドライブ、チャットなどの重要な情報を簡単に埋め込みに取得する機能を提供します。これにより、顧客が構築する非常に特殊なユースケースにサービスとして LLM が情報を使用できるようになります。」
ファクトチェックが必要なコンテンツを自動的に強調表示し、必要に応じてナレッジ グラフ内の最も関連性の高いコンテンツに基づいて代替ステートメントを提案します。 そして、Writer はその作業を表示し、置換素材の出所であるコンテンツのソースを表示し、人間の従業員が提案を受け入れるか拒否するかを選択できるようにします。
同社は、ナレッジ グラフを「グラフ形式で保存された情報の構造化表現であり、特定の情報を迅速に取得できるようにするもの」と定義しています。 企業のコンテンツ ソースに直接接続することも、顧客がコンテンツをナレッジ グラフ インターフェイスにドラッグ ドロップすることで手動で移動することもできます。
これは別のリポジトリであるため、実際にはグラフに寄与するコンテンツ システムの一部ではありません。 さらに、企業は希望に応じてナレッジ グラフを自社でホストすることも、Writer にナレッジ グラフの管理を任せることもできます。
絶対確実なものは何もないので、決して確実なものではありませんが、企業が既知の問題の影響を軽減できるよう支援するための一歩です。 顧客はナレッジグラフを更新する頻度を選択でき、通常は毎週ですが、顧客がそのように設定したい場合は、頻度を増減することもできるとハビブ氏は述べています。 更新間隔が長くなるほど、精度チェックに含まれないコンテンツが多くなります。
同社はまた、希望に応じて独自の LLM を Writer プラットフォームに導入できる機能が利用可能になることも発表しました。 これは Writer LLM を置き換えます。 一部の大規模組織では、組織内のコンテンツを完全に制御し、外部モデルを使用しないことを希望する場合があります。 ナレッジ グラフは、これらの外部で作成された LLM にも接続できます。
外部 LLM を使用する機能とナレッジ グラフの両方が、本日よりオープン ベータ版で利用可能になります。 この 2 つの製品は、これに先立ってクローズド ベータ版として提供されていました。 Writer は 2020 年に設立され、これまでに 2,600 万ドルを調達しました。 クランチベースごと。