会社のニュース コンテキストグラファーJedify、AIトークンコストを75%削減

Jedifyは,AIをコンテキストグラフ技術で拡張することを提唱し,そのソリューションがAIトークンコストを4分の3まで削減できると主張しています.

文脈グラフは,データベース型の構造の中でエンティティ関係 (人,製品,場所など) を格納する.グラフデータベースは,データをノード (エンティティ) とエッジ (関係) として組織する.複雑な相互接続されたデータの迅速な移動のために接続を優先する知識グラフはAIのワークロードに対応していますが,コンテキストグラフは,どの関係が正しいかを検証します.

Jedify の共同創設者であり CTO である Adi Elimelech はこうコメントしました: 業界の大部分は,トークン効率とコスト効率を混同していますが,それらは異なります.文脈グラフ内のビジネスロジックを事前にコーディングすることで,モデルがすべてのクエリに対してゼロから推論することを省きます提供者の実装から独立して,この基本メカニズムです.

すべてのクエリで AIにデータベースのスキーマをすべて供給するのではなく,Jedifyのコンテキストグラフは ビジネスロジック・定義,計算,関係,ルールを 構造化された知識ベースに事前にコードします.事業の変化とともに 自動更新と拡張をしますユーザのクエリでは,関連するエンティティのみが取得され,LLMにコンパクトで正確な文脈を提供します.

Jedify は,生産・倉庫のベンチマークを 3 つの複雑性レベル (200 級テストポイント合計) をカバーする 100 つのビジネス質問で実行しました.SQL 生成 コールあたり 036 の原始トークンで,正解率 87%対照的に,従来のスキーマインジェクション方法は,60~70%の精度で,1回のコールあたり5万~15万トークンを消費する.CHESSのようなスキーマインジェクションベースのマルチエージェントシステムは,ほぼ339トークンを消費する.1 申請あたり 965 トークン注:これらの基準基準は,別々のスケジュールと質問セットを持つ外部研究から得られ,並列倉庫試験ではありません.

トークン-ROIフレームワークのコストと精度バランスによって測定され,Jedifyのアプローチは,スキーマインジェクションワークフローと基本的なマルチエージェントパイプラインと比較して4.6倍高いリターンをもたらしました.スキーマインジェクションで 60~70%の正しい出力が得られるグラフのカバー範囲内のエンティティに対して高い精度を達成した.

100 テーブル企業スケールでは,コンテキストグラフは,Raw スキーマベースラインと比較して,SQL コールごとにトークンインジェクションを約 50% 削減しました. 200 テーブルでは,トークン節約は 75% を超えました.

ビジネスロジックは制御されたグラフの中に存在し,すべての要求でフロンティアモデルのプロバイダーにあなたの完全なスキーマと結合フィルタールールを暴露しないように...

SQL生成前に必要なエンティティのみにフィルタリングすることで,コンテキストグラフはモデル推理の負荷を下げます.生産経路解析によると,エンタープライズ・アナリティクスクエリの約85%は,低精度な精度損失を伴うプレミアム・フロンティアLLMではなく,安価なオープンソースモデルで実行できます.インフラストラクチャの支出を削減する

関連ホワイトペーパーをここからダウンロードしてください.

北京・チアンシン・ジテング・テクノロジー株式会社
サンディ・ヤン/グローバル戦略ディレクター
WhatsApp / ウェイチャット: +86 13426366826
メール: yangyd@qianxingdata.com
ウェブサイト:www.qianxingdata.com/www.storagesserver.com
ビジネス フォーカス
ICT製品配布/システム統合とサービス/インフラストラクチャソリューション
20年以上のIT販売経験を持つ私たちは 信頼性の高い製品とプロフェッショナルなサービスを提供するために グローバルブランドと提携しています
テクノロジーを使ってインテリジェントな世界を作ろう あなたの信頼できるICT製品サービスプロバイダー!