AMD、Signal_65のRAGテストでInstinct MI355Xがp99レイテンシを低減したと説明
AMDによると、TensorWaveでホストされたSignal_65のRAGテストで、Instinct MI355Xはp99レイテンシを約42%低減し、評価対象のSLAを超える前の同時ユーザー余力はおよそ2倍だった。比較対象のシステム名は示されていない。
AMDによると、TensorWaveでホストされたSignal_65のRAGテストで、Instinct MI355Xはp99レイテンシを約42%低減し、評価対象のSLAを超える前の同時ユーザー余力はおよそ2倍だった。比較対象のシステム名は示されていない。
Oliver Promptsは、研究者がPageIndexを構築したと述べている。これは埋め込み、チャンク分割、類似検索、ベクトルデータベースの代わりにツリー索引を使う無料かつオープンソースのRAG手法で、FinanceBenchで98.7%を記録したという。