Expand description
§推論レイテンシ・スループット測定ベンチマークコマンド
ネットワークオーバーヘッドを排除したインプロセスエンジン直接駆動により、 単一質問、並列バッチ、大規模候補探索 (Coarse-to-Fine)、およびスクラッチパッド再利用時の 純粋な計算レイテンシとスループットを精密に計測する。
Structs§
- Benchmark
Args - ベンチマーク実行構成パラメータ。
- Benchmark
Suite Result - ベンチマーク全体の実行結果。
- Scenario
Stats - 単一シナリオの計測統計サマリー。
Functions§
- run_
benchmark - ベンチマークコマンドを実行する。