Skip to main content

record_inference_metrics

sokuto_server::metrics

Function record_inference_metrics 

Source 
pub fn record_inference_metrics(duration_secs: f64, batch_size: usize)
Expand description

推論エンジンの所要時間(秒)およびバッチサイズを記録する。