Struct SpeculativeStreamInterceptor 

pub struct SpeculativeStreamInterceptor { /* private fields */ }

投機的ストリーム検証インターセプター。

Implementations

impl SpeculativeStreamInterceptor

pub fn new(config: StreamingVerifierConfig, state_context: String) -> Self

新規インターセプターを構築する。

pub fn verify_sentence( &self, sentence: &str, mock_nli_logits: Option<[f64; 3]>, ) -> HallucinationVerificationResult

文がハルシネーションであるかを同期または投機的に検査する。

pub fn build_error_event_bytes(&self, reason: &str) -> Bytes

遮断用 SSE エラーチャンクバイト列を構築する。

pub fn config(&self) -> &StreamingVerifierConfig

設定への参照を取得する。

pub fn state_context(&self) -> &str

前提コンテキスト文字列への参照を取得する。