Struct AppState 

pub struct AppState {

    pub engine: Arc<InferenceEngine>,
    pub tokenizer: Arc<JevTokenizer>,
    pub calib_config: Arc<CalibrationConfig>,
    pub coarse_config: CoarseToFineConfig,
    pub max_questions_per_request: usize,
    pub chunk_size: usize,
    pub guardrail_pipeline: GuardrailPipeline,
    pub gating_config: GatingConfig,
    pub dag_executor: Arc<InProcessDagExecutor>,
    pub hierarchical_mapping: Option<Arc<HierarchicalMapping>>,
    pub hierarchical_config: HierarchicalRouterConfig,
    pub auto_hierarchical: bool,
    pub dual_engine: Option<Arc<DualSessionEngine>>,
    pub cache_manager: Option<Arc<StateCacheManager>>,
}

サーバー全体で共有されるアプリケーション状態。

Fields

engine: Arc<InferenceEngine>

ONNX Runtime 推論エンジン(内部でセッションプールと同期制御を保持)。

tokenizer: Arc<JevTokenizer>

Jev 高速トークナイザー。

calib_config: Arc<CalibrationConfig>

事後較正温度設定。

coarse_config: CoarseToFineConfig

大規模候補数向けの粗密 2 段階探索設定。

max_questions_per_request: usize

1 リクエストで許容される最大質問数。

chunk_size: usize

マイクロバッチ分割時のチャンクサイズ。

guardrail_pipeline: GuardrailPipeline

前処理ガードレールパイプライン。

gating_config: GatingConfig

確信度ゲーティング処理設定。

dag_executor: Arc<InProcessDagExecutor>

インプロセス DAG 実行器(反事実・マイクロ決定グラフ向け)。

hierarchical_mapping: Option<Arc<HierarchicalMapping>>

大分類・細分類オントロジー定義(存在する場合)。

hierarchical_config: HierarchicalRouterConfig

粗密二段階階層ルーティング設定。

auto_hierarchical: bool

透過的粗密ルーティングモードの有効フラグ。

dual_engine: Option<Arc<DualSessionEngine>>

2 セッション分割型長文推論エンジン (存在する場合)。

cache_manager: Option<Arc<StateCacheManager>>

State 中間特徴量キャッシュマネージャー (存在する場合)。

Implementations

impl AppState

pub fn new( engine: Arc<InferenceEngine>, tokenizer: Arc<JevTokenizer>, calib_config: Arc<CalibrationConfig>, ) -> Self

新規 AppState を構築する。

引数

• engine: 推論エンジン。
• tokenizer: 高速トークナイザー。
• calib_config: 較正設定。

pub fn with_options( engine: Arc<InferenceEngine>, tokenizer: Arc<JevTokenizer>, calib_config: Arc<CalibrationConfig>, coarse_config: CoarseToFineConfig, max_questions_per_request: usize, chunk_size: usize, ) -> Self

設定値をカスタマイズして AppState を構築する。

pub fn with_guardrails( engine: Arc<InferenceEngine>, tokenizer: Arc<JevTokenizer>, calib_config: Arc<CalibrationConfig>, coarse_config: CoarseToFineConfig, max_questions_per_request: usize, chunk_size: usize, guardrail_config: GuardrailConfig, ) -> Self

ガードレール設定も含めてフルカスタマイズした AppState を構築する。

pub fn with_dual_engine( self, dual_engine: Arc<DualSessionEngine>, cache_manager: Arc<StateCacheManager>, ) -> Self

デュアルセッション推論エンジンおよびキャッシュマネージャーを設定する。

pub fn with_gating_config(self, gating_config: GatingConfig) -> Self

ゲーティング設定をカスタマイズして設定する。

pub fn with_hierarchical_mapping( self, mapping: Arc<HierarchicalMapping>, ) -> Self

階層オントロジーマッピングを設定する。

pub fn with_hierarchical_config(self, config: HierarchicalRouterConfig) -> Self

粗密階層ルーティング設定をカスタマイズして設定する。

pub fn with_auto_hierarchical(self, enabled: bool) -> Self

透過的粗密ルーティングモードの有効化を設定する。

pub fn with_dag_executor(self, executor: Arc<InProcessDagExecutor>) -> Self

カスタム DAG 実行器を設定する。

pub fn load_hierarchical_mapping_from_dir<P: AsRef<Path>>(self, dir: P) -> Self

指定ディレクトリ内の hierarchical_mapping.json を読み込み、存在すれば登録する。

pub fn is_ready(&self) -> bool

サーバーがリクエストを安全に処理可能(Readiness)であるかを検査する。

Trait Implementations

impl Clone for AppState

fn clone(&self) -> AppState

Returns a duplicate of the value.

fn clone_from(&mut self, source: &Self)

Performs copy-assignment from source.