Skip to main content

Module model_spec

Module model_spec 

Source
Expand description

§ONNX モデル入出力テンソル仕様および契約定義モジュール

Python 学習・エクスポート側と Rust ランタイム推論エンジン側で 厳密に共有される入出力テンソル名、形状制約、および特殊トークン仕様を定義する。

Structs§

ModelInputDimensions
検証済みのモデル入力次元情報。

Constants§

MAX_NUM_OPTIONS
システムで許容される単一質問あたりの最大候補数(Choice 型上限)。
MAX_SEQUENCE_LENGTH
システムで許容される最大入力トークン系列長。
MIN_NUM_OPTIONS
最小候補数。
TENSOR_ATTENTION_MASK
アテンションマスクテンソル名 (int64[batch_size, sequence_length])。
TENSOR_INPUT_IDS
入力トークン列テンソル名 (int64[batch_size, sequence_length])。
TENSOR_LOGITS
決定ヘッド出力ロジットテンソル名 (float32[batch_size, num_options])。
TENSOR_OP_INDICES
オプションマーカー位置インデックステンソル名 (int64[batch_size, num_options])。
TENSOR_QUERY_IDS
質問系列の入力トークンID列テンソル名 (int64[batch_size, query_seq_len])。
TENSOR_QUERY_MASK
質問系列のアテンションマスクテンソル名 (int64[batch_size, query_seq_len])。
TENSOR_STATE_HIDDEN_STATES
State エンコーダが出力し、Query 評価器が参照する最終層隠れ状態テンソル名 (float32[batch_size, state_seq_len, hidden_size])。
TENSOR_STATE_MASK
State 系列の有効トークンマスクテンソル名 (int64[batch_size, state_seq_len])。
TOKEN_OPTION_MARKER
各候補の先頭に付与されるオプションマーカートークン文字列。