Stellaria SPX / SP24

Stellaria SP24

通用 Split Precision 24 工具链 prototype:16-bit main path、可选 sidecar correction 与 protected control path。

Status: Private prototype   /   Scope: compiler-oriented quantization and acceleration stack

不是 24-bit float,也不是 AMP dtype 选择。

SP24 把 main16 dtype、sidecar 语义、protected control path、data layout、backend kernels、scheduler strategy 与 fallback behavior 按 module/block 决策。

Python SDK 负责 enable / policy / compile 描述,后续 C++ sp24c 承担 benchmarking、precision selection、graph capture、provider routing、stream assignment 与 compute scheduling。

Current Scope

Python SDK、Policy 规则、SP24 naming parser、offline compiler artifact、SoA layout / sidecar metadata plan、CUDA / Slang / Metal backend plan placeholders。

Design Boundary

优先覆盖 Linear/GEMM、MLP/FFN、SSM projection/scan、Transformer projections、Diffusion/U-Net blocks、VAE latent cache packs、LayerNorm/RMSNorm 与 LoRA paths。

Artifacts

compiler 输出 model.sp24.json、policy、layout、sidecar、metadata、report、backend kernel plan、scheduler plan 与 fallback plan。

Validator

validator 是“不伤害任务指标”的 release gate:目标是 FP32 task accuracy、FP16/BF16-class speed,并避免 task-metric regression。