yunfengwang/fireredtts3-onnx

FireRedTTS3 ONNX（fp32，CPU，免 torch）

FireRedTTS3 的 ONNX Runtime 转换产物： 19 个分段文件（campp / redae 编解码 / patch_encoder / dit / 线性头 / embed / norm / prefill_seg1-4 / step_seg1-4，8.5GB Qwen3 backbone 拆成 8 段内联单文件，规避 protobuf 2GB 上限与 MNN 无法读 external data 的限制）。

用法

pip install fireredtts3-onnx        # 或 uvx fireredtts3-onnx
fireredtts3-onnx                    # 自动下载本仓库 + tokenizer，启动 HTTP 服务
fireredtts3-onnx --text "你好世界" --prompt-wav ref.wav --prompt-text "参考文本" --out gen.wav

国内可设 HF_ENDPOINT=https://hf-mirror.com。

精度

与 torch fp32 逐算子对齐（encoder latents 偏差 ~1e-4，其余 1e-5 量级）；端到端同种子 （seed=1234）与 torch 轨迹完全一致：同一停止步、4.80s 音频。

性能（4 线程 Xeon，无 VNNI，RTF 越小越好）

torch fp32	本仓库 ONNX fp32	MNN fp16+w8
86.6	117	112