模型格式与转换
SDK 能直接打开哪些模型?
明文可开:.onnx;.pdmodel + 同目录 .pdiparams(Paddle);.pt / .pth 仅 TorchScript 归档(torch.jit.save 产出,走 torchscript-cpu);含 onnx / pdmodel 的目录。
payloadKind 六种:onnx / trt-engine / openvino / rknn / paddle / torchscript。加密 .darmodel 仅推理,可直接 Open,路径同明文。
.pt / .pth 能直接给 SDK 推理吗?
只有 TorchScript 归档可以(torch.jit.save 产出的 .pt / .pth,走 torchscript-cpu)。
Ultralytics YOLO 的 .pt 是 pickle 载荷(state_dict / 整模块 / 裸 pickle 流),SDK 直开拒绝。先转 .onnx 再给 SDK。
pickle 的 .pt 怎么转换?
先拿到 .onnx,再给现场:
| 入口 | 行为 |
|---|---|
| Studio 装机侧 | 出包时自动转 ONNX |
| CLI | model convert 只做 PT→ONNX |
TensorRT engine 怎么出?
CLI model export --to onnx|engine|openvino 三个目标,分别出 .onnx / .engine / .xml+.bin。
FP16 只有 onnx-trt-ep 兑现;其余后端请求 FP16 会打开失败(错误详情点名档位与 Provider),不静默降 FP32。
TFLite
tflite 与 onnx-tflite 是同一个 Provider 的两个 id,状态均为「暂不支持,建议转 ONNX」,打开如实拒绝。
RKNN 能在 Windows 上跑吗?
不能。RKNN 只在 linux-arm64 可用;Windows 上 rknn 打不开会话。
加密包能转换或蒸馏吗?
不能。加密容器 / TFLite / RKNN 载体不参与转换。加密 .darmodel 仅推理(可直接 Open,路径同明文),不能蒸馏;要转换请用明文 ONNX 或 PT 权重。
打开说载荷不支持怎么办?
载荷类型当前环境不支持:目录里多个模型、或载荷类型不支持(如 FP16 档位)都会拒。换精度档位,或换兑现该档位的 provider(FP16 认 onnx-trt-ep)。