跳到主要内容

模型格式与转换

SDK 能直接打开哪些模型?​

明文可开:.onnx;.pdmodel + 同目录 .pdiparams(Paddle);.pt / .pth 仅 TorchScript 归档(torch.jit.save 产出,走 torchscript-cpu);含 onnx / pdmodel 的目录。

payloadKind 六种:onnx / trt-engine / openvino / rknn / paddle / torchscript。加密 .darmodel 仅推理,可直接 Open,路径同明文。

.pt / .pth 能直接给 SDK 推理吗?​

只有 TorchScript 归档可以(torch.jit.save 产出的 .pt / .pth,走 torchscript-cpu)。

Ultralytics YOLO 的 .pt 是 pickle 载荷(state_dict / 整模块 / 裸 pickle 流),SDK 直开拒绝。先转 .onnx 再给 SDK。

pickle 的 .pt 怎么转换?​

先拿到 .onnx,再给现场:

入口行为
Studio 装机侧出包时自动转 ONNX
CLImodel convert 只做 PT→ONNX

TensorRT engine 怎么出?​

CLI model export --to onnx|engine|openvino 三个目标,分别出 .onnx / .engine / .xml+.bin。

FP16 只有 onnx-trt-ep 兑现;其余后端请求 FP16 会打开失败(错误详情点名档位与 Provider),不静默降 FP32。

TFLite​

tflite 与 onnx-tflite 是同一个 Provider 的两个 id,状态均为「暂不支持,建议转 ONNX」,打开如实拒绝。

RKNN 能在 Windows 上跑吗?​

不能。RKNN 只在 linux-arm64 可用;Windows 上 rknn 打不开会话。

加密包能转换或蒸馏吗?​

不能。加密容器 / TFLite / RKNN 载体不参与转换。加密 .darmodel 仅推理(可直接 Open,路径同明文),不能蒸馏;要转换请用明文 ONNX 或 PT 权重。

打开说载荷不支持怎么办?​

载荷类型当前环境不支持:目录里多个模型、或载荷类型不支持(如 FP16 档位)都会拒。换精度档位,或换兑现该档位的 provider(FP16 认 onnx-trt-ep)。