tensorflow Lite c++ API 支持 android、ios 和 linux（ARM64/x86_64），但不提供 windows 预编译库；Android 用 NDK ≥ r21 构建静态库，iOS 关闭 XNNPACK，Linux 禁用 XNNPACK 避免 SIMD 依赖。
确认 TensorFlow Lite C++ API 是否支持你的目标平台
TensorFlow Lite 的 C++ 接口在 Android、iOS 和 Linux（ARM64/x86_64）上可用，但官方不提供 windows 桌面端的预编译 C++ 库。如果你的目标是 Android，libtensorflow-lite.a 可通过 android_ndk 构建；iOS 需用 build_ios_universal_lib.sh 生成静态库；Linux 则推荐用 cmake + -DTFLITE_ENABLE_XNNPACK=OFF（避免依赖未打包的 SIMD 库）。
容易踩的坑：
- NDK 版本必须 ≥ r21，否则
std::optional和std::string_view编译失败 - iOS 构建时若启用 XNNPACK，会因缺少
pthread_barrier_t导致链接失败，建议显式关闭 - Android 上不要直接 link
libtensorflow-lite.so—— 它是动态库，而大多数 Android app 要求静态链接以避免 ABI 冲突
加载模型并校验输入/输出 tensor shape
TensorFlow Lite 的 C++ API 中，tflite::FlatBufferModel 和 tflite::Interpreter 是核心类。模型加载后必须检查 interpreter->AllocateTensors() 是否成功，否则后续 interpreter->typed_input_tensor 会返回空指针。
常见错误现象：模型推理结果全为 0 或 nan，大概率是输入 shape 不匹配。例如一个训练时用 [1, 224, 224, 3] 的模型，在代码中误写成 [224, 224, 3]（漏了 batch 维），interpreter->input_tensor(0)->dims 返回的仍是模型定义的四维 shape，但你 memcpy 的数据长度对不上。
立即学习“C++免费学习笔记（深入）”；
实操建议：
- 用
interpreter->input_tensor(0)->dims->size获取维度数，再遍历dims->data打印真实 shape - 输入数据类型必须与模型一致：多数量化模型要求
uint8_t，浮点模型才用Float；混用会导致数值溢出 - 调用
interpreter->Invoke()前，确保所有输入 tensor 已 memcpy 完毕，且没被提前释放或越界访问
在 Android JNI 层安全传递图像数据给 TFLite
Android 上最常用路径是：java 层用 Bitmap → 转成 ByteBuffer → 传入 JNI 函数 → C++ 层用 env->GetDirectBufferAddress() 获取原始指针。这里的关键是内存生命周期管理。
容易踩的坑：
- 如果 Java 层
ByteBuffer是 heap 分配（非 direct buffer），GetDirectBufferAddress()返回nullptr，必须用allocateDirect()创建 - 别在 JNI 函数返回后还持有该指针 —— Java GC 可能已回收 buffer，导致 crash 或脏读
- 图像格式转换（如 ARGB → RGB）必须在 C++ 层完成，且注意字节序：Android
Bitmap默认是ARGB_8888，而 TFLite 模型通常期望RGB三通道无 alpha
示例关键片段：
JNIEXPORT void JNICALL Java_com_example_TFLiteRunner_runInference(JNIEnv *env, jobject thiz, jobject byteBuffer) { uint8_t *input = static_cast(env->GetDirectBufferAddress(byteBuffer)); if (!input) return; // 必须检查！ // 假设模型输入是 [1, 224, 224, 3] uint8 RGB uint8_t *rgb_data = interpreter->typed_input_tensor(0); convertArgbToRgb(input, rgb_data, 224 * 224); // 自定义转换函数 interpreter->Invoke();
}
量化模型推理时绕不开的 input/output scaling
绝大多数移动端部署的 TFLite 模型是 int8 量化模型（QUANTIZED_UINT8），它的输入不是 raw pixel 值，而是经过 zero_point 和 scale 映射后的整数。忽略这点，直接把 0–255 的像素塞进去，结果必然错误。
正确做法是：从 input_tensor->params.scale 和 input_tensor->params.zero_point 读出参数，再按公式 quantized = round(float_value / scale) + zero_point 转换。输出同理需反向还原。
实操建议：
- 不要硬编码
scale=0.0078125或zp=128—— 不同模型参数不同，必须运行时读取 - 如果模型输入是 float 类型（
tensor->type == kTfLiteFloat32），则跳过量化转换，但要注意是否做了归一化（如 /255.0 或 (-1,1) 归一） - 输出 tensor 的 quantization 参数可能和输入不同，尤其多输出头模型，每个 output_tensor 都要单独检查
复杂点在于：有些模型在训练时做了 channel-wise 量化，此时 params 是 per-channel 结构，tflite::QuantizationParams 不再是单个 scale，而是一个数组 —— 这种情况必须用 tensor->quantization.params 的完整结构解析，不能只取 .scale 字段。