1.NCNN介绍
NCNN 是腾讯优图实验室开源的高性能神经网络推理框架,专为移动端和嵌入式设备设计。 NCNN是通用型推理框架,主打跨平台和轻量。类似对比这个瑞芯微专用的(RKNN是瑞芯微专用推理框架,深度绑定自家芯片, 靠NPU硬件加速换性能)。 对于需要在PC或者非瑞芯微的ARM上,NCNN是通用框架,支持ARM、x86、MIPS等多种架构,主要靠CPU(NEON指令集)或Vulkan GPU加速,没有NPU也能运行, 当然代价就是NCNN 在 CPU上运行速度,对比RKNN差异巨大。我们本次wiki记录主要就是在PC上CPU运行加载 这个yolov5训练的模型,进行测试。