PaddleLite使用Bitmain：Sophon BM1682/BM1684 预测部署

    • Sophon BM1682

    • Sophon BM1684

    已支持的设备

    • Sophon SC3 加速卡 (BM1682 X86 PCI-E)

    • Sophon SC5 加速卡 (BM1684 X86 PCI-E)

    已支持（或部分支持）的Paddle算子

    • norm

    • relu

    • leaky_relu

    • sqrt

    • square

    • sigmoid

    • assign_value

    • batch_norm

    • box_coder

    • concat

    • conv2d

    • depthwise_conv2d

    • conv2d_transpose

    • depthwise_conv2d_transpose

    • dropout

    • elementwise_add

    • elementwise_mul

    • elementwise_sub

    • elementwise_div

    • fill_constant

    • nearest_interp

    • bilinear_interp

    • matmul

    • mul

    • multiclass_nms

    • multiclass_nms2

    • pool2d

    • max_pool2d_with_index

    • prior_box

    • reduce_sum

    • reduce_mean

    • reduce_max

    • flatten

    • flatten2

    • scale

    • shape

    • slice

    • softmax

    • split

    • squeeze

    • squeeze2

    • swish

    • transpose

    • yolo_box

    参考示例演示

    • 请确保您的 Sophon 加速卡已经可以在主机中正常工作.您可以对照下面的步骤快速验证, 如有任何问题, 请联系BITMAIN解决.

      • 可以使用BMNNSDK内附带的程序进行测试,如果设备已经正常驱动,您应该能看到一个(或多个)PCIE模式的加速设备.

      • 可以使用ls /dev/bm*, 您应该能看到若干个bm前缀的设备.例如/dev/bmdev-ctl /dev/bm-sophon0

    • 简易安装指南(仅供参考,请以BITMAIN的安装指南为准)

      • 可以使用bmnnsdk_root/scripts/目录的及sudo install_driver_pcie.sh完成安装.

      • 对于部分BM1684设备,为了启用动态编译功能,您可能需要为每个芯片启用icache.在bmnnsdk_root/bin/x86目录下,使用./test_update_fw ./bm168x_bmdnn_en_icache.bin ./bm168x_bmdnn_s_en_icache.bin chip_id来启用icache,为0,1,2等值,代表不同芯片.

    准备本地编译环境

    • 目前仅在 Ubuntu 16.04 环境进行过测试,为了避免环境不一致带来的麻烦,建议使用Docker编译环境,请先根据下载好paddlepaddle/paddle-liteDocker镜像.

    1. 下载代码
    1. 编译
    1. 编译结果说明 编译产物将输出至目录下,该目录结构为

    运行demo