Python API

    模型离线优化接口,Paddle原生模型需经opt优化图结构后才能在Paddle-Lite上运行。

    1. class CxxConfig;

    CxxConfig用来配置构建CxxPredictor的配置信息,如protobuf格式的模型地址、能耗模式、工作线程数、place信息等等。

    MobileConfig用来配置构建LightPredictor的配置信息,如NaiveBuffer格式的模型地址、能耗模式、工作线程数等等。

    1. class CxxPredictor

    LightPredictor是Paddle-Lite的预测器,由create_paddle_predictor根据MobileConfig进行创建。用户可以根据LightPredictor提供的接口设置输入数据、执行模型预测、获取输出以及获得当前使用lib的版本信息等。

    TargetType为目标设备硬件类型,用户可以根据应用场景选择硬件平台类型。

    PrecisionType为模型中Tensor的数据精度,默认值为FP32(float32)。

    Place是、PrecisionTypeDataLayoutType的集合,说明运行时的设备类型、数据精度和数据格式。

      PowerMode为ARM CPU能耗模式,用户可以根据应用场景设置能耗模式获得最优的能效比。

      Tensor是Paddle-Lite的数据组织形式,用于对底层数据进行封装并提供接口对数据进行操作,包括设置Shape、数据、LoD信息等。