Python API
模型离线优化接口,Paddle原生模型需经opt
优化图结构后才能在Paddle-Lite上运行。
class CxxConfig;
CxxConfig
用来配置构建CxxPredictor的配置信息,如protobuf格式的模型地址、能耗模式、工作线程数、place信息等等。
MobileConfig
用来配置构建LightPredictor的配置信息,如NaiveBuffer格式的模型地址、能耗模式、工作线程数等等。
class CxxPredictor
LightPredictor
是Paddle-Lite的预测器,由create_paddle_predictor
根据MobileConfig
进行创建。用户可以根据LightPredictor提供的接口设置输入数据、执行模型预测、获取输出以及获得当前使用lib的版本信息等。
TargetType
为目标设备硬件类型,用户可以根据应用场景选择硬件平台类型。
PrecisionType
为模型中Tensor的数据精度,默认值为FP32(float32)。
Place
是、PrecisionType
和DataLayoutType
的集合,说明运行时的设备类型、数据精度和数据格式。
PowerMode
为ARM CPU能耗模式,用户可以根据应用场景设置能耗模式获得最优的能效比。
Tensor是Paddle-Lite的数据组织形式,用于对底层数据进行封装并提供接口对数据进行操作,包括设置Shape、数据、LoD信息等。