aclmdlLoadWithConfig
aclmdlLoadWithConfig
函数功能
指定模型加载时需要的配置信息,并进行模型加载。
本接口需要与以下其它接口配合,实现模型加载功能:
- 调用aclmdlCreateConfigHandle接口创建模型加载的配置对象。
- 多次调用aclmdlSetConfigOpt接口设置配置对象中每个属性的值。
- 调用aclmdlLoadWithConfig接口指定模型加载时需要的配置信息,并进行模型加载。
- 模型加载成功后,调用aclmdlDestroyConfigHandle接口销毁。
约束说明
在加载前,请先根据模型文件的大小评估内存空间是否足够,内存空间不足,会导致应用程序异常。
函数原型
aclError aclmdlLoadWithConfig(const aclmdlConfigHandle *handle, uint32_t *modelId)
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| handle | 输入 | 模型加载的配置对象的指针。需提前调用aclmdlCreateConfigHandle接口创建该对象,与aclmdlSetConfigOpt中的handle保持一致。 |
| modelId | 输出 | 模型ID的指针。 系统成功加载模型后会返回的模型ID。 |
返回值说明
返回0表示成功,返回其它值表示失败。
相关接口
使用aclmdlSetConfigOpt接口、aclmdlLoadWithConfig接口时,是通过配置对象中的属性来区分,在加载模型时是从文件加载,还是从内存加载,以及内存是由系统内部管理,还是由用户管理。
当前AscendCL还提供了以下接口实现模型加载的功能,从使用的接口上区分从文件加载,还是从内存加载,以及内存是由系统内部管理,还是由用户管理。
- aclmdlLoadFromFile接口
- aclmdlLoadFromMem接口
- aclmdlLoadFromFileWithMem接口
- aclmdlLoadFromMemWithMem接口
- aclmdlLoadFromFileWithQ接口
- aclmdlLoadFromMemWithQ接口
父主题: 模型加载与执行
总体说明
本章主要介绍了如下几类算子API,提供了详细的接口介绍,包括接口原型、功能描述、参数说明、调用示例等,适合开发人员、测试人员。
- NN类算子:主要包含实现数学基础运算(如加、减、乘、除等)、CNN相关操作(如卷积、池化、激活函数)等功能的算子接口。
- DVPP类算子:主要包含实现图像缩放、JPEG图像解码、图像归一化等功能的算子接口。
- **融合类算子:**主要将多个独立的“小算子”(向量Vector、矩阵Cube等)融合成一个“大算子”,达到提升算子性能的目的。
父主题: 单算子API执行
功能支持度说明
通过单算子API执行方式调用算子时,昇腾AI处理器对各类算子接口的支持度如下表所示。
| 版本 | NN类算子接口(aclnn) | DVPP类算子接口(acldvpp) | 融合类算子接口(aclnn) |
|---|---|---|---|
| Atlas 200/500 A2推理产品 | x | x | x |
父主题: 单算子API执行
在线提单