函数：load_from_file
函数：memcpy2d
| C函数原型 | aclError aclrtMemcpy2d(void *dst, size_t dpitch, const void *src, size_t spitch, size_t width, size_t height，aclrtMemcpyKind kind) |
|---|---|
| Python函数 | ret = acl.rt.memcpy2d**(dst, dpitch, src, spitch, width, height, kind)** |
| 函数功能 | 实现同步内存复制，主要用于矩阵数据的复制。同步接口。 |
| 输入说明 | dst：目的内存地址的指针地址。 dpitch：目的内存中相邻两列向量的地址距离。 src：源内存地址的指针地址。 spitch：源内存中相邻两列向量的地址距离。 width：待复制的矩阵宽度。 height：待复制的矩阵高度。 kind：内存复制的类型。 text<br>ACL_MEMCPY_HOST_TO_HOST = 0 // Host内的内存复制<br>ACL_MEMCPY_HOST_TO_DEVICE = 1 // Host到Device的内存复制<br>ACL_MEMCPY_DEVICE_TO_HOST = 2 // Device到Host的内存复制<br>ACL_MEMCPY_DEVICE_TO_DEVICE = 3 // Device内的内存复制<br> |
| 返回值说明 | ret：int，错误码。 - 返回0表示成功。 - 返回其它值表示失败。 |
| 约束说明 | - 当前仅支持“ACL_MEMCPY_HOST_TO_DEVICE”类型和“ACL_MEMCPY_DEVICE_TO_HOST”类型的内存复制。 - Atlas 200/500 A2推理产品，Ascend RC形态下，不支持调用本接口。 |
父主题： 内存管理
函数：memcpy2d_async
| C函数原型 | aclError aclrtMemcpy2dAsync(void *dst, size_t dpitch, const void *src, size_t spitch, size_t width, size_t height，aclrtMemcpyKind kind, aclrtStream stream) |
|---|---|
| Python函数 | ret = acl.rt.memcpy2d_async**(dst, dpitch, src, spitch, width, height, kind,** stream) |
| 函数功能 | 实现异步内存复制，主要用于矩阵数据的复制。异步接口。 |
| 输入说明 | dst：目的内存地址的指针地址。 dpitch：目的内存中相邻两列向量的地址距离。 src：源内存地址的指针地址。 spitch：源内存中相邻两列向量的地址距离。 width：待复制的矩阵宽度。 height：待复制的矩阵高度。height最大可设置为5 * 1024 * 1024 = 5242880，否则接口返回失败。 kind：内存复制的类型。 text<br>ACL_MEMCPY_HOST_TO_HOST = 0 // Host内的内存复制<br>ACL_MEMCPY_HOST_TO_DEVICE = 1 // Host到Device的内存复制<br>ACL_MEMCPY_DEVICE_TO_HOST = 2 // Device到Host的内存复制<br>ACL_MEMCPY_DEVICE_TO_DEVICE = 3 // Device内的内存复制<br>stream：指定Stream的指针地址。 |
| 返回值说明 | ret：int，错误码。 - 返回0表示成功。 - 返回其它值表示失败。 |
| 约束说明 | - 该接口是异步接口，调用接口成功仅表示任务下发成功，不表示任务执行成功。调用该接口后，一定要调用acl.rt.synchronize_stream。 - 当前仅支持“ACL_MEMCPY_HOST_TO_DEVICE”类型和“ACL_MEMCPY_DEVICE_TO_HOST”类型的内存复制。 - Atlas 200/500 A2推理产品，Ascend RC形态下，不支持调用本接口。 |
父主题： 内存管理
函数：load_from_file
| C函数原型 | aclError aclmdlLoadFromFile(const char *modelPath, uint32_t *modelId) |
|---|---|
| Python函数 | model_id, ret = acl.mdl.load_from_file(model_path) |
| 函数功能 | 从文件加载离线模型数据（适配适配昇腾AI处理器的离线模型），由系统内部管理内存，同步接口。 系统完成模型加载后，返回的模型ID，作为后续操作时用于识别模型的标志。 |
| 输入说明 | model_path：str，离线模型文件的存储路径，路径中包含文件名。运行程序（APP）的用户需要对该存储路径有访问权限。 此处的离线模型文件是适配昇腾AI处理器的离线模型，即*.om文件。 （说明：关于如何获取om文件，请参见 模型构建 。 对om模型文件大小有限制的场景下，如果使用ATC工具生成om文件时，将 “--external_weight” 参数设置为 1 （ 1 表示将原始网络中的 Const / Constant 节点的权重保存在单独的文件中，且该文件保存在与om文件同级的 “weight” 目录下），那么在使用本接口加载om文件时，需将 “weight” 目录与om文件放在同级目录下，这时pyACL会自行到 “weight” 目录下查找权重文件，否则可能会导致单独的权重文件加载不成功。） |
| 返回值说明 | model_id：int，系统完成模型加载后生成的模型ID对应的指针地址。 ret：int，错误码。 - 返回0表示成功。 - 返回其它值表示失败。 |
| 约束说明 | - 在加载前，请先根据文件的大小评估内存空间是否足够，内存空间不足，会导致应用程序异常。 - 模型加载、模型执行、模型卸载的操作必须在同一个Context下（关于Context的创建请参见acl.rt.create_context）。 |
| 相关接口 | 当前pyACL还提供了acl.mdl.set_config_opt接口、acl.mdl.load_with_config接口来实现模型加载，通过配置对象中的属性来区分，在加载模型时是从文件加载，还是从内存加载，以及内存是由系统内部管理，还是由用户管理。 |
| 参考资源 | 接口调用流程，参见模型加载。 |
父主题： 模型加载与执行
函数：load_from_mem
| C函数原型 | aclError aclmdlLoadFromMem(const void* model, size_t modelSize, uint32_t* modelId) |
|---|---|
| Python函数 | model_id, ret = acl.mdl.load_from_mem(model, model_size) |
| 函数功能 | 从内存加载离线模型数据，由系统内部管理模型运行的内存，同步接口。 系统完成模型加载后，返回的模型ID，作为后续操作时用于识别模型的标志。 |
| 输入说明 | model：int，模型数据的内存地址对应的指针地址。 - 应用运行在Host时，此处需申请Host上的内存。 - 应用运行在Device时，此处需申请Device上的内存。 内存申请接口请参见内存管理。 model_size：int，内存中的模型数据长度，单位Byte。 |
| 返回值说明 | model_id：int，系统完成模型加载后生成的模型ID。 ret：int，错误码。 - 返回0表示成功。 - 返回其它值表示失败。 |
| 约束说明 | 模型加载、模型执行、模型卸载的操作必须在同一个Context下（关于Context的创建请参见acl.rt.create_context）。 |
| 相关接口 | 当前pyACL还提供了acl.mdl.set_config_opt接口、acl.mdl.load_with_config接口来实现模型加载，通过配置对象中的属性来区分，在加载模型时是从文件加载，还是从内存加载，以及内存是由系统内部管理，还是由用户管理。 |
| 参考资源 | 接口调用流程，参见模型加载。 |
父主题： 模型加载与执行
函数：load_from_file_with_mem
| C函数原型 | aclError aclmdlLoadFromFileWithMem(const char *modelPath, uint32_t *modelId, void *workPtr, size_t workSize, void *weightPtr, size_t weightSize) |
|---|---|
| Python函数 | model_id, ret = acl.mdl.load_from_file_with_mem(model_path, work_ptr, work_size, weight_ptr, weight_size) |
| 函数功能 | 从文件加载离线模型数据（适配昇腾AI处理器的离线模型），由用户自行管理模型运行的内存，同步接口。 系统完成模型加载后，返回的模型ID，作为后续操作时用于识别模型的标志。 |
| 输入说明 | model_path：str，离线模型文件的存储路径，路径中包含文件名。运行程序（APP）的用户需要对该存储路径有访问权限。 此处的离线模型文件是适配昇腾AI处理器的离线模型，即*.om文件。 （说明：关于如何获取om文件，请参见 模型构建 。） work_ptr：int，Device上模型所需工作内存（存放模型输入/输出等数据）的指针地址，由用户自行管理。 work_size：int，模型所需工作内存的大小，单位Byte。 weight_ptr：int，Device上模型权值内存（存放权值数据）的指针地址，由用户自行管理。 w****eight_size：int，模型所需权值内存的大小，单位Byte。 |
| 返回值说明 | model_id：系统完成模型加载后生成的模型ID。 ret：int，错误码。 - 返回0表示成功。 - 返回其它值表示失败。 |
| 约束说明 | 模型加载、模型执行、模型卸载的操作必须在同一个Context下（关于Context的创建请参见acl.rt.create_context）。 |
| 相关接口 | 当前pyACL还提供了acl.mdl.set_config_opt接口、acl.mdl.load_with_config接口来实现模型加载，通过配置对象中的属性来区分，在加载模型时是从文件加载，还是从内存加载，以及内存是由系统内部管理，还是由用户管理。 |
| 参考资源 | 接口调用流程，参见模型加载。 |
父主题： 模型加载与执行
函数：load_from_mem_with_mem
| C函数原型 | aclError aclmdlLoadFromMemWithMem(const void *model, size_t modelSize, uint32_t *modelId, void *workPtr, size_t workSize, void *weightPtr, size_t weightSize) |
|---|---|
| Python函数 | model_id，ret = acl.mdl.load_from_mem_with_mem(model, model_size, work_ptr, work_size, weight_ptr, weight_size) |
| 函数功能 | 从内存加载离线模型数据，由用户自行管理模型运行的内存，同步接口。 系统完成模型加载后，返回的模型ID，作为后续操作时用于识别模型的标志。 |
| 输入说明 | model：int，模型数据的内存地址。 - 应用运行在Host时，此处需申请Host上的内存。 - 应用运行在Device时，此处需申请Device上的内存。 - 应用的运行模式可使用acl.rt.get_run_mode接口获取。 model_size：int，模型数据长度，单位Byte。 work_ptr：int，Device上模型所需工作内存（存放模型输入/输出等数据）的指针地址，由用户自行管理。 work_size：int，模型所需工作内存的大小，单位Byte。 weight_ptr：int，Device上模型权值内存（存放权值数据）的指针地址，由用户自行管理。 weight_size：int，模型所需权值内存的大小，单位Byte。 |
| 返回值说明 | model_id：int，系统完成模型加载后生成的模型ID。 ret：int，错误码。 - 返回0表示成功。 - 返回其它值表示失败。 |
| 约束说明 | 模型加载、模型执行、模型卸载的操作必须在同一个Context下（关于Context的创建请参见acl.rt.create_context）。 |
| 相关接口 | 当前pyACL还提供了acl.mdl.set_config_opt接口、acl.mdl.load_with_config接口来实现模型加载，通过配置对象中的属性来区分，在加载模型时是从文件加载，还是从内存加载，以及内存是由系统内部管理，还是由用户管理。 |
| 参考资源 | 接口调用流程，参见模型加载。 |
父主题： 模型加载与执行
在线提单