Skip to main content

aclrtPhysicalMemProp

aclrtMemAttr

typedef enum aclrtMemAttr {
ACL_DDR_MEM, // DDR内存,DDR上所有大页内存+普通内存
ACL_HBM_MEM, // HBM内存,HBM上所有大页内存+普通内存
ACL_DDR_MEM_HUGE, // DDR大页内存
ACL_DDR_MEM_NORMAL, // DDR普通内存
ACL_HBM_MEM_HUGE, // HBM大页内存
ACL_HBM_MEM_NORMAL, // HBM普通内存
ACL_DDR_MEM_P2P_HUGE, // DDR中用于Device间数据复制的大页内存
ACL_DDR_MEM_P2P_NORMAL, // DDR中用于Device间数据复制的普通内存
ACL_HBM_MEM_P2P_HUGE, // HBM中用于Device间数据复制的大页内存
ACL_HBM_MEM_P2P_NORMAL, // HBM中用于Device间数据复制的普通内存
} aclrtMemAttr;

父主题: 数据类型及其操作接口

aclrtMemLocationType

typedef enum aclrtMemLocationType {
ACL_MEM_LOCATION_TYPE_HOST = 0, // 预留,当前不支持
ACL_MEM_LOCATION_TYPE_DEVICE,
} aclrtMemLocationType;

父主题: 数据类型及其操作接口

aclrtMemLocation

typedef struct aclrtMemLocation {
uint32_t id;
aclrtMemLocationType type; // 内存所在位置
} aclrtMemLocation;

父主题: 数据类型及其操作接口

aclrtPhysicalMemProp

typedef struct aclrtPhysicalMemProp {
aclrtMemHandleType handleType;
aclrtMemAllocationType allocationType;
aclrtMemAttr memAttr;
aclrtMemLocation location;
uint64_t reserve;
} aclrtPhysicalMemProp;
成员名称描述
handleTypehandle类型,当前仅支持ACL_MEM_HANDLE_TYPE_NONE 。
allocationType内存分配类型,当前仅支持ACL_MEM_ALLOCATION_TYPE_PINNED。
memAttr内存属性。
location内存所在位置,当前仅支持ACL_MEM_LOCATION_TYPE_DEVICE(表示Device上的内存)。
reserve预留。

父主题: 数据类型及其操作接口

aclrtDrvMemHandle

typedef void* aclrtDrvMemHandle;

父主题: 数据类型及其操作接口

aclrtDeviceStatus

typedef enum aclrtDeviceStatus {
ACL_RT_DEVICE_STATUS_NORMAL = 0, // Device正常可用
ACL_RT_DEVICE_STATUS_ABNORMAL, // Device异常
ACL_RT_DEVICE_STATUS_END = 0xFFFF, // 预留值
} aclrtDeviceStatus;

父主题: 数据类型及其操作接口

aclmdlCreateAIPP

函数功能

动态AIPP场景下,根据模型支持的batch size创建aclmdlAIPP类型的数据,用于存放动态AIPP的参数。同步接口。

如需销毁aclmdlAIPP类型的数据,请参见aclmdlDestroyAIPP

函数原型

aclmdlAIPP *aclmdlCreateAIPP(uint64_t batchSize)

参数说明

参数名输入/输出说明
batchSize输入原始模型的batch size。

返回值说明

返回aclmdlAIPP类型的指针。

父主题: aclmdlAIPP

在线提单