Skip to main content

aclrtCreateGroupInfo

aclrtGetGroupCount​

函数功能​

查询当前Context下可以使用的Group个数。

Atlas 200/500 A2推理产品，不支持该接口。

函数原型​

aclError aclrtGetGroupCount(uint32_t *count)

参数说明​

参数名输入/输出说明
count输出当前Context下可用Group个数的指针。

返回值说明​

返回0表示成功，返回其它值表示失败。

父主题： 算力Group查询与设置

aclrtGetAllGroupInfo​

函数功能​

查询当前Context下可以使用的所有Group的详细算力信息。

Atlas 200/500 A2推理产品，不支持该接口。

函数原型​

aclError aclrtGetAllGroupInfo(aclrtGroupInfo *groupInfo)

参数说明​

参数名输入/输出说明
groupInfo输出获取所有Group对应的详细算力信息的指针。 需提前调用aclrtCreateGroupInfo接口创建aclrtGroupInfo类型的数据。

返回值说明​

返回0表示成功，返回其它值表示失败。

父主题： 算力Group查询与设置

aclrtGetGroupInfoDetail​

函数功能​

查询当前Context下指定Group的算力信息。

Atlas 200/500 A2推理产品，不支持该接口。

函数原型​

aclError aclrtGetGroupInfoDetail(const aclrtGroupInfo *groupInfo, int32_t groupIndex, aclrtGroupAttr attr, void *attrValue, size_t valueLen, size_t *paramRetSize)

参数说明​

参数名输入/输出说明
groupInfo输入指定算力详细信息的首地址的指针。 需提前调用aclrtGetAllGroupInfo接口创获取所有Group的算力信息。
groupIndex输入访问groupInfo连续内存块的Group索引。 Group索引的取值范围：[0, (Group数量-1)]，用户可调用aclrtGetGroupCount接口获取Group数量。
attr输入指定要获取其算力值的算力属性。
attrValue输出获取指定算力属性所对应的算力值的指针。 用户需根据每个属性的属性值数据类型申请对应大小的内存，用于存放属性值。
valueLen输入表示attrValue的最大长度，单位为Byte。
paramRetSize输出实际返回的attrValue大小的指针，单位为Byte。

返回值说明​

返回0表示成功，返回其它值表示失败。

父主题： 算力Group查询与设置

aclrtCreateGroupInfo​

函数功能​

根据实际支持的Group数量创建aclrtGroupInfo类型的连续内存块，并返回对应指针。

如需销毁aclrtGroupInfo类型的数据，请参见aclrtDestroyGroupInfo。

Atlas 200/500 A2推理产品，不支持该接口。

函数原型​

aclrtGroupInfo *aclrtCreateGroupInfo()

参数说明​

无

返回值说明​

返回aclrtGroupInfo类型的指针，如果无Group或不支持Group则返回nullptr。

父主题： 算力Group查询与设置

aclrtDestroyGroupInfo​

函数功能​

销毁aclrtGroupInfo类型的数据，释放相关的内存。只能销毁通过aclrtCreateGroupInfo接口创建的aclrtGroupInfo类型。

Atlas 200/500 A2推理产品，不支持该接口。

函数原型​

aclError aclrtDestroyGroupInfo(aclrtGroupInfo *groupInfo)

参数说明​

参数名输入/输出说明
groupInfo输入待销毁的aclrtGroupInfo类型数据的指针。

返回值说明​

返回0表示成功，非零表示失败。

父主题： 算力Group查询与设置

aclrtCreateStream​

函数功能​

在当前进程或线程中创建一个Stream，同步接口。

约束说明​

  • 每个Context对应一个默认Stream，该默认Stream是调用aclrtSetDevice接口或aclrtCreateContext接口隐式创建的。推荐调用aclrtCreateStream接口显式创建Stream。
    • 隐式创建Stream：适合简单、无复杂交互逻辑的应用，但缺点在于，在多线程编程中，执行结果取决于线程调度的顺序。
    • 显式创建Stream：推荐显式，适合大型、复杂交互逻辑的应用，且便于提高程序的可读性、可维护性。
  • 对于Atlas 200/500 A2推理产品，硬件资源最多支持512个Stream，如果已存在多个默认Stream，只能显式创建N个Stream（N=512-默认Stream个数-执行内部同步的Stream个数），例如，若已存在一个默认Stream和一个执行内部同步的Stream，则只能显式创建510个Stream。

函数原型​

aclError aclrtCreateStream(aclrtStream *stream)

参数说明​

参数名输入/输出说明
stream输出Stream的指针。

返回值说明​

返回0表示成功，返回其它值表示失败。

参考资源​

接口调用流程及示例，参见运行管理资源申请与释放。

父主题： Stream管理

aclrtCreateStreamV2​

函数功能​

在当前进程或线程中创建一个Stream，支持创建Stream时增加Stream配置。同步接口。

Atlas 200/500 A2推理产品不支持该接口。

约束说明​

函数原型​

aclError aclrtCreateStreamV2(****aclrtStream *stream, const aclrtStreamConfigHandle *handle)

参数说明​

参数名输入/输出说明
stream输出Stream的指针。
handle输入Stream配置对象的指针。与aclrtSetStreamConfigOpt中的handle保持一致。

返回值说明​

返回0表示成功，返回其它值表示失败。

父主题： Stream管理

在线提单