aclmdlCreateDesc
aclmdlSetDatasetTensorDesc
函数功能
如果模型输入或输出的Shape是动态的,在模型执行之前调用本接口设置模型输入或输出的tensor描述信息。同步接口。
Atlas 200/500 A2推理产品,不支持该接口。
约束说明
对同一个模型,aclmdlSetDynamicBatchSize接口、aclmdlSetDynamicHWSize接口、aclmdlSetInputDynamicDims接口、aclmdlSetDatasetTensorDesc接口,只能调用其中一个接口。
函数原型
aclError aclmdlSetDatasetTensorDesc(****aclmdlDataset *dataset, aclTensorDesc *tensorDesc, size_t index)
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| dataset | 输出 | 待增加aclTensorDesc的aclmdlDataset地址指针,表示模型执行的输入或输出数据结构。 需提前调用aclmdlCreateDataset接口创建aclmdlDataset类型的数据,再调用aclmdlAddDatasetBuffer接口向aclmdlDataset中增加aclDataBuffer。 |
| tensorDesc | 输入 | 待增加的aclTensorDesc地址指针,表示模型执行时对应的输入或输出的tensor描述。 需提前调用aclCreateTensorDesc接口创建aclTensorDesc类型的数据,当前只有设置模型输入、输出tensor描述信息中的维度信息有效(对应aclCreateTensorDesc接口中的代表维度个数的numDims参数、代表维度大小的dims参数),设置数据类型、Format无效。 此处设置的维度个数、维度大小必须在模型构建时设置的输入Shape范围内。 |
| index | 输入 | 表示第几个输入或输出的序号。 模型存在多个输入、输出时,为避免序号出错,可以先调用aclmdlGetInputNameByIndex、aclmdlGetOutputNameByIndex接口获取输入、输出的名称,根据输入、输出名称所对应的index来设置。 |
返回值说明
返回0表示成功,返回非0表示失败。
父主题: aclmdlDataset
aclmdlGetDatasetTensorDesc
函数功能
如果模型输入或输出的Shape是动态的,模型在模型执行之后可以调用本接口从aclmdlDataset类型的数据(该类型用于描述模型推理时的输入数据、输出数据)中获取指定的输入或者输出的Tensor描述信息。
典型场景举例:如果模型输入Shape是动态的,在模型执行之前调aclmdlSetDatasetTensorDesc设置该输入的tensor描述信息,在模型执行之后,调用aclmdlGetDatasetTensorDesc接口获取模型动态输出的Tensor描述信息。
Atlas 200/500 A2推理产品不支持该接口。
函数原型
aclTensorDesc *aclmdlGetDatasetTensorDesc(const aclmdlDataset *dataset, size_t index)
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| dataset | 输入 | 模型执行的输入或输出数据指针。 |
| index | 输入 | 表示第几个输入或输出的序号。 模型存在多个输入、输出时,为避免序号出错,可以先调用aclmdlGetInputNameByIndex、aclmdlGetOutputNameByIndex接口获取输入、输出的名称,根据输入、输出名称所对应的index来设置。 |
返回值说明
返回指定输入或输出的tensor描述信息。
父主题: aclmdlDataset
aclmdlCreateDesc
函数功能
创建aclmdlDesc类型的数据,表示模型描述信息。同步接口。
如需销毁aclmdlDesc类型的数据,请参见aclmdlDestroyDesc。
函数原型
aclmdlDesc* aclmdlCreateDesc()
参数说明
无
返回值说明
返回aclmdlDesc类型的指针。
父主题: aclmdlDesc
aclmdlDestroyDesc
函数功能
销毁通过aclmdlCreateDesc接口创建的aclmdlDesc类型的数据。同步接口。
函数原型
aclError aclmdlDestroyDesc(aclmdlDesc *modelDesc)
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| modelDesc | 输入 | 待销毁的aclmdlDesc类型的指针。 |
返回值说明
返回0表示成功,返回非0表示失败。
父主题: aclmdlDesc
aclmdlGetDesc
函数功能
根据模型ID获取该模型的模型描述信息。同步接口。
函数原型
aclError aclmdlGetDesc(aclmdlDesc *modelDesc, uint32_t modelId)
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| modelDesc | 输出 | aclmdlDesc类型的指针。 需提前调用aclmdlCreateDesc接口创建aclmdlDesc类型的数据。 |
| modelId | 输入 | 模型ID。 调用aclmdlLoadFromFile接口/aclmdlLoadFromMem接口/aclmdlLoadFromFileWithMem接口/aclmdlLoadFromMemWithMem接口加载模型成功后,会返回模型ID。 |
返回值说明
返回0表示成功,返回非0表示失败。
父主题: aclmdlDesc
aclmdlGetNumInputs
函数功能
根据模型描述信息获取模型的输入个数。同步接口。
函数原型
size_t aclmdlGetNumInputs(aclmdlDesc *modelDesc)
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| modelDesc | 输入 | aclmdlDesc类型的指针。 需提前调用aclmdlCreateDesc接口创建aclmdlDesc类型的数据。 |
返回值说明
模型的输入个数。
父主题: aclmdlDesc
在线提单