跳到主要内容

Model(modelPath, deviceId=0)

bytes_to_ptr(data)

函数功能

将二进制数据转换成指针地址值。

输入参数说明

参数名类型说明
datapy::buffer二进制数据类型传二进制数据。

返回参数说明

返回指针地址值。

父主题: 媒体数据处理

transpose(input_tensor, axes)

函数功能

可通过指定的一组轴维度(axes),对输入的Tensor数据进行转置处理,如未指定具体轴维度,则默认对Tensor数据进行反序转置。

功能仅支持在Host侧执行操作,如需处理Device侧Tensor数据,请先通过to_host接口,将Device侧数据转移到Host侧,再进行转置。

输入参数说明

参数名类型说明
input_tensorTensor类待转置Tensor类。 维度支持2维、3维、4维,数据类型支持base.dtype.float32、base.dtype.float16、base.dtype.uint8,具体请参见Tensor类的属性列表
axesList[int]转置选项,默认值为空。 如果未指定具体axes,则默认生成反序“axes”对“input”中的数据进行反序转置。 例如:三维张量默认生成反序“axes”为{2, 1, 0} 。

返回参数说明

返回转置后的Tensor类数据。

父主题: 媒体数据处理

Model(modelPath, deviceId=0)

函数功能

初始化模型。

输入参数说明

参数名类型说明
modelPathstring模型路径。
deviceIdint模型部署的芯片ID,默认为0号芯片。(-1表示模型部署在Host侧,为保留字段,请勿使用。)

返回参数说明

模型对象

父主题: Model类

Model(option, deviceId)

函数功能

用户可选择特定加载方式,加载推理模型。

输入参数说明

参数名类型说明
optionModelLoadOptV2数据类型用户可通过参数选择模型输入方式,具体请参见ModelLoadOptV2类
deviceIdint模型部署的芯片ID,默认为0号芯片。(-1表示模型部署在Host侧,为保留字段,请勿使用。)

返回参数说明

返回模型对象。

父主题: Model类

infer(tensorList)

函数功能

通过输入Tensor列表进行模型推理。

输入参数说明

参数名类型说明
tensorListList[base.Tensor]Tensor列表。

返回参数说明

返回模型推理输出的List[base.Tensor]。

抛异常接口

分配Tensor内存失败及推理失败,抛出runtime异常。

父主题: Model类

infer(tensor, args)

函数功能

通过输入多个Tensor对象进行模型推理。

输入参数说明

参数名

类型

说明

tensor

Tensor对象

模型推理所需Tensor。

如需输入多个Tensor,请使用”,”以分隔形式传入,最大传入Tensor数量为1024。

args

可变参数

返回参数说明

返回模型推理输出的List[base.Tensor]。

抛异常接口

参数校验失败,分配Tensor内存失败及推理失败,抛出runtime异常。

父主题: Model类

在线提单