Skip to main content

ToDvpp

GetValue

函数功能

获取Host侧的Tensor的buffer,首先判断Tensor是否在Host侧,然后在其中调用GetBuffer函数实现获取buffer的功能。

函数原型

template<typename T, typename... Ix>
APP_ERROR GetValue(T &value, Ix... index) const;

参数说明

参数名输入/输出说明
value输出获取到对应Tensor的buffer。
index输入待获取Tensor的索引。

返回参数说明

数据结构说明
APP_ERROR程序执行返回的错误码,请参考APP_ERROR说明

父主题: TensorBase

ToDevice

函数功能

将Tensor对象部署到Device侧内存。

函数原型

APP_ERROR ToDevice(int32_t deviceId);

参数说明

参数名输入/输出说明
deviceId输入设备号。

返回参数说明

数据结构说明
APP_ERROR程序执行返回的错误码,请参考APP_ERROR说明

父主题: TensorBase

ToDvpp

函数功能

将Tensor对象部署到DVPP内存中。

函数原型

APP_ERROR ToDvpp(int32_t deviceId);

参数说明

参数名输入/输出说明
deviceId输入设备号。

返回参数说明

数据结构说明
APP_ERROR程序执行返回的错误码,请参考APP_ERROR说明

父主题: TensorBase

ToHost

函数功能

将Tensor对象部署到Host侧内存。

函数原型

APP_ERROR ToHost();

返回参数说明

数据结构说明
APP_ERROR程序执行返回的错误码,请参考APP_ERROR说明

父主题: TensorBase

BatchConcat

函数功能

将多batch的Tensor组合成一个Tensor。

函数原型

static APP_ERROR BatchConcat(const std::vector<TensorBase> &inputs, TensorBase &output);

参数说明

参数名输入/输出说明
inputs输入Tensor列表,列表大小不超过1024。
output输出组合后的Tensor对象。

返回参数说明

数据结构说明
APP_ERROR程序执行返回的错误码,请参考APP_ERROR说明

父主题: TensorBase

BatchStack

函数功能

将多batch的Tensor组合成一个Tensor,相比于BatchConcat拓展了Tensor的维度。

函数原型

static APP_ERROR BatchStack(const std::vector<TensorBase> &inputs, TensorBase &output);

参数说明

参数名输入/输出说明
inputs输入Tensor列表,列表大小不超过1024。
output输出组合后的Tensor对象。

返回参数说明

数据结构说明
APP_ERROR程序执行返回的错误码,请参考APP_ERROR说明

父主题: TensorBase

在线提单