ToDvpp
GetValue
函数功能
获取Host侧的Tensor的buffer,首先判断Tensor是否在Host侧,然后在其中调用GetBuffer函数实现获取buffer的功能。
函数原型
template<typename T, typename... Ix>
APP_ERROR GetValue(T &value, Ix... index) const;
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| value | 输出 | 获取到对应Tensor的buffer。 |
| index | 输入 | 待获取Tensor的索引。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码,请参考APP_ERROR说明。 |
父主题: TensorBase
ToDevice
函数功能
将Tensor对象部署到Device侧内存。
函数原型
APP_ERROR ToDevice(int32_t deviceId);
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| deviceId | 输入 | 设备号。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码,请参考APP_ERROR说明。 |
父主题: TensorBase
ToDvpp
函数功能
将Tensor对象部署到DVPP内存中。
函数原型
APP_ERROR ToDvpp(int32_t deviceId);
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| deviceId | 输入 | 设备号。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码,请参考APP_ERROR说明。 |
父主题: TensorBase
ToHost
函数功能
将Tensor对象部署到Host侧内存。
函数原型
APP_ERROR ToHost();
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码,请参考APP_ERROR说明。 |
父主题: TensorBase
BatchConcat
函数功能
将多batch的Tensor组合成一个Tensor。
函数原型
static APP_ERROR BatchConcat(const std::vector<TensorBase> &inputs, TensorBase &output);
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| inputs | 输入 | Tensor列表,列表大小不超过1024。 |
| output | 输出 | 组合后的Tensor对象。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码,请参考APP_ERROR说明。 |
父主题: TensorBase
BatchStack
函数功能
将多batch的Tensor组合成一个Tensor,相比于BatchConcat拓展了Tensor的维度。
函数原型
static APP_ERROR BatchStack(const std::vector<TensorBase> &inputs, TensorBase &output);
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| inputs | 输入 | Tensor列表,列表大小不超过1024。 |
| output | 输出 | 组合后的Tensor对象。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码,请参考APP_ERROR说明。 |
父主题: TensorBase
在线提单