Skip to main content

acldvppAdjustHue

acldvppAdjustBrightness

接口原型

每个算子有两段接口,必须先调用“acldvppAdjustBrightnessGetWorkspaceSize”接口获取入参并根据计算流程计算所需workspace大小,再调用“acldvppAdjustBrightness”接口执行计算。两段式接口如下:

  • acldvppStatus acldvppAdjustBrightnessGetWorkspaceSize(const aclTensor *self, float factor, aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor)
  • acldvppStatus acldvppAdjustBrightness(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

函数功能

  • 算子功能:调节图像亮度。

  • 计算公式:

    out = self * factor

acldvppAdjustBrightnessGetWorkspaceSize

  • 接口定义:

    aclnnStatus acldvppAdjustBrightnessGetWorkspaceSize(const aclTensor *self, float factor, aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor)

  • 参数说明:

    • self:表示算子输入Tensor,需调用aclCreateTensor接口创建aclTensor类型的数据(数据存放在Device侧),输入Tensor的dataType支持UINT8/FLOAT、Format支持NCHW/NHWC、不支持非连续的Tensor,同时N支持1或空、C支持1和3(1表示输入GRAY图,3表示输入RGB图)。
    • factor:图像亮度调节参数,非负数。
    • out:表示算子输出Tensor,需调用aclCreateTensor接口创建aclTensor类型的数据(数据存放在Device侧),输出Tensor的dataType支持UINT8/FLOAT、Format支持NCHW/NHWC、不支持非连续的Tensor,同时N只支持1、C支持1和3(1表示输入GRAY图,3表示输入RGB图),dataType、Format、Shape需要和self一致。
    • workspaceSize:返回用户需要在Device侧申请的workspace大小。
    • executor:返回op执行器,包含了算子计算流程。
  • 返回值:

    返回acldvppStatus状态码,具体请参见acldvpp返回码

acldvppAdjustBrightness

  • 接口定义:

    acldvppStatus acldvppAdjustBrightness(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

  • 参数说明:

    • workspace:需调用aclrtMalloc接口申请Device内存,内存大小为workspaceSize,aclrtMalloc接口输出的内存地址在此处传入。
    • workspaceSize:与acldvppAdjustBrightnessGetWorkspaceSize接口获取的workspaceSize保持一致。
    • executor:op执行器,包含了算子计算流程,与acldvppAdjustBrightnessGetWorkspaceSize接口的executor保持一致。
    • stream:指定执行任务的Stream,可复用已创建的Stream节省资源或调用aclrtCreateStream接口创建Stream,再作为入参在此处传入。
  • 返回值:

    返回acldvppStatus状态码,具体请参见acldvpp返回码

约束与限制

支持图像分辨率范围在[6*4~4096*8192]。

父主题: DVPP类算子接口

acldvppAdjustSaturation

接口原型

每个算子有两段接口,必须先调用“acldvppAdjustSaturationGetWorkspaceSize”接口获取入参并根据计算流程计算所需workspace大小,再调用“acldvppAdjustSaturation”接口执行计算。两段式接口如下:

  • acldvppStatus acldvppAdjustSaturationGetWorkspaceSize(const aclTensor *self, float factor, aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor)
  • acldvppStatus acldvppAdjustSaturation(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

功能描述

  • 算子功能:调节图像的饱和度。

  • 计算公式:

    out = self * factor + (self->Y8) * (1-factor)

acldvppAdjustSaturationGetWorkspaceSize

  • 接口定义:

    acldvppStatus acldvppAdjustSaturationGetWorkspaceSize(const aclTensor *self, float factor, aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor)

  • 参数说明:

    • self:表示算子输入Tensor,需调用aclCreateTensor接口创建aclTensor类型的数据(数据存放在Device侧),输入Tensor的dataType支持UINT8/FLOAT、Format支持NCHW/NHWC、不支持非连续的Tensor,同时N支持1或空、C支持1和3(1表示输入数据是GRAY格式的图,3表示输入数据是按R、G、B顺序排布的图)。
    • factor:表示调节饱和度系数。dataType支持FLOAT。支持factor为大于0的值。
    • out:表示算子输出Tensor,需调用aclCreateTensor接口创建aclTensor类型的数据(数据存放在Device侧),输出Tensor的dataType支持UINT8/FLOAT、不支持非连续的Tensor,dataType、Format、Shape需要和self一致。
    • workspaceSize:返回用户需要在Device侧申请的workspace大小。
    • executor:返回op执行器,包含了算子计算流程。
  • 返回值:

    返回acldvppStatus状态码,具体请参见acldvpp返回码

acldvppAdjustSaturation

  • 接口定义:

    acldvppStatus acldvppAdjustSaturation(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

  • 参数说明:

    • workspace:需调用aclrtMalloc接口申请Device内存,内存大小为workspaceSize,aclrtMalloc接口输出的内存地址在此处传入。
    • workspaceSize:与acldvppAdjustSaturationGetWorkspaceSize接口获取的workspaceSize保持一致。
    • executor:op执行器,包含了算子计算流程,与acldvppAdjustSaturationGetWorkspaceSize接口的executor保持一致。
    • stream:指定执行任务的Stream,可复用已创建的Stream节省资源或调用aclrtCreateStream接口创建Stream,再作为入参在此处传入。
  • 返回值:

    返回acldvppStatus状态码,具体请参见acldvpp返回码

约束与限制

支持图像分辨率范围在[6*4~4096*8192]。

当factor参数值为小数、且self和out数据的dataType为UINT8时,与第三方软件Torchvision相比,单个像素值最大差异为正负1。

父主题: DVPP类算子接口

acldvppAdjustHue

接口原型

每个算子有两段接口,必须先调用“acldvppAdjustHueGetWorkspaceSize”接口获取入参并根据计算流程计算所需workspace大小,再调用“acldvppAdjustHue”接口执行计算。两段式接口如下:

  • acldvppStatus acldvppAdjustHueGetWorkspaceSize(const aclTensor* self, float32 factor, aclTensor* out, uint64_t* workspaceSize, aclOpExecutor** executor)
  • acldvppStatus acldvppAdjustHue(void* workspace, uint64_t workspaceSize, aclOpExecutor* executor, aclrtStream stream)

功能描述

  • 算子功能:调节图像色度。

  • 计算公式:

    out = self + factor

    RGB图像转HSV(Hue, Saturation, Value),H通道+factor,图像再转成RGB。

acldvppAdjustHueGetWorkspaceSize

  • 接口定义:

    acldvppStatus acldvppAdjustHueGetWorkspaceSize(const aclTensor* self, float32 factor, aclTensor* out, uint64_t* workspaceSize, aclOpExecutor** executor)

  • 参数说明:

  • self:表示算子输入Tensor,需调用aclCreateTensor接口创建aclTensor类型的数据(数据存放在Device侧),输入Tensor的dataType支持UINT8/FLOAT、Format支持NCHW/NHWC、不支持非连续的Tensor,同时N支持1或空、C支持1和3(1表示输入数据是GRAY格式的图,3表示输入数据是按R、G、B顺序排布的图)。

  • factor:表示调节色度系数。dataType支持FLOAT。支持factor值范围为[-0.5, 0.5]。

  • out:表示算子输出Tensor,需调用aclCreateTensor接口创建aclTensor类型的数据(数据存放在Device侧),输出Tensor的dataType支持UINT8/FLOAT、不支持非连续的Tensor,dataType、Format、Shape需要和self一致。

  • workspaceSize:返回用户需要在Device侧申请的workspace大小。

  • executor:返回op执行器,包含了算子计算流程。

  • 返回值:

    返回acldvppStatus状态码,具体请参见acldvpp返回码

acldvppAdjustHue

  • 接口定义:

    acldvppStatus acldvppAdjustHue(void* workspace, uint64_t workspaceSize, aclOpExecutor* executor, aclrtStream stream)

  • 参数说明:

    • workspace:需调用aclrtMalloc接口申请Device内存,内存大小为workspaceSize,aclrtMalloc接口输出的内存地址在此处传入。
    • workspaceSize:与acldvppAdjustHueGetWorkspaceSize接口获取的workspaceSize保持一致。。
    • executor:op执行器,包含了算子计算流程,与acldvppAdjustHueGetWorkspaceSize接口的executor保持一致。。
    • stream:指定执行任务的Stream,可复用已创建的Stream节省资源或调用aclrtCreateStream接口创建Stream,再作为入参在此处传入。
  • 返回值:

    返回acldvppStatus状态码,具体请参见acldvpp返回码

约束与限制

支持图像分辨率范围在[6*4~4096*8192]

父主题: DVPP类算子接口

acldvppAdjustContrast

接口原型

每个算子有两段接口,必须先调用“acldvppAdjustContrastGetWorkspaceSize”接口获取入参并根据计算流程计算所需workspace大小,再调用“acldvppAdjustContrast”接口执行计算。两段式接口如下:

  • acldvppStatus acldvppAdjustContrastGetWorkspaceSize(const aclTensor *self, float factor, aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor)
  • acldvppStatus acldvppAdjustContrast(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

函数功能

  • 算子功能:调节图像对比度。

  • 计算公式:

    out = (self - mean) * factor + mean,其中mean为图片灰度图的均值。

acldvppAdjustContrastGetWorkspaceSize

  • 接口定义:

    aclnnStatus acldvppAdjustContrastGetWorkspaceSize(const aclTensor *self, float factor, aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor)

  • 参数说明:

    • self:表示算子输入Tensor,需调用aclCreateTensor接口创建aclTensor类型的数据(数据存放在Device侧),输入Tensor的dataType支持UINT8/FLOAT、Format支持NCHW/NHWC、不支持非连续的Tensor,同时N支持1或空、C支持1和3(1表示输入GRAY图,3表示输入RGB图)。
    • factor:图像亮度调节参数,非负数。
    • out:表示算子输出Tensor,需调用aclCreateTensor接口创建aclTensor类型的数据(数据存放在Device侧),输出Tensor的dataType支持UINT8/FLOAT、Format支持NCHW/NHWC、不支持非连续的Tensor,同时N只支持1、C支持1和3(1表示输入GRAY图,3表示输入RGB图),dataType、Format、Shape需要和self一致。
    • workspaceSize:返回用户需要在Device侧申请的workspace大小。
    • executor:返回op执行器,包含了算子计算流程。
  • 返回值:

    返回acldvppStatus状态码,具体请参见acldvpp返回码

acldvppAdjustContrast

  • 接口定义:

    acldvppStatus acldvppAdjustContrast(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

  • 参数说明:

    • workspace:需调用aclrtMalloc接口申请Device内存,内存大小为workspaceSize,aclrtMalloc接口输出的内存地址在此处传入。
    • workspaceSize:与acldvppAdjustContrastGetWorkspaceSize接口获取的workspaceSize保持一致。
    • executor:op执行器,包含了算子计算流程,与acldvppAdjustContrastGetWorkspaceSize接口的executor保持一致。
    • stream:指定执行任务的Stream,可复用已创建的Stream节省资源或调用aclrtCreateStream接口创建Stream,再作为入参在此处传入。
  • 返回值:

    返回acldvppStatus状态码,具体请参见acldvpp返回码

约束与限制

支持图像分辨率范围在[6*4~4096*8192]。

父主题: DVPP类算子接口

acldvpp返回码

调用DVPP类算子API时,常见的接口返回码如表1所示。

表1 返回状态码

状态码名称

状态码值

状态码说明

ACLDVPP_SUCCESS

0

成功。

ACLDVPP_ERR_PARAM_NULLPTR

106001

参数校验错误,参数中存在非法的nullptr。

ACLDVPP_ERR_PARAM_INVALID

106002

参数校验错误,如输入的两个数据类型不满足输入类型推导关系。

详细的错误消息,可以通过aclGetRecentErrMsg接口获取(该接口在acl.h中)。

ACLDVPP_ERR_RUNTIME_ERROR

306001

API内存调用npu runtime的接口异常。

ACLDVPP_ERR_INNER_XXX

506xxx

API内部发生内部异常,详细的错误消息,可以通过aclGetRecentErrMsg接口获取。

请根据报错排查问题,或联系技术支持。

ACLDVPP_ERR_INNER

506000

ACLNN_ERR_INNER_CREATE_EXECUTOR

561101

ACLNN_ERR_INNER_NOT_TRANS_EXECUTOR

561102

ACLNN_ERR_INNER_NULLPTR

561103

父主题: DVPP类算子接口

aclnnPromptFlashAttention

接口原型

每个算子有两段接口,必须先调用“aclnnPromptFlashAttentionGetWorkspaceSize”接口获取入参并根据计算流程计算所需workspace大小,再调用“aclnnPromptFlashAttention”接口执行计算。两段式接口如下:

  • **第一段接口:**aclnnStatus aclnnPromptFlashAttentionGetWorkspaceSize(const aclTensor *query, const aclTensor *key, const aclTensor *value, const aclTensor *paddingMask, const aclTensor *attenMask, const aclIntArray *actualSeqLengths, int64_t numHeads, double scaleValue, int64_t preTokens, int64_t nextTokens, char* inputLayout, int64_t numKeyValueHeads, const aclTensor *attentionOut, uint64_t *workspaceSize, aclOpExecutor **executor)
  • **第二段接口:****aclnnStatus aclnnPromptFlashAttention(**void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

功能描述

  • 算子功能:全量推理场景的FlashAttention算子。

  • 计算公式:

    self-attention(自注意力)利用输入样本自身的关系构建了一种注意力模型。其原理是假设有一个长度为n的输入样本序列x,x的每个元素都是一个d维向量,可以将每个d维向量看作一个token embedding,将这样一条序列经过3个权重矩阵变换得到3个维度为n*d的矩阵。

    self-attention的计算公式一般定义如下,其中Q、K、V为输入样本的重要属性元素,是输入样本经过空间变换得到,且可以统一到一个特征空间中。

    本算子中Score函数采用Softmax函数,self-attention计算公式为

    其中Q和KT的乘积代表输入x的注意力,为避免该值变得过大,通常除以d的开根号进行缩放,并对每行进行softmax归一化,与V相乘后得到一个n*d的矩阵。

aclnnPromptFlashAttentionGetWorkspaceSize

  • 接口定义:

    aclnnStatus aclnnPromptFlashAttentionGetWorkspaceSize(const aclTensor *query, const aclTensor *key, const aclTensor *value, const aclTensor *paddingMask, const aclTensor *attenMask, const aclIntArray *actualSeqLengths, int64_t numHeads, double scaleValue, int64_t preTokens, int64_t nextTokens, char* inputLayout, int64_t numKeyValueHeads, const aclTensor *attentionOut, uint64_t *workspaceSize, aclOpExecutor **executor)

  • 参数说明:

    • query:Device侧的aclTensor,公式中的输入Q,数据类型支持FLOAT16,不支持非连续的Tensor,数据格式支持ND。

    • key:Device侧的aclTensor,公式中的输入K,数据类型支持FLOAT16,不支持非连续的Tensor,数据格式支持ND。

    • value:Device侧的aclTensor,公式中的输入V,数据类型支持FLOAT16,不支持非连续的Tensor,数据格式支持ND。

    • paddingMask:Device侧的aclTensor,可选参数,数据类型支持FLOAT16,不支持非连续的Tensor,数据格式支持ND。

    • attenMask:Device侧的aclTensor,可选参数,代表下三角全为0上三角全为负无穷的倒三角mask矩阵,不支持非连续的Tensor,数据类型支持BOOL、FLOAT16,数据格式支持ND。

    • actualSeqLengths:Host侧的aclIntArray,可选参数,代表不同Batch中query的Sequence Length,数据类型支持INT64。

    • numHeads:Host侧的int,代表head个数,数据类型支持INT64。

    • scaleValue:Host侧的double,公式中d开根号的倒数,代表缩放系数,作为计算流中Muls的scalar值,数据类型支持DOUBLE。

    • preTokens:Host侧的int,可选属性,用于稀疏计算,数据类型支持INT64。

    • nextTokens:Host侧的int,可选属性,用于稀疏计算,数据类型支持INT64。

    • inputLayout:Host侧的字符指针,用于标识输入query、key、value的数据排布格式,当前支持BSH、BSND。

      :::note 说明 query、key、value数据排布格式支持从多种维度解读,其中B(Batch)表示输入样本批量大小、S(Seq-Length)表示输入样本序列长度、H(Head-Size)表示隐藏层的大小、N(Head-Num)表示多头数、D(Head-Dim)表示隐藏层最小的单元尺寸,且满足D=H/N。 :::

    • numKeyValueHeads:Host侧的int,可选属性,代表key、value中head个数,用于支持GQA(Grouped-Query Attention,分组查询注意力)场景,默认为0,表示和query的head个数相等,数据类型支持INT64。

    • attentionOut:Device侧的aclTensor,公式中的输出,数据类型支持FLOAT16,数据格式支持ND。

    • workspaceSize:返回用户需要在Device侧申请的workspace大小。

    • executor:返回op执行器,包含了算子计算流程。

  • 返回值:

    返回aclnnStatus状态码,具体参见aclnn返回码

    :::note 说明 第一段接口完成入参校验,出现以下场景时报错:

    • 返回161001(ACLNN_ERR_PARAM_NULLPTR):传入的query、key、value、attentionOut是空指针。
    • 返回161002(ACLNN_ERR_PARAM_INVALID):query、key、value、paddingMask、attenMask、attentionOut的数据类型和数据格式不在支持的范围内。 :::

aclnnPromptFlashAttention

  • 接口定义:

    aclnnStatus aclnnPromptFlashAttention(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

  • 参数说明:

    • workspace:在Device侧申请的workspace内存起址。
    • workspaceSize:在Device侧申请的workspace大小,由第一段接口aclnnPromptFlashAttentionGetWorkspaceSize获取。
    • executor:op执行器,包含了算子计算流程。
    • stream:指定执行任务的AscendCL stream流。
  • 返回值:

    返回aclnnStatus状态码,具体参见aclnn返回码

约束与限制

父主题: 融合类算子接口

在线提单