跳到主要内容

acldvppAdjustHue

acldvppAdjustBrightness​

接口原型​

每个算子有两段接口，必须先调用“acldvppAdjustBrightnessGetWorkspaceSize”接口获取入参并根据计算流程计算所需workspace大小，再调用“acldvppAdjustBrightness”接口执行计算。两段式接口如下：

  • acldvppStatus acldvppAdjustBrightnessGetWorkspaceSize(const aclTensor *self, float factor, aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor)
  • acldvppStatus acldvppAdjustBrightness(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

函数功能​

  • 算子功能：调节图像亮度。

  • 计算公式：

    out = self * factor

acldvppAdjustBrightnessGetWorkspaceSize​

  • 接口定义：

    aclnnStatus acldvppAdjustBrightnessGetWorkspaceSize(const aclTensor *self, float factor, aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor)

  • 参数说明：

    • self：表示算子输入Tensor，需调用aclCreateTensor接口创建aclTensor类型的数据（数据存放在Device侧），输入Tensor的dataType支持UINT8/FLOAT、Format支持NCHW/NHWC、不支持非连续的Tensor，同时N支持1或空、C支持1和3（1表示输入GRAY图，3表示输入RGB图）。
    • factor：图像亮度调节参数，非负数。
    • out：表示算子输出Tensor，需调用aclCreateTensor接口创建aclTensor类型的数据（数据存放在Device侧），输出Tensor的dataType支持UINT8/FLOAT、Format支持NCHW/NHWC、不支持非连续的Tensor，同时N只支持1、C支持1和3（1表示输入GRAY图，3表示输入RGB图），dataType、Format、Shape需要和self一致。
    • workspaceSize：返回用户需要在Device侧申请的workspace大小。
    • executor：返回op执行器，包含了算子计算流程。

  • 返回值：

    返回acldvppStatus状态码，具体请参见acldvpp返回码。

acldvppAdjustBrightness​

  • 接口定义：

    acldvppStatus acldvppAdjustBrightness(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

  • 参数说明：

    • workspace：需调用aclrtMalloc接口申请Device内存，内存大小为workspaceSize，aclrtMalloc接口输出的内存地址在此处传入。
    • workspaceSize：与acldvppAdjustBrightnessGetWorkspaceSize接口获取的workspaceSize保持一致。
    • executor：op执行器，包含了算子计算流程，与acldvppAdjustBrightnessGetWorkspaceSize接口的executor保持一致。
    • stream：指定执行任务的Stream，可复用已创建的Stream节省资源或调用aclrtCreateStream接口创建Stream，再作为入参在此处传入。

  • 返回值：

    返回acldvppStatus状态码，具体请参见acldvpp返回码。

约束与限制​

支持图像分辨率范围在[6*4~4096*8192]。

父主题： DVPP类算子接口

acldvppAdjustSaturation​

接口原型​

每个算子有两段接口，必须先调用“acldvppAdjustSaturationGetWorkspaceSize”接口获取入参并根据计算流程计算所需workspace大小，再调用“acldvppAdjustSaturation”接口执行计算。两段式接口如下：

  • acldvppStatus acldvppAdjustSaturationGetWorkspaceSize(const aclTensor *self, float factor, aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor)
  • acldvppStatus acldvppAdjustSaturation(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

功能描述​

  • 算子功能：调节图像的饱和度。

  • 计算公式：

    out = self * factor + (self->Y8) * (1-factor)

acldvppAdjustSaturationGetWorkspaceSize​

  • 接口定义：

    acldvppStatus acldvppAdjustSaturationGetWorkspaceSize(const aclTensor *self, float factor, aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor)

  • 参数说明：

    • self：表示算子输入Tensor，需调用aclCreateTensor接口创建aclTensor类型的数据（数据存放在Device侧），输入Tensor的dataType支持UINT8/FLOAT、Format支持NCHW/NHWC、不支持非连续的Tensor，同时N支持1或空、C支持1和3（1表示输入数据是GRAY格式的图，3表示输入数据是按R、G、B顺序排布的图）。
    • factor：表示调节饱和度系数。dataType支持FLOAT。支持factor为大于0的值。
    • out：表示算子输出Tensor，需调用aclCreateTensor接口创建aclTensor类型的数据（数据存放在Device侧），输出Tensor的dataType支持UINT8/FLOAT、不支持非连续的Tensor，dataType、Format、Shape需要和self一致。
    • workspaceSize：返回用户需要在Device侧申请的workspace大小。
    • executor：返回op执行器，包含了算子计算流程。

  • 返回值：

    返回acldvppStatus状态码，具体请参见acldvpp返回码。

acldvppAdjustSaturation​

  • 接口定义：

    acldvppStatus acldvppAdjustSaturation(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

  • 参数说明：

    • workspace：需调用aclrtMalloc接口申请Device内存，内存大小为workspaceSize，aclrtMalloc接口输出的内存地址在此处传入。
    • workspaceSize：与acldvppAdjustSaturationGetWorkspaceSize接口获取的workspaceSize保持一致。
    • executor：op执行器，包含了算子计算流程，与acldvppAdjustSaturationGetWorkspaceSize接口的executor保持一致。
    • stream：指定执行任务的Stream，可复用已创建的Stream节省资源或调用aclrtCreateStream接口创建Stream，再作为入参在此处传入。

  • 返回值：

    返回acldvppStatus状态码，具体请参见acldvpp返回码。

约束与限制​

支持图像分辨率范围在[6*4~4096*8192]。

当factor参数值为小数、且self和out数据的dataType为UINT8时，与第三方软件Torchvision相比，单个像素值最大差异为正负1。

父主题： DVPP类算子接口

acldvppAdjustHue​

接口原型​

每个算子有两段接口，必须先调用“acldvppAdjustHueGetWorkspaceSize”接口获取入参并根据计算流程计算所需workspace大小，再调用“acldvppAdjustHue”接口执行计算。两段式接口如下：

  • acldvppStatus acldvppAdjustHueGetWorkspaceSize(const aclTensor* self, float32 factor, aclTensor* out, uint64_t* workspaceSize, aclOpExecutor** executor)
  • acldvppStatus acldvppAdjustHue(void* workspace, uint64_t workspaceSize, aclOpExecutor* executor, aclrtStream stream)

功能描述​

  • 算子功能：调节图像色度。

  • 计算公式：

    out = self + factor

    RGB图像转HSV（Hue, Saturation, Value），H通道+factor，图像再转成RGB。

acldvppAdjustHueGetWorkspaceSize​

  • 接口定义：

    acldvppStatus acldvppAdjustHueGetWorkspaceSize(const aclTensor* self, float32 factor, aclTensor* out, uint64_t* workspaceSize, aclOpExecutor** executor)

  • 参数说明：

  • self：表示算子输入Tensor，需调用aclCreateTensor接口创建aclTensor类型的数据（数据存放在Device侧），输入Tensor的dataType支持UINT8/FLOAT、Format支持NCHW/NHWC、不支持非连续的Tensor，同时N支持1或空、C支持1和3（1表示输入数据是GRAY格式的图，3表示输入数据是按R、G、B顺序排布的图）。

  • factor：表示调节色度系数。dataType支持FLOAT。支持factor值范围为[-0.5, 0.5]。

  • out：表示算子输出Tensor，需调用aclCreateTensor接口创建aclTensor类型的数据（数据存放在Device侧），输出Tensor的dataType支持UINT8/FLOAT、不支持非连续的Tensor，dataType、Format、Shape需要和self一致。

  • workspaceSize：返回用户需要在Device侧申请的workspace大小。

  • executor：返回op执行器，包含了算子计算流程。

  • 返回值：

    返回acldvppStatus状态码，具体请参见acldvpp返回码。

acldvppAdjustHue​

  • 接口定义：

    acldvppStatus acldvppAdjustHue(void* workspace, uint64_t workspaceSize, aclOpExecutor* executor, aclrtStream stream)

  • 参数说明：

    • workspace：需调用aclrtMalloc接口申请Device内存，内存大小为workspaceSize，aclrtMalloc接口输出的内存地址在此处传入。
    • workspaceSize：与acldvppAdjustHueGetWorkspaceSize接口获取的workspaceSize保持一致。。
    • executor：op执行器，包含了算子计算流程，与acldvppAdjustHueGetWorkspaceSize接口的executor保持一致。。
    • stream：指定执行任务的Stream，可复用已创建的Stream节省资源或调用aclrtCreateStream接口创建Stream，再作为入参在此处传入。

  • 返回值：

    返回acldvppStatus状态码，具体请参见acldvpp返回码。

约束与限制​

支持图像分辨率范围在[6*4~4096*8192]

父主题： DVPP类算子接口

acldvppAdjustContrast​

接口原型​

每个算子有两段接口，必须先调用“acldvppAdjustContrastGetWorkspaceSize”接口获取入参并根据计算流程计算所需workspace大小，再调用“acldvppAdjustContrast”接口执行计算。两段式接口如下：

  • acldvppStatus acldvppAdjustContrastGetWorkspaceSize(const aclTensor *self, float factor, aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor)
  • acldvppStatus acldvppAdjustContrast(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

函数功能​

  • 算子功能：调节图像对比度。

  • 计算公式：

    out = (self - mean) * factor + mean，其中mean为图片灰度图的均值。

acldvppAdjustContrastGetWorkspaceSize​

  • 接口定义：

    aclnnStatus acldvppAdjustContrastGetWorkspaceSize(const aclTensor *self, float factor, aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor)

  • 参数说明：

    • self：表示算子输入Tensor，需调用aclCreateTensor接口创建aclTensor类型的数据（数据存放在Device侧），输入Tensor的dataType支持UINT8/FLOAT、Format支持NCHW/NHWC、不支持非连续的Tensor，同时N支持1或空、C支持1和3（1表示输入GRAY图，3表示输入RGB图）。
    • factor：图像亮度调节参数，非负数。
    • out：表示算子输出Tensor，需调用aclCreateTensor接口创建aclTensor类型的数据（数据存放在Device侧），输出Tensor的dataType支持UINT8/FLOAT、Format支持NCHW/NHWC、不支持非连续的Tensor，同时N只支持1、C支持1和3（1表示输入GRAY图，3表示输入RGB图），dataType、Format、Shape需要和self一致。
    • workspaceSize：返回用户需要在Device侧申请的workspace大小。
    • executor：返回op执行器，包含了算子计算流程。

  • 返回值：

    返回acldvppStatus状态码，具体请参见acldvpp返回码。

acldvppAdjustContrast​

  • 接口定义：

    acldvppStatus acldvppAdjustContrast(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

  • 参数说明：

    • workspace：需调用aclrtMalloc接口申请Device内存，内存大小为workspaceSize，aclrtMalloc接口输出的内存地址在此处传入。
    • workspaceSize：与acldvppAdjustContrastGetWorkspaceSize接口获取的workspaceSize保持一致。
    • executor：op执行器，包含了算子计算流程，与acldvppAdjustContrastGetWorkspaceSize接口的executor保持一致。
    • stream：指定执行任务的Stream，可复用已创建的Stream节省资源或调用aclrtCreateStream接口创建Stream，再作为入参在此处传入。

  • 返回值：

    返回acldvppStatus状态码，具体请参见acldvpp返回码。

约束与限制​

支持图像分辨率范围在[6*4~4096*8192]。

父主题： DVPP类算子接口

acldvpp返回码​

调用DVPP类算子API时，常见的接口返回码如表1所示。

表1 返回状态码

状态码名称

状态码值

状态码说明

ACLDVPP_SUCCESS

0

成功。

ACLDVPP_ERR_PARAM_NULLPTR

106001

参数校验错误，参数中存在非法的nullptr。

ACLDVPP_ERR_PARAM_INVALID

106002

参数校验错误，如输入的两个数据类型不满足输入类型推导关系。

详细的错误消息，可以通过aclGetRecentErrMsg接口获取（该接口在acl.h中）。

ACLDVPP_ERR_RUNTIME_ERROR

306001

API内存调用npu runtime的接口异常。

ACLDVPP_ERR_INNER_XXX

506xxx

API内部发生内部异常，详细的错误消息，可以通过aclGetRecentErrMsg接口获取。

请根据报错排查问题，或联系技术支持。

ACLDVPP_ERR_INNER

506000

ACLNN_ERR_INNER_CREATE_EXECUTOR

561101

ACLNN_ERR_INNER_NOT_TRANS_EXECUTOR

561102

ACLNN_ERR_INNER_NULLPTR

561103

父主题： DVPP类算子接口

aclnnPromptFlashAttention​

接口原型​

每个算子有两段接口，必须先调用“aclnnPromptFlashAttentionGetWorkspaceSize”接口获取入参并根据计算流程计算所需workspace大小，再调用“aclnnPromptFlashAttention”接口执行计算。两段式接口如下：

  • **第一段接口：**aclnnStatus aclnnPromptFlashAttentionGetWorkspaceSize(const aclTensor *query, const aclTensor *key, const aclTensor *value, const aclTensor *paddingMask, const aclTensor *attenMask, const aclIntArray *actualSeqLengths, int64_t numHeads, double scaleValue, int64_t preTokens, int64_t nextTokens, char* inputLayout, int64_t numKeyValueHeads, const aclTensor *attentionOut, uint64_t *workspaceSize, aclOpExecutor **executor)
  • **第二段接口：****aclnnStatus aclnnPromptFlashAttention(**void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

功能描述​

  • 算子功能：全量推理场景的FlashAttention算子。

  • 计算公式：

    self-attention（自注意力）利用输入样本自身的关系构建了一种注意力模型。其原理是假设有一个长度为n的输入样本序列x，x的每个元素都是一个d维向量，可以将每个d维向量看作一个token embedding，将这样一条序列经过3个权重矩阵变换得到3个维度为n*d的矩阵。

    self-attention的计算公式一般定义如下，其中Q、K、V为输入样本的重要属性元素，是输入样本经过空间变换得到，且可以统一到一个特征空间中。

    本算子中Score函数采用Softmax函数，self-attention计算公式为

    其中Q和KT的乘积代表输入x的注意力，为避免该值变得过大，通常除以d的开根号进行缩放，并对每行进行softmax归一化，与V相乘后得到一个n*d的矩阵。

aclnnPromptFlashAttentionGetWorkspaceSize​

  • 接口定义：

    aclnnStatus aclnnPromptFlashAttentionGetWorkspaceSize(const aclTensor *query, const aclTensor *key, const aclTensor *value, const aclTensor *paddingMask, const aclTensor *attenMask, const aclIntArray *actualSeqLengths, int64_t numHeads, double scaleValue, int64_t preTokens, int64_t nextTokens, char* inputLayout, int64_t numKeyValueHeads, const aclTensor *attentionOut, uint64_t *workspaceSize, aclOpExecutor **executor)

  • 参数说明：

    • query：Device侧的aclTensor，公式中的输入Q，数据类型支持FLOAT16，不支持非连续的Tensor，数据格式支持ND。

    • key：Device侧的aclTensor，公式中的输入K，数据类型支持FLOAT16，不支持非连续的Tensor，数据格式支持ND。

    • value：Device侧的aclTensor，公式中的输入V，数据类型支持FLOAT16，不支持非连续的Tensor，数据格式支持ND。

    • paddingMask：Device侧的aclTensor，可选参数，数据类型支持FLOAT16，不支持非连续的Tensor，数据格式支持ND。

    • attenMask：Device侧的aclTensor，可选参数，代表下三角全为0上三角全为负无穷的倒三角mask矩阵，不支持非连续的Tensor，数据类型支持BOOL、FLOAT16，数据格式支持ND。

    • actualSeqLengths：Host侧的aclIntArray，可选参数，代表不同Batch中query的Sequence Length，数据类型支持INT64。

    • numHeads：Host侧的int，代表head个数，数据类型支持INT64。

    • scaleValue：Host侧的double，公式中d开根号的倒数，代表缩放系数，作为计算流中Muls的scalar值，数据类型支持DOUBLE。

    • preTokens：Host侧的int，可选属性，用于稀疏计算，数据类型支持INT64。

    • nextTokens：Host侧的int，可选属性，用于稀疏计算，数据类型支持INT64。

    • inputLayout：Host侧的字符指针，用于标识输入query、key、value的数据排布格式，当前支持BSH、BSND。

      :::note 说明 query、key、value数据排布格式支持从多种维度解读，其中B（Batch）表示输入样本批量大小、S（Seq-Length）表示输入样本序列长度、H（Head-Size）表示隐藏层的大小、N（Head-Num）表示多头数、D（Head-Dim）表示隐藏层最小的单元尺寸，且满足D=H/N。 :::

    • numKeyValueHeads：Host侧的int，可选属性，代表key、value中head个数，用于支持GQA（Grouped-Query Attention，分组查询注意力）场景，默认为0，表示和query的head个数相等，数据类型支持INT64。

    • attentionOut：Device侧的aclTensor，公式中的输出，数据类型支持FLOAT16，数据格式支持ND。

    • workspaceSize：返回用户需要在Device侧申请的workspace大小。

    • executor：返回op执行器，包含了算子计算流程。

  • 返回值：

    返回aclnnStatus状态码，具体参见aclnn返回码。

    :::note 说明 第一段接口完成入参校验，出现以下场景时报错：

    • 返回161001（ACLNN_ERR_PARAM_NULLPTR）：传入的query、key、value、attentionOut是空指针。
    • 返回161002（ACLNN_ERR_PARAM_INVALID）：query、key、value、paddingMask、attenMask、attentionOut的数据类型和数据格式不在支持的范围内。 :::

aclnnPromptFlashAttention​

  • 接口定义：

    aclnnStatus aclnnPromptFlashAttention(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

  • 参数说明：

    • workspace：在Device侧申请的workspace内存起址。
    • workspaceSize：在Device侧申请的workspace大小，由第一段接口aclnnPromptFlashAttentionGetWorkspaceSize获取。
    • executor：op执行器，包含了算子计算流程。
    • stream：指定执行任务的AscendCL stream流。

  • 返回值：

    返回aclnnStatus状态码，具体参见aclnn返回码。

约束与限制​

无

父主题： 融合类算子接口

在线提单