You're reading an pre-release version of this documentation.
For the latest stable release version, please have a look at master.

Dismiss

Function nn_dequantize_vector

• Defined in File quantize.h

Function Documentation

int nn_dequantize_vector(buffer_t *output_data, buffer_t *input_data, pnna_buffer_create_params_t *qp, uint32_t counts)

将定点格式的输入张量数据进行反量化，恢复为浮点格式。

该函数根据提供的反量化参数（如 scale 和 zero_point）对输入张量数组执行反量化操作， 将其转换为浮点形式，用于模型输出后处理阶段

所有输出张量需由调用方预先分配，函数内部不会进行内存分配

参数:

• output_data -- [OUT] 反量化后的浮点 buffer_t 数组

• input_data -- [IN] 原始量化 buffer_t 数组

• qp -- [IN] 每个张量对应的反量化参数数组

• counts -- [IN] 需要处理的张量数量

返回:

int 处理后的状态码，0表示成功，其他表示失败