You're reading an pre-release version of this documentation.
For the latest stable release version, please have a look at master.

Function dtype_to_float32_scalar

Function Documentation

int dtype_to_float32_scalar(float *dst, unsigned char *src, const int data_format, const int quant_format, const signed char fixed_point_pos, const float scale, const int zeroPoint)

单个数据的反量化操作 V2.0 API

参数:

  • dst -- [OUT] 反量化后的数

  • src -- [IN] 待反量化的数

  • data_format -- [IN] 数据类型

  • quant_format -- [IN] 量化类型

  • fixed_point_pos -- [IN] 固定小数点位置

  • scale -- [IN] 缩放因子

  • zeroPoint -- [IN] 零点

返回:

int 处理后的状态码，0表示成功，其他表示失败