You're reading an pre-release version of this documentation.
For the latest stable release version, please have a look at master.

Dismiss

Function dynamic_fix_point_i16

• Defined in File quantize.h

Function Documentation

void dynamic_fix_point_i16(int16_t *out_ptr, float value, int fl)

使用动态定点（Dynamic Fixed Point）方式将 float 值量化为 int16

与 int8 版本相似，该函数将输入值乘以 2^fl 并裁剪到 [-32768, 32767] 区间后， 写入 out_ptr 所指向的内存中，适用于更高精度场景

参数:

• out_ptr -- [OUT] 存放量化结果的 int16 指针

• value -- [IN] 原始 float32 值

• fl -- [IN] 定点位置（fixed point position），即 2^fl 缩放因子