笔试面试 浮点数定点化的量化误差问题

本文参考公众号“数字ICer”的文章推送

问题来自大疆的笔试题：

解析：无论小数有多少位，它的量化精度都是以5结尾的，因此量化12.918肯定不能做到真正的无损量化。根据数学上的概念，只要误差小于精度的一半，就可以认为是无损的。
对于本题：

1. 整数部分是12，需要四位量化
2. 如果量化位宽12位，则小数部分8位，0.918*2^8=235.008，舍去小数位得到235；235再反量化得到235/256=0.00003125;；量化精度为1/256=0.0039,量化误差小于量化精度的一半，属于无损定点化。
3. 如果量化位宽为11位，小数部分采用7位，则0.918*128=117.504；取整得到117，反量化得到117/128=0.9140625，量化误差为0.0039375，量化精度为0.0078125；量化误差大于量化精度的一半，因此不属于无损转化。
   故答案选D

该题同理，选A