我想要一种方法来降低TensorFlow(大约:截断尾数)中浮点数的精度到定义的整个范围内的任意位数.我不需要完全以降低的精度编写代码(如tf.float16),而是需要提出一系列操作来降低张量的精度,同时保留原始类型(例如tf.float32).
例如,如果整个范围是0到1,精度是8位,则0.1234将变为圆形(0.1234*256)/ 256 = 0.125.这使用简单的舍入.
我还想进行统计舍入,其中每个方向的舍入概率与该值的距离成正比.例如,0.1234*256 = 31.5904,这将在59%的时间内达到32/256,并且在41%的时间内达到31/256.
额外的问题:如何获取现有图表并修改它以在每次卷积后添加舍入?