ncnn 关于量化模型的一些疑惑,还请解答

pepwfjgg  于 2022-11-19  发布在  其他
关注(0)|答案(2)|浏览(165)

看代码感觉是没有对模型bias进行量化,是这样?如果是这样,还请大佬帮忙解释为什么这样做,感觉如果对bias也进行量化的画,不就不需要量化和反量化的操作吗

以convolution层为例进行问题描述:

对于input_blob进行在线的量化,然后和已经量化的weight_data进行乘法操作,然后将int32反量化为fp32再和bias进行加法操作得到top_blob.

gev0vcfq

gev0vcfq1#

@nihui ,希望老板能够帮忙解惑,谢谢

nwlqm0z1

nwlqm0z12#

两种量化模式,如果全是int型计算,中间过程就不在反量化。

相关问题