在AI中常提32位浮点数、16位浮点数,混合精度。。这里重点说一下32位浮点数的表示
先来一张图
浮点数的计算方式
其中s是符号位,e是指数位,m是有效数位组成的数。
m的计算方式是
所以上图表示的数字就是
在AI中常提32位浮点数、16位浮点数,混合精度。。这里重点说一下32位浮点数的表示
先来一张图
浮点数的计算方式
其中s是符号位,e是指数位,m是有效数位组成的数。
m的计算方式是
所以上图表示的数字就是
Copyright © 2018 - 2021 www.yd166.com., All Rights Reserved.