ieee单精度浮点数与定点数的区别,ieee32位浮点数计算器

首页 > 上门服务 > 作者:YD1662023-12-01 09:11:48

1、定点运算:

“定点数”就是“点”不动的数,即“小数点”不变的数。整数的小数点表示在最后一位数字的后面,而小数的小数点标识在真值的符号位后面。如图所示:

ieee单精度浮点数与定点数的区别,ieee32位浮点数计算器(1)

对于定点数而言,由于其小数点位置不变,因此当处理非纯小数(整数部分是零的小数是纯小数)的时候,需要乘上一个比例因子,以防止溢出。那么要是小数点可以移动那就好办了,这种数我们称为浮点数。

ieee单精度浮点数与定点数的区别,ieee32位浮点数计算器(2)

2、浮点运算

浮点运算就是实数运算,主要运用在科学和多媒体中,可以理解为小数点可移动的运算方式。

2.1 单精度浮点运算

单精度浮点数也就是float,用4个字节来存储的,单精度小数点后面共能精确到7位小数。单精度浮点运算应用在图形应用程序graphics application,图像处理image processing,机器学习。大部分人工智能训练任务以单精度浮点数或半精度浮点数为主,推理以Int8为主。

2.2 双精度浮点运算

双精度double是用8个字节来存储的,双精度可精确到15位小数。双精度浮点运算主要用于超算领域。

实际应用中,单精度和双精度浮点运算是综合使用的,超算会根据需要分配单双精度,模拟(化学、物理、金融),数值分析等科学计算。

栏目热文

文档排行

本站推荐

Copyright © 2018 - 2021 www.yd166.com., All Rights Reserved.