浮点数的教与学

——IEEE754 标准下对浮点数的探讨分析

  • 打印
  • 收藏
收藏成功
微博 QQ空间 微信


打开文本图片集

摘要：浮点型数据在计算机系统中广泛应用，但其表示精度存在一定的限制，客观存在不能精确表示的现象。在教学工作中，关于IEEE754规格化浮点数有效位数的内容难以理解，导致学生对浮点数精度的学习存在困难。基于IEEE754标准，通过大量图表、实例，将浮点数的基本格式、数据范围、精度等问题具象阐释。对精度问题提出了两种理解方式：一是从数值分析的角度根据有效数字的严格定义来进行确定；二是从近似值能准确表示的十进制数的位数来确定。（剩余5848字）

试读结束

目录
monitor
客服机器人