发布时间 : 星期二 文章1绪论-课件-11更新完毕开始阅读
2.计算机对数的接收与处理
? 计算机对数的接收
设非零实数x是计算机接收的实数，则计算机对其的处理为
（1）若x?F(?,t,L,U) 则原样接收x ； （2）若x?F(?,t,L,U)，m?x?M，则用F(?,t,L,U) 中最接近x的数fl(x)表示并记录x。
13
? 计算机对数的运算处理
两个数在计算机中参与运算的方式为：
（1） 加减法
先对阶，后运算，再舍入；（2） 乘除法
先运算，再舍入 14
例，某计算机的数系F（10, 4,－99,99）的
-12
两个数x1=0.2337×10 和x2＝0.3364×10 ，则运算过程如下
fl(x1?x2)?fl(0.2337?10?0.3364?10)对阶?12?fl(0.0002337?10?0.3364?10)fl(0.3366337?10)2222运算?舍入?0.3366?10
15
)?fl(0.2337?10?1?0.3364?102)运算?fl(0.7861668?100)舍入?0.7862?100?0.7862
16
fl(x1?x2