CSDN博客

img l1t

双精度浮点数的加法计算误差及其避免的初步方法

发表于2004/10/9 11:22:00  5669人阅读

双精度浮点数的加法计算误差及其避免的初步方法
我一开始是在mysql的sum函数中发现计算误差,经过分析,认为可能与双精度浮点数有关
#include <stdio.h>
main()
{
  char  str[256];
  double x=9999999999.00;
  double s=0.0;
  double x1=99999999.99;
  double s1=0.0;
  int i;

  for( i = 0; i < 8192; i++ ) {
    s += x;
  }
  printf( "%18.2lf", s );

  for( i=0;i<8192;i++)
  {
    s1 += x1;
  }
  printf("%18.2lf",s1);
  s1 = x1 * 8192.00;
  printf("%18.2lf/n",s1);

}
 

分别在Windows 和 unix 下边编译运行,得到的结果是相同的
81919999991808.00   819199999918.02 819199999918.08
这说明双精度浮点数的加法在小数点后边计算存在较大误差,而乘法就好一些
我初步想到了2种解决方法,不成熟,我也没有试过其他语言,请各位指正


解决方法一:
避免用double就没问题
比如在vb里面这么写,用Currency类型
Private Sub Command1_Click()
Dim i As Integer
Dim s As Double
Dim x As Double
Dim sc As Currency
Dim xc As Currency
x = 99999999.99
s = 0
For i = 1 To 8192
s = s + x
Next i
xc = 99999999.99
sc = 0
For i = 1 To 8192
sc = sc + xc
Next i
MsgBox s & " " & sc
End Sub
结果:819199999918.017 819199999918.08 

解决方法二:
加的时候不用小数点,加好以后再点
比如:
99999999.99连加的时候把小数点右移2位
用9999999999做连加,得出结果后再把小数点左移2位

0 0

相关博文

我的热门文章

img
取 消
img