济宁住房与建设网站怎么上百度搜索

摘要  探讨 MATLAB 中  附近数的余弦函数的计算精度问题。

例1.  已知 

计算  与 

       直接贴图吧：

       另外，16位的正确值分别为 -0.3012758451921695e-7 与 -0.3765996542384011e-10（ISRealsoft 提供）。

       容易看出，MATLAB的输出中，与红色数字对应的有效数字是错误数字。这样，MATLAB的输出中分别有9位、12位错误数字；有效数字的错误率分别为 9/16 = 56.25% , 12/16 = 75% .

       注：可参考计算机的错误计算（六十五）。