大数运算过程的数学基础--未完

通常情况下,linux内核是不支持浮点操作的.在进行数据处理过程中,我们经常会处于这样的尴尬：计算过程的数据位长和计算结果的误差产生了冲突.

例如如下的实例：102448/7*1024

这样的表达式在内核中可以如下表达：

long result = 102448/7*1024;

当然,作为实际的操作过程,表达式中的字面常数通常是一些变量.如果result具有累积效应,上面的表达式将产生致命的误差.

数学表达中 102448/7*1024的值为14986678

而表达式 result = 102448/7*1024 的值为14986240

显然,这种误差是巨大的,如何调整这种误差呢？

我们可以将这种问题诉诸数学恒等式：

｛A/B*C｝= ［A/B*C A%B*C/B］

我们将进行验证：

result = 102448/7*1024 102448%7*1024/7；

result = 14986240 438

result = 14986678

未完待续

凌众科技专业提供服务器租用、服务器托管、企业邮局、虚拟主机等服务，公司网站：http://www.lingzhong.cn 为了给广大客户了解更多的技术信息，本技术文章收集来源于网络,凌众科技尊重文章作者的版权，如果有涉及你的版权有必要删除你的文章，请和我们联系。以上信息与文章正文是不可分割的一部分,如果您要转载本文章,请保留以上信息，谢谢!