CSDN博客

img capricciososoft

VB与Excel在乘幂运算时的结果差异及其不合理性

发表于2004/7/5 1:38:00  630人阅读

东北林业大学环境科学系 隋祥

引言

表达式解析是编程工具与电子表格等软件最基本的功能之一,不同的软件在解析表达式时都遵循一定的运算规则,在不同软件中,这些运算规则略有差异,导致计算结果也不同。笔者在实践中发现,VBExcel在处理“连续乘幂”这一常见运算时,所遵循的法则有着较大的出入,而且都存在着不合理的因素。本文试图通过论述得到一种更为合理的运算模式,并为编写表达式解析类过程提供指导。

问题分析

下表列出了VB6.0Excel2003在处理同一个关于乘方运算的表达式时所得到的结果。

1  VB6.0Excel2003执行乘方运算的结果差异

表达式

VB计算结果

Excel计算结果

2^-2^-2

.840896415253715

16

-2 ^ 2

-4

4

-2^-2^-2

-.840896415253715

16

2 ^ -3 ^ 4 ^ 7

0

5.16988E-26

   本人经过分析,认为引起结果差异的主要因素是单目运算符“-”的运算级和连续乘幂的运算顺序。详细分析如下:

   1.对于表达式2^-2^-2VB的计算步骤是2^(-2^-2)= .840896415253715,这时它的计算顺序是从右到左,而Excel则严格按照从左到右的结合顺序。如果我们把2^-2^-2理解为,那么,显然VB的计算结果是合理的,但是不是VB在处理连续乘方运算时都是从右到左的呢?答案是否定的。在计算2^3^4时,VB得到的结果是4096而不是2.41785163922926E+24,这说明此时VB并没有把2^3^4理解为而是理解为,是从左到右的结合顺序。显然,VB在处理乘方运算时,其结合顺序没有一个令人信服的依据,并存在不合理性。

   2.对于表达式-2^2VB的计算过程相当于-(2^2)=-4,按照Microsoft MSDN 6.0 简体中文版VB帮助系统中的《运算符优先顺序》一文中的描述,指数运算符(^)高于负数运算符(-)。这样看来VB按照这样的法则得到这样的结果是合理的。对于Excel,它的计算过程相当于(-2)^2,按照Excel 2003版帮助文档的叙述,符号(-)要高于乘幂(^)(注:两款软件运算符的中文名称略有差异),那么这样看来Excel的运算也是合理的。但是Excel将“-(负号)”的优先级放在“^”运算符之前的做法存在着一定问题。例如对于表达式4-2^24--2^24---2^24-……-n-2^2的结果都是0,这是按照上述法则令人无法顺利解释的。

   3.由于上述两条原因才导致了对于表达式-2^-2^-2的计算结果的不同。

   4. 对于表达式2 ^ -3 ^ 4 ^ 7VB计算结果为0,这是无论如何也无法顺利解释的。关于此结果的来历还有待于进一步研究。

表达式解析法则建议

    鉴于VBExcel在解析表达式时对乘幂运算的结果差异及所存在的不合理性,建议在编写表达式解析过程时应当遵循如下原则:

    1.建议将乘幂运算符“^”的优先级至于单目负数运算符“-”之前。

    2.在连乘幂运算的结合顺序上应当统一,建议采用从左到右的结合方式。

 

欢迎大家批评指正。

0 0

相关博文

我的热门文章

img
取 消
img