多项大数相乘后果不可预知性的问题所在!

举例:

DWORD dwNum01 = 0xFFFFFFFE;

int Num02 = 10000;

ULONGLONG u64Res = dwNum01 * 10000 * 512;

 

此时,u64Res 的值并不是0xFFFFFFFE * 10000 * 512,而是

(0xFFFFFFFE * 10000 * 512)%0xFFFFFFFF,也就是说在这个赋值的过程中发生了溢出!

你可能感兴趣的:(多项大数相乘后果不可预知性的问题所在!)