RuntimeWarning: overflow encountered in short_scalars

RuntimeWarning: overflow encountered in short_scalars

 

在做一个较大数据量的加法时碰到这个问题,按理说python可以自动改变数据类型,把int型变成long甚至longlong,但这里没有。。。

 

一个可控的方法是用numpy提供的数据类型。(numpy是专门用于科学计算的库,里面提供了大量的方法、数据类型辅助科学计算)比如:

 

16位的int不够用可以声明为32位的:

 

 

import numpy as np
amplitude_amount = np.int32(0)

 

 他还有诸多类似的数据类型声明,这样就可以自由控制我们对内存和需求的平衡了!

 

 

a = np.int64(0)
b = np.long(0)
c = np.longlong(0)

你可能感兴趣的:(overflow)