Scale计算公式 - 关于电压值与二进制数值间的转换

   目前在我们驱动的AO及AI功能中,Scale中的最大LSB取值有问题,公式是这样的:(USHORT) (max_count * (output_value - min_volt) / (max_volt - min_volt)),拿PCI-1741U来说,其max_count目前的取值是65535,其实正确取值应该是65536,虽然硬件上D/A转换器只有16位,无法输出真正的65536,可是在公式中max_count起着量程最大份数的角色,就是说虽然满量程是从0~65535,而实际的分数应该是65536。

    如果按我们目前的做法,将max_count定为65535就会出现很微小的问题,举个例子,量程范围+/-5V,输出0V,由于0V是+/-5V的中间值,因此自然会计算得出65535的一半,即32767.5,但这不是我们希望得到的,因为向硬件中写入的值只能是整型,所以浮点数被取整得到32767,在PCI-1741U的实际测试中发现以32767(即7FFFH)为输出值,测得的结果是-0.005V,现在我们打算采用65536作为max_count的值再试一试,经过公式计算得出的结果是一个整型32768(即8000H,比之前多了一个LSB),结果发现输出测得的结果是-0.004V,更接近0V!(比之前精确了0.001V)。

    虽然只有0.001V,但是在一些工业现场中,这个误差已经不算小了,目前我们所有linux驱动中的AI、AO都需要对此问题进行修改。

    注:还要注意在输出值为满量程的时候,要判断最终计算结果,避免溢出。
 

本文出自 “千里之行,始于足下” 博客,转载请与作者联系!

你可能感兴趣的:(转换,职场,scale,休闲,计算公式)