容易引起问题的隐式精度转换

最近项目中有需求对存有 ARGB8888 数据的 Bitmap 进行基于原值的透明度（alpha 值）调整，要对每个像素的 alpha byte 处理。

问题

下表描述了 byte 类型在图像处理和 Java 中分别的表达范围

领域	符号	表达范围
图像处理	unsigned	[0..255]
Java	signed	[-128..127]

假设 Bitmap 中某像素的 alpha byte 二进制表示为 1000 0000。
解析为 unsigned 时数值为 128，而 signed 时则为 -128。

此时如果想将它减半，期望为 128 / 2 = 64 (0100 0000)。
因此在所有数值都被作为 signed 解析的 Java 中，进行以上计算会出现问题。

1: byte a = (byte) 128; // int 128 的高 24 位被截断，成为 1000 0000
2: System.out.println(a); // 输出 -128，证明被作为 signed 解析了
3: byte b = (byte) (a / 2); // alpha 值减半，-128 / 2 = -64
4: System.out.println(b); // 输出 -64 (1100 0000)

很明显这与期望的 64 (0100 0000) 不同，如果把在 Java 中计算后的结果保存起来，在图像处理中该 alpha 会被解释为 192 (1100 0000)。

精度转换

当 2 个不同类型的数值进行计算时，精度较低的其中 1 个必须先转换为精度较高的类型，然后再继续进行计算。

隐式转换

以上第 3 行代码中类型为 byte 的 a 精度比类型为 int 的 a 低，所以需要被隐式转换为 int，那么将这行代码分为 3 步。

1. 隐式转换 a 为 int: int t = a
2. 开始计算: int t1 = t / 2
3. 将 int 截断转为 byte: byte b = (byte) t1

引起问题的隐式精度转换

其实引起问题的是以上的步骤 1，当 byte 转换为 int 时，最高位的值会被用作填充转换后 int 的高 24 位。

a (1000 0000)
隐式转换为
t (1111 1111 1111 1111 1111 1111 1000 0000)

这时 t 在 Java 中被解析为 -128，因此步骤 2 的计算会有问题。

解决方法

在步骤 1 后插入一个与操作 t = t & 0xff，将高 24 位的值置为 0

t (1111 1111 1111 1111 1111 1111 1000 0000)
&
0xff (0000 0000 0000 0000 0000 0000 1111 1111)
=
t (0000 0000 0000 0000 0000 0000 1000 0000)

这时 t 在 Java 中被解析为 128，这时拿去计算就可以得到预期结果了。

那么将源代码改一下如下

3: byte b = (byte) ((a & 0xff) / 2); // alpha 值减半，128 / 2 = 64

内置方法

其实也可以用 int Byte:toUnsignedInt(byte) 去达到相同的效果，原理是一样的。

public static int toUnsignedInt(byte x) {
    return ((int) x) & 0xff;
}

3: byte b = (byte) (Byte.toUnsignedInt(a) / 2); // alpha 值减半，128 / 2 = 64