Java图片压缩/加密处理实践

目录导读

  • Java图片压缩/加密处理实践
    • 1. 业务场景
      • 1.1 业务诉求
      • 1.2 业务分析
    • 2. 技术分析
      • 2.1 技术预研
      • 2.2 处理问题汇总
    • 3. 达成效果
    • 4. 编码解构

Java图片压缩/加密处理实践

  • 研究某项技术或者代码框架时,如果没有清晰的业务目标,就会浅尝辄止,无法领悟其精髓;
  • 本人在回过头去看曾经的工作时,发现结合当时的业务场景,图片压缩还是有很多有意思的地方,值得跟大家分享下;

1. 业务场景

1.1 业务诉求

  • 按照上层客户的要求,需要对图片做签名,以确保传输的图片是未被篡改的真实用户头像;
  • 按照底层服务商的要求,需要把图片压缩到指定像素大小(如:640*480),且图片也必须固定大小(如:20-30KB);
  • 按照司法原则要求,我们需要保证图片是经过权威服务认证过的,不可抵赖,必要时,可以用做司法举证;

1.2 业务分析

  • 客户要求的图片防篡改校验,实际上必须保证图片源头是未被篡改的(可由我们前置的SDK抓取图片的同时,调用SDK底层混淆的so做RSA2048签名)。另外,我们也要想下,为什么是对图片做签名而不是加密?
    1. 对图片签名而不加密的原因是图片一般较大(500KB-5MB),而RSA2048加密和解密的性能极低,为了兼顾安全和性能,所以采取了RSA2048签名而不是加密,这样才能保证签名快,服务端验签也快;
    2. 有朋友可能会问为什么采用非对称加密算法RSA2048而不是对称加密算法AES256,这样加密效率就会提升很多。之所以没有采用AES256是因为秘钥安全的问题,我们可以把RSA2048的公钥放在SDK的底层so中给到客户(就算sdk被破解了也损失可控),但是AES256秘钥就只有1个,给出去了存在泄露秘钥的风险;
  • 底层服务商则是非常明确地要我们对图片做压缩:既要保证清晰度,又要文件尽量小,减少他们带宽的压力。因为他们是权威机构,也属于公共资源,提升并行服务能力意义重大;
  • 至于第3个司法举证的业务诉求,相信大部分搞研发的朋友都没有接触过。这是银行、金融、保险行业的特殊诉求:在业务处理的过程中,调用下CA供应商的服务,作为业务实际发生的凭证。此场景的做法是:仅需要把图片的摘要发给CA机构的时间戳服务做签名登记即可,以后溯源时,核对时间戳服务的签名就可以了;

综合上面的业务场景分析,核心是要做好图片验签和压缩即可。司法举证部分因为涉及专用硬件或者专用服务,无法演示,暂略。

2. 技术分析

2.1 技术预研

  • 做图片的签名比较简单,参考加解密在开源SpringBoot/SpringCloud微服务框架的最佳实践 文档,在注入SecurityFacade后,调用securityFacade.sign(base64)方法生成签名即可,签名验证也可以查看此源码;
  • 图片压缩的技术方案不算多,除了JDK原生的外,还有一个就是google出品的thumbnailator,初步调研后,决定使用thumbnailator。因为其依赖简单,API比较简洁,同时支持scale(像素大小)和quality(质量,即图片模糊度)压缩,正好能够满足诉求;
  • 图片压缩是个系统工程,需要大量图片数据去验证,同时也只能兼顾大部分场景,无法满足所有场景;
  • 图片压缩有可能压缩过头了(文件比目标大小小很多),也有可能无论怎么压缩,都无法到达指定大小;
  • 图片压缩是非常消耗内存的,需要控制好压缩次数,一旦处理不当就会直接内存溢出(OOM)了;

2.2 处理问题汇总

  • 图片在网络传输/签名验证的过程中,会偶现图片Base64无法解析的情况,原因是部分机型拍出的图片Base64带有"\n"等换行符,需要通过java.util.Base64.getMimeDecoder().decode(base64)转成二进制才可以做签名校验,注意是要先通过Base64.getMimeDecoder().decode(base64)来转换;
  • 由于图片较大,且并发较高时,在使用ParNew+CMS垃圾回收算法时,图片多次压缩会临时产生多份内存占用,且不会及时释放。通过观察JVM指标,发现是老年代内存剧增非常厉害,一旦无法分配时,JVM就直接Crash了。因此需要设置-XX:+UseCMSCompactAtFullCollection -XX:CMSInitiatingOccupancyFraction=65,前一个参数是为了自动压缩老年代的内存碎片,后一个参数是调小了触发老年代FullGC的内存占用率,即当内存占用了65%后就会触发一次FullGC,通过较为频繁的FullGC来回收大文件内存,这样就不会突然导致老年代内存不够分配了。

3. 达成效果

  • 引入自研的jar包(里面内置了net.coobird:thumbnailator:0.4.17):
    <dependency>
        <groupId>com.biuqugroupId>
        <artifactId>bq-baseartifactId>
        <version>1.0.4version>
    dependency>
    
  • 编写测试类ImageCompressUtilTest:
    public class ImageCompressUtilTest
    {
    
        @Test
        public void compress() throws IOException
        {
            String path = "pic/1.JPEG";
            byte[] data = FileUtil.read(path);
            Assert.assertTrue(null != data);
    
            byte[] newData = ImageCompressUtil.compress(data);
            Assert.assertTrue(null != newData);
    
            String testPath = ImageUtil.class.getResource("/").getPath();
            testPath = new File(testPath).getCanonicalPath() + "/testPic/drj-1.jpeg";
            ImageUtil.write(newData, testPath);
        }
    
        @Test
        public void compress2() throws IOException
        {
            for (int i = 1; i <= 13; i++)
            {
                String path = "pic/compress" + i + ".jpeg";
                if (i == 7)
                {
                    path = "pic/compress" + i + ".png";
                }
                byte[] data = FileUtil.read(path);
                Assert.assertTrue(null != data);
                byte[] newData = ImageCompressUtil.compress(data);
                Assert.assertTrue(null != newData);
                String testPath = ImageUtil.class.getResource("/").getPath();
                testPath = new File(testPath).getCanonicalPath() + "/testPic/test-" + i + ".jpeg";
                ImageUtil.write(newData, testPath);
            }
        }
    }
    

    考虑版本问题,把待压缩的图片和压缩后的图片打包放在文档附件了。

  • 分析其中一张图pic/compress4.jpeg的压缩效果:
    current file type by stream:PNG.
    current read stream file type:png
    current image type:png
    image[png] pixel is :{"width":1024,"height":1024,"colorType":5}.
    pixel from [1024,1024] to [640,480].
    resize image cost:95
    resize image from 1495932 to 762994.
    resize compress cost:309
    compress factor:0.55/1.0,result:762994->23407 bytes,cost:105 ms.
    compress[1495932->23407] totally cost:1474
    current file type by stream:JPEG.
    current write stream file type:jpeg
    
    • 图片原本大小为1.4M左右,经过了一轮像素resize到指定像素[640,480],图片大小也从1.4M降到700KB;
    • 再经过了一轮0.55的质量压缩,图片大小从700KB降到23KB,满足了业务诉求;

4. 编码解构

  • 核心压缩工具类ImageCompressUtil :
    public final class ImageCompressUtil
    {
        /**
         * 基于图片二进制压缩(此仅为一种压缩场景,以此来理解压缩):
         * 1.先固定图片分辨率(固定为640*480,也算一种压缩)
         * 2.再压缩图片文件大小为20k-30k(主要控制文件的quality系数和scale系数,同时改变)
         *
         * @param data 图片二进制
         * @return 压缩后的图片二进制
         */
        public static byte[] compress(byte[] data)
        {
            if (null == data)
            {
                LOGGER.info("invalid compress image data.");
                return null;
            }
            ImageFactor factor = new ImageFactor(data.length);
            return compress(data, factor);
        }
    
        /**
         * 基于图片大小压缩
         *
         * @param data   图片二进制
         * @param factor 压缩因子
         * @return 压缩后的图片二进制
         */
        public static byte[] compress(byte[] data, ImageFactor factor)
        {
            if (null == data)
            {
                LOGGER.info("invalid compress image data.");
                return null;
            }
    
            long start = System.currentTimeMillis();
            int size = data.length;
            int newSize = size;
            try
            {
                ImagePixel pixel = ImageUtil.getImagePixel(data);
                if (null == pixel)
                {
                    LOGGER.info("no compress parameter.");
                    return data;
                }
                byte[] newData = mixCompress(data, pixel, factor);
                if (null != newData && newData.length > factor.getMaxSize())
                {
                    ImageFactor nextFactor = factor.next(newData.length);
                    byte[] multiData = multiFactorCompress(newData, nextFactor);
                    newData = getBestData(newData, multiData);
                }
                if (null != newData)
                {
                    newSize = newData.length;
                }
                return newData;
            }
            finally
            {
                LOGGER.info("compress[{}->{}] totally cost:{}", size, newSize, (System.currentTimeMillis() - start));
            }
        }
    
        /**
         * 多因子压缩
         * 基于图片文件大小去压缩图片的质量和图片的像素大小
         *
         * @param data   图片二进制
         * @param factor 图片压缩因子
         * @return 压缩后的图片二进制
         */
        public static byte[] multiFactorCompress(byte[] data, ImageFactor factor)
        {
            while (factor.canCompress())
            {
                byte[] newData = factorCompress(data, factor);
                if (null == newData)
                {
                    break;
                }
                data = newData;
    
                ImageFactor next = factor.next(newData.length);
                if (factor == next)
                {
                    break;
                }
                factor = next;
            }
            return data;
        }
    
        /**
         * 多因子压缩
         * 基于图片文件大小去压缩图片的质量和图片的像素大小
         *
         * @param data   图片二进制
         * @param factor 图片压缩因子
         * @return 压缩后的图片二进制
         */
        public static byte[] factorCompress(byte[] data, ImageFactor factor)
        {
            long start = System.currentTimeMillis();
            if (null == data)
            {
                return null;
            }
            int size = data.length;
            int newSize = size;
            float quality = factor.toQualityRate();
            float scale = factor.toScaleRate();
    
            InputStream in = new ByteArrayInputStream(data);
            ByteArrayOutputStream out = new ByteArrayOutputStream();
            Thumbnails.Builder<? extends InputStream> builder = Thumbnails.of(in).outputFormat(FileType.JPEG.name());
            try
            {
    
                builder.outputQuality(quality).scale(scale).toOutputStream(out);
                byte[] newData = out.toByteArray();
                newSize = newData.length;
                return newData;
            }
            catch (IOException e)
            {
                LOGGER.error("failed to compress by quality or scale.", e);
            }
            finally
            {
                IOUtils.closeQuietly(out);
                IOUtils.closeQuietly(in);
                long cost = System.currentTimeMillis() - start;
                LOGGER.info("compress factor:{}/{},result:{}->{} bytes,cost:{} ms.", quality, scale, size, newSize, cost);
            }
            return null;
        }
    
        /**
         * 基于像素(宽和高)去压缩图片(存在等比例拉升/缩窄的可能)
         *
         * @param data  图片二进制对象
         * @param pixel 图片新的像素
         * @return 压缩后的新图片二进制对象
         */
        public static byte[] pixelCompress(byte[] data, ImagePixel pixel)
        {
            return pixelCompress(data, pixel, BufferedImage.TYPE_INT_RGB);
        }
    
        /**
         * 基于像素(宽和高)去压缩图片
         *
         * @param data     图片二进制对象
         * @param pixel    图片新的像素
         * @param colorTye 色彩类型
         * @return 压缩后的新图片二进制对象
         */
        public static byte[] pixelCompress(byte[] data, ImagePixel pixel, int colorTye)
        {
            if (null == data || null == pixel)
            {
                LOGGER.error("invalid pixel compress parameter.");
                return null;
            }
    
            long start = System.currentTimeMillis();
            InputStream in = null;
            try
            {
                in = new ByteArrayInputStream(data);
                BufferedImage image = ImageIO.read(in);
    
                int width = image.getWidth();
                int height = image.getHeight();
                LOGGER.info("pixel from [{},{}] to [{},{}].", width, height, pixel.getWidth(), pixel.getHeight());
                BufferedImage newImage = resize(image, pixel, colorTye);
                byte[] newData = ImageUtil.toBytes(newImage);
                LOGGER.info("resize image from {} to {}.", data.length, newData.length);
                return newData;
            }
            catch (IOException e)
            {
                LOGGER.error("failed to resize image.", e);
            }
            finally
            {
                IOUtils.closeQuietly(in);
                LOGGER.info("resize compress cost:{}", System.currentTimeMillis() - start);
            }
            return null;
        }
    
        /**
         * 重置图片的像素
         *
         * @param image 图片对象
         * @param pixel 图片的像素
         * @param type  图片对象指定的色彩类型,比如BufferedImage.TYPE_INT_RGB表示基于RGB三原色
         * @return 新的图片对象
         */
        public static BufferedImage resize(BufferedImage image, ImagePixel pixel, int type)
        {
            long start = System.currentTimeMillis();
            BufferedImage newImage = new BufferedImageBuilder(pixel.getWidth(), pixel.getHeight(), type).build();
            Resizers.PROGRESSIVE.resize(image, newImage);
            LOGGER.info("resize image cost:{}", (System.currentTimeMillis() - start));
            return newImage;
        }
    
        /**
         * 综合使用图片像素和质量系数各压缩1次
         * 

    * 1.优先使用标准的RGB3原色压缩一轮图片像素大小,如果大小大于限定大小,则做一轮质量压缩(质量系数0.55)[个人经验做法] * 2.如果质量压缩后,图片急剧变小,则重新使用原图片的色彩类型重新按照上述第1条再次压缩一遍; * 3.选取最佳的图片大小二进制:压缩后如果还需要继续压缩,则选取压缩后的图片二进制,否则选择压缩前的图片二进制; * * @param data 图片二进制 * @param pixel 图片原始像素 * @param factor 图片压缩多因子参数 * @return 综合压缩后的新图片二进制 */ private static byte[] mixCompress(byte[] data, ImagePixel pixel, ImageFactor factor) { //1.先基于像素大小压缩一轮(使用标准的色彩类型,有可能导致图片严重失真) byte[] pixelData1 = pixelCompress(data, pixel.compress()); //图片的限定大小 int maxSize = factor.getMaxSize(); if (needCompress(pixelData1, maxSize)) { //2.再基于图片的大小压缩一轮图片质量和scale(scale对应的就是图片像素大小系数) byte[] factorData1 = factorCompress(pixelData1, factor); if (null != factorData1 && factorData1.length < maxSize) { //图片文件大小急剧变小(图片严重失真) if (!ImageFactor.validSize(pixelData1.length, factorData1.length)) { //3.如果第一轮像素大小压缩后导致图片文件大小急剧变小(图片严重失真),重新基于原图的色彩类型再来压缩一次 byte[] pixelData2 = pixelCompress(data, pixel.compress(), pixel.getColorType()); if (needCompress(pixelData2, maxSize)) { byte[] factorData2 = factorCompress(pixelData2, factor); return getBestData(pixelData2, factorData2); } return getBestData(data, pixelData2); } } return getBestData(pixelData1, factorData1); } return getBestData(data, pixelData1); } /** * 是否需要压缩 * * @param data 压缩后的图片二进制 * @param size 图片文件最大的大小限制 * @return true表示需要压缩 */ private static boolean needCompress(byte[] data, int size) { return null != data && data.length > size; } /** * 获取最佳图片数组大小 * * @param data 压缩前的二进制 * @param newData 压缩后的二进制 * @return 最佳的二进制 */ private static byte[] getBestData(byte[] data, byte[] newData) { if (null != newData) { return newData; } return data; } private ImageCompressUtil() { } /** * 日志句柄 */ private static final Logger LOGGER = LoggerFactory.getLogger(ImageCompressUtil.class); }

    代码注释已经比较详尽了,我再补充下压缩逻辑设计:

    1. 先对图片做像素大小resize(使用三原色)压缩处理,即直接把图片像素变成640*480,这样图片文件大小一般会压缩比较多;
    2. 再对图片做一次多因子(主要是图片质量)压缩;
    3. 如果第2步的多因子压缩相比第1步中的像素压缩大小变化太大,就重新做一轮像素resize压缩(使用原颜色体系),接着重新做一轮多因子压缩;
    4. resize和多因子混合压缩完毕后,就进入多因子循环压缩阶段,直到图片文件大小满足要求为止;
    5. 在第4步循环压缩的过程中,如果连续压缩多次(目前定的阈值是2次)都还是比预期最大的文件大小还要大,则多因子压缩除了考虑质量因素外,还需要对像素按照百分比进行压缩;
    6. 多因子压缩时,质量系数每次均取极值和当前值的平均值。
  • 多因子压缩系数计算的ImageFactor 代码如下:
    @Data
    public class ImageFactor
    {
        public ImageFactor(int size)
        {
            this.size = size;
        }
    
        /**
         * 是否是合法的大小
         *
         * @param size    压缩前的大小
         * @param newSize 新图片文件大小
         * @return true表示合理压缩, false表示压缩过度
         */
        public static boolean validSize(int size, int newSize)
        {
            return MIN_SIZE_RATE < MathUtil.toRate(newSize, size);
        }
    
        /**
         * 是否能压缩
         *
         * @return true表示能压缩
         */
        public boolean canCompress()
        {
            return this.leftCompressTimes > 0 && this.size <= this.maxSize && this.size >= this.minSize;
        }
    
        /**
         * 计算下一个质量因子
         *
         * @param newSize 压缩后的大小
         * @return 下一次压缩的质量因子
         */
        public ImageFactor next(int newSize)
        {
            ImageFactor factor = new ImageFactor(this.size);
            BeanUtils.copyProperties(this, factor);
            this.leftCompressTimes--;
    
            if (newSize > this.maxSize)
            {
                this.beyondTimes++;
                if (this.beyondTimes >= this.timesThreshold)
                {
                    int scale = MathUtil.avg(this.maxSize, this.size) * MAX_Q / this.size;
                    if (this.scale < MAX_Q)
                    {
                        scale *= MathUtil.avg(this.scale, MAX_Q);
                    }
                    factor.setScale(scale);
                    factor.setQuality(DEFAULT_Q);
                    factor.setMinQuality(MIN_Q);
                    factor.setMaxQuality(MAX_Q);
                }
                else
                {
                    factor.setQuality(MathUtil.avg(this.maxQuality, this.quality));
                    factor.setMaxQuality(this.quality);
                }
            }
            else if (newSize < this.minSize)
            {
                this.beyondTimes = 0;
                factor.setQuality(MathUtil.avg(this.maxQuality, this.quality));
                factor.setMinQuality(this.quality);
            }
            else
            {
                this.beyondTimes = 0;
                return this;
            }
    
            factor.setLeftCompressTimes(this.leftCompressTimes);
            factor.setSize(newSize);
            factor.setBeyondTimes(this.beyondTimes);
            return factor;
        }
    
        /**
         * scale系数(百分比)
         *
         * @return 大小系数
         */
        public float toScaleRate()
        {
            return MathUtil.toRate(this.scale);
        }
    
        /**
         * 质量系数(百分比)
         *
         * @return 质量系数
         */
        public float toQualityRate()
        {
            return MathUtil.toRate(this.quality);
        }
    
        /**
         * 大小系数,大小在(0,100)之间
         */
        private int scale = MAX_Q;
    
        /**
         * 质量系数,大小在(0,100)之间
         */
        private int quality = DEFAULT_Q;
    
        /**
         * 最小质量系数
         */
        private int minQuality = MIN_Q;
    
        /**
         * 最大质量系数
         */
        private int maxQuality = MAX_Q;
    
        /**
         * 连续过大或者过小的持续次数
         */
        private int beyondTimes;
    
        /**
         * 最大压缩次数
         */
        private int maxCompressTimes = 5;
    
        /**
         * 剩余压缩次数
         */
        private int leftCompressTimes = maxCompressTimes;
    
        /**
         * 连续过大或者过小的持续次数
         */
        private int timesThreshold = Const.TWO;
    
        /**
         * 图片文件大小
         */
        private int size;
    
        /**
         * 最小图片大小
         */
        private int minSize = 20 * 1024;
    
        /**
         * 最大图片大小
         */
        private int maxSize = 30 * 1024;
    
        /**
         * 最大质量系数
         */
        private static final int MAX_Q = 100;
    
        /**
         * 最大质量系数(默认值)
         */
        private static final int DEFAULT_Q = 55;
    
        /**
         * 最小质量系数(默认值)
         */
        private static final int MIN_Q = 30;
    
        /**
         * 最小的图片大小压缩率
         */
        private static final float MIN_SIZE_RATE = 0.01f;
    }
    

你可能感兴趣的:(springcloud,biuqu项目,Java编程,java,图片,压缩,签名,加密,thumbnailator,base64)