2023年中国信通院铸基计划“文本图像篡改检测系统技术规范”研讨会成功召开

2023年中国信通院铸基计划“文本图像篡改检测系统技术规范”(简称“规范”)研讨会于2023年8月16日在中国信息通信研究院成功召开,来自中国信息通信研究院、上海合合信息科技股份有限公司(简称“合合信息”)、华南理工大学、中国科学技术大学、深圳大学、中国图象图形学会等企业、高校及研究机构的代表线下线上共同参与了本次会议。

2023年中国信通院铸基计划“文本图像篡改检测系统技术规范”研讨会成功召开_第1张图片

中国信通院泰尔终端实验室王景尧博士到会致词

王景尧表示,建立标准和评测认证是提高数字化产品与应用质量的关键环节,也是铸基计划高质量数字化推进专项行动的重要步骤,当今科技的发展使得图像逐渐成为重要的信息传递手段,给人们提供了方便的同时,通过篡改图像制造虚假信息,也会带来的重大的财产和社会安全隐患。此次会议需聚焦文本图像篡改检测系统技术标准进行深入讨论,推动产业的持续健康发展。

华南理工大学二级教授、中国图象图形学学会常务理事金连文对规范的必要性和意义进行了阐释。金连文表示,目前图像已逐渐成为在线数据的主要类型和信息传播媒介,篡改检测技术标准化的流程能够帮助研发、应用方保持技术的一致性,使得不同的系统和算法能够进行有效的比较和集成,让研究人员能够更好地理解和解决实际问题,为保护信息安全、构建可信赖的数字社会提供更为坚实的技术支持。

合合信息图像算法研发总监郭丰俊针对图像篡改严峻现状进行了分析。郭丰俊表示,在实际场景中,除了用 PhotoShop 、GIMP 等图像编辑软件进行图像造假等“数字篡改”外,以”物理篡改”为代表的图像信息篡改手段成本更低,传统的技术手段难以辨别,规范的制定需要全面、体系化地考虑技术规范涉及范围。

深圳大学信息工程学院教授、广东省智能信息处理重点实验室主任李斌就“数字媒体取证”领域的新技术应用进行了探索。李斌提到,随着深度学习、人工智能大模型技术的逐步普及,伪造和取证手段也在不断对抗中迭代升级,取证技术从实验室走向实战应用是大势所趋,市场对其篡改检测有着十分旺盛的需求,许多企业正在开展相应的产品部署。深圳大学愿与各方一起围绕数字媒体取证、人工智能安全等开展合作,共同努力推动技术发展和应用。

生成式AI的发展为人们带来便利和效率的同时,也对图像安全问题提出了更大的挑战。合合信息自然语言算法研发总监丁凯认为,由于篡改手段、场景多样,应用场景中的图像传输过程可能导致篡改痕迹的损失,给图像检测造成了障碍。信通院等专业机构、高校专家以及企业等多方视角的引入,让规范的建立更具备领域突破性,为图像内容安全提供了保障,也为图像安全认证提供一种新的探索方式。

中国科学技术大学博士后王裕鑫提到,文档图像篡改检测规范的建立,让企业及研究机构能够更好地对网络上流动的篡改文档图像进行篡改概率评估,避免了违背原创作者真实意图的文本图像传播,极大程度地降低社会负面影响。鉴于文档图像篡改生成和检测之间存在“矛与盾”的关系,规范能够为篡改图像生成领域提供更加全面的真实性判断,为相关研究提供坚实的理论支撑。

数据安全为文本图像篡改检测系统技术规范落地构建了“防火墙”。合合信息企业信息化与安全合规负责人宋宏宇表示,规范的制定需要充分考虑数据集的使用方式、系统成熟度等因素,以及在产品部署中涉及安全性、性能、可伸缩性、跨平台支持等需求,为图像领域的技术发展构建“可信AI”环境。

中国信通院泰尔终端实验室数字生态发展部工程师毕广哲对图像篡改检测系统技术标准的框架和内容进行了介绍和解读,参会专家结合自身研究方向、企业特点、行业热点、以及文本图像篡改检测技术痛点,就此次讨论标准的完整性、适用性、全面性进行了热烈讨论,为标准内容提出了许多宝贵建议。后续中国信通院将整理此次会议上专家提出的意见,牵头对标准内容进行调整和完善。

你可能感兴趣的:(人工智能)