ChinaSoft 论坛巡礼 | 可信AI软件系统工程技术

2022年CCF中国软件大会（CCF ChinaSoft 2022）将于2022年11月25-27日在线上举行。预期将有林惠民、陈左宁、邬江兴、何积丰、梅宏、吕建、柴洪峰、王怀民、郑纬民、蒋昌俊等10余位院士莅临。

本次大会主题是“聚焦产教研用协同创新，提升关键软件供给能力”，包括学术、工业、教育等论坛活动40余场，期待您的参与！

目前大会火热报名中！

点击文末“阅读原文”进入官方注册通道：

https://conf.ccf.org.cn/chinasoft2022

✦  +

+

论坛巡礼

本文特别介绍将于11月25日举办的【可信AI软件系统工程】技术论坛。

论坛名称：可信AI软件系统工程技术

时间: 2022年11月25日下午13:30-17:30

论坛简介：

       当前，人工智能技术飞速发展，深刻地改变着人们的生产生活方式。据IDC 相关数据显示，2021年全球人工智能产业规模为3619亿美元，预计在2022年同比增长19.6%，达到4328亿美元，预计在2023年将超过5000亿美元。然而，随着人工智能应用的深入渗透，其带来的数据隐私、决策偏见、算法歧视、安全鲁棒等问题挑战着人们对人工智能的信任。因此，发展可信AI软件工程技术，推动AI可解释性、公平性、安全性、鲁棒性、隐私，是工业界和学术界的必由之路。本次论坛将邀请来自企业的业界专家以及来自高校的研究学者共同围绕这一话题进行专题报告和讨论，分享工业界和学术界研究与实践的最新发展，共同探讨未来的技术发展趋势。

日程安排

Schedule

论坛主席

Forum Chairmen

彭鑫

复旦大学计算机科学技术学院副院长、教授、博士生导师。CCF软件工程专委会副主任、开源发展委员会常务委员，《Journalof Software: Evolution and Process》联合主编，《ACM Transactions on SoftwareEngineering and Methodology》等多个期刊编委。2016年获得NASAC青年软件创新奖。

   主要研究方向包括软件智能化开发与运维、人机物融合泛在计算、机器人软件工程等。研究工作获得ICSM 2011最佳论文奖、ACM SIGSOFT杰出论文奖（ASE 2018/2021、ICPC 2022）、IEEE TCSE杰出论文奖（ICSME 2018/2019/2020）、IEEE Transactions on Software Engineering年度最佳论文奖（2018）。

陈碧欢

复旦大学计算机科学技术学院副教授，博导

    目前的主要研究方向是软件供应链分析、可信AI系统工程。作为课题负责人和技术骨干参加科技创新2030-“新一代人工智能”重大项目、国家自然科学基金项目；承担多项企业合作项目。至今已在ICSE、FSE、ASE、ISSTA、S&P、SEC、CCS、TSE、TIFS等顶级国际会议和期刊上发表研究论文30余篇，并获得了3次ACMSIGSOFT杰出论文奖（FSE2016、ASE2018、ASE2022）、以及1次IEEE TCSE杰出论文奖（ICSME2020）。

陈振宇

南京大学软件学院教授、博导

    主要从事智能软件工程的研究。慕测科技创始人、IEEE国际软件测试大赛发起人，江苏省计算机学会产业工委执行主任，苏宁易购独立董事。中国计算机学会杰出讲者，国家一流本科课程《软件测试》负责人。曾主持国家重点研发计划课题和国家自然科学基金重点项目各1项。部分研究成果已经在中船重工、航天科工、中国电科、国家电网、百度、阿里、腾讯、华为等知名企业转化，研究成果获2012年度江苏省科学技术奖一等奖、2015年湖北省科技进步奖一等奖、2017年CCFNASAC-东软青年软件创新奖、2021年中国电子学会科技进步奖一等奖和2021年江苏省教学成果奖特等奖。

冯洋

南京大学计算机科学与技术助理研究员

    研究方向为软件质量保障，具体研究课题包括复杂智能软件系统的质量保障技术，基于程序设计语言的软件质量保障等。近年来在软件工程领域的ICSE、FSE、ASE、ISSTA、TSE、TOSEM等CCF-A类期刊与会议发表学术论文20余篇，并于2022年ASE大会获ACM 优秀论文奖。申请发明专利多项，部分专利成果已经在百度、阿里、华为等知名软件公司转化；担任多个期刊审稿人及国际会议程序委员会成员。

报告及讲者

Reports and reporters

潘青华

科大讯飞研究院副院长，AI工程院院长

    长期从事语音识别算法和深度学习框架及AI平台研发工作。先后获得2015北京市科技进步一等奖、2019年二十一届中国专利银奖，2021年二十二届中国专利金奖，先后主导科大讯飞语音识别引擎产品研发、语音转写技术孵化和讯飞听见实时转写产品落地、讯飞深度学习训练平台和私有化AI平台架构和研发工作，提出多项人工智能软件的创新架构和方案，在语音识别、深度学习等领域有经验丰富工程实践经验。

报告题目：

人工智能技术及应用发展趋势

报告摘要：

    近10年来，人工智能技术在深度学习算法基础上不断突破，既让人与机器的交互更高效更自然，也对社会生产生活的各行各业产生深刻影响，人工智能技术和应用还将持续快速发展，同时也面临很多挑战，其中包括算法的可解释性、鲁棒性、隐私保护等可信人工智能相关问题，本报告重点围绕科大讯飞在人工智能技术和应用中的实践、对可信人工智能的认识、对未来人工智能技术和应用趋势的判断，以及解决以上挑战的主要思路——构建 数据贯穿、人机协同、知识融入 的复杂智能系统方案。

杨子江

宾夕法尼亚大学(Univ. of Pennsylvania)博士，赖斯大学(Rice Univ.)硕士，中国科学技术大学学士。深信科创创始人，西安交通大学教授。

   曾任美国西密西根大学计算机科学系正教授。任元遨(Carsmos)智能出行开源组组长，IEEE国际自动驾驶技术委员会主席，2019年IEEE国际软件测试及验证大会主席、2018年国际可靠软件工程会议程序委员会主席、2019年中国计算机协会龙星计划信息安全领域讲师。多次担任美国科学基金、美国宇航局博士后基金、美国能源部初创科技企业基金、中国自然科学基金评委。获得ACM SIGSOFT杰出论文奖，ACM TODAES最佳期刊论文奖。发表论文百余篇及十项美国专利。

报告题目：

自动驾驶仿真测试

报告摘要：

   自动驾驶是人工智能技术的重要落地场景。作为最复杂的软件系统同时又是安全攸关系统，深度学习所面临的长尾问题阻碍自动驾驶的实际应用。根据兰德智库的论文，自动驾驶量产需要的经过110亿英里的测试，这显然是实车测试无法完成的。我们通过仿真测试来解决自动驾驶加速测试的科学问题。面对真实场景数据严重不足，我们开发了场景描述语言进行仿真交通环境建设。同时，我们成立了元遨(Carsmos)智能出行开源社区，通过数据及平台共享来推进自动驾驶科研的进步。

陈恺

中国科学院信息工程研究所研究员，中国科学院大学教授/博士生导师，信息安全国家重点实验室副主任，《信息安全学报》编辑部主任。

    主要研究领域包括系统安全、人工智能安全。在IEEE S&P、USENIX Security、ACM CCS、NDSS、ICSE、ASE等发表论文100余篇；曾主持国家自然科学基金（重点项目）等国家、部委课题40余项。担任S&P、USENIX Security、CCS等A类会议程序委员会成员。获得国家高层次人才计划领军人才、中国科学院青年科学家奖、CCF-IEEE CS青年科学家奖、北京市“杰出青年”基金、北京市智源青年科学家、CCF杰出演讲者、中国科学院青年创新促进会（优秀会员）等。

报告题目：

开放环境下的人工智能安全

报告摘要：

    报告将介绍开放环境下的人工智能安全问题，包括真实物理世界中的对抗样本、模型的精细化修复等问题。具体将介绍移动平台下的真实神经网络模型，目前学术界常用的模型和数据集多为MNIST、CIFAR-10等，在真实世界中的模型是否会有区别？报告中将详细介绍。针对这类问题，与传统修复方法不同，我们提出了“神经网络手术刀”，可定位出引发错误的神经元进行修复，将传统模型修复的“大手术”转变为“微创手术”。

王赞

天津大学教授、博士生导师

    长期致力于智能软件测试和程序分析的研究，主要研究方向为：并发程序测试、深度学习测试以及自动驾驶系统质量保证等。近五年在软件工程领域内的国内外高水平会议及期刊（包括ICSE、FSE、ASE、TSE、TOSEM及计算机学报、软件学报等）发表学术论文20余篇，其中FSE2020的文章“Deep Learning Library Testing via Effective Model Generation”获得ACM SIGSoft Distinguished Paper Award。近五年作为负责人承担国家自然科学基金面上项目和多项工业界委托项目，担任多个高水平期刊审稿人。

报告题目：

基于变异分析的深度学习测试用例排序方法

报告摘要：

    随着深度神经网络在各个领域的广泛应用，DNN的质量问题也得到了学界和业绩的广泛关注。深度神经网络测试是保证DNN质量的最常用方法之一。深度神经网络测试常常需要将大量带有标注的测试用例输入到DNN模型，并将DNN模型的预测结果与已标注的标签进行比较以检查DNN的准确性。然而标注测试用例往往通过引入大量人力成本，这为DNN测试带来了巨大的开销，对整体测试效率造成影响。为了缓解标注开销的问题，本报告介绍一种新的测试用例排序方法 PRIMA，通过智能变异分析寻找更能揭错的测试输入并在有限的时间内优先进行标注，以提升DNN 测试的效率。

马兴军

复旦大学青年研究员、博士生导师。墨尔本大学博士、墨尔本大学博士后、曾任职迪肯大学助理教授。国家级海外青年人才基金获得者，上海市领军人才获得者。

   主要研究领域为可信机器学习，重点关注机器学习算法与模型的安全性、鲁棒性、可解释性、隐私性、公平性和版权保护等。在国际会议，如NeurIPS、ICML、ICLR、S&P、CVPR、ICCV、AAAI等，发表学术论文30余篇，在个人数据保护方面的工作获得国际知名媒体MIT Technology Review的报道。曾获得SISAP'21最佳论文和SSDBM'21最佳论文第二名。现担任国际会议NeurIPS、ICML、ICLR、CVPR等程序委员会委员和国际期刊NC、TPAMI、TIP等审稿人。

报告题目：

DeepJudge: A Testing Framework for Copyright Protection of Deep Learning Models

报告摘要：

    深度学习模型的训练往往耗资巨大，需要大量的数据和计算资源。因此，如何有效的确保AI模型的版权不受侵犯变的极其重要。在这次讲座中，我将介绍几个我们在在这个方向上的一些探索，同时跟大家分享一下“什么样的版权保护方法更有前景”。我们的探索涵盖了图像和语音模型，通过使用一些列测试指标来验证一个“嫌疑模型”是否是“所有者模型”的简单复制，包括微调、剪枝、模型窃取、迁移学习（修改模型最后一层，然后微调）等。基于这些探索，我们深入的讨论和比较“侵入式”保护方法（如模型水印）和“非侵入式”保护方法（如模型指纹和相似度测试）的优缺点，并希望这些讨论可以帮助我们思考如何构建有效的深度学习模型版权保护方法。

宋富

上海科技大学常任副教授，研究员，博士生导师，系统与安全中心主任

    主要研究系统与软件安全验证和测试技术、及相关逻辑和自动机理论。宋富于2013年获巴黎狄德罗大学博士学位，曾在华东师范大学担任讲师和副研究员。主持和参与多项国家自然科学基金委青年、面上和重点项目，曾获上海市浦江人才和上海市晨光学者人才计划资助、2021年秋季亚马逊研究奖，已在国际著名会议或期刊（如CAV、ESEC/FSE、ICSE、ASE、ISSTA、TACAS、FM、TOSEM、TSE、TDSC、I&C）发表多篇论文。

报告题目：

量化神经网络鲁棒性形式验证

报告摘要：

    神经网络量化技术将模型的浮点数权重转化到固定少量位数的表示，有效减少神经网络模型内存开销且提升运行效率，因次量化神经网络广泛应用于资源受限设备。在安全攸关领域，量化神经网络的鲁棒性需要进行形式验证，但是之前针对实数或浮点数的神经网络的形式验证技术不适用于量化神经网络，急需针对量化神经网络的鲁棒性形式验证技术方法。本报告将介绍我们在量化神经网络的鲁棒性形式验证的研究进展，包括基于二元决策图（BDD）的二值量化神经网络定量形式验证和基于整数线性规划的多值量化神经网络定性形式验证。

冯洋

南京大学计算机科学与技术助理研究员

    研究方向为软件质量保障，具体研究课题包括复杂智能软件系统的质量保障技术，基于程序设计语言的软件质量保障等。近年来在软件工程领域的ICSE、FSE、ASE、ISSTA、TSE、TOSEM等CCF-A类期刊与会议发表学术论文20余篇，并于2022年ASE大会获ACM优秀论文奖。申请发明专利多项，部分专利成果已经在百度、阿里、华为等知名软件公司转化；担任多个期刊审稿人及国际会议程序委员会成员。

报告题目：

基于数据多样性分析的智能软件测试充分性度量

报告摘要：

    软件的测试充分性一直是评价与保障软件质量的关键性指标。然而，由于智能软件系统中的感知，决策等关键模块通常采用数据驱动的开发范式，其依赖于大量神经元及连接对海量数据信息进行学习，从而形成逻辑决策功能。该特性使得智能软件系统在各类功能上具有较好的性能，但却对其的测试充分性评估带来了较大的挑战。本报告主要介绍了一种面向智能软件的新型测试充分性评估指标。我们探索了一种与传统结构性神经元覆盖技术完全不同的方案。我们从数据多样性分析原理出发，将高维度的深度神经网络输出空间进行投影与划分，进而形成对智能软件输出域的可量化覆盖。该指标的运算无需对大量深度神经网络模型中的隐藏层进行插桩提取，从而具有较好的运算性能与可用性。我们在多个应用任务上对该指标进行了评估对比，发现该指标能够有效地评估智能软件测试集的多样性，并能够有效指导智能软件测试集的选择与用例生成等任务。

陈碧欢

复旦大学计算机科学技术学院副教授，博导

    目前的主要研究方向是软件供应链分析、可信AI系统工程。作为课题负责人和技术骨干参加科技创新2030-“新一代人工智能”重大项目、国家自然科学基金项目；承担多项企业合作项目。至今已在ICSE、FSE、ASE、ISSTA、S&P、SEC、CCS、TSE、TIFS等顶级国际会议和期刊上发表研究论文30余篇，并获得了3次ACMSIGSOFT杰出论文奖（FSE2016、ASE2018、ASE2022）、以及1次IEEE TCSE杰出论文奖（ICSME2020）。

报告题目：

深度学习系统的缺陷分析与检测初探

报告摘要：

    以深度学习系统为代表的智能软件系统正在成为支撑未来智能化社会运转的新型基础设施，其质量保障正变得尤为关键。然而，深度学习系统具有数据驱动的特性、复杂的软硬件技术栈、以及开放的运行环境，使其质量保障变得尤为困难。本报告将介绍我们团队在深度学习系统的缺陷分析与检测方面的研究进展，包括深度学习系统的性能缺陷分析与检测、深度学习系统的依赖缺陷分析与检测、深度学习框架的缺陷检测等。