18国签署，全球首份《安全AI系统开发指南》发布

 

内容概述：

2023年11月27日，美国、英国和其他十几个国家公布了首份关于如何保护AI免受流氓行为侵害的详细国际协议《安全AI系统开发指南》，敦促企业打造“设计安全”的AI系统。协议由英国国家网络安全中心（NCSC）主导，并与美国网络安全和基础设施安全局(CISA)共同制定，从而建立了AI领域的全球合作。作为世界各国政府为推动AI发展而采取的一系列举措中的最新一项，《安全AI系统开发指南》旨在提高AI的网络安全水平，并帮助确保AI的设计、开发和安全部署。协议分为四个关键领域——安全设计、安全开发、安全部署以及安全操作和维护。其不具备约束力，主要包含一般性建议，例如监控AI系统是否被滥用、保护数据免遭篡改以及审查软件供应商等。

研判认为：

AI在国内的发展状况总体上是积极和乐观的。国内有很多优秀的企业和团队在不断探索和创新AI技术和应用，有很多政策和资源在不断支持和推动AI产业和教育的发展。但是，国内AI发展也面临着一些挑战和问题，如技术水平与国际先进水平还有一定差距，如数据安全和隐私保护还有待完善。所以该项指南对我国安全AI的稳定发展提供了宝贵的方向。我方可以合理借鉴该项指南，根据我国国情和相关组织具体情况护航安全AI系统的稳定发展。