人工智能是引领新一轮科技革命和产业变革的重要驱动力。2023年中央经济工作会议提出，要大力推进新型工业化，发展数字经济，加快推动人工智能发展。“十四五”规划和2035年远景目标纲要强调，加强网络安全关键技术研发，加快人工智能安全技术创新，提升网络安全产业综合竞争力。本期特邀专家围绕相关问题进行研讨。

　　夯实人工智能发展的安全基础

　　加快推动人工智能发展，需如何应对潜在风险、把握战略主动？

　　单志广（国家信息中心信息化和产业发展部主任、国家大数据发展专家咨询委员会秘书长）：党的二十大报告提出，推进国家安全体系和能力现代化，坚决维护国家安全和社会稳定。人工智能是引领新一轮科技革命和产业变革的战略性技术，同时也具有明显的“双刃剑”特征。一方面，人工智能赋能网络攻防、开源情报等国家安全相关领域，是筑牢国家安全屏障的有力抓手；另一方面，人工智能因其脆弱性、不稳定性、不可解释性等特点，在与经济社会深度融合应用的过程中，极易引发国家、社会、企业和个人等层面的安全风险。在席卷全球的人工智能浪潮中，如何应对人工智能风险、把握发展战略主动、有效维护和保障国家安全，是国家治理的重要议题。

　　近年来，抖客网，国家高度重视人工智能安全发展，逐步完善相关政策法规。国务院印发《新一代人工智能发展规划》提出面向2030年我国新一代人工智能发展的指导思想、战略目标、重点任务和保障措施，部署构筑人工智能发展的先发优势，加快建设创新型国家和世界科技强国。面向算法治理，出台《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务算法推荐管理规定》等。面向人工智能合成技术的快速突破，出台《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等。在全球数字经济激烈竞争格局下，科学把握风险防范的尺度至关重要。2023年7月24日中共中央政治局会议强调“促进人工智能安全发展”，体现了坚持统筹发展和安全、坚持发展和安全并重的理念，释放了以人工智能技术激发数实融合新动能、打造高质量发展新引擎的积极信号。

　　推动人工智能产业快速发展，要把保障数据安全放在突出位置。

　　第一，数据是数字经济时代的关键生产要素，保障数据安全是促进人工智能安全发展的重要基础。我国2022年数字经济规模逾50万亿元，总量稳居世界第二，占GDP比重41.5%，数据量呈爆发式增长态势。随着数据要素规模不断扩大，以人工智能为代表的数字技术将实现知识与数据双轮驱动，数据价值得到进一步释放，生产资源配置、生产运营逻辑以及生产、分配、流通和消费关系等得以重塑，生产方式和生产关系发生变革，赋能传统产业转型升级，助力数字经济快速发展。同时，也伴随着数据泄露、虚假信息、算法歧视等数据安全新问题。只有筑牢数字安全屏障，才能为人工智能发展保驾护航。

　　第二，人工智能产业快速发展过程中显现出数据安全领域的风险挑战。当前，人工智能进入快速发展期，应高度关注并有效应对随之而来的问题。例如，神经网络具有“黑盒”特点，导致人工智能存在不可解释性；深度学习对训练样本过度依赖，导致学习结果的不可判定性；神经网络前向推进的不可逆，导致结果的不可推论性。此外，漏洞、后门等引发的问题交织叠加，使得人工智能应用系统的数据安全问题变得更加复杂。针对IT行业领导者进行的一项关于ChatGPT等大模型的侦查显示，安全性是受访者最关心的问题，71%的受访者认为生成式人工智能会给企业的数据安全带来新的风险。为了防止敏感数据外流，微软、亚马逊等科技公司已相继限制或禁止其员工使用生成式人工智能工具。可见，全面加强人工智能数据安全保障体系和能力建设已成为应对新形势新挑战的必然之举。

　　人工智能时代的数字安全威胁到底有多大？一方面，人工智能系统自身面临多维度安全风险。技术内生风险和系统衍生风险交织叠加，使得人工智能时代的安全问题异常复杂。数据安全风险方面，人工智能依托海量数据发展，有敏感信息泄露风险，且人工智能平台收集的原始数据与衍生数据的归属权、控制权和使用权目前在法律上尚难界定；算法模型安全方面，安全风险贯穿数据采集、预处理、模型训练、模型微调、模型部署应用等人工智能模型构建的全生命周期；外部攻击安全方面，数据投毒、模型后门、对抗样本、数据泄露、模型窃取、软件漏洞等安全隐患屡见不鲜。

　　另一方面，人工智能技术滥用带来数字安全威胁。当前，生成式人工智能的发展标志着人工智能正在从专用智能迈向通用智能，进入了全新发展阶段。大部分传统人工智能模型的安全风险仍然存在，同时生成式人工智能也有一些特有的问题：技术软肋难以避免，易培育假信息“温床”；使用方式简单便捷，易形成失泄密“陷阱”；新兴技术尚难监管，易成为信息战“武器”。

　　因此，亟需加强人工智能发展的潜在风险研判和防范，确保人工智能安全、可靠、可控。

　　完善数据安全监管体系

　　我国在创新人工智能技术手段及完善数据安全监管方面取得哪些成效？

　　陈凤仙（中国电信研究院高级分析师）：党中央高度重视人工智能安全发展问题，围绕产业发展、科技伦理、算法治理及行业应用安全等方面，加快人工智能安全技术创新，逐步形成一套较为完善的发展政策和法规体系，确保维护国家安全和社会公共利益。据统计，我国人工智能核心产业规模达5000亿元，算力总规模位居全球第二。

　　在规范人工智能科技伦理方面，陆续发布《新一代人工智能治理原则——发展负责任的人工智能》《新一代人工智能伦理规范》等，积极引导全社会负责任地开展人工智能研发和应用。2023年5月，工信部科技伦理委员会、工信领域科技伦理专家委员会正式成立，进一步加强科技伦理审查和监管。

　　在强化人工智能算法治理方面，我国在规制生成式人工智能领域率先推出多项有力举措。国家互联网信息办公室等部门2022年11月联合发布《互联网信息服务深度合成管理规定》，明确生成式人工智能应用服务提供者、技术支持者和服务使用者等各方法定义务；2023年7月联合发布《生成式人工智能服务管理暂行办法》，鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。

　　在人工智能全球治理合作方面，我国积极参与、多方实践，取得重要进展。2022年11月，我国向联合国《特定常规武器公约》缔约国大会提交《中国关于加强人工智能伦理治理的立场文件》，提出人工智能治理要坚持伦理先行、加强自我约束、强化责任担当、鼓励国际合作等多项主张，表明了推动各方共商共建共享、加强全球治理、积极构建人类命运共同体的中国立场。2023年4月，我国向联合国提交《中国关于全球数字治理有关问题的立场》，明确表示各国应在普遍参与的基础上，通过对话与合作，推动形成具有广泛共识的人工智能国际治理框架和标准规范。

　　与此同时，我国将数据安全放在保障人工智能安全发展的突出位置，大力推动数据资源建设，强化安全防护技术手段迭代升级，完善数据安全监管体系，取得明显成效。