PDF《人工智能安全白皮书》

23 人工智能安全白皮书(2018 年) 中国信息通信研究院

3 原则 , 如何促使人工智能更加安全和道德一直是人类长期思考和不 断深化的命题.当前,随着人工智能技术快速发展和产业爆发,人工 智能安全越发受到关注.一方面,现阶段人工智能技术不成熟性导致 安全风险,包括算法不可解释性、数据强依赖性等技术局限性问题, 以及人为恶意应用,可能给网络空间与国家社会带来安全风险;

另一 方面, 人工智能技术可应用于网络安全与公共安全领域, 感知、 预测、 预警信息基础设施和社会经济运行的重大态势,主动决策反应,提升 网络防护能力与社会治理能力. 基于以上分析,项目组认为,人工智能安全内涵包含:一是降低 人工智能不成熟性以及恶意应用给网络空间和国家社会带来的安全 风险;

二是推动人工智能在网络安全和公共安全领域深度应用;

三是 构建人工智能安全管理体系,保障人工智能安全稳步发展.

(三) 人工智能安全体系架构 基于对人工智能安全内涵的理解,项目组提出覆盖安全风险、安 全应用、安全管理三个维度的人工智能安全体系架构.架构中三个维 度彼此独立又相互依存.其中,安全风险是人工智能技术与产业对网 络空间安全与国家社会安全造成的负面影响;

安全应用则是探讨人工 智能技术在网络信息安全领域和社会公共安全领域中的具体应用方 向;

安全管理从有效管控人工智能安全风险和积极促进人工智能技术 在安全领域应用的角度,构建人工智能安全管理体系. 人工智能安全白皮书(2018 年) 中国信息通信研究院

4 图1人工智能安全体系架构图

1、人工智能安全风险 人工智能作为战略性与变革性信息技术, 给网络空间安全增加了 新的不确定性,人工智能网络空间安全风险包括:网络安全风险、数 据安全风险、算法安全风险和信息安全风险. 网络安全风险涉及网络设施和学习框架的漏洞、后门安全问题, 以及人工智能技术恶意应用导致的系统网络安全风险. 数据安全风险包括人工智能系统中的训练数据偏差、 非授权篡改 以及人工智能引发的隐私数据泄露等安全风险. 算法安全风险对应技术层中算法设计、决策相关的安全问题,涉 及算法黑箱、算法模型缺陷等安全风险. 信息安全风险主要包括人工智能技术应用于信息传播以及人工 智能产品和应用输出的信息内容安全问题. 人工智能安全白皮书(2018 年) 中国信息通信研究院

5 考虑到人工智能与实体经济的深度融合发展, 其在网络空间的安 全风险将更加直接地传导到社会经济与国家政治领域.因此,从广义 上讲,人工智能安全风险也涉及社会安全风险和国家安全风险. 社会安全风险是指人工智能产业化应用带来的结构性失业、 对社 会伦理道德的冲击以及可能给个人人身安全带来损害. 国家安全风险是指人工智能在军事作战、 社会舆情等领域应用给 国家军事安全和政体安全带来的风险隐患.

2、人工智能安全应用 人工智能因其突出的数据分析、 知识提取、 自主学习、 智能决策、 自动控制等能力,可在网络防护、数据管理、信息审查、智能安防、 金融风控、 舆情监测等网络信息安全领域和社会公共安全领域有许多 创新性应用. 网络防护应用是指利用人工智能算法开展入侵检测、 恶意软件检 测、安全态势感知、威胁预警等技术和产品的研发. 数据管理应用是指利用人工智能技术实现对数据分级分类、 防泄 漏、泄露溯源等数据安全保护目标. 信息审查应用是指利用人工智能技术辅助人类对表现形式多样, 数量庞大的网络不良内容进行快速审查. 智能安防应用是指利用人工智能技术推动安防领域从被动防御 向主动判断、及时预警的智能化方向发展. 金融风控应用是指利用人工智能技术提升信用评估、 风险控制等 工作效率和准确度,并协助政府部门进行金融交易监管. 人工智能安全白皮书(2018 年) 中国信息通信研究院