PDF《人工智能安全白皮书》

1

一、 人工智能安全内涵与体系架构

(一) 人工智能基本概念与发展历程

1、人工智能基本概念 计算机之父阿兰・图灵在

1950 年的论文《计算机器与智能》中 提出了 机器智能 以及著名的 图灵测试 :如果有超过 30%的测 试者不能确定出被测试者是人还是机器, 那么这台机器就通过了测试, 并被认为具有人类智能.1956 年,在美国达特茅斯会议上,科学家 麦卡锡首次提出 人工智能 :人工智能就是要让机器的行为看起来 更像人所表现出的智能行为一样.在人工智能概念提出时,科学家主 要确定了智能的判别标准和研究目标,而没有回答智能的具体内涵. 之后,包括美国的温斯顿1 、尼尔逊2 和中国的钟义信3 等知名学者都对 人工智能内涵提出了各自见解, 反映人工智能的基本思想和基本内容: 研究如何应用计算机模拟人类智能行为的基本理论、方法和技术.但是,由于人工智能概念不断演进,目前未形成统一定义.结合业界专 家观点,项目组研究认为,人工智能是利用人为制造来实现智能机器 或者机器上的智能系统,模拟、延伸和扩展人类智能,感知环境,获 取知识并使用知识获得最佳结果的理论、方法和技术.

2、人工智能发展历程 人工智能发展经历多次低谷,本轮发展呈现加速态势.人工智能 自1956 年诞生至今已有六十多年的历史,在其发展过程中,形成了 符号主义、连接主义、行为主义等多个学派,取得了一些里程碑式研

1 人工智能是计算机科学的一个领域,它主要解决如何使计算机感知、推理和行为等问题.

2 人工智能是关于知识的学科DD怎样表示知识以及怎样获得知识并使用知识的科学.

3 人工智能是人类智慧的部分模拟. 人工智能安全白皮书(2018 年) 中国信息通信研究院

2 究成果.但是,受到各个阶段科学认知水平和信息处理能力限制,人 工智能发展经历了多轮潮起潮落, 曾多次陷入低谷. 进入新世纪以来, 随着云计算和大数据技术的发展, 为人工智能提供了超强算力和海量 数据,另外,以2006 年深度学习模型的提出为标志,人工智能核心 算法取得重大突破并不断优化,与此同时,移动互联网、物联网的发 展为人工智能技术落地提供了丰富应用场景.算力、算法、数据和应 用场景的共同作用,激发了新一轮人工智能发展浪潮,人工智能技术 与产业发展呈现加速态势. 当前人工智能仍处于弱人工智能阶段, 主要是面向特定领域的专 用智能.从整体发展阶段看,人工智能可划分为弱人工智能、强人工 智能和超人工智能三个阶段.弱人工智能擅长于在特定领域、有限规 则内模拟和延伸人的智能;

强人工智能具有意识、自我和创新思维, 能够进行思考、计划、解决问题、抽象思维、理解复杂理念、快速学 习和从经验中学习等人类级别智能的工作;

超人工智能是在所有领域 都大幅超越人类智能的机器智能.虽然人工智能经历了多轮发展,但 仍处于弱人工智能阶段,只是处理特定领域问题的专用智能.对于何 时能达到甚至是否能达到强人工智能,业界尚未形成共识.

(二) 人工智能安全内涵 由于人工智能可以模拟人类智能,实现对人脑的替代,因此,在 每一轮人工智能发展浪潮中,尤其是技术兴起时,人们都非常关注人 工智能的安全问题和伦理影响.从1942 年阿西莫夫提出 机器人三 大定律 到2017 年霍金、马斯克参与发布的 阿西洛马人工智能