PDF《“ 智能+”,更应重视安全挑战》

19

19 科技 科技

2019 年3月25 日 星期一 刚刚结束的全国两会上, 拓展 '

智能+'

首次被写入今年的 《政府工作报告》 , 作为未来 的重要基础性技术, 人工智能已连续三年出现 在 《政府工作报告》 中.

可以预见, 随着人工智 能、 大数据的深入应用, 生产生活的数字化转 型是大势所趋. 人们在拥抱人工智能、 迈向数字社会的同 时, 也需要正视人工智能等新技术应用在安 全、 伦理、 法律法规、 社会治理等方面的挑战. 只有未雨绸缪, 研判和防范潜在风险, 才能安 享 智能+ 的时代红利. 人工智能应用方兴未 艾,同时也带来安全风险隐患 前不久, 一项人工智能深度换脸技术引发 争议.原来, 这项技术能做到几乎毫无痕迹地 给视频中的人物 换脸 , 引发人们对隐私和肖 像权被侵犯的担忧.更深的担忧在于, 如果这 一技术被滥用, 是否意味着大量视频会被 移 花接木 ? 今年全国两会上, 人工智能、 大数据等技 术应用带来的安全风险, 成为代表委员关注 的焦点之一.全国政协委员、360 集团董事长兼首席执行官周鸿t就表示, 安全应该成 为人工智能发展的基础与前提.全国人大代 表、 苏宁控股集团董事长张近东也提出, 数据 安全是数字中国建设的重中之重, 发展高质 量的数字经济, 需要加强对数据的安全保护 和合规共享. 从信息安全角度看, 当前人工智能应用的 安全风险点主要有哪些? 中国信息通信研究院移动安全联盟秘书 长杨正军说, 人工智能高度依赖海量数据的采 集和训练分析.随着数据越来越多被收集, 应 用场景增加, 用户个人信息泄露的风险也随之 提升. 人工智能算法不仅能直接采集用户个人信息, 也会深度挖掘分析看似不相关的数 据. 杨正军介绍, 他们开展的一项调研显示, 当前滥用个人信息现象较为普遍.同时, 人工智能及大数据场景下无所不在的数据收集、 专业化多样化的数据处理技术, 使得信息 主体难以了解、控制其信息是如何被收集和利用的.信息安全保护已经成为人工智能 发展的重要课题. 专家表示, 技术本身是中性的, 只要利用 得当, 人工智能也能用来提升网络安全水平. 比如, 人工智能在识别恶意代码方面就很有 优势. 北京神州绿盟科技有限公司安全研究员 吴子建说, 恶意代码往往是基于一些开源代码 修改而成, 它们通常有相似的行为模式.借助 人工智能技术训练的检测工具, 能够比较高效 地发现恶意代码. 人工智能技术也普遍用于企业内网安全 防护.吴子建介绍, 传统的防护手段是在网络 的入口处设置防御措施, 但内网之间很少进行 防御.采用人工智能等技术手段关联数据, 可 以有效检测内网中的异常.与传统的方法相 比, 这种方法不仅能发现已知威胁, 还可以检 测到未知风险. 吴子建认为, 业内还需要做更多深入的研 究, 不断提升人工智能在安全防护上的价值. 应提前研判智能时代 的法律伦理风险,引导人机良性合作 人工智能的应用越来越多, 衍生出一系列 伦理、 法律难题.比如, 无人驾驶汽车发生交 通事故时如何界定责任, 医疗外科手术机器人 出现意外怎样处置…… 人工智能的研究和应用要有伦理和法律 界限, 即应以人类的根本利益和责任为原则, 以实现人类根本利益为终极目标.这一要求 也是人工智能和人的关系决定的. 中国人民 大学法学院副教授郭锐认为. 当前技术条件下,智能机器尚未具备伦理决策的能力, 但其决策会引发有伦理意 义的后果. 郭锐认为, 通常法律针对的是能 够遵循这些原则的主体, 也就是自然人或者 法律看作是主体的组织 (法人) , 但考虑到人 工智能的特征是对人的智能的模拟、 延伸和 扩展,因此伦理原则应当适用于人工智能系统. 北京师范大学哲学学院教授田海平认为, 人工智能的主体构成不是孤立的个体, 而是多 种关联形态的总和. 人工智能的构成主体分 为研发者 (包括算法的开发者) 、 生产商、 运营 商、 电信网络服务商等.一旦发生交通或医疗 事故, 由于无法找到某个确定的责任主体, 给 责任界定带来很大困难, 因此需要确立代理人 来界定责任与权利. 近年来, 学界和产业界日益重视人工智能 中的伦理与法律问题, 并推动制定相关技术标 准及社会规范.专家表示, 人工智能伦理法律 涉及科学界、 企业界, 哲学、 法学等多个领域, 有必要成立应对人工智能发展的联盟组织, 吸 纳各方面的力量, 共同推进相关研究. 郭锐建议, 要考虑到人工智能开发和部署 过程中的权责归属, 通过为技术开发者、 产品 生产者或者服务提供者、 使用者界定权利和义 务, 让自动驾驶、 无人机等人工智能应用安全 落地. 专家表示, 人工智能大规模进入人们生活 之前, 还应建立相对统一的风险评估指标体 系, 设立具体、 可操作的指标, 为相关研究及应 用提供指引. 专家特别提醒, 人和机器各有优势, 要互 相了解才能实现人机协作, 但人还是人机关系 的主导者.惟其如此, 才能将人工智能引向人 机合作的良性发展道路. 全球人工智能法律治 理面临共同难题,当前应加强个人隐私安全管理 针对人工智能应用在安全、 伦理等领域的 潜在威胁, 世界各国已经开始了相关法律治理 研究. 杨正军介绍,各国对人工智能风险的关注重点和重视程度有所不同.以安全为例, 美国关注人工智能对国家安全的影响,2018 年3月美国国会发起提案,建议成立国家人工智能安全委员会, 并将制定相关法案;