智能机器人自信地“走上”舞台担纲主持；无人车在测试道路上完成一系列动作，司机却稳坐千里之外；智能健康“魔镜”能实时显示测试者“睡眠”“情绪”“皮肤”等一系列健康指标系数……曾经在科幻电影中才能看到的炫酷片段已经在生活中得以实现，种种“黑科技”被广泛应用，人工智能的发展深刻地影响着社会生活。

　　但同时，随着人工智能技术应用越来越广泛，人工智能“脆弱面”也逐渐暴露，机器人“自我意识”、技术滥用等安全漏洞引起业界更多关注。专家表示，要加强对潜在风险的研判和防范，确保人工智能各项技术安全、可靠、可控。

　　催生新攻击方式

　　当今，世界各国纷纷布局人工智能，国际竞争日趋激烈。然而，人工智能的快速发展也使得网络安全的风险点和攻击方式出现新变化，进而引发更深层次的网络安全风险。

　　2018年4月，欧盟委员会计划2018年至2020年在人工智能领域投资240亿美元。2018年5月，法国发布《法国人工智能战略》，目的是使法国成为人工智能强国。2018年6月，日本《未来投资战略》重点推动物联网建设和人工智能的应用。

　　对于人工智能，我国同样高度重视。2017年，政府先后发布了《新一代人工智能发展规划》和《促进新一代人工智能产业发展三年行动计划（2018—2020年）》。

　　北京邮电大学教授李小勇表示，我国是受到网络攻击最严重的国家之一，也是遭受物联网攻击最严重的国家之一，网络攻击手段和攻击形式越来越多。从行业来看，经济、教育、政府等部门成为攻击的主要目标。

　　360公司董事长兼CEO周鸿祎说，网络攻击每天都在发生。目前网络黑客的攻击目标非常明确，就是能源、交通等基础设施，因为这样产生的影响是最大的。未来在万物互联的情况下，每个集装箱、每辆卡车，甚至城市里的每个井盖都实现互联，虚拟层面的攻击可能引发物理空间的损害。

　　事实上，劫持智能设备已经成为网络攻击的重要手段。网络安全专家表示，许多无人值守系统运用人工智能技术，一旦遭网络劫持，将带来严重的安全问题。例如，智能汽车可与车厂服务器连接，通过手机远程控制，车主需要定期更新软件保证汽车的驾驶模式，如此一来就可能被网络劫持。

　　天津大学法学院院长孙佑海称，网络攻击者可通过漏洞控制人工智能算法，实现物理硬件操纵、实施舆论引导、制造虚假图像或影响、制造信息噪音等，造成安全隐患。

　　此外，图像、声音合成滋生新的风险。国家互联网应急中心的相关专家称，随着技术的发展，现在的合成图像、语音越来越逼真。如果把该技术用于网络诈骗，虚构人脸和语音，是非常可怕的事情。

　　暴露安全软肋

　　由于人工智能技术依托的算法、大数据等可以很低的成本进行复制和扩散，其传播渠道广，监管难度大，封控几率低。

　　目前，人工智能技术正由“弱人工智能”向“强人工智能”阶段跃进，能够依据其所掌握的算法、数据，在短时间内快速突破人类传承多年的经验积累。

　　2016年，由谷歌旗下“深度思维”（DeepMind）公司开发的AlphaGo横空出世，经深度学习后横扫人类围棋界翘楚。一年后，零基础起步的新程序AlphaGo　Zero，通过自我训练，在三天内与自身对弈490万局后，以100：0的成绩击败“前辈”AlphaGo。

　　2017年，美国社交媒体平台脸书公司实验室中的两个人工智能机器人使用机器学习相互对话，并不断进行对话策略迭代升级，逐渐发展出了一种机器之间能理解但人类无法理解的语言。

　　“事实表明，人工智能通过算法和大数据进行深度学习，不排除演化出‘自我意识’的可能，辅助甚至代替人类做出分析和决策，这易于发生反噬风险。”孙佑海说。

　　当前，人工智能研究高度开放附带源代码的海量论文可免费下载，即便编写一种折型算法的时间成本也只需几天，人工智能技术的滥用风险激增。此外，人工智能既有多学科综合、高度复杂等特性，带有天然的技术壁垒，给监管部门的监督管理和风险防范提出了不小的挑战。

　　除技术发展外，人工智能带来的社会影响不容小觑。通过特定算法全方位了解用户偏好和需求，为消费者“量身定制”的“精准推送”正成为商家引导消费的新途径。