智能机器人自信地“走上”舞台担纲主持；无人车在测试道路上完成一系列动作，司机却稳坐千里之外；智能健康“魔镜”能实时显示测试者“睡眠”“情绪”“皮肤”等一系列健康指标系数……曾经在科幻电影中才能看到的炫酷片段已经在生活中得以实现，种种“黑科技”被广泛应用，人工智能的发展深刻地影响着社会生活。

但同时，随着人工智能技术应用越来越广泛，人工智能“脆弱面”也逐渐暴露，机器人“自我意识”、技术滥用等安全漏洞引起业界更多关注。专家表示，要加强对潜在风险的研判和防范，确保人工智能各项技术安全、可靠、可控。

催生新攻击方式

当今，世界各国纷纷布局人工智能，国际竞争日趋激烈。然而，人工智能的快速发展也使得网络安全的风险点和攻击方式出现新变化，进而引发更深层次的网络安全风险。

2018年4月，欧盟委员会计划2018年至2020年在人工智能领域投资240亿美元。2018年5月，法国发布《法国人工智能战略》，目的是使法国成为人工智能强国。2018年6月，日本《未来投资战略》重点推动物联网建设和人工智能的应用。

对于人工智能，我国同样高度重视。2017年，政府先后发布了《新一代人工智能发展规划》和《促进新一代人工智能产业发展三年行动计划（2018—2020年）》。

北京邮电大学教授李小勇表示，我国是受到网络攻击最严重的国家之一，也是遭受物联网攻击最严重的国家之一，网络攻击手段和攻击形式越来越多。从行业来看，经济、教育、政府等部门成为攻击的主要目标。

360公司董事长兼CEO周鸿祎说，网络攻击每天都在发生。目前网络黑客的攻击目标非常明确，就是能源、交通等基础设施，因为这样产生的影响是最大的。未来在万物互联的情况下，每个集装箱、每辆卡车，甚至城市里的每个井盖都实现互联，虚拟层面的攻击可能引发物理空间的损害。

事实上，劫持智能设备已经成为网络攻击的重要手段。网络安全专家表示，许多无人值守系统运用人工智能技术，一旦遭网络劫持，将带来严重的安全问题。例如，智能汽车可与车厂服务器连接，通过手机远程控制，车主需要定期更新软件保证汽车的驾驶模式，如此一来就可能被网络劫持。

天津大学法学院院长孙佑海称，网络攻击者可通过漏洞控制人工智能算法，实现物理硬件操纵、实施舆论引导、制造虚假图像或影响、制造信息噪音等，造成安全隐患。

此外，图像、声音合成滋生新的风险。国家互联网应急中心的相关专家称，随着技术的发展，现在的合成图像、语音越来越逼真。如果把该技术用于网络诈骗，虚构人脸和语音，是非常可怕的事情。

暴露安全软肋

由于人工智能技术依托的算法、大数据等可以很低的成本进行复制和扩散，其传播渠道广，监管难度大，封控几率低。

目前，人工智能技术正由“弱人工智能”向“强人工智能”阶段跃进，能够依据其所掌握的算法、数据，在短时间内快速突破人类传承多年的经验积累。

2016年，由谷歌旗下“深度思维”（DeepMind）公司开发的AlphaGo横空出世，经深度学习后横扫人类围棋界翘楚。一年后，零基础起步的新程序AlphaGo Zero，通过自我训练，在三天内与自身对弈490万局后，以100：0的成绩击败“前辈”AlphaGo。

2017年，美国社交媒体平台脸书公司实验室中的两个人工智能机器人使用机器学习相互对话，并不断进行对话策略迭代升级，逐渐发展出了一种机器之间能理解但人类无法理解的语言。

“事实表明，人工智能通过算法和大数据进行深度学习，不排除演化出‘自我意识’的可能，辅助甚至代替人类做出分析和决策，这易于发生反噬风险。”孙佑海说。

当前，人工智能研究高度开放附带源代码的海量论文可免费下载，即便编写一种折型算法的时间成本也只需几天，人工智能技术的滥用风险激增。此外，人工智能既有多学科综合、高度复杂等特性，带有天然的技术壁垒，给监管部门的监督管理和风险防范提出了不小的挑战。

除技术发展外，人工智能带来的社会影响不容小觑。通过特定算法全方位了解用户偏好和需求，为消费者“量身定制”的“精准推送”正成为商家引导消费的新途径。

近年来，北京、上海、重庆、济南等地的商圈开始试水“智慧商圈”模式，可以根据顾客的特征更精准地推送优惠券商品信息，让用户更有消费动力。比如，给年轻的未婚白领女性推送化妆品和奢侈品的品牌商券；给妈妈们推荐婴儿用品店；给男性推送运动品牌门店活动，等等。

“智慧商圈”带来生活便捷却容易引发“信息骚扰”问题。消费者的一个简单操作就有可能暴露想要购买某件商品的想法，后续会不断收到同类商品的广告宣传，产生困扰。长此以往，商场导购等从事决策分析、艺术创作等工作也有被机器人取代的可能，人工智能技术的日臻成熟将打碎传统职业群体的“饭碗”，进而引发新产业革命和经济结构调整，形成“去劳动力”倾向，最终产生失业风险。

不仅如此，人工智能产生的道德伦理隐忧不断。有专家表示，人工智能设计者的价值导向和行为偏好易于被有意或无意地反映到算法、数据当中，并通过机器学习被人工智能所承继，进而演进为算法歧视。而在具体适用过程中，容易受到对抗样本的干扰或污染，被应用者二次形塑，做出背离设计初衷的错误决策。

2016年3月，美国微软公司发布了名为Tay的最新版本人工智能机器人。然而，上线不到24小时，Tay就“学坏”了：出言不逊、脏话不断，言语甚至涉及种族主义、色情、纳粹，充满歧视、仇恨和偏见。微软只得不停删除Tay的不当言论，进行下线调整。

用好“双刃剑”

专家表示，在人工智能飞速发展的时代，安全问题日益凸显，需要我们加强对潜在风险的研判和防范，切实维护好人民利益和国家安全，确保人工智能安全可靠、可控。

南开大学周恩来政府管理学院教授吴晓林认为，数字化、网络化、智能化已经是时代的主题，智能让生活变得更美好，但安全问题无处不在、无时不在。互联网下半场是工业互联网，以后国家的基础设施安全、工业互联网安全非常关键，还是要把人工智能的双刃剑用好，趋利避害，让科技的智能与人类的智慧并存、和谐。

在网络安全防护上，应加强技术研究，建立有效安全防护，抵御网络攻击。专家建议，可以建立主动免疫的计算架构，对计算进行安全防护，使计算全程可测可控，不被干扰。利用人工智能应对网络攻击，“免疫系统”中不管哪个系统受到攻击，都有统一的人工智能系统发出指令，采取相应措施。

在法治建设保障上，中国法学会副会长兼秘书长张鸣起建议高度重视立法工作，适时安排宏观立法，人工智能的发展离不开一部反映时代需求的《人工智能法》以及配套法规组成的法律法规体系。

孙佑海建议，全国人大宜进行立法上的一些准备，建议有关部门优先对无人机的管理、自动驾驶、图像识别相对成熟的技术应用制定法律规章，以刚性的法规条款引领秩序。

同时，要进一步健全精准务实的政策支撑体系，构建政策集群。孙佑海说，要进一步升级全流程的安全防控体系，并制定行业安全标准，做好应急防范的预案，加大重点领域的防控，加大对代码数据、算法等重点领域的综合管控力度，保障技术安全、产品安全、数据安全和应用安全。

针对新一代人工智能可能引发的结构性失业等风险，吴晓林建议，由劳动部门牵头加强与人工智能产业需求配套的在职培训和再就业培训体系，打好劳动力转型的主动仗。

（来源：经济参考报）