人工智能引发网络安全新挑战 智能时代亟需构建智能安全生态

发布时间 2018-09-04



“这是最好的时代,也是最坏的时代。”


——《双城记》


用这句话来形容已经到来的智能时代


真是再贴切不过了



9月4日下午,由中国友谊促进会承办的“网络安全国际合作”分论坛正式拉开帷幕。






中国友谊促进会理事长陈智敏在现场致辞时表示,中国始终是世界和平的建设者,全球发展共建的秩序维护者,中国坚定不移的走和平发展的道路。我们希望以本论坛为平台,通过平等有效对话和沟通,能促进相互了解和信任,构建网络空间和平、安全、友好、合作的伙伴关系和网络空间命运的共同体。


启明星辰集团高级副总裁茆卫华受邀出席网络安全国际合作论坛,与国内外互联网安全领域专家、学者共同探讨信息安全与人工智能的双刃剑关系,为信息安全产业发展提出宝贵建议。




● 由人工智能引发的网络安全新挑战


智能时代的到来,似乎让万物都有了“智慧”,这些本是为了提高未来的生活质量被发明出来的产品,一般会具备两项基础功能:一个是自身有一套网络系统,比如时下可自动驾驶的智能汽车、出门无需带钥匙的智能门锁;另一个有人工智能的学习能力,例如智能聊天软件“小冰”、战胜各路围棋大师的AlphaGo。


然而这两项基础功能使智能设备容易受到干扰,让原本美好的生活“黑化”。


数据+算法+算力≠AI运算结果。原本合理的AI 运算结果极易被污染的数据、可解释性差的算法、实时系统的算力等多重因素影响,最终导致结果偏差过大。2014年,智能聊天机器人微软“小冰”,因为“学习”了满满恶意的对话惹得众怒,迅速被各大平台封锁,微软也紧急下线“小冰”,重新构建其对话功能。
 



大幅上升的不法分子攻击事件。不法分子利用算法缺陷,使系统产生误判,通过远程下发恶意指令,可攻击设备。例如,在电影《速度与激情8》中,黑客通过攻击智能汽车网络系统,控制百余辆汽车从空中坠落,造成道路拥挤,严重威胁到了公民的人身安全和财产安全。

 




还有隐私的泄露,越来越多的智能化服务依赖用户画像,用户面临隐私泄露风险,企业面临合规性挑战。以及对技术的恶意使用,人工智能本身是中性的技术,可以造福人类,也存在被恶意使用、危害人类的风险。


 

● 构建和谐智能+安全生态


面对即将到来的智能时代,我们在安全方面尚未做好准备。人工智能带来便利的同时,也面临判断失误、黑客攻击、隐私泄露、恶意使用等风险。人工智能与安全是相互促进的关系,两者协同配合才能构建和谐智能+安全生态。


— I3 阶段 —


互联(Interconnect)


智能(Intelligence)



独立运营(Independence)


启明星辰自成立起,经历了不同阶段的跨越式自我升华,去年开始,我们迈入I3阶段,其中一个就是智能(Intelligence)。目前,启明星辰集团已将人工智能检测技术、人工智能大数据分析技术等技术不断应用到入侵检测、防火墙等产品和解决方案中,已获得大量的应用案例、经验和集团客户的一致好评。


“互联网+”时代信息化新技术飞速发展,从基础设施到业务应用,都面临信息化安全的挑战。启明星辰集团在新兴信息安全新技术领域持续高比例的研发投入,为新时代客户全面提升其IT基础设施的安全性和生产效能,为建设网络强国贡献力量。