400-893-5552

人工智能与网络安全

 
2017-05-15 15:51:08所属分类:行业动态

GeekPwn大赛的创办人王琦,在大会上提出了这么一个想法:黑客对决AI。并宣布:将以500万的奖金池,启动10月24日在上海和硅谷的人工智能安全挑战赛的招募,接受全球顶尖AI安全极客的报名。

\

人工智能在我们日常生活中的应用,正在一点一点加深它角色的比重,尤其是现在已经比较成熟的语音识别,图像识别等技术,但是硬币的另一面,也就是它存在了很多的安全隐患。

王琦讲到人工智能领域的一个概念——深度学习,他认为人工智能的判断,无非就是通过大量样本通过深度学习来得出结论。

那么,人工智能通过“脏(攻击)样本”,经过深度学习得出的,那就是“错误的行为”。这与黑客挖漏洞的过程又是及其的相似——生成大量的样本,交给软件,改变数据流程,最后导致一个错误的决策。那么黑客通过离线模拟产生的AI攻击样本,则可能给人工智能带来错误的决策和行为。

就像是微软的聊天机器人——Tay上线不到一天的时间内,其语言中就脏话不断、并充满了种族主义。因为它通过网络的学习,认为这是一种正常的人跟人之间交流沟通的方式。

王琦讲,“到了人工智能时代,AI时代,人人都可能成为黑客”。正如Tay被污染的过程中,扮演污染源的人类不需要会写代码。

还有像波士顿动力在训练机器狗时,用脚踹的方式,让它学习维持平衡的能力,但如果这个机器人觉得踹一脚或是给别人一拳是正常的呢?

所以王琦认为,“如果时代的发展,从伪智能到弱智能到强智能。真的走到那一天,我们有义务让AI为我们安全的服务”。

Copyright © 2013-2018 合肥彼岸互联信息技术有限公司 All Rights Reserved地址:合肥市高新区亚夏汽车大厦17楼
工信部备案号: 皖B2-20150071-4    增值电信业务经营许可证:皖B2-20150071-4 安全联盟认证 安全联盟认证 安全联盟实名认证

copyright@2015 合肥彼岸互联信息技术有限公司

电话:400-893-5552 0551-65371998 QQ:800022936

地址:合肥市高新区亚夏汽车大厦17楼