OpenAI顶级专家找茬机器学习 GeekPwn引爆AI安全话题

10月24日,在GeekPwn2016嘉年华硅谷站的比赛现场,来自全球顶尖科技巨头OpenAI的专家Ian Goodfellow与谷歌Brain(谷歌大脑)的专家Alexey Kurakin合力在GeekPwn的舞台上演绎了一场黑客与人工智能间的精彩博弈。此次GeekPwn黑客嘉年华突破性地首次将人工智能Pwn引进比赛规则,并特设上海&硅谷两个分赛场,分别邀请到众多海内外网络安全领域的资深专家,展开了一场对人工智能安全性的深入探讨。

在GeekPwn硅谷站的现场,Ian Goodfellow和Alexey Kurakin仅在一张图片上加入了人眼无法察觉的干扰因素,就成功瞒过了“机器之眼”,令机器视觉做出错误的判断最终将图像判定无误。

Ian Goodfellow和Alexey Kurakin表示一些经过“特殊加工”的图像将变成“对抗性图像”令机器视觉作出误判,正是目前机器识别最重要安全隐患之一。就如两位专家现场演示的效果那样,机器视觉算法的阿喀琉斯之踵就在于它们的准确性能轻易地被一些微扰因素所干扰,而这些因素对于人类来说却非常容易排除。

毕业于斯坦福,专注于数据挖掘和人工智能研究者Clarence Chio在极棒上海站分享了他的研究成果,现在的大部分机器学习系统只关注到应用程序的准确率,却忽略了机器学习系统的安全性。他在此次GeekPwn嘉年华上海站的现场演示了如何使用一个DEEP-PWNING的框架成功欺骗一个图像识别系统。

更多精彩报道,尽在https://www.alpesrafting.com

Write a Comment

电子邮件地址不会被公开。 必填项已用*标注