人工智能与安全论坛9月5日在国家会议中心召开，中国人工智能学会人工智能与安全专业委员会（筹）作为合作机构联合举办，人工智能与安全论坛邀请加州伯克利大学教授Dawn Song及360技术总裁 首席安全官谭晓生致辞，360智能安全研究院院长李康主持论坛，论坛邀请到众多学术界产业界前沿专家共同探讨人工智能发展过程中面临的安全问题及解决之道。

加州伯克利大学教授 Dawn Song

清华大学网络研究院副教授张超首先介绍了基于DNN的二进制代码相似性检测，不同于现有基于控制流图等特征的方案，张超教授使用CNN来自动提取代码内部特征，结合函数间和模块间特征，该方案同时支持跨编译器、跨架构、跨代码版本的相似性检测，并取得了更好的效果。

清华大学网络研究院副教授 张超

清华大学教授朱军在现场介绍人工智能安全攻防平台，分别从黑盒模型抽象、对抗样本生成、防御等角度阐释该平台的能力，平台工具库功能齐全，并且形成业内首个安全评测报告。该平台的算法技术获得NIPS 2017国际比赛所有三个赛道的冠军以及CAAD CTF 2018邀请赛冠军，具有领先优势。

百度安全实验室AI安全负责人刘焱总结了AI本身攻击的两种方式，AI模型攻击和数据投毒。无独有偶，李康教授和爱荷华州立大学助理教授Neil Gong也同样分析了AI模型攻击和数据投毒，三位专家共同指出AI模型不仅是本地模型容易被人窃取，云端也不甚安全。李康教授指出AI防护新趋势，众多厂商开始注重产品安全防护，但即便是模型加密处理，但依然可以破解其漏洞。

爱荷华州立大学助理教授 Neil Gong

在人工智能与安全论坛，京东安全北美研究院院长苏志刚以京东检测黑产为例，解析安全与黑产的博弈，攻防对抗周期已经不断缩短，在一两天的时间左右，攻防技术就会频繁升级，不断提升黑产的作案成本和门槛是目前防护安全的重要途径。而顶象技术首席科学家施亮则认为在攻防战中安全产品性能的考量也是很重要，实际应用研发中一半以上甚至更多的时间会用来去平衡性能与防护之间的关系。

同样作为抵御黑产的专家，慧安金科创始人/CEO黄铃博士讲述了金融领域反欺诈，目前线上产品会面临大量黑产黑客的攻击，因为有较高的回报，黑产黑客具有相当大的激情去攻克金融系统。刘焱也提出目前已经破获到黑产案件中已经出现使用AI技术进行图形或者语音验证码的破解。

从左-右依次为施亮、黄铃、苏志刚、朱军、刘焱、李康

李康教授总结出人工智能领域理论与现实的区别，在人工智能领域，学术界更关注AI安全。站在工业界的角度，大家更关注模型和用户数据方面的保护。人工智能系统的实现细节将会产生新的攻击风险，他呼吁企业在把应用推给用户之前需要谨慎再谨慎。