【活动通知】SFFAI83×CRIPAC 对抗样本专题

SFFAI 合作机构 CRIPAC 简介

智能感知与计算研究中心（www.cripac.ia.ac.cn）为中科院自动化研究所独立建制的科研部门，致力于研究泛在智能感知理论与技术以及与之相伴的海量感知数据的智能分析与处理。瞄准国际学科前沿，面向国家公共安全、智能产业发展等重大战略需求，着眼于基础理论创新与关键技术突破以及系统解决方案的研制，努力打造成为国际一流的研究中心，是集人才培养、技术创新、产业孵化为一体的创新平台。中心目前主要在多模态智能计算、生物识别与安全、生物启发的智能计算、智能感知基础理论四个方面展开科学研究。

论坛主题

对抗样本专题

论坛简介

神经网络模型虽然在许多自然语言处理任务上取得了卓越的性能，但容易受到对抗样本的干扰。关于文本对抗样本的研究主要集中在语义任务上，例如情感分析，文本分类和阅读理解。本期论坛我们邀请到了来自复旦大学的曾捷航同学在ACL2020发表的工作证明了自然语言处理的句法任务也同样存在对抗样本问题。

论坛讲者

曾捷航

曾捷航，复旦大学计算机学院研究生，导师为郑骁庆教授，主要研究方向为文本对抗样本的攻防等。

报告题目：基于对抗样本的依存句法模型鲁棒性分析

报告摘要：我们提出了黑盒和白盒两种攻击方法来攻击现有的性能最好的句法分析模型。在英文数据集PTB上的实验表明，这种攻击的成功率高达77％；并且我们还表明，通过精心设计对抗样本并将对抗样本用于训练阶段，可以提高句法分析模型的鲁棒性，同时保证原始干净输入样本的性能几乎没有出现很大下降。 

Spotlight：

1. 本文探讨了在不更改原始句子句法结构的情况下，通过生成对抗样本使依存句法模型犯错误的可行性；

2. 本文提出了黑盒、白盒两种攻击方法用于攻击多种粒度 (字符级别、词级别等) 的依存句法模型；

3. 通过使用精心设计的对抗样本增强训练模型，可以提高依存句法模型的鲁棒性。

召集人

李奉治

李奉治，中国科学院计算技术研究所直博生，导师为徐志伟研究员。主要研究方向为机器学习中的因果推理。

论文推荐

“ 本期推荐的文章主要关注于对抗样本领域，你可以认真阅读讲者推荐的论文，来与讲者及同行线上交流哦。”

关注文章公众号

回复"SFFAI83"获取本主题精选论文

经典论文

01

推荐理由：2013年，首次提出神经网络的“对抗样本“：对输入做一些细小的、人难以察觉的扰动，神经网络模型容易犯错误。

—— 曾捷航

02

推荐理由：2014年，提出FGSM方法用于攻击神经网络模型，经典的“熊猫“、”长臂猿“对抗样本例子就出自于这篇论文。

—— 曾捷航

03

推荐理由：2016年，为循环神经网络设计对抗样本，对抗样本问题首次用于文本领域。

—— 曾捷航

04

推荐理由：一篇对抗训练文章，提出FreeLB方法对抗训练方法用于提高模型性能与鲁棒性。

—— 曾捷航

05

推荐理由：基于提出粒子群算法和词义原的攻击方法。

—— 曾捷航

06

推荐理由：2020年，通过BERT产生上下文相关的、语意连贯的对抗样本。

—— 曾捷航

参会须知

会议时间

2020年10月18日（周日）

20:00 -- 21:00

报名方式

公众号二维码

请同学们扫码关注本公众号，对话框回复“SFFAI83”

获取入群 / 推荐论文下载 / 分享PPT下载

注：直播链接分享在群内

SFFAI的介绍

现代科学技术高度社会化，在科学理论与技术方法上更加趋向综合与统一，为了满足人工智能不同领域研究者相互交流、彼此启发的需求，我们发起了人工智能前沿学生论坛SFFAI，邀请一线科研人员分享、讨论人工智能各个领域的前沿思想和最新成果，使专注于各个细分领域的研究者开拓视野、触类旁通。SFFAI目前主要关注机器学习、计算机视觉、自然语言处理等各个人工智能垂直领域及交叉领域的前沿进展，进行学术传播，同时为讲者塑造个人影响力。

SFFAI还在构建人工智能领域的知识森林—AI Knowledge Forest。通过汇总各位参与者贡献的领域知识，沉淀人工智能前沿精华，使AI Knowledge Tree枝繁叶茂，为人工智能社区做出贡献。SFFAI自2018年9月16日举办第一期，每周一期学术分享交流，截止目前已举办82期学术交流活动，共有100+位讲者分享了他们的真知灼见，来自100多家单位的同学参与了现场交流，通过线上推文、网络直播等形式，50000+人次参与了人工智能前沿学生论坛。SFFAI自发起以来，迅速成长壮大，已经成为人工智能学生交流的*，有志同道合的论坛核心志愿者团队、乐于学术分享的讲者伙伴，还有许多认可活动价值、多次报名参加现场交流的观众，大家通过参与人工智能前沿学生论坛，收获了宝贵的知识和友谊，SFFAI致力于帮助大家解决在学术中遇到的相关问题，拓展学术人脉，为大家营造专业、开放的学术交流环境！

历史文章推荐

• 李永露：PaStaNet：Toward Human Activity Knowledge Engine

• 杨传广：高效设计图像分类模型：混合连通性的门限卷积神经网络

• 朱时超：图平滑样条神经网络
  

• 曾仙芳：通过自监督解耦身份和姿态特征实现人脸再扮演任务

• 张杰：针对图像处理网络的模型水印

• 牛广林：规则引导的知识图谱组合式表示学习

• 王玫：自然环境下的多种族人脸：利用信息最大化自适应网络去减少种族偏差
  

• 傅朝友：Domain-Aware Diverse Face Manipulation

• 申磊：多轮对话中的上下文信息建模

• 方杰民：Recent Advances and Highlights of NAS

• 张志鹏：SiamDW Real-Time Visual Tracking

• 周龙：同步双向文本生成

• 王亦宁：Multilingual Neural Machine Translation

• 呼奋宇：深度层次化图卷积神经网络

分享、点赞、在看，给个三连击呗！