報告題目：對抗魯棒性的最新研究進展及其機遇

報告時間：2021年7月13日（周二）下午15:30

報告地點：騰訊會議（會議號：548 293 829）

報告人：張景鋒

報告人單位：日本物理化學研究所(RIKEN-AIP)

報告人簡介：

張景鋒博士目前是日本物理化學研究所(RIKEN-AIP)‘Imperfect Information Learning Team’的博士后研究員。2020年獲新加坡國立大學計算機科學博士學位。研究主攻方向為機器學習的魯棒性，他的長期研究目標是使人工智能對人類安全可靠。主頁: https://zjfheart.github.io

報告摘要：

對抗樣本是通過向自然數據中添加難以察覺的噪聲來輕易地欺騙經過標準訓練的深度學習模型，從而在醫學、金融和自動駕駛等安全性相關的應用中導致嚴重的安全隱患。到目前為止，對抗訓練（adversarial training, AT）是針對對抗樣本獲得對抗魯棒性的最有效的方法。本次報告主要分以下兩部分展開：

首先，人們普遍認為對抗魯棒性和模型準確性是互斥的。我們通過提出以下兩種對抗訓練方法來挑戰這一認知：（a）我們提出了一種友好的對抗訓練（friendly adversarial training, FAT）方法，它可以在保證魯棒性的同時提高準確性;（b）我們提出了幾何感知實例重加權對抗訓練（geometry-aware instance-reweighted adversarial training, GAIRAT），該訓練可以提高魯棒性，同時保持準確性。

其次，除了對抗性訓練方法之外，我還將討論兩個相關主題：對抗性魯棒性的網絡結構和其他領域（例如標簽噪聲）和對抗性機器學習的結合。例如，我們發現對抗訓練具有很強的平滑效果，與標準訓練相比受噪聲干擾較小。這表明對抗訓練本身就是一個噪音標簽校正器。

邀請人：劉威威 教授