近日，437bwin必贏國際官網劉威威教授團隊三篇論文被機器學習頂級會議NeurIPS 2022錄用，437bwin必贏國際官網為該三篇論文唯一署名單位，劉威威教授為該三篇論文唯一通訊作者，2020級博士生馬新松，2020級博士生李喜園，2020級碩士生許景源為三篇論文第一作者。

神經信息處理系統大會（Neural Information Processing Systems，簡稱NeurIPS）是由NeurIPS基金會主辦的機器學習國際頂級會議。今年舉辦的NeurIPS2022共收到有效投稿論文10411篇，錄用率為25.6%。

論文介紹：

論文題目: On the Tradeoff Between Robustness and Fairness

作者：Xinsong Ma, Zekai Wang, Weiwei Liu

指導教師：劉威威

工作簡介：在平衡數據集上經過自然訓練的模型對于不同類的預測能力通常比較接近。但對抗訓練后的模型卻在一些類上表現較好，而在另外一些類上表現較差，即模型在不同類上的標準準確率和魯棒準確率具有明顯差異（Disparity）。本文深入研究了這一問題，并發現更強的對抗訓練能夠有效提高模型在不同類上的平均魯棒準確率，但在不同類上魯棒準確率的差異也會隨之明顯增大，即模型的魯棒性與公平性之間存在權衡（Tradeoff）。而導致這一現象的原因是對抗訓練具有一種潛在的偏好：對抗訓練更加專注于學習魯棒類的分布而忽視了易受攻擊的類。此外，本文也從理論上證明了對抗訓練相對于自然訓練更容易導致公平性問題。為了解決這一問題，本文提出了一種新的訓練方法FAT（Fairly Adversarial Training），并通過大量的實驗驗證了FAT的有效性。

論文題目:Defending Against Adversarial Attacks via Neural Dynamic System

作者: Xiyuan Li, Xin Zou, Weiwei Liu

指導教師：劉威威

工作簡介：DNN容易被攻擊的性質阻礙了其在安全關鍵領域的應用。為了解決這個問題，最近的一些研究提出從動力系統的角度來增強DNN的魯棒性。根據這一思路，我們受到非自治動力系統的漸近穩定性的啟發，將每個自然樣本都變成緩慢時變動力系統的漸近穩定平衡點，以防御對抗攻擊。我們根據動力系統平衡點理論提出: 如果一個自然樣本是一個漸近穩定的平衡點，而對抗樣本在這個平衡點附近，那么漸近穩定性可以降低對抗噪聲，使對抗樣本接近自然樣本。在這個理論結果的基礎上，我們發明了一種基于非自治神經常微分方程的算法(ASODE)，并對其相應的線性系統施加約束，使所有自然樣本成為動力系統的漸近穩定平衡點。通過分析，這些約束可以通過轉換為損失函數中的正則化項來實現。實驗結果表明，ASODE提高了DNN的魯棒性，并且優于現有的方法。

圖1.對抗樣本收斂到自然樣本的軌跡圖

論文題目：On Robust Multiclass Learnability

作者：Jingyuan Xu, Weiwei Liu

指導教師：劉威威

工作簡介：本文在PAC（Probably Approximately Correct）框架下證明了，經典理論中研究（非魯棒）多分類問題下函數類可學習性的重要工具——Natarajan維度或graph維度——無法刻畫函數類的魯棒可學習性。對此，我們定義了AN維度和AG維度（Adversarial Natarajan Dimension & Adversarial Graph Dimension），基于此導出了學習魯棒分類器所需樣本復雜度的一個上界與下界。此外作者研究了這兩個定義的諸多性質。本文為填補魯棒學習領域多分類理論的空白做出了重要貢獻。