報告1題目：Robust Perception Methods Towards Safety-enhanced Automated Vehicles

報告時間：2024年6月7日 10:00 – 11:00

報告地點：437bwin必贏國際官網大樓B404

報告人：余洪凱

報告人國籍：中國

報告人單位：克利夫蘭州立大學

報告人簡介：余洪凱，現任美國克利夫蘭州立大學電子工程與計算機系助理教授，博士生導師，克利夫蘭視覺與人工智能實驗室主任。2018年獲美國南卡羅來納大學計算機科學博士學位，從事計算機視覺，機器學習，智能交通，無人駕駛等交叉領域的研究。在IEEE Trans和CVPR、ICCV、AAAI、ICRA等領域知名期刊和會議發表60余篇學術論文。擔任IEEE Trans on Intelligent Vehicles和IEEE Open Journal of Intelligent Transportation Systems期刊副主編，ACM Multimedia 2022-2024會議領域主席，研究項目受到美國國家科學院，美國國家科學基金委、俄亥俄州交通部等資助。

報告摘要：在現代和未來交通運輸中，自動駕駛車輛顯示出極大的便利性和高效性。然而，近幾年在現實世界中發生的一些自動駕駛汽車事故引發了公眾對于其安全的擔憂。自動車輛的駕駛安全對于保護乘客、弱勢道路使用者和交通資產非常重要。本次報告將介紹幾種用于魯棒感知的人工智能方法，以提高自動車輛的安全性；將介紹兩種流行的自動車輛感知系統，即單智能體感知和多智能體感知。本次報告的重點是這兩種感知系統的一些具有挑戰性的場景，如弱光、惡劣天氣、車聯網中有損通信等。

邀請人：鄒勤

報告2題目：面向安全基礎模型的跨模態攻擊和基于視覺重采樣的防御機制

報告時間：2024年6月7日 11:00 – 12:00

報告地點：437bwin必贏國際官網大樓B404

報告人：郭青

報告人國籍：中國

報告人單位：新加坡科技研究局，新加坡國立大學

報告人簡介：郭青，新加坡科技研究局（A*STAR）前沿人工智能研究中心（CFAR）高級研究員，新加坡國立大學兼職助理教授，博士生導師，獨立PI。2019年加入新加坡南洋理工大學聘為博士后研究員，并于2020年獲聘為瓦倫堡-NTU校長博士后, 2018年獲得ICME最佳鉑金論文獎，2020年獲得 ACM（天津）優秀博士論文，2022年獲得AI Singapore 全球可信媒體戰賽第三名，2022年獲得ECCV AROW workshop 最佳論文獎，2023年獲得AISG Robust AI Grant Challenge 資助(300萬新幣)，2024年以lead PI獲得Digital Trust Centre Research Grant關于AI公平性的研究資助（137萬新幣）。主要從事計算機視覺及人工智能安全相關方向的研究，包括面向視頻目標跟蹤的對抗樣本攻擊與防御，基于視覺復原的智能模型魯棒性提升等，在ICML, NeurIPS, ICLR, CVPR, ICCV, ECCV, IJCV, TIP, TIFS等A類會議及期刊上發表論文50余篇。AAAI 2023/2024 Senior PC，VALSE 2023 執行AC， IEEE Conference on Artificial Intelligence (CAI) 2024 聯合主席。

報告摘要：近兩年，我們見證了在基礎模型(Foundation model，FMs)與新商業模式相結合的推動下，在實際應用中實施AI技術帶來的巨大變化。一般來說，FM指的是在大量數據上訓練的模型，這些模型可以針對各種下游任務進行微調，包括CLIP、SAM、ChatGPT、BLIP和擴散模型。普通人可以利用這些工具生成帶有定制提示的個性化內容，這不可避免地會引起重大的安全問題。為了確保基礎模型的安全性，我們關注兩個關鍵方向：探索針對FM的對抗性攻擊，以發現先進模型中的漏洞，并開發有效的防御機制以增強。在本報告中，我們將從可轉移性和效率等不同角度介紹我們最近在攻擊FM方面的研究成果，包括視覺語言模型和擴散模型。此外，將深入探討我們最近的工作，利用視覺重采樣原理來防御潛在的攻擊，從而在不改變模型權重的情況下提高FM的可靠性。

邀請人：鄒勤