※ 本文是否可提供臺大同學轉作其他非營利用途？（須保留原作者 ID）
（是／否／其他條件）：是
哪一學年度修課：
108-2
ψ 授課教師 (若為多人合授請寫開課教師，以方便收錄)
陳尚澤
λ 開課系所與授課對象 (是否為必修或通識課 / 內容是否與某些背景相關)
資工所 選修
δ 課程大概內容
主要講解機器學習模型本身的缺陷，導致於模型可以被欺騙，或者可以洩漏隱私
資料。
這門課不是探討機器學習套件的安全漏洞，也不是把機器學習運用在資安檢測或
攻擊上，雖然我有看到期末專題有人做針對AI防毒軟體的攻擊
這裡直接貼課程網頁的內容：
- Evasion attacks (i.e., adversarial examples)
- Empirical defenses to evasion attacks
- Theoretical analysis of adversarial examples
- Certified Defenses
- Poisoning attacks
- Robust statistics
- Confidentiality of ML models
- Differential privacy
- Fairness
- Final project presentation
資料來源：https://www.csie.ntu.edu.tw/~stchen/teaching/spml20spring/
Ω 私心推薦指數(以五分計) ★★★★★
想要學習資安 ★★ (請左轉計算機安全)
想要學習機器學習的原理 ★★★ (請左轉機器學習技法)
想要從反面例學習機器學習 ★★★★★
涼度 ★
η 上課用書(影印講義或是指定教科書)
沒有教科書，因為這是新的領域
老師會把他做的投影片放在NTU COOL
參考資料主要是arXiv的論文
μ 上課方式(投影片、團體討論、老師教學風格)
老師使用投影片講解，一開始老師會講3個小時，中間有下課，在學期中以後老師
只講2個小時，剩下1個小時會請同學上台報論文
同學的上台報告會螢幕錄影，讓同學可以線上看
σ 評分方式(給分甜嗎？是紮實分？)
作業 30% (2個)
論文閱讀心得 10% (10篇)
報論文 20%
期末專題 40% 有提案、口頭報告還有書面報告
我也很好奇分數有多甜呢，因為不知道其他人的分數，但是我得到A+
ρ 考題型式、作業方式
作業只有兩個，有程式題，也有手寫題。所有的作業都要用英文寫，只有口頭
報告可以說中文。
第1次的作業是攻擊CIFAR-10的影像辨識模型。教授提供CIFAR-10的100張圖片，
我們要對這些圖片加上雜訊，使得教授訓練的模型出錯。作業需要交出加雜訊的
圖片、實驗報告還有程式碼。
報告必須用LaTeX寫，最多4頁，要以研討會論文的格式撰寫，可以寫用了什麼
攻擊方法、訓練哪些模型、攻擊自己模型的成效如何。
評分會以教授模型的精準度，還有實驗報告來評分。
程式可以使用任何語言，任何開源的套件 (PyTorch、TensorFlow等)，甚至可以
用專門用來攻擊神經網路的套件。
第2次的作業是手寫作業，可以用Word或LaTeX寫。題目有用數學推論簡單模型的
攻擊結果，還有證明differential privacy的性質。
報論文採用分組報告的形式，教授會根據修課人數，決定小組的人數，總共有10
組，每個禮拜請一組報告。報告有大約50分鐘，含QA時間。
報的論文是由老師指派的，有3到4篇，可以在口頭報告時比較各論文的優劣。
報告完以後，報告的小組要交出報告用的投影片，還有螢幕錄影。
要小心即使報論文時100%的解釋論文的研究結果，老師還是會批評你們，因為
老師期待同學們可以提出論文的弱點以及改進方法。
論文評論(reading critique)每週要寫一篇，是由老師每週指派要閱讀的論文，
通常有3~4篇，選擇一篇來閱讀，並寫出心得。
心得必須包含論文的優勢和劣勢，內容只需要一頁。
論文評論總共要寫10篇，如果當週要報論文，那這週可以不用寫評論。
期末專題的題目是課程範疇的延伸，可以攻擊神經網路、對攻擊進行防守、還有
利用機器學習的缺陷來做有趣的應用。期末專題使用和報論文一樣的分組，所以要
好好培養組員的感情。
基本上書面報告的格式就是研討會的格式，要用LaTeX寫，最多6頁，口頭報告只
有25分鐘講解加5分鐘QA。
如果想不到期末可以做什麼，我可以給你們參考：我們的期末專題是攻擊抽取
音樂人聲的程式，因為我的實驗室剛好是處理音樂的。
ω 其它(是否注重出席率？如果為外系選修，需先有什麼基礎較好嗎？老師個性？
加簽習慣？嚴禁遲到等…)
我本人覺得一週一次的論文評論讓我很痛苦，因為教授要求用英文寫，而我連
中文都有點詞不達意，英文更需要我不斷的Google文法，確認我沒有寫錯。
這門課是新開的課，在我上學期修的時候名額沒有滿，所以沒有遇到加選的
問題，但是這學期很多人修，不知道加選怎麼進行。
教授是新來的，所以這門課沒有助教，有問題要寫信問教授。
教授不會點名，但是因為每個人都要報論文，所以要記得自己組的報告時間。
這門課假設大家對機器學習的套件已有相當認識，而且知道神經網路的運作
原理，所以如果不熟悉的話，可以去修機器學習技法(我是同時修那門課)。
Ψ 總結
這門課很硬！每週一篇心得，有期末專題，加上全部都要用英文寫，讓我一週要
花10個小時在課程上面。也許是因為教授是新來的吧，聽說新來的教授都會很
認真。
這門課不是平常的資安課，所以如果只想碰資安，不想碰機器學習的話，就趕快
讓出名額吧。
這門課也不是用AI做防毒軟體、漏洞搜尋、攻擊偵測…等。雖然這些主題還是
可以作為期末專題啦，但是恐怕這些主題並沒有任何我知道的課會教，我只能建議
去修計算機安全加機器學習的課。
我只是想讓我的腦袋可以容下AI的思維，所以才修各種機器學習的課，就發現這
門新開的課。新開的課沒有人評論，那我就可以評論。同時這是我第一次在
NtuCourse版發文，如果有什麼遺漏的可以求我補上。