Re: [閒聊] 推特：防止AI學習繪師作品的方法 clothg34569 PTT批踢踢實業坊

Re: [閒聊] 推特：防止AI學習繪師作品的方法

作者: clothg34569 (提拉米蘇冰淇淋) 2022-10-07 20:17:01

※ 引述《gundamx7812 (亞洲空幹王)》之銘言：
: 就是在作品圖中加入人類肉眼難以辨識的雜訊
: https://i.imgur.com/PBBbNRA.jpg
: https://twitter.com/Akihitweet/status/1577827240330809344?t=FOSz6UZh2oyMsStXJ8LE
: Zg&s=19
: 不過回覆裡也有人說有技術可以克服雜訊問題就是了
: 延伸閱讀：如何欺騙AI
: https://youtu.be/YXy6oX1iNoA
先講結論這沒屁用==
這根本就像是拿FGO的職階去談碧藍檔案的相剋
題目內容完全不同是在比啥
首先先貼李宏毅教授的影片
https://www.youtube.com/watch?v=xGQKhbjrFRk
https://www.youtube.com/watch?v=z-Q9ia5H2Ig
我真的覺得李弘毅教授的影片真的該列為必修
不然有些真的雲得太誇張
一般雜訊攻擊是加在""""Input"""去干擾一個已經訓練好的Model的Inference
結果這篇加在Training Data上那是在搞笑嗎
https://youtu.be/WeHM2xpYQpw?t=1044
時間幫忙標好了
一般常見的解OverFitting的方法就是在Training Data上面加上Augmentation
常用Augment方法可以自己上網查一下就不贅述
而Adversarial Attack最簡單的對抗方式
就是在Training Data上面加上雜訊Augment來抵抗這種攻擊
所以說在Training Data上面加上雜訊根本不是攻擊他
而是幫他強化Model穩定性來對抗這種攻擊
另外推文說加個Filter就可以搞定的
實際上這種根本不需要加Filter 甚至有些時候還會在Train的時候自己加入雜訊
或者改變色階呢... 這只是幫他豐富資料而已
我直接講個真的對AI比較實際有傷的啦
我先假設Danbooru這種的Tagging是靠爬蟲爬來的
看那數量感覺不是真的人手動標得
所以你要攻擊他最簡單的方法就是畫個金髮角色然後標褐髮
畫個精靈然後標矮人
畫個中岡標山田
搞亂Tagging對他傷害才真的大
這樣在Trainging時同一張金髮的圖片可能Tag會是金髮或者褐髮
那他就很難學說哪個才是真正的金髮
結論 : 汙染Tag比汙染圖片實際多了
AI工程師大概有超過一半的時間是在和Data Cleaning奮鬥...

作者: medama ( ) 2022-10-07 20:18:00

李宏毅幾班？大金

作者: ayuhb (ayuhb) 2022-10-07 20:18:00

污染tag某族群很擅長

作者: andy0481 (想吃比叡的咖哩) 2022-10-07 20:18:00

沒錯發一堆甲圖打上大奶tag 直接廢掉你這個AI

作者: waitan (微糖兒>////<) 2022-10-07 20:19:00

李弘毅幾班？

作者: ilove640 (子夜) 2022-10-07 20:20:00

李宏毅幾班?原來大家都想到同個梗= =

作者: CorkiN (柯基) 2022-10-07 20:21:00

李宏毅的課真的該列為必修不然一堆人都對現在在講的AI有過度的幻想==