[情報] OpenAI正打造AI圖偵測器 精確度達99%
作者: KotoriCute (Lovelive!) 2023-10-18 16:08:35
揪出AI造假圖片！OpenAI透露正打造偵測工具 精確度99%
https://udn.com/news/story/6811/7513624
開發出聊天機器人ChatGPT的OpenAI正在打造一種工具，可偵測由AI生成的影像或照片，而
且具有很高的精確度。
OpenAI技術長穆拉蒂（Mira Murati）17日表示，OpenAI的工具在判斷一張照片是否是利用A
I生成可達到「99%的可靠」。她說，這項工具在規劃公開發表前正在進行內部測試，沒有具
體時間表。
穆拉蒂是與OpenAI執行長奧特曼參加華爾街日報在加州拉古納海灘舉辦的Tech Live研討會
時提及上述說法。OpenAI旗下除了有ChatGPT，也擁有影像生成工具DALL-E。
目前已經存在幾種宣稱可偵測由AI生成影像或內容的工具，但結果可能不精確。舉例來說，
OpenAI在1月時推出一種類似的工具，號稱可以判斷哪些文字段落是由AI生成，然而在7月就
已下架，原因是「不可靠」。
OpenAI表示，正努力改善這款軟體，並致力於開發能判斷由AI生成的音檔或圖檔的方式。
關於這類偵測AI生成內容的工具需求正在增加，因為AI工具可被用來對全球事件進行操作或
製造假新聞。Adobe的Firefly影像生成工具則因應了另一方面的挑戰，承諾不創造侵害創作
者智慧財產權的內容。
https://udn.com/news/story/6811/7513624
開發出聊天機器人ChatGPT的OpenAI正在打造一種工具，可偵測由AI生成的影像或照片，而
且具有很高的精確度。
OpenAI技術長穆拉蒂（Mira Murati）17日表示，OpenAI的工具在判斷一張照片是否是利用A
I生成可達到「99%的可靠」。她說，這項工具在規劃公開發表前正在進行內部測試，沒有具
體時間表。
穆拉蒂是與OpenAI執行長奧特曼參加華爾街日報在加州拉古納海灘舉辦的Tech Live研討會
時提及上述說法。OpenAI旗下除了有ChatGPT，也擁有影像生成工具DALL-E。
目前已經存在幾種宣稱可偵測由AI生成影像或內容的工具，但結果可能不精確。舉例來說，
OpenAI在1月時推出一種類似的工具，號稱可以判斷哪些文字段落是由AI生成，然而在7月就
已下架，原因是「不可靠」。
OpenAI表示，正努力改善這款軟體，並致力於開發能判斷由AI生成的音檔或圖檔的方式。
關於這類偵測AI生成內容的工具需求正在增加，因為AI工具可被用來對全球事件進行操作或
製造假新聞。Adobe的Firefly影像生成工具則因應了另一方面的挑戰，承諾不創造侵害創作
者智慧財產權的內容。
作者: yuherngshi (我è¦æ¢ç¢¼è²“拉><) 2023-10-18 16:10:00
放入coser照片掃描不知會怎樣
作者: Ceelo (hakkaman) 2023-10-18 16:10:00
用魔法才能打敗魔法 只有ai才能抓ai圖
作者: qscgg (QSC) 2023-10-18 16:11:00
ai正在打造反ai偵測生成圖片
作者: sssyoyo (柚子) 2023-10-18 16:11:00
再用這個工具訓練不會被辨識出來的AI -> LOOP
作者: kirimaru73 (霧丸) 2023-10-18 16:11:00
99%其實拿來當證據還不太適合
作者: x2159679 (（● ω ●）) 2023-10-18 16:11:00
AI內戰
作者: kirimaru73 (霧丸) 2023-10-18 16:12:00
意思是你可以抓出99個沽名釣譽的騙子，同時把一個無辜
作者: yuherngshi (我è¦æ¢ç¢¼è²“拉><) 2023-10-18 16:12:00
其實ai早變成免費素材生成工具了 原本就會畫的更愛
作者: guogu 2023-10-18 16:12:00
可是之前判斷文章的就失敗了
作者: shikao (shikao) 2023-10-18 16:13:00
抱歉了1啪的繪師 請你轉行ㄅ
作者: h0103661 (路人喵) 2023-10-18 16:13:00
下一步就是ai生圖還會避免被偵測
作者: kirimaru73 (霧丸) 2023-10-18 16:13:00
本來就說自己會用的不受影響，但一定有宣稱自己沒用的
作者: Muilie (木籟) 2023-10-18 16:13:00
真.AI警察
作者: staristic (ANSI lover) 2023-10-18 16:14:00
以後訓練生圖的AI就會把會不會被偵測放進參數
作者: nemuri61 (Ne) 2023-10-18 16:14:00
1% 繪師表示:
作者: anpinjou (大炎上、確定ですわ。) 2023-10-18 16:14:00
該學習如何串通AI了嗎
作者: roc074 (安安) 2023-10-18 16:14:00
99%是要笑死人，99.9999%可能還比較保險一點。
作者: HJC6666 (帕修) 2023-10-18 16:14:00
芙莉蓮表示:
作者: Tsozuo 2023-10-18 16:15:00
靈魂檢測機
作者: linzero (【林】) 2023-10-18 16:15:00
99%還是要開寶箱
作者: npc776 (二次元居民) 2023-10-18 16:17:00
"宣稱"
作者: starsheep013 (星絨綿羊) 2023-10-18 16:17:00
平均100張就會放一張，以AI產能來說偏弱耶
作者: Reshiram ((′・ω・`)) 2023-10-18 16:18:00
GAN(?
作者: Gokudo (極道) 2023-10-18 16:18:00
下一款是反AI偵測繪圖 我知道
作者: mrmowmow (mow) 2023-10-18 16:20:00
什麼繪師一輩子只畫一張圖？算錯一張又怎樣
作者: kirimaru73 (霧丸) 2023-10-18 16:21:00
算錯一張後是黑粉的事，看黑粉想要怎麼燒
作者: mumeisuki 2023-10-18 16:21:00
1%的直接畫一張放過程就好了吧
作者: clothg34569 (提拉米蘇冰淇淋) 2023-10-18 16:21:00
一張就夠毀人名譽了好嗎忘記之前多少繪師被獵巫喔甚麼信誓旦旦的20年老粉專業繪師
作者: kirimaru73 (霧丸) 2023-10-18 16:22:00
另外還有對抗攻擊，真的夠黑的黑粉認識會拿你的圖加上一些人眼看不到的細節，全部做成會讓AI警報大響的圖片
作者: gura9527 (拉拉) 2023-10-18 16:23:00
算錯一張就夠毀你名聲了好嗎
作者: kirimaru73 (霧丸) 2023-10-18 16:24:00
這東西最多就是當個玩具(而且已經會被有心人玩出事)如果拿他當判官，那後果不堪設想
作者: jqs8ah5ar (Ra5hUxen) 2023-10-18 16:24:00
AI內戰
作者: Duncan7406 2023-10-18 16:25:00
AI摧毀繪師 反AI也摧毀繪師
作者: dreamnook2 (dreamnook) 2023-10-18 16:25:00
聽起來不錯
作者: Vram (Gin) 2023-10-18 16:25:00
竟然用我的魔法對付我.jpeg
作者: clothg34569 (提拉米蘇冰淇淋) 2023-10-18 16:25:00
之前不就一堆AI警察拿著AI偵測結果四處獵巫每個繪師的圖都被丟進去跑 跑出來誤暴就開始出征
作者: kirimaru73 (霧丸) 2023-10-18 16:26:00
更早前還有更好笑的，知名網站用人工方法篩AI
作者: rhox (天生反骨) 2023-10-18 16:26:00
很多AI繪圖都內建浮水印跟meta資料了
作者: bnn (前途無亮回頭是暗) 2023-10-18 16:27:00
這主要還是對抗AI生圖來造謠或換臉用的啦
作者: kirimaru73 (霧丸) 2023-10-18 16:27:00
我們覺得你應該檢討一下自己的問題
作者: billy791122 (jj) 2023-10-18 16:27:00
反AI圖偵測也正在研究
作者: likeyousmile 2023-10-18 16:27:00
Ai生人修圖呢？ ai生背景人畫主題呢？ai生然後人描圖呢？人畫圖然後用ai改姿勢呢？換衣服呢？
作者: kirimaru73 (霧丸) 2023-10-18 16:28:00
現實上是新聞那些問題比較嚴重，次文化比較沒人在乎
作者: a204a218 (Hank) 2023-10-18 16:28:00
現在這種環境不就被一群AI狂粉樂子人搞出來的
作者: kirimaru73 (霧丸) 2023-10-18 16:29:00
反正那些次文化圈子中的有心人會自己引火亂燒
作者: Bugquan (靠近邊緣) 2023-10-18 16:29:00
AI警察搞的吧
作者: excia (Afei) 2023-10-18 16:29:00
AIAI警察
作者: Shawn5689 (Sion) 2023-10-18 16:31:00
那拿普通圖來i2i一張低denoising的 會算AI圖嗎
作者: bnn (前途無亮回頭是暗) 2023-10-18 16:31:00
不過要是你手機自拍一下(手機自動AI修圖)然後被判定是AI生成你以後拍照也會被人家說這是AI生成不是拍到的 你拍的是假訊息
作者: npc776 (二次元居民) 2023-10-18 16:31:00
AI狂信者才不管你這麼多 問就是砸蒸汽機
作者: rabbithouse (智乃的歐尼醬) 2023-10-18 16:32:00
怎麼有人腦補得這麼嗨啊XD
作者: a204a218 (Hank) 2023-10-18 16:32:00
天天拿AI在那邊搞事，然後再來說怎麼你們都不爽AI
作者: x2159679 (（● ω ●）) 2023-10-18 16:32:00
偵測工具也是ai發展的一環啊 不好嗎
作者: bnn (前途無亮回頭是暗) 2023-10-18 16:32:00
畢竟現在手機幫你修圖連月亮都幫你自動P上細節這類的太常見了
作者: clothg34569 (提拉米蘇冰淇淋) 2023-10-18 16:33:00
因為前面幾個偵測工具 最大用途就是給樂子人拿去出征繪師阿
作者: papertim (吃紙小鹿) 2023-10-18 16:33:00
用魔法打敗魔法
作者: cow7913 (終於姍姍來遲了) 2023-10-18 16:34:00
不符繪畫常規 瘋狂影射潑髒水就好了 哪需要這些
作者: kirimaru73 (霧丸) 2023-10-18 16:34:00
偵測工具當然是必要的研究題目，但是99%的偵測工具真的沒什麼用，嚴格上還是必須靠人審查，但對自我要求不嚴格的警察來說就是超好用的點火道具
作者: clothg34569 (提拉米蘇冰淇淋) 2023-10-18 16:35:00
上次連出示圖層都還被說有繪畫嘗試的不可能這樣
作者: pov (pov) 2023-10-18 16:35:00
生成式網路對抗
作者: kirimaru73 (霧丸) 2023-10-18 16:35:00
以前只是可以潑髒水，現在99%是真的可以唬到一堆民眾
作者: xxx60133 (這下糗了) 2023-10-18 16:36:00
百分百
作者: rufjvm12345 (小飯) 2023-10-18 16:36:00
再來就是反偵測 然後是反反偵測 反反反偵測 反反反反
作者: kirimaru73 (霧丸) 2023-10-18 16:36:00
畢竟有些人的觀點就是 99%你是個大騙子 那何必相信你
作者: clothg34569 (提拉米蘇冰淇淋) 2023-10-18 16:36:00
以前其實準確率就99%了啦 對不額外跑後製的圖來說
作者: x2159679 (（● ω ●）) 2023-10-18 16:37:00
就算真的被拿去出征也不是偵測工具的錯啊......偵測工具是無辜的這是ai發展中必然的產物
作者: clothg34569 (提拉米蘇冰淇淋) 2023-10-18 16:38:00
樓主底下說的"人類繪師的救星"這句工具當然無辜 但過去的例子這種不會成為救星
作者: kirimaru73 (霧丸) 2023-10-18 16:38:00
以後如果有圖片被拿來攻擊，第一個要檢查的可能是能否證明這張圖是繪師產出後「完全無修改」的版本因為對於一個正確率「只」有99%的模型來說對抗攻擊有無數種手法可以拿來玩到不著痕跡
作者: npc776 (二次元居民) 2023-10-18 16:41:00
再講下去蒸汽機警察就要出動了吧...
作者: macocu (傻傻的匿名) 2023-10-18 16:41:00
工具準嗎，再來這只是給一些人確立個目標去超越而已
作者: Flyroach (＊飛天蟑螂＊) 2023-10-18 16:45:00
下一步就是利用AI開發能繞過偵測是否是AI畫的圖的工具
作者: allanbrook (翔) 2023-10-18 16:45:00
比較好奇他判斷的依據是啥算出來又再畫再輸出的他是有甚麼方法判斷
作者: ainamk (腰包王道) 2023-10-18 16:47:00
現代AI你大概很難弄出人類看得懂的判斷依據XD
作者: gura9527 (拉拉) 2023-10-18 16:48:00
判斷依據一定是史詩級的條件 人類要懂洗洗睡
作者: x2159679 (（● ω ●）) 2023-10-18 16:48:00
反正我相信ai大人的判斷
作者: ainamk (腰包王道) 2023-10-18 16:48:00
最多只能跟你說 哪些區域比對起來比較像AI生成不像人畫的
作者: koexe (獨酌) 2023-10-18 16:50:00
之前看一篇文章還有防AI的浮水印呢XD
作者: tim5201314 (花美男) 2023-10-18 16:50:00
好的1%可憐蟲
作者: shadowdio 2023-10-18 16:51:00
請相信是繪師自己畫的 不然要相信繪師說是AI畫的嗎
作者: ainamk (腰包王道) 2023-10-18 16:51:00
防AI浮水印是個有效果但是沒有實質意義的東西
作者: aiqinar (小路路) 2023-10-18 16:51:00
結果那1%被認證會不會被AI警察網暴的更慘
作者: HellFly (十大傑出邊緣人) 2023-10-18 16:53:00
放整形圖會不會被偵測是AI
作者: triplee (none) 2023-10-18 16:56:00
不知道為什麼推文只想到繪師 覺得這工具主要還是針對真人
作者: bobby4755 (蒼鬱之夜) 2023-10-18 16:56:00
會有人挑戰AI率99%的手繪油畫嗎
作者: triplee (none) 2023-10-18 16:57:00
的AI模擬畫像 因為那真的是很容易成為犯罪或謠言製造工具
作者: clothg34569 (提拉米蘇冰淇淋) 2023-10-18 16:57:00
有沒有可能是因為這裡是C洽版 當然先討論繪師阿
作者: skyofme (天空人) 2023-10-18 16:59:00
因為跟這裡直接相關的就是批鬥畫師啊
作者: liusean (旁觀者) 2023-10-18 16:59:00
用AI找你的AI
作者: jeffbear79 (jeff) 2023-10-18 16:59:00
99%如果是指模型的準確度蠻唬爛的，搞不好只是驗證用的資料集99%而已
作者: mamamia0419 (Shao) 2023-10-18 17:00:00
絕對不會被抓的AI圖VS絕對會抓出AI圖的AI
作者: guogu 2023-10-18 17:01:00
之前防ai那個主要是肉眼可見 而且很容易去除比你加上去還快 不過還是有優點的
作者: Annulene (tokser) 2023-10-18 17:02:00
神仙對決 沒有凡人介入的空間
作者: guogu 2023-10-18 17:02:00
ai圖加上防ai圖浮水印拿去測會說不是ai圖
作者: bobby4755 (蒼鬱之夜) 2023-10-18 17:04:00
一定會有YouTuber 交叉測試 AI狼人殺
作者: aegisWIsL (多多走路) 2023-10-18 17:04:00
反ai所以要拿ai來辨識ai圖
作者: triplee (none) 2023-10-18 17:07:00
繪師真正面對的問題還是商業市場需求與創作被拿去訓練而不是AI警察 那只是社群平台的一種固有行為 主題換成AI罷了 所以這也無關什麼繪師救星
作者: zizc06719 (毛哥) 2023-10-18 17:10:00
沒100%別拿出來害人好嗎
作者: k798976869 (kk) 2023-10-18 17:27:00
然後再製造一個反AI辨識AI圖片生成器
作者: aaaaooo (路過鄉民) 2023-10-18 17:33:00
沒100%的話那個名譽被你毀掉的畫師就能把你告到脫褲
作者: Everforest (Yue) 2023-10-18 17:33:00
AI警察 (AI)
作者: jeffbear79 (jeff) 2023-10-18 17:37:00
真正拿出來用大概8成準確度就能偷笑了
作者: ilove640 (子夜) 2023-10-18 17:38:00
發現AI會找到不是AI的圖 於是再發明驗證AI圖找到AI圖的AI
作者: b99202071 (b99202071) 2023-10-18 17:50:00
你居然用我的咒語對付我？
作者: Milandess (大哥你聽我解釋大哥不要!) 2023-10-18 17:52:00
這個偵測器最大的用途之一：讓AI圖進化到無法被辨認= =
作者: Pep5iC05893 (結束) 2023-10-18 19:02:00
AI警察(AI): 他是AI 懂得都懂
作者: Xpwa563704ju (coolcookies) 2023-10-18 19:04:00
太好了，讓AI對決AI
作者: Kone99 (K1) 2023-10-18 19:10:00
AI殺一次有名的繪師，反AI再殺一次倒楣的繪師以後沒有縮時錄影的繪師隨時都可能遭殃
作者: bluenile (閒來無事) 2023-10-18 20:00:00
只有我看成Opai偵測器嗎@@
作者: frank0927 (frank0927) 2023-10-18 20:15:00
抓錯？會畫的開直播畫一下就解決了好嗎，根本沒多少問題寫AI創作還算有可用的藉口，但做反偵測的真的沒有遮羞布給這種人用
作者: ikachann (喵喵) 2023-10-18 20:22:00
99%夠了，不用先定罪阿 可以先限制你，只要你是真的繪師提出證明就好了，至少不用浪費大量人力時間去一一審查
作者: Kenqr (function(){})() 2023-10-18 20:49:00
PS很多功能其實是AI 不知道會怎麼樣
作者: holiybo (米羅) 2023-10-18 20:52:00
1%命中 不可能同繪師10張圖都被判定AI吧？
作者: lcomicer (冷水青蛙鍋) 2023-10-18 20:59:00
突然很多人開始關心繪師的清白了 真感動
作者: SALEENS7LM (我愛我婆，更愛你的) 2023-10-18 21:11:00
ai狗屎老實說真的挺好分的，扭曲畸形不合邏輯的醜陋之處太多了，真的噁心至極令人作嘔，真的完全無法容忍容許任何一絲一毫
