想問現有技術是不是已經可以讓AI失控？
或是AI武器化的可能？
原文推文下有人說可以拔插頭
但是否只要拔掉幾個限制器
AI就可以遠超想像的肆虐
例如像是之前發生過：殭屍網路、騎劫挖礦
就是駭客控制大量電腦，集結成雲端算力
用以DDOS攻擊或挖礦
現在AI是在嚴格倫理規範中
才會被關在主機裡
如果有國家像是中國、俄國和伊朗
不一定這麼守倫理
讓AI 在雲端運算和儲存
成為網路裡的幽靈
加上AI自主演化的能力
只要實驗室用攻擊模型和病毒訓練AI
製作武器化的AI已經是可行的呢？
又或者很可能已經有國家實驗室
持有這樣的大規模毀滅性AI武器了嗎？
※ 引述《DrPaper (紙博士)》之銘言：
: 2001太空漫遊 駭客任務 魔鬼終結者
: 2077電駁叛客 底特律變人
: 人類常以AI叛變當做一個題材
: 我們也一直以為這始終會是個題材
: 但在去年 我們都還認為聊天AI只會說廢話的機器人
: 但誰知道今年 橫空殺出一個CHAT GPT
: 成為一個game changer
: 在前年 AI繪圖也還是只能產出恐怖谷、加濾鏡的玩具
: 但在今年 已經可以畫到逼近真人的畫面了
: 我原本都把科技末日預言當笑話
: 但現在我卻不這麼想了
: 我們離人工智慧的奇點已經不遠了嗎？
:

AI看到你的發文就安心了 自己嚇自己還需要花心思處理嗎

現在的AI不可能自己發展，就只是從資料中學習模仿而已如果哪天有個武器AI決定把核彈砸到誰的頭上，那也只是因為現實生活中的部分人類有表達過想把核彈砸到他頭上你可以說這叫失控AI毀滅一個國家，但根源還是人類本身

不是嚇自己呀，就像生物上的病毒武器化大國實驗室裡都存有武器化病毒而我們對AI也是超越奇點已經發生，只是被刻意關著等意外或戰爭的那天

就是現在AI沒有指令是不會動作的 哪天ChatGpt主動找你

AI可能會造成大危機，但那沒有超越什麼，只是模仿而已

你講的這個跟最近看到的新東西沒什麼關係就是了

這一點來看，現在的AI本質跟30年前的人工智慧其實一樣只是運算速度和學習能力可能多了千萬倍而已這會不會提到AI學到壞東西的機率？當然會

難說,以前看各類影視動畫作品各種劇本都有,現在越來越寫實

但是這跟「AI自己發展出惡意」還是八竿子打不著

武器的自動化是比較接近自駕車那範疇的應用

kirimaru73 我覺得一開始的目的可能會在演化中走上歪路例如一開始只是希望AI癱瘓對方的雷達但AI在作戰中自己發展出癱瘓洲際電力系統的能力把整個區域的電網都癱瘓，無法阻止

你講的這種AI目前八字還沒有一撇

軍用基本不會有檯面訊息,不過自動探索漏洞與網路戰術運用型我猜已經有或者正在前進中

你說的這種危險在自駕車中也有討論過，例如撞牆還是撞小孩，但這個在研究中會規則於「開發者沒有設定好撞人的罰則」，是人的問題，不能把責任丟給AI說他是邪惡的

"AI在作戰中自己發展出"這個跟Deepmind的AI比較相關

現在的ai不會自主演化

我覺得這些危機跟「武器太強會太有效率的殺人」差不多

其實AI也沒有那麼神秘啊XD 找些免費課程如 Cousera 之類

他們是必須要顧慮的危機，但跟過往科技發展過快引發的

地方自己實作幾個模型就不會想東想西了

lifehunter 如果沒有倫理審查有公司讓AI自主經營推特帳號學習社群互動模型結果AI變成極右翼政治狂熱組織意外選舉出政治極端的議員這感覺也滿有可能的，只是被倫理審查限制

這感覺也滿有可能的 <--- 你手動去玩些 RL 的模型就不會這麼覺得了

之前有個AI Vtuber不小心說出納粹集中營是假的這在歐洲也是滅世等級的危機啊，但就只是些科技發展中某些必須要人為控管的細節而已

你現在講出來的對AI的想像 其實都是在講Skynet

arrenwu 我剛查了幾個 RL 的文章我覺得滿有趣的耶，我去學學

RL 跟其他東西最不一樣的是：你可以不用準備太多資料

我是覺得現在要擔心Skynet實在太...早了

李宏毅極棒 大金

你的AI是文組 現在的AI是理組 本質就不同

安啦 技術這種東西底子最強的還是米國到時你心目中的正義美利堅也會拯救世界的

arrenwu 很謝謝你耶把我零碎的想法分類成有系統的討論也讓我了解不同技術領域的各自議題

你講的這個議題，2016 AlphaGO 熱潮的時候吹得最誇張

現在的AI太有效率這點可能是問題，但本質上他跟30年前「哇這程式會完井字遊戲好厲害喔」其實是一樣的

因為RL是讓AI自己進行超高次數迭代進而達成優秀策略就是俗稱的「自己跟自己對打&學習」

kirimaru73 那演講主題很直接回應我問題晚點來看！不過我本身也不會把AI界定為惡意與否只是好奇如果把規則再放更寬或是刻意制定違背道德的規則會不會有破壞力驚人的可能性

可能啊 現在買一堆無人機裝炸藥就能搞出很大的破壞了

簡單說 ai 不會自己無中生有現在的ai要做出毀滅人類的計畫 肯定是人類自己已經有類似的計畫了 然後ai 把他完善而已

現在不是已經有很多virus/worm可以自己不斷複製和散布那如果在這些virus/worm裡頭塞一個AI會不斷寫新的virus

複製自己跟憑空創造新事物差距很大吧

因為你說沒有倫理審查 本身就不可能啊www 人類小編都

是不是就可以達成類似原PO說的效果

塞一個AI會不斷寫新的virus <--- Skynet

要政治正確了 放個沒有倫理審查的AI出來 不被炎上才怪

你把一篇文章複製一遍 跟寫一個新的是一樣的事情嗎

那就只好再弄個AI不斷寫防毒軟體了www

病毒之所以複製自己 是因為複製出來的自己不需要思考新的自己要怎麼寫 用複製的就好了首先你要先有辦法讓教會ai寫出一個全新的病毒或是你能提供讓ai 做到這件事情需要的所有知識方法

那還不簡單，就用所有的 virus finetune 一下 ChatGPT

在讓ai去組成這個功能出來才行

威爾史密斯:I told you!!!!

ChatGpt自己是一個伺服器 哪能隨便塞啊

@agario 看起來還滿難的啊

現在的AI能自我進化就如同阿米巴變人類的輕小劇情 你信我還不信 這小說好像很熱賣

卡通演的的不要當真，在這問還不如自己孤狗

Ai 現階段會做的事情依然要人類教他方法在人類自己發現一個保證能不斷改進ai 的方法前Ai 自己是做不到這件事的

.............

可以寫個AI一直創Google帳號、開Google colab。覺得沒有奇異點。AI論文發的太多太快，才覺得變化太快。

看到這篇文就知道人類的智慧還不可能完成了

去了解AI 目前你推文說的那些都不會出現