※ [本文轉錄自 C_Chat 看板 #1b_2w-Ha ]
作者: medama ( ) 看板: C_Chat
標題: [新聞] AI生成動漫圖片 爆出資料庫中有真人兒色
時間: Thu Mar 21 20:57:32 2024
https://vocus.cc/article/65fc2d82fd897800014bc729
[新聞] AI生成動漫圖片 爆出資料庫中有真人兒色
常用來生成動漫圖片的AI引擎「Stable Diffusion」
資料庫中蒐集了許多網路上的圖片資料進行學習
日本讀賣新聞調查，
https://news.livedoor.com/article/detail/26082456/
裡面含有1993年出版的少女裸體寫真集
當時日本並沒有相關法律禁止這類未成年裸體寫真集
直到1999年，日本實行兒童買春、兒童色情禁止法
這類寫真集才變成違法書籍。
雖然SD引擎預設有排除違法圖片，
但根據美國史丹福大學調查，
查出引擎學習資料裡有3226張涉嫌兒童色情的照片
大阪大學社會技術共創研究中心主任（風險學專家）岸本受訪表示，
生成AI是靠大量學習提升精密度，很難完全排除兒童色情。
AI企業必須要負起社會責任，向大眾說明引擎學習了哪些資料。
心得：
AI的3D風格動漫圖片：
https://i.imgur.com/hq7HDd2.png
看赤松健的推特 有提到政府考慮要限制AI針對性學習漫畫家的畫風
感覺日本好像也要準備開始限制AI了
推特上滿多人在討論的