[新聞] AI詐騙 深偽換臉冒充親友 視像通話騙錢

作者: petestar (酥酥麻麻。小派皮)   2024-04-01 17:50:30
AI詐騙 深偽換臉冒充親友 視像通話騙取百萬元
https://www.epochtimes.com/b5/23/11/7/n14111173.htm
【大紀元2023年11月07日訊】(大紀元記者張瑛瑜香港報導)香港警方8月瓦解一個犯罪
集團,不法分子瞞過金融機構的人臉辦析系統,利用人工智能換臉程式冒認已報失身分證
的市民,成功騙取7萬元港幣貸款。在科技發展下,利用AI影像和聲音的深度偽造(
Deepfake)技術行騙變得愈來愈容易,不法分子假冒「親友」進行電話詐騙也越來越猖獗

如日本設計師Hirokazu Yokohara的作品是通過生成式AI 模型「Stable Diffusion」生成
的(▶點擊這裡看視頻),40歲大叔的容貌經AI運算,變成美少女易如反掌,難以找到破
綻。
除了可以輕易將人改頭換面之外,騙徒更可利用相關技術模仿任何人的樣貌、聲音行騙。
不少香港市民近期接連收到陌生人打來的Whatsapp的視像通話(Video call)邀請,綜合
網民反映,電話號碼字頭顯示這些電話來自中國大陸、美國、英國、印尼等地,不過大部
分人都不敢接聽。有意見分析,一旦接通,騙徒便會取得用戶的容貌和聲音,可以透過上
述的AI技術,合成受害人的影像,再用以詐騙其他聯絡人。
應用深度偽造技術的門檻不斷降低,圖片、影片移花接木的仿真度愈來愈高,網上隨處可
見相關的軟件、手機應用程式等,犯罪成本因此大大減低。以下列出近期在大陸發生的數
宗案例。
盜取影片中肖像假冒朋友 以視像通話詐騙錢財
浙江溫州市公安局5月稱,陳先生收到身處國外的好友「阿誠」發來的私信,在添加對方
的微信後,對方表示自己最近準備回國,不過購買機票時遇到困難,已經付出8,000元(
人民幣,下同)訂金,但受到國際漫遊限制,聯絡不上國內航空公司的經理,希望將剩餘
的錢轉給陳先生,請他幫忙聯絡經理付款。
陳先生覺得此人的身分可疑,但對方隨後又打來視像電話,「阿誠」跟陳先生揮手打招呼
,顯得親切,但沒多久,對方稱國外網路很不暢順就掛斷電話了。陳先生打消了心中的顧
慮,並在「阿誠」的指導下加了「航空公司經理」的微信,為「阿誠」支付4.9萬元。經
過當地警方核實,騙徒用AI換臉技術,利用阿誠社交平台上先前發布的影片,截取臉部圖
像並「換臉」,從而詐騙陳先生。
今年5月8日,內蒙古包頭市公安局公布,福建省福州市一間科技公司法人代表郭先生4月
20日收到微信「好友」的視頻通話稱,他的朋友在外地投標,需要保證金及公司對公司帳
戶過帳,想要借用郭先生公司的帳戶過帳。
對方取得郭的銀行卡號後,聲稱已轉帳到郭的帳戶,並發出銀行轉帳截圖;但郭之前曾與
「好友」視頻聊天,因此未核實是否到帳,就陸續轉430萬元給對方,後來才發現在短短
10分鐘間就被騙了。
4月27日,安徽安慶的何先生遭遇同類事件。他的微信「好友」突然來了視像通話,何先
生見到對方正在一間會議室內,正當準備進一步詢問時,「好友」掛斷電話,並表示在會
議中有重要事情交代,需要加何先生的QQ溝通。
何先生當時因為對方「打了視像電話又是熟人」,沒多想就轉帳245萬到對方指定的帳戶
上,事後撥打對方電話才得知被騙。
當地警方後來追蹤帳戶,拘捕3名疑犯,扣押涉案手機26部,但只追回一百餘萬元。
另外,江蘇常州警方亦發布過類似案例,小劉的中學同學「小韓」透過QQ聯絡小劉,先發
來一條語音稱想借6,000元,聲音很像小韓本人。後來「小韓」又同小劉視像通話。
匯款後,小劉愈想愈不對勁,認為視像通話中的「小韓」表情僵硬,於是打電話給小韓,
結果小韓的QQ帳號被盜了。
中港詐騙手法雷同
香港警方也曾經公布,今年3月,一名25歲男子在交友平台被誘裸聊,並下載對方指定的
手機直播App展開對話。該男子之後發現其肖像被移花接木到色情影片,對方要求他購買
一萬元(港幣)點數卡,所幸他力保不失並向警方報案。
扮俄國士兵賣貨 30萬網民追隨
另一方面,有人窺準商機,在「換臉」後於網上推銷貨品。
今年最知名的案例,莫過於一個說普通話、網名為「保爾‧柯察鐵」的男子,在抖音上騙
到了不少「小粉紅」與俄粉。影片中的男子光頭並留有絡腮鬍,用普通話稱,自己是一名
在烏克蘭前線作戰的車臣特種部隊的士兵,又在核電站前取景,稱自己在烏克蘭哈爾科夫
的核電站,後來被揭露那是河南洛陽的一家發電廠。網友發現,他的IP地址在中國河南,
並非他所稱的烏克蘭前線。
影片中的「保爾‧柯察鐵」帶有河南口音,其IP位址顯示為中國河南,破綻處處,但他仍
然在兩個月左右就吸引三十多萬粉絲。他並在自己的網店賣俄羅斯的伏特加酒、蜂蜜、奶
粉等貨品。他最終被發現假冒身分,遭到抖音封鎖。
騙徒盜用知名藝人的肖像直播帶貨
有騙徒更加肆無忌憚,盜用包括楊冪、劉亦菲、迪麗熱巴、Angelababy等知名藝人的肖像
,用AI實時換臉技術在大陸各大直播間帶貨。
據提供「換臉軟件」的網站介紹,使用者自己從零開始訓練模型,如果24小時掛機不停地
訓練模型,經過半個月到一個月的時間,就能達到合成影片的效果。◇
責任編輯:陳玟綺#

Links booklink

Contact Us: admin [ a t ] ucptt.com