【2023年11月07日訊】（記者張瑛瑜香港報導）香港警方8月瓦解一個犯罪集團，不法分子瞞過金融機構的人臉辦析系統，利用人工智能換臉程式冒認已報失身分證的市民，成功騙取7萬元港幣貸款。在科技發展下，利用AI影像和聲音的深度偽造（Deepfake）技術行騙變得愈來愈容易，不法分子假冒「親友」進行電話詐騙也越來越猖獗。
如日本設計師Hirokazu Yokohara的作品是通過生成式AI 模型「Stable Diffusion」生成的（▶點擊這裡看視頻），40歲大叔的容貌經AI運算，變成美少女易如反掌，難以找到破綻。
除了可以輕易將人改頭換面之外，騙徒更可利用相關技術模仿任何人的樣貌、聲音行騙。
不少香港市民近期接連收到陌生人打來的Whatsapp的視像通話（Video call）邀請，綜合網民反映，電話號碼字頭顯示這些電話來自中國大陸、美國、英國、印尼等地，不過大部分人都不敢接聽。有意見分析，一旦接通，騙徒便會取得用戶的容貌和聲音，可以透過上述的AI技術，合成受害人的影像，再用以詐騙其他聯絡人。
應用深度偽造技術的門檻不斷降低，圖片、影片移花接木的仿真度愈來愈高，網上隨處可見相關的軟件、手機應用程式等，犯罪成本因此大大減低。以下列出近期在大陸發生的數宗案例。
盜取影片中肖像假冒朋友 以視像通話詐騙錢財
浙江溫州市公安局5月稱，陳先生收到身處國外的好友「阿誠」發來的私信，在添加對方的微信後，對方表示自己最近準備回國，不過購買機票時遇到困難，已經付出8,000元（人民幣，下同）訂金，但受到國際漫遊限制，聯絡不上國內航空公司的經理，希望將剩餘的錢轉給陳先生，請他幫忙聯絡經理付款。
陳先生覺得此人的身分可疑，但對方隨後又打來視像電話，「阿誠」跟陳先生揮手打招呼，顯得親切，但沒多久，對方稱國外網路很不暢順就掛斷電話了。陳先生打消了心中的顧慮，並在「阿誠」的指導下加了「航空公司經理」的微信，為「阿誠」支付4.9萬元。經過當地警方核實，騙徒用AI換臉技術，利用阿誠社交平台上先前發布的影片，截取臉部圖像並「換臉」，從而詐騙陳先生。
今年5月8日，內蒙古包頭市公安局公布，福建省福州市一間科技公司法人代表郭先生4月20日收到微信「好友」的視頻通話稱，他的朋友在外地投標，需要保證金及公司對公司帳戶過帳，想要借用郭先生公司的帳戶過帳。
對方取得郭的銀行卡號後，聲稱已轉帳到郭的帳戶，並發出銀行轉帳截圖；但郭之前曾與「好友」視頻聊天，因此未核實是否到帳，就陸續轉430萬元給對方，後來才發現在短短10分鐘間就被騙了。
4月27日，安徽安慶的何先生遭遇同類事件。他的微信「好友」突然來了視像通話，何先生見到對方正在一間會議室內，正當準備進一步詢問時，「好友」掛斷電話，並表示在會議中有重要事情交代，需要加何先生的QQ溝通。
何先生當時因為對方「打了視像電話又是熟人」，沒多想就轉帳245萬到對方指定的帳戶上，事後撥打對方電話才得知被騙。
當地警方後來追蹤帳戶，拘捕3名疑犯，扣押涉案手機26部，但只追回一百餘萬元。
另外，江蘇常州警方亦發布過類似案例，小劉的中學同學「小韓」透過QQ聯絡小劉，先發來一條語音稱想借6,000元，聲音很像小韓本人。後來「小韓」又同小劉視像通話。
匯款後，小劉愈想愈不對勁，認為視像通話中的「小韓」表情僵硬，於是打電話給小韓，結果小韓的QQ帳號被盜了。
中港詐騙手法雷同
香港警方也曾經公布，今年3月，一名25歲男子在交友平台被誘裸聊，並下載對方指定的手機直播App展開對話。該男子之後發現其肖像被移花接木到色情影片，對方要求他購買一萬元（港幣）點數卡，所幸他力保不失並向警方報案。
扮俄國士兵賣貨 30萬網民追隨
另一方面，有人窺準商機，在「換臉」後於網上推銷貨品。
今年最知名的案例，莫過於一個說普通話、網名為「保爾‧柯察鐵」的男子，在抖音上騙到了不少「小粉紅」與俄粉。影片中的男子光頭並留有絡腮鬍，用普通話稱，自己是一名在烏克蘭前線作戰的車臣特種部隊的士兵，又在核電站前取景，稱自己在烏克蘭哈爾科夫的核電站，後來被揭露那是河南洛陽的一家發電廠。網友發現，他的IP地址在中國河南，並非他所稱的烏克蘭前線。
影片中的「保爾‧柯察鐵」帶有河南口音，其IP位址顯示為中國河南，破綻處處，但他仍然在兩個月左右就吸引三十多萬粉絲。他並在自己的網店賣俄羅斯的伏特加酒、蜂蜜、奶粉等貨品。他最終被發現假冒身分，遭到抖音封鎖。
騙徒盜用知名藝人的肖像直播帶貨
有騙徒更加肆無忌憚，盜用包括楊冪、劉亦菲、迪麗熱巴、Angelababy等知名藝人的肖像，用AI實時換臉技術在大陸各大直播間帶貨。
據提供「換臉軟件」的網站介紹，使用者自己從零開始訓練模型，如果24小時掛機不停地訓練模型，經過半個月到一個月的時間，就能達到合成影片的效果。
