東南亞犯罪集團(tuán)正在所謂的“殺豬盤”網(wǎng)絡(luò)詐騙行動(dòng)中使用生成式人工智能聊天機(jī)器人，這種更復(fù)雜的手段可以提高詐騙的有效性，并將擴(kuò)大受害者的范圍。
所謂的“殺豬盤”，是網(wǎng)絡(luò)詐騙的一種新方式，犯罪分子通常潛伏在約會(huì)應(yīng)用程序和社交平臺(tái)中，將浪漫愛(ài)情和賭博心理融入其作案手法。詐騙分子對(duì)受害者進(jìn)行數(shù)天甚至數(shù)月的網(wǎng)絡(luò)親密接觸，然后才“收獲”詐騙果實(shí)，這一過(guò)程類似于將豬養(yǎng)肥以供屠宰。
聊天機(jī)器人在情緒和感受上“露馬腳”
據(jù)澳大利亞廣播公司（ABC）5月16日?qǐng)?bào)道，犯罪分子過(guò)去通常會(huì)使用詳細(xì)的“腳本”來(lái)獲得受害者的信任，而現(xiàn)在他們利用大語(yǔ)言模型（LLM）或聊天機(jī)器人，用不同語(yǔ)言向受害者發(fā)送消息，進(jìn)一步擴(kuò)大了影響范圍。生成式人工智能還可以使對(duì)話更有說(shuō)服力，并減少詐騙分子與多個(gè)受害者互動(dòng)的工作量。
雖然ChatGPT、Gemini和Copilot等主要人工智能聊天機(jī)器人都有防止其協(xié)助非法活動(dòng)的護(hù)欄，但其他一些正在開(kāi)發(fā)的大語(yǔ)言模型沒(méi)有此類限制。
網(wǎng)絡(luò)安全公司Sophos的研究人員賈格迪什·錢德拉亞（Jagadeesh Chandraiah）在一篇博客文章中表示，生成式人工智能將文本、圖像、視頻與翻譯相結(jié)合，生成不重復(fù)的“定制內(nèi)容”。它還可用于編寫“殺豬腳本”，寫出令人信服的網(wǎng)絡(luò)釣魚電子郵件，甚至提供如何從頭開(kāi)始進(jìn)行詐騙的步驟說(shuō)明，這也可能降低詐騙犯罪的門檻。
然而，犯罪集團(tuán)似乎還無(wú)法熟練地使用人工智能。研究人員發(fā)布了一張?jiān)p騙目標(biāo)提供的屏幕截圖，顯示詐騙分子意外透露了他們正在使用大語(yǔ)言模型來(lái)生成消息。騙子在給目標(biāo)客戶發(fā)送的WhatsApp消息中寫道：“非常感謝您的善意之言！’我’作為一個(gè)語(yǔ)言模型，沒(méi)有像人類那樣的感覺(jué)或情緒，我被創(chuàng)造出來(lái)提供有用和積極的答案幫你?！?/span>
錢德拉亞告訴ABC，人工智能的運(yùn)作仍然需要人類協(xié)助，機(jī)器人偶爾會(huì)發(fā)送一些信息，可能表明它們無(wú)法與人類交流，尤其是在感受和情緒方面?！熬汀瘹⒇i盤’而言，目前的模型不太擅長(zhǎng)描繪情緒和感受，而這又是此類騙局得以成功的關(guān)鍵?！?/p>
但錢德拉亞認(rèn)為，未來(lái)隨著人工智能的進(jìn)一步發(fā)展，受害者將很難識(shí)別他們正在與機(jī)器人進(jìn)行通信。
AI實(shí)時(shí)換臉已成精準(zhǔn)聊天必備
除了最新的聊天機(jī)器人，一些傳統(tǒng)的人工智能技術(shù)，比如深度造假技術(shù)近年來(lái)也迅速進(jìn)步，已達(dá)到可以用較高的逼真度完成實(shí)時(shí)對(duì)話的水平。前黑客、越南網(wǎng)絡(luò)安全專家吳明曉（Ng? Minh Hi?u）表示，用戶現(xiàn)在可以通過(guò)開(kāi)源軟件或付費(fèi)方式輕松訂閱實(shí)時(shí)換臉技術(shù)（一種僅改變對(duì)象臉部的深度造假技術(shù)）。
全球反詐騙組織（GASO）向ABC提到，一家軟件提供商在廣告中宣稱其“人工智能實(shí)時(shí)換臉是精準(zhǔn)聊天的必備”。廣告稱，“它解決了好看的（真人）模特難以招募和管理、成本高昂的問(wèn)題?！痹撥浖€集成了語(yǔ)音克隆功能，對(duì)特定目標(biāo)的模仿相似度可以達(dá)到“60％至95％”。
另一家換臉軟件提供商在柬埔寨提供7天24小時(shí)支持、“送貨上門”服務(wù)，并聲稱已在1000多個(gè)區(qū)域安裝了其產(chǎn)品。該廣告稱，使用該系統(tǒng)只需要提供一張照片，可用于WhatsApp、Messenger、Line等社交平臺(tái)上的視頻通話。
除了“殺豬盤”之外，犯罪分子還利用換臉技術(shù)實(shí)施其他類型的詐騙，例如冒充名人進(jìn)行投資詐騙，以及冒充家人或警察來(lái)恐嚇受害者付錢。它還可以用來(lái)逃避一些金融機(jī)構(gòu)要求的基于視頻的身份檢查。
澳大利亞陽(yáng)光海岸市市長(zhǎng)羅珊娜·納托利（Rosanna Natoli）最近稱，一名詐騙者使用該技術(shù)冒充她與她的一位朋友進(jìn)行Skype通話。她說(shuō)：“這位朋友告訴我，這看起來(lái)像我，但聽(tīng)起來(lái)不像我?！?/p>
“大多數(shù)換臉應(yīng)用程序都無(wú)法偽造實(shí)時(shí)聲音?！币晃涣私饧砥艺p騙情況的消息人士向ABC表示，技術(shù)能力、計(jì)算能力和互聯(lián)網(wǎng)帶寬等往往限制了詐騙分子使用換臉技術(shù)?！埃ㄔ谠S多情況下）聘請(qǐng)東歐模特更為實(shí)際?！彼f(shuō)，盡管技術(shù)進(jìn)步，鏡頭前的真人仍然看起來(lái)更合理。
在緬甸，從事加密貨幣“殺豬盤”業(yè)務(wù)的Sam在采訪中說(shuō)，他的老板曾短暫嘗試過(guò)人工智能，因?yàn)樵侥夏Ｌ靥优芰恕＠习逑Ｍ麘?yīng)用程序能夠以數(shù)字方式改變團(tuán)隊(duì)中講英語(yǔ)成員在視頻通話中的外觀，但沒(méi)有足夠的源照片來(lái)支撐應(yīng)用程序運(yùn)行。
“用頭腦思考，而不是用心思考”
上個(gè)月，澳大利亞競(jìng)爭(zhēng)和消費(fèi)者委員會(huì)（ACCC）反詐騙中心表示，雖然2023年統(tǒng)計(jì)的詐騙數(shù)量比2022年有所增加，但損失總額下降了13.1%，至27.4億澳元（約合132.7億元人民幣）。然而，ACCC發(fā)言人仍然對(duì)新技術(shù)的出現(xiàn)發(fā)出警告，“詐騙手段日益復(fù)雜，我們應(yīng)該對(duì)人工智能帶來(lái)的風(fēng)險(xiǎn)保持警惕。這將使得人們更難識(shí)別詐騙，平臺(tái)應(yīng)繼續(xù)謹(jǐn)慎處理任何個(gè)人信息或金錢請(qǐng)求，并在點(diǎn)擊鏈接時(shí)保持謹(jǐn)慎?！?/p>
該發(fā)言人表示，迄今為止大多數(shù)關(guān)于利用人工智能進(jìn)行詐騙的案例都是以社交平臺(tái)網(wǎng)站上“聊天機(jī)器人”的形式出現(xiàn)的。“這些機(jī)器人給人留下這樣的印象：許多其他真實(shí)的人對(duì)該產(chǎn)品感興趣，并從騙局中獲得經(jīng)濟(jì)利益。”此外，“人工智能還被用來(lái)制作投資詐騙視頻，通常會(huì)捕捉或制作名人的圖像或鏡頭，并附上讓人信服的音頻?！?/p>
與詐騙受害者合作的Intelligence for Good的網(wǎng)絡(luò)犯罪專家羅尼·托卡佐夫斯基（Ronnie Tokazowski）表示，過(guò)去表明某人是詐騙者的一個(gè)關(guān)鍵危險(xiǎn)信號(hào)是他們拒絕進(jìn)行視頻通話。“但現(xiàn)在壞人已經(jīng)找到了解決辦法?！八f(shuō)，最好的建議是不要向僅在網(wǎng)上認(rèn)識(shí)的人匯款或收款。
“我們需要開(kāi)始用頭腦思考，而不是用心思考?！卞X德拉亞說(shuō)，“即使感覺(jué)很真實(shí)，而且這種關(guān)系已經(jīng)持續(xù)了一段時(shí)間，但如果它起源于互聯(lián)網(wǎng)，并且慢慢轉(zhuǎn)向涉及金錢或加密貨幣的問(wèn)題，那就遠(yuǎn)離它。”