澳洲35萬AI反詐騙大軍 反將詐騙集團一軍

澳洲一家公司打造了一支不尋常的勞動力:35萬個人工智慧代理,唯一的工作就是浪費詐騙集團的時間。這家公司名為Apate.ai,名稱取自希臘神話中的欺騙女神,其機器人設計成只在表面上受騙。據中國科學媒體果殼網報導,每個代理都假扮成普通人——無論老少、男女——擁有不同口音、會說多種語言,且各有性格。
目標不是大眾,而是詐騙產業本身。當詐騙電話打來,或釣魚網站要求提供資料時,一個AI角色會接聽。它會閒聊、猶豫、要求澄清、忘記密碼、看錯數字。目的是盡可能拖住詐騙者,讓詐騙行動耗費時間和金錢,同時讓真實的人們享有更清靜的電話線。同樣的方法也延伸到投資詐騙和假網站,機器人可以在表格中填入看似合理但毫無用處的資訊。
反詐騙誘導(scambaiting)並非新鮮事。多年來,業餘愛好者一直用精心編造的故事和假身分回覆詐騙電子郵件,並在網上分享結果。不同之處在於規模。一個人一次只能處理一兩段對話;一個由數十萬個軟體代理組成的網路則可以同時處理許多對話,全天候、多語言運作。該公司表示,這些角色差異夠大,詐騙者難以輕易分辨。
這個想法處於安全和倫理的尷尬交匯點。支持者認為,詐騙者是靠恐懼和困惑牟利的罪犯,拖慢他們就能保護受害者。批評者可能會問,自動化欺騙——即使是針對壞人——是否會使這種做法正常化,或者一個假扮脆弱老人的機器人是否會招致對真實人物的報復。報導並未解答這些問題,而這項技術仍處於起步階段。
對一般使用者來說,實際的教訓更簡單。防範詐騙電話的最佳方法依然不變:掛斷電話、不分享驗證碼或銀行資料、檢舉該號碼。AI誘餌並不能免除這種謹慎的必要。但它確實為一場由來已久的軍備競賽增添了新層次——在這場競賽中,詐騙者現在必須懷疑電話另一端的声音到底是不是真人。
這個故事引人注目的是經濟層面。詐騙行動依賴數量;如果有足夠多的電話由從不付款的機器人接聽,每次成功詐騙的成本就會上升。這與垃圾郵件過濾器和來電封鎖應用程式背後的邏輯相同,只是應用於對話而非傳遞。它能否大規模奏效,將取決於詐騙者多快學會偵測合成語音。
對全球讀者而言,這個案例提醒我們,AI的第一個大眾市場角色可能不是寫文章或生成圖片,而是置身於日常交易之中,包括不誠實的交易。未來幾年將顯示,自動化誘餌會成為銀行和電信公司的標準工具,還是仍是一家擁有古典名稱的公司的聰明實驗。