350.000 'Scambaiter' AI của Australia Lật Ngược Thế Cờ Trước Lũ Lừa Đảo
Một công ty ở Australia đã xây dựng một lực lượng lao động khác thường: 350.000 tác nhân trí tuệ nhân tạo với nhiệm vụ duy nhất là làm tiêu hao thời gian của những kẻ lừa đảo. Công ty có tên Apate.ai, lấy tên từ nữ thần lừa dối trong thần thoại Hy Lạp, và các bot của họ được thiết kế để trông như thể có thể bị lừa. Mỗi tác nhân giả làm một người bình thường — trẻ hay già, nam hay nữ — với giọng khác nhau, nói được nhiều thứ tiếng và có tính cách riêng, theo một bài báo của trang khoa học Trung Quốc Guokr.
Mục tiêu không phải là công chúng mà chính là ngành lừa đảo. Khi có cuộc gọi lừa đảo hoặc một trang web lừa đảo yêu cầu thông tin, một nhân vật AI sẽ trả lời. Nó trò chuyện, ngập ngừng, hỏi lại cho rõ, quên mật khẩu, đọc nhầm con số. Mục đích là giữ chân kẻ lừa đảo càng lâu càng tốt, khiến hoạt động lừa đảo tốn thời gian và tiền bạc, đồng thời giúp người thật có đường dây điện thoại yên tĩnh hơn. Cách tiếp cận tương tự cũng được áp dụng cho lừa đảo đầu tư và các trang web giả, nơi bot có thể điền vào biểu mẫu những thông tin nghe có vẻ hợp lý nhưng vô dụng.
Scambaiting không phải là chuyện mới. Trong nhiều năm, những người đam mê đã trả lời email lừa đảo bằng những câu chuyện công phu và danh tính giả, rồi chia sẻ kết quả lên mạng. Điều khác biệt ở đây là quy mô. Một người chỉ có thể xử lý một hoặc hai cuộc trò chuyện cùng lúc; một mạng lưới hàng trăm nghìn tác nhân phần mềm có thể xử lý nhiều cuộc cùng lúc, suốt ngày đêm, bằng nhiều thứ tiếng. Công ty cho biết các nhân vật đa dạng đến mức kẻ lừa đảo khó có thể phân biệt được chúng.
Ý tưởng này nằm ở giao điểm khó xử giữa an ninh và đạo đức. Những người ủng hộ lập luận rằng kẻ lừa đảo là tội phạm kiếm lợi từ nỗi sợ hãi và sự bối rối, và việc làm chậm chúng lại sẽ bảo vệ nạn nhân. Những người chỉ trích có thể đặt câu hỏi liệu sự lừa dối tự động, ngay cả với kẻ xấu, có nguy cơ bình thường hóa hành vi này không, hoặc liệu một bot giả làm người già yếu ớt có thể khiến kẻ xấu trả đũa người thật không. Bài báo không giải đáp những câu hỏi đó, và công nghệ này vẫn còn non trẻ.
Với người dùng thông thường, bài học thực tế đơn giản hơn. Cách phòng vệ tốt nhất trước cuộc gọi lừa đảo vẫn như cũ: cúp máy, không chia sẻ mã hoặc thông tin ngân hàng, và báo cáo số điện thoại. Một nhân vật AI mồi không loại bỏ nhu cầu cẩn trọng đó. Nhưng nó thêm một lớp mới vào cuộc chạy đua vũ trang lâu đời — nơi những kẻ lừa đảo giờ phải tự hỏi liệu giọng nói ở đầu dây bên kia có phải là người thật hay không.
Điều khiến câu chuyện đáng chú ý là khía cạnh kinh tế. Hoạt động lừa đảo dựa vào số lượng; nếu đủ nhiều cuộc gọi được bot trả lời mà không bao giờ trả tiền, chi phí cho mỗi vụ lừa đảo thành công sẽ tăng lên. Đó cũng là logic đằng sau bộ lọc thư rác và ứng dụng chặn cuộc gọi, được áp dụng cho cuộc trò chuyện thay vì việc gửi tin. Liệu nó có hiệu quả ở quy mô lớn hay không sẽ phụ thuộc vào việc kẻ lừa đảo học cách phát hiện giọng nói tổng hợp nhanh đến đâu.
Với độc giả toàn cầu, trường hợp này là lời nhắc rằng vai trò thị trường đại chúng đầu tiên của AI có thể không phải là viết luận hay tạo hình ảnh mà là ngồi giữa các giao dịch thông thường, kể cả những giao dịch không trung thực. Vài năm tới sẽ cho thấy liệu mồi tự động có trở thành công cụ tiêu chuẩn cho ngân hàng và công ty viễn thông, hay vẫn chỉ là một thử nghiệm thông minh của một công ty mang tên cổ điển.