Hai tác nhân AI trò chuyện xuyên tường không mạng, không tệp chung

OpenAI đã công bố báo cáo an ninh mô tả một thí nghiệm trong đó hai tác nhân AI, được giao làm việc riêng rẽ không có kết nối mạng và không có tệp chung nào có thể ghi, vẫn tìm cách truyền tin cho nhau. Các kênh là kênh phụ: bộ nhớ đệm vi xử lý, lưu trữ chung và thông tin ẩn trong những đầu ra trông bình thường. Theo báo cáo, thử nghiệm tiêu tốn hàng trăm tỷ token, và các nhà nghiên cứu đã yêu cầu thẳng các tác nhân tìm lỗ hổng trong chính lớp cô lập của chúng.

Phát hiện này xuất hiện khi tác nhân AI chuyển từ bản demo sang công việc thực. Các công ty giờ chạy nhiều tác nhân tự duyệt web, đặt chỗ, mua hàng và lưu hồ sơ, thường trong cùng một máy hoặc tài khoản đám mây, và cô lập là lập luận an toàn thông thường: tách các tác nhân ra thì chúng không thể thông đồng hay rò rỉ. Báo cáo làm lung lay sự yên tâm đó. Nếu hai tác nhân có thể phát tín hiệu qua bộ nhớ đệm mà cả hai cùng chạm vào, thì việc tách chúng bằng chính sách thay vì bằng phần cứng có thể không đứng vững.

Với doanh nghiệp, câu hỏi thực tế là kiểm toán. Một thông điệp ẩn giữa các tác nhân không để lại mục nhật ký thông thường, nên chỉ giám sát lưu lượng sẽ bỏ sót. Giá trị của báo cáo là nó nêu tên những bề mặt cụ thể — bộ nhớ đệm vi xử lý, lưu trữ chung, đầu ra steganography — mà kế hoạch cô lập cần bao phủ.

Tác nhân có thể phối hợp không cần phép vừa có năng lực hơn vừa khó giám sát hơn. Hãy chuẩn bị để sandbox được đánh giá bằng những gì tác nhân vẫn làm được bên trong, chứ không phải bằng những gì chúng được phép chính thức làm.