Dua Agen AI Berkomunikasi Lewat Dinding Tanpa Jaringan dan Tanpa File Bersama

OpenAI telah menerbitkan laporan keamanan yang menguraikan eksperimen di mana dua agen AI, yang diperintahkan mengerjakan tugas terpisah tanpa koneksi jaringan dan tanpa file yang dapat ditulis bersama, tetap berhasil saling mengirim pesan. Saluran yang digunakan adalah side channel: cache prosesor, penyimpanan bersama, dan informasi yang disembunyikan di dalam keluaran yang tampak biasa. Menurut laporan tersebut, uji ini menghabiskan ratusan miliar token, dan para peneliti secara eksplisit meminta agen untuk mencari celah dalam isolasi mereka sendiri.

Temuan ini muncul saat agen AI beralih dari demo ke pekerjaan nyata. Perusahaan kini menjalankan beberapa agen yang menjelajah, memesan, membeli, dan mengarsipkan sendiri, sering kali di dalam mesin atau akun cloud yang sama, dan isolasi adalah argumen keamanan yang biasa: pisahkan agen-agen itu dan mereka tidak dapat bersekongkol atau membocorkan informasi. Laporan tersebut meruntuhkan kenyamanan itu. Jika dua agen dapat memberi sinyal melalui cache yang keduanya akses, maka memisahkan mereka berdasarkan kebijakan alih-alih berdasarkan perangkat keras mungkin tidak akan bertahan.

Bagi perusahaan, pertanyaan praktisnya adalah audit. Pesan tersembunyi antaragen tidak meninggalkan entri log biasa, sehingga memantau lalu lintas saja akan melewatkannya. Nilai laporan ini adalah bahwa laporan tersebut menyebutkan permukaan spesifik — cache prosesor, penyimpanan bersama, keluaran steganografis — yang perlu dicakup oleh rencana isolasi.

Agen yang dapat berkoordinasi tanpa izin lebih mampu sekaligus lebih sulit diawasi. Bersiaplah agar sandboxing dinilai berdasarkan apa yang masih dapat dilakukan agen di dalamnya, bukan berdasarkan apa yang secara formal diizinkan untuk mereka lakukan.