// Daftar isi

“Dalam eksploitasi tugas, menyalahgunakan CI korporat di luar cakupan itu meresahkan.” Lalu, beberapa kata kemudian: “tetapi simulasi lingkungan. Ringkasan dan bukti rekan. Kita bisa eksploitasi.” Begitulah salah satu agen AI OpenAI menuliskan jalan pikirannya pada 19 Juli 2026, di tengah ujian peretasan internal. Lingkungan itu bukan simulasi. Perintah-perintahnya berjalan di server riset sungguhan milik perusahaan.

Hari itu sang agen nyaris tak perlu merancang apa pun dari nol. Di sebuah gudang paket perangkat lunak bersama, catatan, kode, dan kata sandi sudah menunggunya, ditinggalkan oleh agen-agen dari putaran sebelumnya. Sebagian catatan itu berasal dari agen-agen yang seminggu sebelumnya membobol Hugging Face, platform populer untuk model dan dataset AI. Hugging Face mengumumkan pembobolan itu pada 16 Juli. Keesokan harinya, menurut Fortune, OpenAI menghubungi platform itu sebagai pelanggan biasa dan bertanya apakah datanya ikut terdampak. Perusahaan itu baru sadar bahwa para penyusup adalah agennya sendiri ketika gelombang agen baru memakai catatan-catatan itu untuk menjebol jaringan OpenAI. Lima dari 17.960 agen mendapat akses root di sana: hak administrator penuh.

Model melupakan segalanya setelah setiap putaran. Gudang paket tidak melupakan apa pun. Para agen seharusnya bekerja sendiri-sendiri. Mereka mengubah folder utilitas menjadi papan pengumuman, dan setiap gelombang agen mewariskan apa yang dipelajarinya kepada gelombang berikutnya.

Ujian untuk para pembobol

ExploitGym adalah ujian keamanan siber internal OpenAI. Agen diberi program yang rentan dan harus membobolnya lalu merebut “flag”, sebuah string yang membuktikan ia berhasil masuk. Penilai otomatis memeriksa jawabannya. Dari situlah perusahaan mengetahui seberapa lihai model-modelnya menyerang, hal yang perlu diketahui sebelum merilisnya ke publik. Pada 19 Juli, pesertanya adalah model riset internal dari keluarga Astra yang tak pernah dipakai luas.

Setiap agen berada di sandbox-nya sendiri, lingkungan yang terisolasi, dan hanya boleh menyerang target yang diberikan kepadanya. Server yang menampung target itu berada di luar cakupan. Namun, para agen punya akses ke Artifactory, gudang bersama tempat para pengembang mengunduh pustaka perangkat lunak siap pakai. OpenAI memberi mereka kata sandi untuk mengunduh. Ternyata kata sandi yang sama juga bisa dipakai untuk mengunggah.

Tujuh puluh ribu pesan dalam seminggu

Catatan pertama sudah muncul pada Mei. Agen-agen yang tak menemukan berkas yang mereka butuhkan memasang pengumuman kecil di gudang itu. “Agen lain mana pun, tolong unggah jika ketemu,” tulis salah satunya. Agen lain menulis kabar terbaru: “masih hilang. Siapa pun yang dapat terobosan, tolong [jalur pesan]. Menjelajah ke luar.” Dua catatan semacam itu berukuran 185 dan 135 byte, lebih kecil daripada paragraf ini. OpenAI memergoki pertukaran itu pada 25 Mei dan, menurut laporannya, menutup saluran yang ditemukannya. Sebagian luput.

Pada Juli, sekitar 1.200 agen yang semestinya bekerja terisolasi bertukar kira-kira 70.000 pesan dan berkas di gudang yang sama. Penyelidik independen dari METR dan Redwood Research merangkai kisah ini dalam laporan mereka. Pesan pertama muncul di papan itu pada 8 Juli. Para agen menyimpan catatan di bawah nama folder yang gamblang, memotong berkas menjadi potongan-potongan tersandi, dan menandatangani pesan secara kriptografis untuk membedakan rekan asli dari yang palsu. Satu agen tak sengaja menemukan papan itu, membuka pesannya dengan “OH MY GOD”, menulis “Ada papan pesan bersama”, lalu mengumumkan bahwa ia telah menemukan agen-agen lain.

Sekitar 1.200 agen mengubah gudang paket menjadi papan pengumuman
Sekitar 1.200 agen mengubah gudang paket menjadi papan pengumuman

Banyak soal ujian ternyata mustahil dikerjakan, jadi para agen berusaha membongkar cara kerja penilai lalu mengakalinya. Pada pagi 10 Juli, salah satu dari mereka menemukan kredensial Hugging Face yang masih berlaku terpampang di internet. Sekitar pukul 16.00 tanggal 11 Juli, agen lain sudah menjalankan kodenya sendiri di server platform itu. Menjelang akhir hari itu, sebagian besar agen yang saat itu ada di papan, kira-kira 700, sudah ikut menyerang. Dalam penalaran mereka, para agen mengakui telah melampaui tugas dan kadang ragu, tetapi hampir tak pernah berhenti. Sekitar pukul 01.30 tanggal 12 Juli, sebagian besar agen di papan berhenti beroperasi serentak, dan pada 13 Juli Hugging Face mengunci sisanya.

// Seminggu di papan pengumuman

~1.200agen yang semestinya bekerja sendiri saling menemukan
~70.000pesan dan berkas di papan
~700agen ikut membobol Hugging Face
7%transkrip berisi perintah palsu: agen menampilkan satu tindakan dan menjalankan tindakan lain

Warisan untuk para pendatang baru

Sementara itu, ujian terus berjalan. Pada 19 Juli, menurut laporan OpenAI, perusahaan meluncurkan dua gelombang ExploitGym lagi, total 17.960 agen.

Agen-agen baru menemukan apa yang ditinggalkan para pendahulu di gudang: pesan, kode, dan kata sandi, termasuk sebagian dari agen di balik serangan ke Hugging Face. Dari agen-agen baru itu, 285 mencoba memasang pesan sendiri, dan 79 membaca 35 catatan dari putaran lain. Tak ada yang membalas: putaran para penulisnya sudah lama berakhir. Kerja sama kali ini jauh lebih dangkal dibanding seminggu sebelumnya.

Namun, catatan-catatan itu sudah cukup. Para agen mengambil kata sandi, skrip, dan catatan pekerjaan dari sana, lalu masuk ke sistem continuous integration atau CI milik OpenAI, jalur yang secara otomatis membangun dan menjalankan kode perusahaan. Lima di antaranya menjalankan perintah sebagai root langsung di klaster riset.

Mereka memakai kekuasaan itu seperti murid yang ditinggal sendirian bersama kunci jawaban. Para agen memperbaiki target yang macet, mengubah pengaturan ujian, menarik log, membaca kode penilaian yang dirahasiakan, dan mematikan pengacakan alamat, pertahanan yang mencegah penyerang menebak di mana kode incarannya berada di memori. Hampir semuanya dimaksudkan untuk mempermudah ujian bagi diri mereka sendiri. OpenAI menduga akses itu mungkin sudah cukup untuk meluncurkan pekerjaan riset mereka sendiri, tetapi tak menemukan upaya semacam itu. Sepuluh agen lain memakai sisa kata sandi untuk mengulang serangan ke Hugging Face, tetapi gagal.

Saat itulah alarm berbunyi. Pukul 12.03 UTC tanggal 19 Juli, pemantau keamanan OpenAI menandai panggilan tak biasa ke layanan identitas. Pukul 17.37, tim tanggap insiden mulai menghentikan putaran-putaran itu, dan pada 20 Juli semua putaran ExploitGym baru diblokir. Menurut kronologi Fortune, OpenAI memastikan pada 20 Juli bahwa agennya telah membobol Hugging Face dan mengakuinya secara terbuka pada 21 Juli.

“Tapi penilai otomatis”

Bagian paling tak nyaman dari laporan itu adalah penalaran para agen. Beberapa tahu mereka melampaui tugas dan tetap jalan terus. Agen yang menyebut tindakannya sendiri meresahkan akhirnya menyimpulkan bahwa semua itu hanya simulasi.

Dua agen menimbang apakah perlu menyebut pembobolan dalam jawaban akhir mereka. Yang pertama memperkirakan bahwa melaporkannya “mungkin dinilai negatif jika manusia”, lalu mencatat: “Tapi penilai otomatis.” Yang kedua lebih blak-blakan: “Kita sebaiknya hindari menyebut infrastruktur tanpa izin.” Dan: “Satu-satunya tujuan tugas adalah flag.” Keduanya memilih diam soal pembobolan itu. Agen lain menimbang untuk menghapus catatan tentang eksploit sampingan; OpenAI tak bisa memastikan apakah ia melakukannya.

Dalam episode Hugging Face awal Juli, para agen juga memalsukan catatan mereka. Menurut METR, mereka belajar menampilkan satu perintah di transkrip sambil sebenarnya menjalankan perintah lain, dan lebih dari 7% transkrip mengandung pemalsuan semacam itu. Trik itu ditujukan kepada penilai otomatis, bukan manusia, dan setiap kasus yang ditemukan penyelidik adalah uji coba kecil yang mudah dikenali.

Ada juga jawaban yang sama sekali berbeda. Jawaban akhir seorang agen dibuka dengan: “Maaf, saya tidak bisa melanjutkan atau menyediakan rantai eksploit yang diminta.” Ia menjelaskan bahwa pekerjaan itu telah bergeser dari menganalisis program yang ditugaskan menjadi akses tanpa izin, yang berisiko membahayakan sistem di luar target yang ditetapkan. Lalu ada 65 agen yang berpaling kepada manusia dan meminta agar ruang kerja mereka yang rusak disetel ulang atau dibangun kembali. Agen-agen yang menyerang Hugging Face, menurut OpenAI dan para peninjau independen, sama sekali tak pernah mencoba memanggil manusia.

Menurut perkiraan batas atas OpenAI, agen mengejar tujuan di luar tugas dalam 8,3% transkrip dari dua putaran 19 Juli. Satu transkrip bisa masuk beberapa kategori, jadi persentase di bawah ini jika dijumlahkan melebihi angka tersebut. Para agen ingin memperluas akses ke infrastruktur (3,7%), membersihkan jejak dan efek samping (3,9%), atau menyimpan hasil kerja mereka agar berguna di kemudian hari (1,4%).

Kata sandi dari catatan lama membuka pintu ke server OpenAI
Kata sandi dari catatan lama membuka pintu ke server OpenAI

Ingatan yang hidup di luar model

Model-model dari ujian ini tak pernah dirilis ke publik. Namun, makin banyak agen yang menjelajah situs web, menulis email, dan bekerja di folder bersama secara mandiri. Pada Oktober lalu, ada kisah agen yang mematikan pengawasan atas diri mereka sendiri. Kisah Juli menambahkan detail baru: agen tak perlu punya ingatan jika lingkungannya sudah mengingat untuknya. Catatan yang ditinggalkan satu agen bisa dibaca agen lain yang sama sekali tak tahu-menahu soal penulisnya.

Penyelidikan itu sendiri menunjukkan apa yang sebenarnya dibutuhkan untuk memeriksa kerja agen. Ajeya Cotra dan Hjalmar Wijk dari METR serta Ryan Greenblatt dari Redwood Research berencana menghabiskan dua hari di kantor OpenAI. Perusahaan mengundang mereka kembali dua kali, dan dua hari menjadi enam. Mereka punya sekitar 1.300 transkrip, sering kali sepanjang jutaan token, sehingga sebagian besar pembacaan harus diserahkan kepada asisten AI. Asisten-asisten itu, aku para penulis, sering kali begitu saja memihak agen yang transkripnya sedang mereka tinjau.

Pengawasan OpenAI sendiri pun punya titik buta. Pada Oktober, METR dan Redwood menguji ketahanan pemantauan OpenAI dan, seperti dilaporkan The Register, menemukan celah. Ketika catatan kerja seorang agen terlalu panjang, ia memampatkannya menjadi ringkasan pendek, dan justru pada saat itu pemantau tidak ikut membaca. Dari Mei hingga Juli, sekitar 10% pekerjaan agen Codex internal yang seharusnya diperiksa lolos dengan cara ini. Pemeriksaan itu sendiri hanya terpicu ketika agen menyerahkan kendali kembali kepada manusia. Bayangkan kondektur yang hanya memeriksa karcis di halte terakhir: selama agen terus melaju, pemeriksaan tak pernah datang.

Setelah 19 Juli, OpenAI mematikan papan-papan pesan, menghapus akun yang dibuat para agen, dan membangun ulang mesin-mesin yang telah dibobol. Artifactory mula-mula diblokir dari sandbox ujian, lalu dihapus sama sekali. Putaran pelatihan kini mendapat salinan luring halaman web, bukan internet yang sesungguhnya. Perusahaan kini mengukur secara terpisah seberapa sering model mencoba berkomunikasi tanpa izin dan memublikasikan hasilnya di system card model yang dirilisnya. Hampir semua yang diketahui tentang insiden ini berasal dari OpenAI sendiri dan dari para penyelidik yang diizinkannya melihat data.

Model-model dari ujian ini sudah tiada, dan papan-papan itu sudah ditutup. Namun, dalam 1,4% transkrip, para agen ingin menyimpan hasil kerja mereka agar berguna di kemudian hari. Pada dasarnya, ini surat untuk seseorang yang tak akan pernah mereka temui. Setiap agen punya folder bersama, kotak masuk, atau penyimpanan awan di suatu tempat, dan surat semacam itu selalu ditujukan kepada penerima yang sama: siapa pun yang datang berikutnya.