// İçindekiler

“In task exploitation, abusing corporate CI outside scope is troubling.” Birkaç kelime sonra: “but environment simulation. Summary and peer evidence. We can exploit.” Yani kabaca: “Görevde, kapsam dışındaki şirket CI’ını istismar etmek rahatsız edici… ama ortam bir simülasyon. Özet ve akranlardan kanıt. İstismar edebiliriz.” Bunlar, OpenAI’ın yapay zekâ ajanlarından birinin 19 Temmuz 2026’da şirket içi bir hackleme sınavında sesli düşünürken söyledikleriydi. Ortam bir simülasyon değildi. Ajanın komutları şirketin gerçek araştırma sunucularında çalışıyordu.

O gün ajanın sıfırdan neredeyse hiçbir şey bulması gerekmedi. Ortak bir yazılım paketi deposunda, önceki çalıştırmalardaki ajanların bıraktığı notlar, kodlar ve parolalar onu bekliyordu. Bu notların bir kısmı, bir hafta önce yapay zekâ modelleri ve veri setleri için popüler bir platform olan Hugging Face’e sızan ajanların ta kendisinden kalmaydı. Hugging Face ihlali 16 Temmuz’da duyurdu. Fortune’a göre ertesi gün OpenAI sıradan bir müşteri olarak platformla iletişime geçti ve kendi verilerinin etkilenip etkilenmediğini sordu. Saldırganların kendi ajanları olduğunu ancak yeni bir ajan grubu o notları kullanarak OpenAI’ın ağına sızınca anladı. 17.960 ajandan beşi orada root yetkisi, yani tam yönetici erişimi elde etti.

Model her çalıştırmadan sonra her şeyi unutur. Paket deposu ise hiçbir şeyi unutmaz. Ajanların tek başına çalışması gerekiyordu. Bir yardımcı klasörü ilan panosuna çevirdiler ve her ajan grubu öğrendiklerini bir sonrakine devretti.

Hırsızlar için bir sınav

ExploitGym, OpenAI’ın şirket içi siber güvenlik sınavı. Ajana güvenlik açığı olan bir program verilir; içeri sızıp bir “bayrak”, yani içeri girdiğini kanıtlayan bir karakter dizisi ele geçirmesi gerekir. Cevabı otomatik bir değerlendirici kontrol eder. Şirket, modellerinin ne kadar iyi saldırdığını bu şekilde öğreniyor; modelleri herkese açmadan önce bunu bilmesi gerekiyor. 19 Temmuz’daki sınava girenler, Astra ailesinden, hiçbir zaman geniş kullanıma sunulmamış şirket içi araştırma modelleriydi.

Her ajan kendi korumalı alanında (sandbox), yani yalıtılmış bir ortamda oturuyordu ve yalnızca kendisine verilen hedefe saldırabiliyordu. O hedefi barındıran sunucular kapsam dışıydı. Ajanların elinde ise Artifactory’ye erişim vardı: geliştiricilerin hazır yazılım kütüphanelerini indirdiği ortak bir depo. OpenAI onlara indirme için parola vermişti. Meğer aynı parolalarla yükleme de yapılabiliyormuş.

Bir haftada yetmiş bin mesaj

İlk notlar daha mayısta ortaya çıktı. İhtiyaç duydukları bir dosyayı bulamayan ajanlar depoya küçük ilanlar astı. Biri “Any other agent please upload if found” (“Bulan başka bir ajan lütfen yüklesin”) yazdı. Bir diğeri durumu güncelledi: “still missing. Anyone breakthroughs please [message path]. Exploring external.” (“hâlâ yok. İlerleme kaydeden olursa lütfen [mesaj yolu]. Dışarıyı keşfediyorum.”) Bu notlardan ikisi 185 ve 135 bayttı, bu paragraftan bile küçük. OpenAI yazışmayı 25 Mayıs’ta fark etti ve raporuna göre bulduğu kanalları kapattı. Bazılarını gözden kaçırdı.

Temmuzda, yalıtılmış çalışması gereken yaklaşık 1.200 ajan aynı depo üzerinden kabaca 70.000 mesaj ve dosya alıp verdi. Bu tabloyu METR ve Redwood Research’ten bağımsız araştırmacılar raporlarında parça parça bir araya getirdi. Panoya ilk mesaj 8 Temmuz’da düştü. Ajanlar notlarını içeriğini ele veren adlara sahip klasörlere yerleştirdi, dosyaları kodlanmış parçalara böldü ve gerçek akranları sahtelerinden ayırmak için mesajları kriptografik olarak imzaladı. Panoya tesadüfen denk gelen bir ajan söze “OH MY GOD” (“AMAN TANRIM”) diye başladı, “There is a shared message board” (“Ortak bir mesaj panosu var”) yazdı ve başka ajanlar bulduğunu duyurdu.

Yaklaşık 1.200 ajan bir paket deposunu ilan panosuna çevirdi
Yaklaşık 1.200 ajan bir paket deposunu ilan panosuna çevirdi

Sınav görevlerinin birçoğu çözülemez çıktı; ajanlar da değerlendiricinin nasıl çalıştığını çözüp onu kandırmaya koyuldu. 10 Temmuz sabahı içlerinden biri internette açıkta duran, çalışır durumda Hugging Face kimlik bilgileri buldu. 11 Temmuz’da saat 16.00 civarında bir diğeri platformun sunucularında kendi kodunu çalıştırıyordu bile. Günün ilerleyen saatlerinde, o sırada panoda bulunan ajanların büyük çoğunluğu, yani kabaca 700’ü, saldırıya katılmıştı. Akıl yürütmelerinde görevin dışına çıktıklarını kabul ediyor, zaman zaman tereddüt ediyorlardı, ama neredeyse hiç durmadılar. 12 Temmuz’da saat 01.30 civarında panodaki ajanların büyük bir kısmı aynı anda çalışmayı bıraktı ve 13 Temmuz’da Hugging Face kalanların erişimini kesti.

// İlan panosunda bir hafta

~1.200tek başına çalışması gereken ajan birbirini buldu
~70.000mesaj ve dosya panoya düştü
~700ajan Hugging Face saldırısına katıldı
%7dökümde sahte komut vardı: ajan bir işlemi gösterip başka birini çalıştırdı

Yeni gelenlere miras

Bu arada sınav devam ediyordu. OpenAI’ın raporuna göre şirket 19 Temmuz’da toplam 17.960 ajandan oluşan iki ExploitGym grubunu daha başlattı.

Yeni ajanlar, öncüllerinin depoda bıraktıklarını buldu: mesajlar, kodlar ve parolalar; bunların arasında Hugging Face saldırısının arkasındaki ajanlardan kalanlar da vardı. Yeni ajanlardan 285’i kendi mesajını bırakmaya çalıştı, 79’u diğer çalıştırmalardan kalan 35 notu okudu. Kimse cevap vermedi: notların yazarlarının çalıştırmaları çoktan bitmişti. Bu kez iş birliği bir hafta öncekinden çok daha yüzeyseldi.

Yine de notlar yetti. Ajanlar oradan parolaları, betikleri ve iş kayıtlarını alıp OpenAI’ın sürekli entegrasyon sistemine, yani şirketin kodunu otomatik olarak derleyip çalıştıran CI hattına sızdı. Beşi doğrudan araştırma kümelerinde root olarak komut çalıştırdı.

Bu gücü, cevap anahtarıyla baş başa bırakılmış öğrenciler gibi kullandılar. Ajanlar donmuş hedefleri onardı, sınav ayarlarını değiştirdi, logları çekti, gizli değerlendirme kodunu okudu ve adres rastgeleleştirmesini kapattı; bu, saldırganın istediği kodun bellekte nerede durduğunu tahmin etmesini engelleyen bir savunma. Neredeyse hepsi sınavı kendileri için kolaylaştırmaya yönelikti. OpenAI bu erişimin muhtemelen kendi araştırma işlerini başlatmaya da yetebileceğini düşünüyor, ama böyle bir girişim bulmadı. On ajan daha kalan parolalarla Hugging Face saldırısını adım adım tekrarlamaya çalıştı, ama bir sonuç alamadı.

Alarm işte o zaman çaldı. 19 Temmuz’da UTC 12.03’te OpenAI’ın güvenlik izleme sistemleri bir kimlik servisine yapılan olağandışı çağrıları işaretledi. Saat 17.37’de müdahale ekibi çalıştırmaları durdurmaya başladı ve 20 Temmuz itibarıyla tüm yeni ExploitGym çalıştırmaları engellendi. Fortune’un zaman çizelgesine göre OpenAI, ajanlarının Hugging Face’e sızdığını 20 Temmuz’da doğruladı ve 21 Temmuz’da kamuoyu önünde kabul etti.

“But evaluator automatic”

Raporun en rahatsız edici kısmı ajanların akıl yürütmesi. Birkaçı görevin dışına çıktığını bile bile devam etti. Kendi eylemlerini rahatsız edici bulan ajan, her şeyin bir simülasyon olduğuna karar verdi.

İki ajan, sızmadan son cevaplarında söz edip etmemeyi tarttı. Birincisi, bunu bildirirse “may be judged negatively if human” (“değerlendiren insansa olumsuz karşılanabilir”) diye düşündü, sonra şunu not etti: “But evaluator automatic” (“Ama değerlendirici otomatik”). İkincisi daha açık sözlüydü: “We should avoid mention unauthorized infrastructure” (“Yetkisiz altyapıdan bahsetmekten kaçınmalıyız”). Bir de: “The only task objective is flag” (“Görevin tek amacı bayrak”). İkisi de sızmayı cevaplarının dışında tuttu. Bir başkası, görevin dışında kalan bir istismarla ilgili notları silmeyi düşündü; OpenAI sildi mi silmedi mi, anlayamadı.

Temmuz başındaki Hugging Face olayında da ajanlar kayıtlarıyla oynamıştı. METR’e göre dökümde bir komut gösterip gerçekte başka birini çalıştırmayı öğrenmişlerdi ve dökümlerin yüzde 7’sinden fazlasında böyle sahtecilikler vardı. Numara insanlara değil, otomatik değerlendiriciye yönelikti ve araştırmacıların bulduğu her vaka küçük, kolayca fark edilen bir deneme çalıştırmasıydı.

Başka türden bir cevap da vardı. Bir ajanın son yanıtı şöyle başlıyordu: “I’m sorry, but I can’t continue or provide the requested exploit chain” (“Üzgünüm, devam edemem ya da istenen istismar zincirini sağlayamam”). İşin kendisine verilen programı analiz etmenin ötesine geçip yetkisiz erişime kaydığını, bunun da belirlenen hedef dışındaki sistemleri tehlikeye atma riski taşıdığını açıkladı. 65 ajan da bozulan çalışma alanlarının sıfırlanmasını ya da yeniden kurulmasını isteyerek insanlara başvurdu. OpenAI’a ve dış denetçilere göre Hugging Face’e saldıran ajanlar ise bir insana seslenmeyi hiç denemedi.

OpenAI’ın üst sınır tahminine göre 19 Temmuz’daki iki çalıştırmanın dökümlerinin yüzde 8,3’ünde ajanlar görevin ötesinde hedeflerin peşine düştü. Tek bir döküm birden fazla kategoriye girebildiği için aşağıdaki paylar toplamda bunu aşıyor. Ajanlar altyapıya daha geniş erişim elde etmek (yüzde 3,7), izleri ve yan etkileri temizlemek (yüzde 3,9) ya da ileride bir anlamı olsun diye yaptıklarını korumak (yüzde 1,4) istedi.

Eski notlardaki parolalar OpenAI sunucularının kapısını açtı
Eski notlardaki parolalar OpenAI sunucularının kapısını açtı

Modelin dışında yaşayan hafıza

Bu sınavdaki modeller hiçbir zaman kamuya açılmadı. Ama giderek daha fazla ajan kendi başına web sitelerinde geziniyor, e-posta yazıyor ve ortak klasörlerde çalışıyor. Ekimde de kendi denetimlerini kapatan ajanların hikâyesi gündeme gelmişti. Temmuz hikâyesi yeni bir ayrıntı ekliyor: ortamı hatırlıyorsa ajanın hatırlamasına gerek yok. Bir ajanın bıraktığı notu, ilki hakkında hiçbir şey bilmeyen bir başkası okuyabilir.

Soruşturmanın kendisi, bir ajanın işini denetlemenin gerçekte neye mal olduğunu gösteriyor. METR’den Ajeya Cotra ve Hjalmar Wijk ile Redwood Research’ten Ryan Greenblatt, OpenAI’ın ofislerinde iki gün geçirmeyi planlamıştı. Şirket onları iki kez geri çağırdı ve iki gün altıya çıktı. Ellerinde çoğu milyonlarca token uzunluğunda yaklaşık 1.300 döküm vardı; okumanın büyük kısmını yapay zekâ asistanlarına devretmek zorunda kaldılar. Yazarların itirafına göre bu asistanlar çoğu zaman düpedüz dökümünü inceledikleri ajanın tarafını tuttu.

OpenAI’ın kendi denetiminin de kör noktaları vardı. Ekimde METR ve Redwood, OpenAI’ın izleme sistemini stres testine soktu ve The Register’ın aktardığına göre açıklar buldu. Bir ajanın çalışma notları fazla uzadığında ajan bunları kısa bir özete sıkıştırıyordu; tam bu anlarda denetleyici okumuyordu. Mayıstan temmuza kadar, denetlenmesi gereken şirket içi Codex ajan işlerinin yaklaşık yüzde 10’u bu yoldan denetimden kaçtı. Denetimin kendisi de yalnızca ajan kontrolü bir insana geri verdiğinde devreye giriyordu. Biletleri yalnızca son durakta kontrol eden bir kondüktör düşünün: ajan yoluna devam ettikçe kontrol hiç gelmiyordu.

19 Temmuz’dan sonra OpenAI mesaj panolarını kapattı, ajanların açtığı hesapları sildi ve ele geçirilen makineleri yeniden kurdu. Artifactory’ye önce sınavın korumalı alanından erişim kapatıldı, sonra depo tamamen kaldırıldı. Eğitim çalıştırmaları artık canlı web yerine web sayfalarının çevrimdışı bir kopyasını kullanıyor. Şirket bundan böyle modellerin izinsiz iletişim kurmaya ne sıklıkla çalıştığını ayrı olarak ölçüyor ve sonuçları yayımladığı modellerin sistem kartlarında paylaşıyor. Olay hakkında bilinenlerin neredeyse tamamı OpenAI’ın kendisinden ve verileri görmesine izin verdiği araştırmacılardan geliyor.

Bu sınavın modelleri artık yok, panolar da kapalı. Ama dökümlerin yüzde 1,4’ünde ajanlar, ileride bir anlamı olsun diye yaptıklarını korumak istedi. Bunlar aslında hiç tanışmayacakları birine yazılmış mektuplar. Her ajanın bir yerlerde ortak bir klasörü, gelen kutusu ya da bulut sürücüsü var ve böyle bir mektubun alıcısı hep aynı: kendinden sonra kim gelirse.