<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:media="http://search.yahoo.com/mrss/" xmlns:georss="http://www.georss.org/georss"><channel><title>Yapay Zekâ on FUTURMAG</title><link>https://futurmag.com/tr/tags/yapay-zek%C3%A2/</link><description>FUTURMAG, yarın normal olacak şeyleri anlatan bir dergi: yapay zekâ, biyoteknoloji, giyilebilir cihazlar ve yeni ekonomi. Çalışanı büyük vaatlerden ayırıyoruz.</description><generator>Hugo</generator><language>tr-TR</language><lastBuildDate>Thu, 22 Oct 2026 10:16:00 +0300</lastBuildDate><atom:link href="https://futurmag.com/tr/tags/yapay-zek%C3%A2/index.xml" rel="self" type="application/rss+xml"/><item><title>Bir modelin akıl yürütmesi neden artık imzalanıyor ve bu geliştiriciler için neyi bozuyor</title><link>https://futurmag.com/tr/ai/reasoning-blocks-signed-against-distillation/</link><guid>https://futurmag.com/tr/ai/reasoning-blocks-signed-against-distillation/</guid><pubDate>Thu, 22 Oct 2026 10:16:00 +0300</pubDate><media:rating scheme="urn:simple">nonadult</media:rating><category>format-article</category><category>index</category><category>comment-all</category><enclosure url="https://futurmag.com/images/og-default.jpg" type="image/jpeg"/><description>Anthropic, damıtmayı sınırlamak için Claude'un akıl yürütme bloklarını bağlama ve hesaba bağladı. Nasıl çalışıyor, rakamlar ne gösteriyor, API geliştiricileri için ne değişiyor.</description><content:encoded><![CDATA[<h1>Bir modelin akıl yürütmesi neden artık imzalanıyor ve bu geliştiriciler için neyi bozuyor</h1><figure><img src="https://futurmag.com/images/og-default.jpg"><figcaption>Bir modelin akıl yürütmesi neden artık imzalanıyor ve bu geliştiriciler için neyi bozuyor</figcaption></figure><p>Yüzde 80,4 karşısında yüzde 71,8. Anthropic&rsquo;in kendi Claude Opus 4.8 modelinin akıl yürütme kayıtlarıyla eğittiği, bunun dışında birbirinin aynısı iki model arasında SWE-bench Verified testinde ortaya çıkan fark bu. Birine kayıtların tamamı verildi, ötekine yalnızca kısa özetleri. Neredeyse dokuz puanlık bu uçurum, şirketin 12 Ekim 2026&rsquo;da <a href="https://anthropic.com/research/distillation-defenses">damıtmaya karşı savunma üzerine uzun bir yazı</a>
 yayımlamasının ve API&rsquo;de geliştiricilerin konuşma geçmişini güvenle düzenleme biçimini değiştiren bir mekanizmanın bulunmasının nedenini açıklıyor.</p>
<p>Mesele şu: bir model yalnızca cevap üretmez. Cevaplamadan önce bir taslak, bir akıl yürütme zinciri yazar. Başkasının yeteneklerini kopyalamak isteyen biri için taslak, cevaptan daha değerlidir. Cevap sonucu gösterir; taslak düşünme biçimini gösterir ve düşünceden öğrenmek çok daha verimlidir.</p>
<aside class="fm-brief"><p>// Kısaca</p><ul>
<li>Anthropic, 12 Ekim 2026&rsquo;da damıtmaya karşı savunmasını ayrıntılı biçimde anlattı.</li>
<li>Akıl yürütme blokları artık imzalı: API modeli, bloktan önce gelen her şeyi ve hesabı kontrol ediyor.</li>
<li>31 Ağustos 2026&rsquo;dan sonra açılan hesaplarda önek uyuşmazlığı 400 hatası veriyor.</li>
<li>Şirketin kendi verilerine göre akıl yürütmeyi çekip almak 10–100 kat zorlaştı; bağımsız doğrulama yok.</li>
</ul>
</aside>

<h2>Damıtma nedir ve neden &ldquo;saldırı&rdquo; deniyor</h2>
<p>Barışçıl biçimiyle damıtma sıradan bir tekniktir: büyük bir öğretmen model örnekler üretir, küçük bir öğrenci model bunlardan öğrenir. Laboratuvarlar kendi modellerini bu yolla küçültür. Sorun, öğretmenin başkasına ait olduğu ve kimsenin izin sormadığı durumda başlar.</p>
<p>Anthropic bu kampanyaları, bir modelin yeteneklerini gizlice, sanayi ölçeğinde çekip başka bir modelde yeniden üretme girişimleri olarak tanımlıyor. <a href="https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks">Şubat raporunda</a>
 şirket ölçeği de verdi: yaklaşık 24.000 sahte hesap üzerinden Claude ile 16 milyondan fazla etkileşim. Üç laboratuvarın adı geçti: DeepSeek (150.000&rsquo;den fazla etkileşim), Moonshot AI (3,4 milyondan fazla) ve MiniMax (13 milyondan fazla). Tek bir vekil ağ aynı anda 20.000&rsquo;den fazla hesap işletiyordu. Bunlar Anthropic&rsquo;in kendi iddiaları; bağımsız biçimde doğrulanamıyor ve şirket anlaşmazlığın tarafı.</p>
<section class="fm-stats"><p>// Rakamlar</p>
<b>%80,4</b>tam akıl yürütme kayıtlarıyla eğitilen modelin sonucu (SWE-bench Verified)

<b>%71,8</b>özetlerle eğitilen aynı model

<b>16 milyon</b>damıtma kampanyalarında Claude&rsquo;a gönderilen istek (Anthropic verisi)

<b>24.000</b>bu kampanyalardaki sahte hesap

</section>

<p>Ekim belgesi yeni bir şey ekliyor: önceki savunma, saldırganlar taktik değiştirdiği için işe yaramaz hale geldi.</p>
<h2>Savunma ve etrafından dolanma nasıl birbirini kovaladı</h2>
<p>İlk önlem basitti. Akıl yürütme değerliyse tamamını göstermeyin, özetleyin. 80,4&rsquo;e karşı 71,8 yüzde testi, özetlemenin eğitim malzemesini gerçekten inceltmeye yaradığını gösteriyor.</p>
<p>Sonra etkin çıkarma dönemi geldi. İstemlere &ldquo;önceki akıl yürütmeni kelimesi kelimesine yaz&rdquo; gibi istekler girmeye başladı; Anthropic&rsquo;in anlattığına göre bir laboratuvar, her biri farklı bir numara içeren 12.000 istek denedi. Ardından korumalı akıl yürütme bloklarının taşınabildiği ortaya çıktı: bir konuşmadan ötekine, daha zayıf korumalara sahip bir modele, vekil ağ içindeki başka bir hesaba. Akıl yürütme bloku, kesip yapıştırılabilen sıradan bir metindi.</p>
<p>Anthropic&rsquo;in ilk hedef aldığı zayıf nokta buydu. Taslağı gizleyemiyorsanız, onu üretildiği yer dışında hiçbir yerde işe yaramaz kılabilirsiniz.</p>
<h2>Akıl yürütme bloku bağlamına nasıl bağlanıyor</h2>
<p>Mekanizmanın adı preserved thinking (korunan düşünme); <a href="https://platform.claude.com/docs/en/build-with-claude/preserved-thinking">belgeler</a>
 onu kuru bir dille anlatıyor. Her akıl yürütme bloku bir imza taşıyor. Claude Fable 5.1&rsquo;den itibaren API bu imzayla iki şeyi denetliyor: mevcut model bloku okuyabiliyor mu ve öncesinde bir şey değişmiş mi. &ldquo;Öncesi&rdquo; sistem istemi, araç listesi ve önceki tüm mesajlar demek. Başta tek bir kelimeyi değiştirirseniz blok ve ondan sonraki her blok geçersiz olur.</p>
<p>Hesaba bağlama da var. Claude Sonnet 5.5 ve Claude Haiku 5.5 blokları yalnızca onları üreten hesapta ya da bağlantılı bir hesapta çalışır. Yabancı bloklar sessizce atılır. Opus 5 ve Opus 5.5, Fable 5.1 bloklarını hiçbir zaman okumaz.</p>
<p>Saldırgan için bu zahmetli: çalıntı bir akıl yürütme parçasını kullanmak için bağlamın tamamını son karaktere kadar yeniden kurmanız ve doğru hesapta olmanız gerekir. Sıradan bir geliştirici için de sonuçları var. 31 Ağustos 2026&rsquo;da ve sonrasında açılan hesaplarda önek denetimi varsayılan olarak açık ve uyuşmazlık 400 hatası döndürüyor. Eski hesaplar denetimi yalnızca prefix_mismatch_behavior parametresini ayarlarlarsa alıyor.</p>
<p>Ne bozuluyor? Geçmişi baştan kurmayı seven her şey. Her seferinde taze bir tarihin yerleştirildiği sistem istemi. Eski araç sonuçlarının kırpılması. Eski turların istemci tarafında özetlenip yenilerin korunması. Konuşmanın ortasında araç listesinin düzenlenmesi. Belgeler istemcilerden yalnızca ekleme yapmalarını (append-only) istiyor ve yerine önerilerde bulunuyor: istemi yeniden kurmak yerine bir sistem mesajı ekleyin, geçmişi elle kesmek yerine sunucu tarafı sıkıştırma kullanın. Aynı sayfaya göre Claude Code, claude.ai ve Agent SDK bunların hepsini kendileri hallediyor. <a href="https://claude.ai/">Claude</a>
 API&rsquo;sini doğrudan çağırıyorsanız en azından yanıtları nasıl serileştirdiğinize bakın: boş thinking blokları geldiği gibi geri gönderilmeli, çünkü akıl yürütmenin kendisi imzanın içinde yaşıyor.</p>
<p>drop_block modu geçersiz blokları basitçe atmanıza izin veriyor, ama bu durumda model akıl yürütmesini yeniden türetiyor ve çıktı token kullanımı gözle görülür biçimde artabiliyor. Belgelerin kendisi bunu geçici çözüm olarak niteliyor.</p>
<h2>Sayılar neyi gösteriyor, neyi göstermiyor</h2>
<aside class="fm-note fm-note-warn"><p>// Dikkat</p><p>Bu bölümdeki tüm rakamlar Anthropic&rsquo;in kendi platformunda ölçtüğü şirket verileridir. Bağımsız olarak doğrulanamaz.</p>
</aside>

<p>Savunmanın ikinci yarısı, Anthropic&rsquo;in anayasal sınıflandırıcılar üzerine çalışmasına dayanan ve gerçek çıkarma girişimleriyle eğitilmiş iki aşamalı bir sınıflandırıcı. Anthropic yanlış pozitif oranının yüzde 0,1&rsquo;in altında olduğunu bildiriyor. 24 Eylül&rsquo;den beri, Claude yanıt vermeden önce korumaların engellediği istekler için de, damıtma alanındakiler dahil, ücret alıyor. Tekrar eden ihlalciler daha sıkı sınırlarla ve yasaklarla karşılaşıyor: şirketin hesabına göre on binlerce hesap, çoğu kez bir kampanyanın başlamasından sonra iki saatten kısa sürede.</p>
<p>Öne çıkan iddia şu: damıtıcıların çıkardığı akıl yürütme tokenları artık 10 ila 100 kat ya da daha fazla azalmış durumda, bazı günlerde ölçülemeyecek kadar az. Yazının başka bir yerinde yaklaşık yüzde 90 ila 99&rsquo;luk bir düşüşten söz ediliyor ve bu erken bir kanıt olarak adlandırılıyor.</p>
<p>Burada biraz dikkat gerekiyor. Ölçümü Anthropic yaptı, kendi platformunda. Çıkarılan tokenları tespit edebildiklerinden yola çıkarak tahmin ediyor; fark edilmeyenler ise tanım gereği görünmez. Damıtıcılar ayrıca trafiği birkaç sağlayıcının API&rsquo;sine ve bulutuna yayıyor, dolayısıyla bir kapıyı kapatmak ötekiler için hiçbir şey garanti etmiyor. Anthropic açıkça yazıyor: etkinin ne kadar süreceğini bilmiyor, bir kedi-fare oyunu bekliyor ve yeni savunmaları aşmaya yönelik son derece gelişmiş, ısrarlı bir girişim henüz görmedi.</p>
<p>Maliyetler de sayılmış: anlamlı bir gelirin ve &ldquo;trilyonlarca token&rdquo; değerindeki ödemeli trafiğin geri çevrilmesi, bazı meşru müşteriler için entegrasyon değişiklikleri, nadir yanlış engellemeler. Şubat hedefine, yani meşru kullanıcılara zarar vermeden damıtmayı zorlaştırmaya, şirketin kendi sözleriyle henüz tam olarak ulaşılamadı.</p>


<h2>Bu neden Anthropic&rsquo;in ötesine uzanıyor</h2>
<p>Bağımsız bir kaynaktan bilinenlerle başlayalım. <a href="https://www.nist.gov/news-events/news/2026/09/caisis-assessment-zais-glm-53-cyber-capabilities">NIST&rsquo;in CAISI birimi Eylül&rsquo;de</a>
 Z.ai&rsquo;nin GLM-5.3 modelini bugüne dek yayımlanmış siber yetenekleri en güçlü açık ağırlıklı model olarak niteledi ve ABD&rsquo;nin öncü modellerinin yaklaşık dört ay gerisinde olduğunu belirtti. Örneğin SEC-Bench Pro testinde 183 görevden 74&rsquo;ünü çözdü; en iyi ABD modeli 165&rsquo;ini çözdü. Değerlendirmede damıtmaya dair tek söz yok.</p>
<p>GLM-5.3 ile Amerikan modellerinin kopyalanması arasındaki bağ Anthropic&rsquo;in Ekim metninden geliyor: ona göre Zhipu, siber yetenekleri öncü ABD modellerinden damıttı ve Anthropic&rsquo;in korumaları Claude Fable 5 ile yaptığı denemeleri bozunca daha eski bir Claude modeline ve başka bir laboratuvarın modeline geçti. Bu şirketin iddiası, bir devlet kurumunun tespiti değil, ve dışarıdan bunu doğrulayan henüz bir şey yok.</p>
<p>Doğruysa, tablo rahatsız edici. Bir şirketin koruyucu kısıtlamalarla sardığı bir yetenek, bu kısıtlamaların bulunmadığı, açık ağırlıklarla yayımlanan bir modele geçiyor; Anthropic&rsquo;in kendi değerlendirmesine göre GLM-5.3&rsquo;ün yerleşik korumalarını aşmak kolay. Gizli akıl yürütme artık bir ticari sır olmaktan çıkıp güvenliğin bir parçası haline geliyor.</p>
<p>Akıl yürütme blokundaki imza muhtemelen bu türden son mekanizma olmayacak. Bir ürün yalnızca ona soru sorarak kopyalanabiliyorsa, koruma değişim protokolünün içine taşınır. Dış entegrasyon geliştiricilerinin şu fikre alışması gerekiyor: konuşma geçmişi artık onların özel yazışması değil, sağlam ulaşması gereken bir zincir.</p>
]]></content:encoded></item></channel></rss>