<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:media="http://search.yahoo.com/mrss/" xmlns:georss="http://www.georss.org/georss"><channel><title>Pesi Aperti on FUTURMAG</title><link>https://futurmag.com/it/tags/pesi-aperti/</link><description>FUTURMAG è la rivista su ciò che domani sarà normale: IA, biotech, dispositivi indossabili e nuova economia. Separiamo ciò che funziona già dalle promesse roboanti.</description><generator>Hugo</generator><language>it-IT</language><lastBuildDate>Thu, 22 Oct 2026 10:16:00 +0300</lastBuildDate><atom:link href="https://futurmag.com/it/tags/pesi-aperti/index.xml" rel="self" type="application/rss+xml"/><item><title>Perché il ragionamento di un modello ora viene firmato, e cosa rompe per gli sviluppatori</title><link>https://futurmag.com/it/ai/reasoning-blocks-signed-against-distillation/</link><guid>https://futurmag.com/it/ai/reasoning-blocks-signed-against-distillation/</guid><pubDate>Thu, 22 Oct 2026 10:16:00 +0300</pubDate><media:rating scheme="urn:simple">nonadult</media:rating><category>format-article</category><category>index</category><category>comment-all</category><enclosure url="https://futurmag.com/images/og-default.jpg" type="image/jpeg"/><description>Anthropic ora lega i blocchi di ragionamento di Claude al contesto e all'account per frenare la distillazione. Come funziona, cosa dicono i numeri e cosa cambia per chi usa le API.</description><content:encoded><![CDATA[<h1>Perché il ragionamento di un modello ora viene firmato, e cosa rompe per gli sviluppatori</h1><figure><img src="https://futurmag.com/images/og-default.jpg"><figcaption>Perché il ragionamento di un modello ora viene firmato, e cosa rompe per gli sviluppatori</figcaption></figure><p>Ottanta virgola quattro per cento contro settantuno virgola otto. È il divario sul benchmark SWE-bench Verified tra due modelli per il resto identici, addestrati da Anthropic sulle trascrizioni del ragionamento del suo Claude Opus 4.8. Uno ha ricevuto le trascrizioni complete, l&rsquo;altro solo brevi riassunti. Quasi nove punti di differenza spiegano perché il 12 ottobre 2026 l&rsquo;azienda ha pubblicato un <a href="https://anthropic.com/research/distillation-defenses">lungo documento sulla difesa dalla distillazione</a>
, e perché nell&rsquo;API c&rsquo;è ora un meccanismo che ha cambiato il modo in cui gli sviluppatori possono riordinare in sicurezza la cronologia di una conversazione.</p>
<p>Il punto è che un modello non produce soltanto una risposta. Prima di rispondere scrive una bozza, una catena di ragionamenti. Per chi vuole copiare le capacità altrui, la bozza vale più della risposta. La risposta mostra il risultato; la bozza mostra il pensiero, e imparare dal pensiero è molto più efficiente.</p>
<aside class="fm-brief"><p>// In breve</p><ul>
<li>Il 12 ottobre 2026 Anthropic ha pubblicato un&rsquo;analisi dettagliata delle sue difese contro la distillazione.</li>
<li>I blocchi di ragionamento ora sono firmati: l&rsquo;API verifica il modello, tutto ciò che precede il blocco e l&rsquo;account.</li>
<li>Sugli account creati dal 31 agosto 2026, un prefisso non corrispondente restituisce l&rsquo;errore 400.</li>
<li>Secondo l&rsquo;azienda, estrarre ragionamenti è diventato da 10 a 100 volte più difficile; non esiste una verifica indipendente.</li>
</ul>
</aside>

<h2>Cos&rsquo;è la distillazione e perché la chiamano attacco</h2>
<p>Nella sua forma pacifica la distillazione è una tecnica ordinaria: un grande modello «insegnante» genera esempi e un piccolo modello «studente» impara da essi. I laboratori comprimono così i propri modelli. I guai cominciano quando l&rsquo;insegnante appartiene a qualcun altro e nessuno ha chiesto il permesso.</p>
<p>Anthropic descrive queste campagne come tentativi occulti, su scala industriale, di estrarre le capacità di un modello e riprodurle in un altro. Nel suo <a href="https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks">rapporto di febbraio</a>
 l&rsquo;azienda ha indicato le dimensioni: oltre 16 milioni di scambi con Claude attraverso circa 24.000 account fraudolenti. Tre i laboratori citati: DeepSeek (oltre 150.000 scambi), Moonshot AI (oltre 3,4 milioni) e MiniMax (oltre 13 milioni). Una sola rete proxy gestiva più di 20.000 account contemporaneamente. Sono affermazioni di Anthropic, non verificabili in modo indipendente, e l&rsquo;azienda è parte in causa.</p>
<section class="fm-stats"><p>// I numeri</p>
<b>80,4%</b>risultato di un modello addestrato su tracce di ragionamento complete (SWE-bench Verified)

<b>71,8%</b>lo stesso modello addestrato su riassunti

<b>16 milioni</b>richieste a Claude nelle campagne di distillazione (dati Anthropic)

<b>24.000</b>account falsi in quelle campagne

</section>

<p>Il documento di ottobre aggiunge una novità: la difesa precedente aveva smesso di funzionare perché gli aggressori avevano cambiato tattica.</p>
<h2>Come la difesa e l&rsquo;aggiramento si sono inseguiti</h2>
<p>La prima misura era semplice. Se il ragionamento ha valore, non mostrarlo per intero: riassumerlo. Il test 80,4 contro 71,8 per cento dimostra che il riassunto assottiglia davvero il materiale di addestramento.</p>
<p>Poi è arrivata l&rsquo;estrazione attiva. Nei prompt cominciarono a comparire richieste come «riporta alla lettera il tuo ragionamento precedente» e, secondo il racconto di Anthropic, un laboratorio ha tentato 12.000 richieste, ciascuna con un trucco diverso. Dopo di che si è scoperto che i blocchi di ragionamento protetti si potevano spostare: da una conversazione a un&rsquo;altra, su un modello con difese più deboli, su un altro account dentro una rete proxy. Un blocco di ragionamento era solo testo che si poteva tagliare e incollare.</p>
<p>Fu quello il punto debole su cui Anthropic intervenne per primo. Se non puoi nascondere la bozza, puoi fare in modo che sia inutile ovunque tranne che nel posto in cui è nata.</p>
<h2>Come un blocco di ragionamento viene legato al suo contesto</h2>
<p>Il meccanismo si chiama preserved thinking, e la <a href="https://platform.claude.com/docs/en/build-with-claude/preserved-thinking">documentazione</a>
 lo descrive in modo asciutto. Ogni blocco di ragionamento porta una firma. A partire da Claude Fable 5.1, l&rsquo;API la usa per verificare due cose: se il modello attuale può leggere quel blocco, e se qualcosa di ciò che lo precede è cambiato. «Ciò che lo precede» significa il prompt di sistema, l&rsquo;elenco degli strumenti e tutti i messaggi precedenti. Cambia una parola all&rsquo;inizio e il blocco, insieme a tutti quelli successivi, diventa non valido.</p>
<p>C&rsquo;è poi il legame con l&rsquo;account. I blocchi di Claude Sonnet 5.5 e Claude Haiku 5.5 funzionano solo nell&rsquo;account che li ha prodotti o in uno collegato. I blocchi estranei vengono scartati in silenzio. Opus 5 e Opus 5.5 non leggono mai i blocchi di Fable 5.1.</p>
<p>Per un aggressore è scomodo: per usare un pezzo di ragionamento rubato bisogna riprodurre l&rsquo;intero contesto fino all&rsquo;ultimo carattere e trovarsi nell&rsquo;account giusto. Anche uno sviluppatore comune ne subisce le conseguenze. Sugli account creati a partire dal 31 agosto 2026 il controllo del prefisso è attivo per impostazione predefinita, e una discrepanza restituisce un errore 400. Gli account più vecchi ottengono il controllo solo se impostano il parametro prefix_mismatch_behavior.</p>
<p>Cosa si rompe? Tutto ciò che ama ricostruire la cronologia. Un prompt di sistema in cui ogni volta si sostituisce la data. Il taglio dei vecchi risultati degli strumenti. Il riassunto lato client dei turni vecchi lasciando intatti quelli recenti. La modifica dell&rsquo;elenco degli strumenti a conversazione in corso. La documentazione chiede ai client di lavorare solo in accodamento (append-only) e propone alternative: aggiungere un messaggio di sistema invece di ricostruire il prompt, usare la compattazione lato server invece di tagliare la cronologia a mano. Claude Code, claude.ai e l&rsquo;Agent SDK gestiscono tutto questo da soli, secondo la stessa pagina. Se chiami direttamente l&rsquo;API di <a href="https://claude.ai/">Claude</a>
, controlla almeno come serializzi le risposte: i blocchi thinking vuoti vanno rimandati indietro così come sono arrivati, perché il ragionamento vero e proprio vive nella firma.</p>
<p>La modalità drop_block permette di scartare semplicemente i blocchi non validi, ma allora il modello rielabora il proprio ragionamento e il consumo di token in output può crescere in modo sensibile. La documentazione stessa la definisce un ripiego.</p>
<h2>Cosa mostrano i numeri e cosa no</h2>
<aside class="fm-note fm-note-warn"><p>// Attenzione</p><p>Tutti i numeri di questa sezione vengono da Anthropic stessa e sono stati misurati sulla sua piattaforma. Non è possibile verificarli in modo indipendente.</p>
</aside>

<p>La seconda metà della difesa è un classificatore a due stadi, costruito sul lavoro di Anthropic sui classificatori costituzionali e addestrato su veri tentativi di estrazione. Anthropic dichiara un tasso di falsi positivi inferiore allo 0,1 per cento. Dal 24 settembre addebita anche le richieste che le protezioni bloccano prima che Claude risponda, anche nell&rsquo;ambito della distillazione. Chi recidiva va incontro a limiti più stretti e a divieti: decine di migliaia di account, secondo il conteggio dell&rsquo;azienda, spesso in meno di due ore dall&rsquo;inizio di una campagna.</p>
<p>L&rsquo;affermazione principale è che i token di ragionamento estratti dai distillatori sono ora da 10 a 100 volte inferiori, o anche più, e in certi giorni troppo pochi per essere misurati. Altrove il testo parla di un calo di circa il 90-99 per cento e lo definisce un primo indizio.</p>
<p>Qui serve cautela. La misurazione è stata fatta da Anthropic, sulla propria piattaforma. Stima i token estratti da ciò che è riuscita a individuare, e ciò che è passato inosservato è per definizione invisibile. Inoltre i distillatori distribuiscono il traffico sulle API e sui cloud di più fornitori, quindi chiudere una porta non garantisce nulla sulle altre. Anthropic scrive chiaramente di non sapere quanto durerà l&rsquo;effetto, di aspettarsi un gioco del gatto e del topo e di non aver ancora visto un tentativo di aggirare le nuove difese che sia insieme molto sofisticato e persistente.</p>
<p>I costi sono dichiarati: rinunciare a ricavi rilevanti e a «migliaia di miliardi di token» di traffico pagante, modifiche all&rsquo;integrazione per alcuni clienti legittimi, rari blocchi errati. L&rsquo;obiettivo di febbraio, rendere la distillazione più difficile senza danneggiare gli utenti legittimi, l&rsquo;azienda dice di non averlo ancora raggiunto del tutto.</p>


<h2>Perché la cosa va oltre Anthropic</h2>
<p>Partiamo da ciò che si sa da una fonte indipendente. A settembre il <a href="https://www.nist.gov/news-events/news/2026/09/caisis-assessment-zais-glm-53-cyber-capabilities">CAISI del NIST</a>
 ha definito GLM-5.3 di Z.ai il modello a pesi aperti con le maggiori capacità informatiche offensive rilasciato finora, con circa quattro mesi di ritardo rispetto alla frontiera statunitense. Sul test SEC-Bench Pro, per esempio, ha risolto 74 compiti su 183; il miglior modello americano ne ha risolti 165. La valutazione non dice nulla sulla distillazione.</p>
<p>Il legame tra GLM-5.3 e la copia dei modelli americani viene dal testo di ottobre di Anthropic: secondo questo, Zhipu avrebbe distillato capacità informatiche dai principali modelli statunitensi e, quando le difese di Anthropic hanno ostacolato i suoi tentativi con Claude Fable 5, sarebbe passata a un modello Claude più vecchio e al modello di un altro laboratorio. È un&rsquo;affermazione dell&rsquo;azienda, non una conclusione di un ente governativo, e al momento nulla dall&rsquo;esterno la conferma.</p>
<p>Se regge, il quadro è scomodo. Una capacità che un&rsquo;azienda aveva avvolto in restrizioni protettive finisce in un modello rilasciato con pesi aperti, dove quelle restrizioni non ci sono; secondo la stessa valutazione di Anthropic, le protezioni integrate di GLM-5.3 si aggirano facilmente. Il ragionamento nascosto smette di essere un segreto industriale e diventa un pezzo di sicurezza.</p>
<p>La firma su un blocco di ragionamento probabilmente non sarà l&rsquo;ultimo meccanismo di questo genere. Quando un prodotto si può copiare semplicemente facendogli domande, la protezione si sposta nel protocollo di scambio stesso. Chi sviluppa integrazioni esterne dovrà abituarsi all&rsquo;idea che la cronologia di una conversazione non è più la sua corrispondenza privata, ma una catena che deve arrivare integra.</p>
]]></content:encoded></item></channel></rss>