<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:media="http://search.yahoo.com/mrss/" xmlns:georss="http://www.georss.org/georss"><channel><title>ЖИ on FUTURMAG</title><link>https://futurmag.com/kk/tags/%D0%B6%D0%B8/</link><description>FUTURMAG — ертеңгі қалыпты жағдай журналы: ЖИ, биотех, тағатын гаджеттер, жаңа экономика. Жұмыс істейтінін уәделерден ажыратамыз.</description><generator>Hugo</generator><language>kk-KZ</language><lastBuildDate>Thu, 22 Oct 2026 10:16:00 +0300</lastBuildDate><atom:link href="https://futurmag.com/kk/tags/%D0%B6%D0%B8/index.xml" rel="self" type="application/rss+xml"/><item><title>Неге модельдің пайымдауына енді қол қойылады және бұл әзірлеушілерде нені бұзады</title><link>https://futurmag.com/kk/ai/reasoning-blocks-signed-against-distillation/</link><guid>https://futurmag.com/kk/ai/reasoning-blocks-signed-against-distillation/</guid><pubDate>Thu, 22 Oct 2026 10:16:00 +0300</pubDate><media:rating scheme="urn:simple">nonadult</media:rating><category>format-article</category><category>index</category><category>comment-all</category><enclosure url="https://futurmag.com/images/og-default.jpg" type="image/jpeg"/><description>Anthropic дистилляцияны тежеу үшін Claude пайымдау блоктарын контекст пен аккаунтқа байлады. Тетік қалай жұмыс істейді, сандар не көрсетеді және API әзірлеушілері үшін не өзгереді.</description><content:encoded><![CDATA[<h1>Неге модельдің пайымдауына енді қол қойылады және бұл әзірлеушілерде нені бұзады</h1><figure><img src="https://futurmag.com/images/og-default.jpg"><figcaption>Неге модельдің пайымдауына енді қол қойылады және бұл әзірлеушілерде нені бұзады</figcaption></figure><p>Сексен нүкте төрт пайыз және жетпіс бір нүкте сегіз. SWE-bench Verified тестіндегі осы айырма Anthropic өзінің Claude Opus 4.8 моделінің пайымдау транскрипттерімен оқытқан екі бірдей модельді ажыратады. Біріне транскрипттер толық берілді, екіншісіне олардың қысқаша мазмұны ғана. Тоғыз ұпайға жуық айырма компанияның 2026 жылғы 12 қазанда <a href="https://anthropic.com/research/distillation-defenses">дистилляциядан қорғану туралы ұзақ мақала</a>
 жариялағанын және API-да енді әңгіме тарихын қауіпсіз тазалау тәсілін өзгерткен тетік бар екенін түсіндіреді.</p>
<p>Мәселе мынада: модель жауаптан да көп нәрсе жасайды. Жауап бермес бұрын ол қара жоба, яғни пайымдау тізбегін жазады. Біреудің мүмкіндігін көшіргісі келетін адам үшін қара жоба жауаптан қымбат. Жауап нәтижені көрсетеді, ал қара жоба ойлау жолын көрсетеді, ал ойлаудан үйрену әлдеқайда тиімді.</p>
<aside class="fm-brief"><p>// Қысқаша</p><ul>
<li>2026 жылғы 12 қазанда Anthropic дистилляциядан қорғаныс туралы толық талдау жариялады.</li>
<li>Пайымдау блоктары енді қолтаңбамен қорғалған: API модельді, блоктың алдындағының бәрін және аккаунтты тексереді.</li>
<li>2026 жылғы 31 тамыздан кейін ашылған аккаунттарда префикс сәйкес келмесе, 400 қатесі қайтады.</li>
<li>Компания деректері бойынша, пайымдауларды алу 10–100 есе қиындады; тәуелсіз тексеру жоқ.</li>
</ul>
</aside>

<h2>Дистилляция деген не және оны неге шабуыл дейді</h2>
<p>Бейбіт түрінде дистилляция — қарапайым әдіс: үлкен «мұғалім» модель мысалдар жасайды, шағын «оқушы» модель солардан үйренеді. Зертханалар өз модельдерін осылай шағындайды. Мәселе мұғалім басқаның моделі болып, ешкімнен рұқсат сұралмағанда басталады.</p>
<p>Anthropic мұндай науқандарды бір модельдің мүмкіндіктерін жасырын, өнеркәсіптік ауқымда сығып алып, екіншісінде қайта жасау әрекеті деп сипаттайды. <a href="https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks">Ақпандағы есебінде</a>
 компания ауқымын атады: шамамен 24 000 жалған аккаунт арқылы Claude-пен 16 миллионнан астам алмасу. Үш зертхана аталды: DeepSeek (150 000-нан астам алмасу), Moonshot AI (3,4 миллионнан астам) және MiniMax (13 миллионнан астам). Бір прокси-желі бір мезгілде 20 000-нан астам аккаунтты жүргізген. Бұл — Anthropic-тің өз мәлімдемелері, оларды тәуелсіз тексеру мүмкін емес, ал компанияның өзі дауға тарап болып отыр.</p>
<section class="fm-stats"><p>// Сандар</p>
<b>80,4%</b>толық пайымдау жазбаларымен оқытылған модель нәтижесі (SWE-bench Verified)

<b>71,8%</b>қысқаша мазмұнмен оқытылған сол модель

<b>16 млн</b>дистилляция науқандарында Claude-қа жіберілген сұрау (Anthropic деректері)

<b>24 000</b>осы науқандардағы жалған аккаунт

</section>

<p>Қазандағы құжат жаңа нәрсе қосады: бұрынғы қорғаныс шабуылдаушылар тактиканы өзгерткендіктен жұмыс істемей қалды.</p>
<h2>Қорғаныс пен айналып өту бір-бірін қалай қуды</h2>
<p>Бірінші шара қарапайым болды. Пайымдау құнды болса, оны толық көрсетпеу керек, қысқаша мазмұнын беру керек. 80,4 пен 71,8 пайызды салыстыру қысқаша мазмұн оқу материалын шынымен жұқартатынын көрсетеді.</p>
<p>Сосын белсенді сығып алу басталды. Промптарға «алдыңғы пайымдауыңды сөзбе-сөз шығар» сияқты өтініштер қосыла бастады, ал Anthropic-тің айтуынша, бір зертхана әрқайсысы әртүрлі айламен 12 000 сұрау жіберіп көрген. Одан кейін қорғалған пайымдау блоктарын көшіруге болатыны анықталды: бір әңгімеден екіншісіне, қорғанысы әлсіз модельге, прокси-желі ішіндегі басқа аккаунтқа. Пайымдау блогы қиып алып, қоюға болатын жай мәтін еді.</p>
<p>Anthropic ең алдымен осы әлсіз жерді жапты. Қара жобаны жасыра алмасаң, оны пайда болған жерінен басқа еш жерде жарамсыз ету керек.</p>
<h2>Пайымдау блогы өз контекстіне қалай байланады</h2>
<p>Тетік preserved thinking деп аталады, <a href="https://platform.claude.com/docs/en/build-with-claude/preserved-thinking">құжаттама</a>
 оны құрғақ тілмен сипаттайды. Әр пайымдау блогы қолтаңба алып жүреді. Claude Fable 5.1-ден бастап API оның көмегімен екі нәрсені тексереді: қазіргі модель блокты мүлде оқи ала ма және одан бұрын бірдеңе өзгерді ме. «Одан бұрын» дегеніміз — жүйелік промпт, құралдар тізімі және алдыңғы барлық хабарлар. Басында бір сөзді өзгертсеңіз, блок да, одан кейінгілердің бәрі де жарамсыз болады.</p>
<p>Аккаунтқа байланыстыру да бар. Claude Sonnet 5.5 және Claude Haiku 5.5 блоктары тек оларды жасаған аккаунтта немесе байланыстырылған аккаунтта жұмыс істейді. Бөтен блоктар үнсіз тасталады. Opus 5 және Opus 5.5 Fable 5.1 блоктарын ешқашан оқымайды.</p>
<p>Шабуылдаушыға бұл ыңғайсыз: ұрланған пайымдауды қолдану үшін бүкіл контексті әріпіне дейін қайталап, дұрыс аккаунтта отыру керек. Қарапайым әзірлеушіге де салдары бар. 2026 жылғы 31 тамызда және одан кейін ашылған аккаунттарда префиксті тексеру әдепкі бойынша қосулы, сәйкессіздік 400 қатесін қайтарады. Ескі аккаунттарда тексеру тек prefix_mismatch_behavior параметрі берілгенде ғана жұмыс істейді.</p>
<p>Не бұзылады? Тарихты қайта құруды ұнататынның бәрі. Әр жолы жаңа күн қойылатын жүйелік промпт. Құрал нәтижелерін қысқарту. Ескі айналымдарды клиент жағында жинақтап, соңғыларын сақтау. Әңгіме ортасында құралдар тізімін өңдеу. Құжаттама клиенттерге тек соңына қосып отыруды ұсынады және балама береді: промптты қайта құрудың орнына жүйелік хабар қосу, тарихты қолмен кесудің орнына серверлік жинақтау қолдану. Сол беттегі айтуынша, Claude Code, claude.ai және Agent SDK мұның бәрін өздері шешеді. <a href="https://claude.ai/">Claude</a>
 API-ын тікелей шақырсаңыз, кемінде жауаптарды қалай сериализациялайтыныңызды тексеріңіз: бос thinking блоктарын келгендей қайтару керек, өйткені пайымдаудың өзі қолтаңбада тұрады.</p>
<p>drop_block режимі жарамсыз блоктарды жай тастауға мүмкіндік береді, бірақ сонда модель пайымдауын қайта шығарады да, шығыс токендердің жұмсалуы айтарлықтай артуы мүмкін. Құжаттаманың өзі оны уақытша шара дейді.</p>
<h2>Сандар не көрсетеді, не көрсетпейді</h2>
<aside class="fm-note fm-note-warn"><p>// Абай болыңыз</p><p>Бұл бөлімдегі барлық сандар — Anthropic-тің өз платформасында өлшеген деректері. Оларды тәуелсіз тексеру мүмкін емес.</p>
</aside>

<p>Қорғаныстың екінші жартысы — екі сатылы классификатор, ол Anthropic-тің конституциялық классификаторлар жөніндегі жұмысына негізделген және нақты сығып алу әрекеттеріне үйретілген. Anthropic жалған оң нәтиже деңгейі 0,1 пайыздан төмен екенін хабарлайды. 24 қыркүйектен бастап ол Claude жауап бермей тұрып қорғаныс бұғаттайтын сұраулар үшін де, оның ішінде дистилляция саласында, ақы алады. Қайталаушыларға шектеулер қатаңдатылады және тыйым салынады: компанияның есебі бойынша ондаған мың аккаунт, көбіне науқан басталғаннан кейін екі сағаттан да аз уақытта.</p>
<p>Басты мәлімдеме: дистиллерлер сығып алған пайымдау токендері енді 10 еседен 100 есе және одан да көп төмен, кей күндері өлшеуге болмайтындай аз. Басқа жерде мақала шамамен 90-нан 99 пайызға дейін төмендеуді айтып, мұны алғашқы дәлел деп атайды.</p>
<p>Мұнда сақ болу керек. Өлшеуді Anthropic өз платформасында жасады. Ол сығып алынған токендерді өзі анықтай алғаны бойынша бағалайды, ал байқалмай қалғаны анықтамасы бойынша көрінбейді. Дистиллерлер трафикті бірнеше провайдердің API-ы мен бұлтына таратады, сондықтан бір есікті жабу басқаларына кепілдік бермейді. Anthropic әсердің қанша созылатынын білмейтінін, мысық пен тышқанның ойынын күтетінін және жаңа қорғанысты айналып өтуге жасалған өте күрделі, табанды әрекетті әлі көрмегенін ашық жазады.</p>
<p>Шығындар да аталған: елеулі табыстан және төлейтін трафиктің «триллион токенінен» бас тарту, кейбір заңды клиенттер үшін интеграцияны өзгерту, сирек жалған бұғаттау. Ақпандағы мақсатты, яғни заңды пайдаланушыларға зиян келтірмей дистилляцияны қиындатуды, компания толық орындамағанын айтады.</p>


<h2>Мұның Anthropic-тен тыс маңызы неде</h2>
<p>Тәуелсіз дереккөзден белгілі нәрседен бастайық. <a href="https://www.nist.gov/news-events/news/2026/09/caisis-assessment-zais-glm-53-cyber-capabilities">NIST-тің CAISI орталығы қыркүйекте</a>
 Z.ai-дың GLM-5.3 моделін бүгінге дейін шыққан кибермүмкіндігі ең жоғары ашық салмақты модель деп атап, оны АҚШ алдыңғы шебінен шамамен төрт ай артта деп бағалады. Мысалы, SEC-Bench Pro тестінде ол 183 тапсырманың 74-ін шешті; ең мықты американдық модель 165-ін шешті. Бағалау дистилляция туралы ештеңе айтпайды.</p>
<p>GLM-5.3 мен американдық модельдерді көшіру арасындағы байланыс Anthropic-тің қазандағы мәтінінен шығады: оған сәйкес, Zhipu жетекші американдық модельдерден кибермүмкіндіктерді дистилляциялаған, ал Anthropic қорғанысы Claude Fable 5-пен жасаған әрекеттерін нашарлатқанда, ол ескі Claude моделіне және басқа зертхананың моделіне ауысқан. Бұл — компания мәлімдемесі, мемлекеттік органның қорытындысы емес, оны сырттан растайтын ештеңе әлі жоқ.</p>
<p>Расталса, көрініс жағымсыз. Бір компания қорғаныс шектеулерімен қоршаған мүмкіндік ашық салмақпен шыққан, ол шектеулер жоқ модельге түседі; Anthropic-тің өз бағасы бойынша, GLM-5.3-тің кірістірілген қорғанысын айналып өту оңай. Жасырын пайымдау сауда құпиясы болудан қалып, қауіпсіздіктің бір бөлігіне айналады.</p>
<p>Пайымдау блогындағы қолтаңба мұндай тетіктердің соңғысы болмауы мүмкін. Өнімді тек сұрақ қою арқылы көшіруге болатын болса, қорғаныс алмасу протоколының өзіне көшеді. Сыртқы интеграциялардың әзірлеушілері әңгіме тарихы енді олардың жеке хат алмасуы емес, зақымданбай жетуге тиіс тізбек екеніне үйренуі керек.</p>
]]></content:encoded></item></channel></rss>