<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:media="http://search.yahoo.com/mrss/" xmlns:georss="http://www.georss.org/georss"><channel><title>ხელოვნური ინტელექტი on FUTURMAG</title><link>https://futurmag.com/ka/ai/</link><description>მოდელები, აგენტები და ინსტრუმენტები: რას აკეთებს ხელოვნური ინტელექტი უკვე პრაქტიკაში, რა ღირს და სად ჯერ კიდევ ცდება.</description><generator>Hugo</generator><language>ka-GE</language><lastBuildDate>Thu, 22 Oct 2026 10:16:00 +0300</lastBuildDate><atom:link href="https://futurmag.com/ka/ai/index.xml" rel="self" type="application/rss+xml"/><item><title>რატომ აწერენ ახლა ხელს მოდელის მსჯელობას და რას არღვევს ეს დეველოპერებისთვის</title><link>https://futurmag.com/ka/ai/reasoning-blocks-signed-against-distillation/</link><guid>https://futurmag.com/ka/ai/reasoning-blocks-signed-against-distillation/</guid><pubDate>Thu, 22 Oct 2026 10:16:00 +0300</pubDate><media:rating scheme="urn:simple">nonadult</media:rating><category>format-article</category><category>index</category><category>comment-all</category><enclosure url="https://futurmag.com/images/og-default.jpg" type="image/jpeg"/><description>Anthropic-მა Claude-ის მსჯელობის ბლოკები კონტექსტსა და ანგარიშს მიაბა, რათა დისტილაცია შეეჩერებინა. როგორ მუშაობს ეს, რას აჩვენებს ციფრები და რა იცვლება API-ს დეველოპერებისთვის.</description><content:encoded><![CDATA[<h1>რატომ აწერენ ახლა ხელს მოდელის მსჯელობას და რას არღვევს ეს დეველოპერებისთვის</h1><figure><img src="https://futurmag.com/images/og-default.jpg"><figcaption>რატომ აწერენ ახლა ხელს მოდელის მსჯელობას და რას არღვევს ეს დეველოპერებისთვის</figcaption></figure><p>ოთხმოცი მთელი ოთხი მეათედი სამოცდათერთმეტი მთელი რვა მეათედის წინააღმდეგ. ასეთია სხვაობა SWE-bench Verified ბენჩმარკზე ორ სხვა მხრივ ერთნაირ მოდელს შორის, რომლებიც Anthropic-მა საკუთარი Claude Opus 4.8-ის მსჯელობის ტრანსკრიპტებზე გაწვრთნა. ერთს სრული ტრანსკრიპტები მისცეს, მეორეს მხოლოდ მათი მოკლე შეჯამებები. თითქმის ცხრაპუნქტიანი სხვაობა ხსნის, რატომ გამოაქვეყნა კომპანიამ 2026 წლის 12 ოქტომბერს <a href="https://anthropic.com/research/distillation-defenses">ვრცელი ტექსტი დისტილაციისგან დაცვის შესახებ</a>
 და რატომ აქვს API-ს ახლა მექანიზმი, რომელმაც შეცვალა ის, თუ როგორ შეუძლია დეველოპერს უსაფრთხოდ დაალაგოს საუბრის ისტორია.</p>
<p>საქმე ისაა, რომ მოდელი პასუხზე მეტს ქმნის. პასუხამდე ის წერს ჩანაწერს, მსჯელობის ჯაჭვს. ვისაც სხვისი შესაძლებლობების გადაღება უნდათ, მისთვის ეს ჩანაწერი პასუხზე ძვირფასია. პასუხი შედეგს აჩვენებს, ჩანაწერი კი აზროვნებას, აზროვნებისგან სწავლა კი გაცილებით ეფექტურია.</p>
<aside class="fm-brief"><p>// მოკლედ</p><ul>
<li>2026 წლის 12 ოქტომბერს Anthropic-მა დისტილაციისგან დაცვის დეტალური ანალიზი გამოაქვეყნა.</li>
<li>მსჯელობის ბლოკები ახლა ხელმოწერილია: API ამოწმებს მოდელს, ყველაფერს, რაც ბლოკამდეა, და ანგარიშს.</li>
<li>2026 წლის 31 აგვისტოს შემდეგ შექმნილ ანგარიშებზე პრეფიქსის შეუსაბამობა 400 შეცდომას იძლევა.</li>
<li>კომპანიის მონაცემებით, მსჯელობის ამოღება 10–100-ჯერ გართულდა; დამოუკიდებელი შემოწმება არ არსებობს.</li>
</ul>
</aside>

<h2>რა არის დისტილაცია და რატომ ჰქვია მას შეტევა</h2>
<p>მშვიდობიანი სახით დისტილაცია ჩვეულებრივი ტექნიკაა: დიდი მოდელი-მასწავლებელი ქმნის მაგალითებს, პატარა მოდელი-მოსწავლე კი მათგან სწავლობს. ლაბორატორიები ასე თავიანთ მოდელებს კუმშავენ. პრობლემა მაშინ იწყება, როცა მასწავლებელი სხვისია და ნებართვა არავის უკითხავს.</p>
<p>Anthropic ასეთ კამპანიებს აღწერს როგორც ფარულ, ინდუსტრიული მასშტაბის მცდელობებს, ერთი მოდელის შესაძლებლობები ამოიღონ და მეორეში გაიმეორონ. <a href="https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks">თებერვლის ანგარიშში</a>
 კომპანიამ მასშტაბიც დაასახელა: Claude-თან 16 მილიონზე მეტი გაცვლა დაახლოებით 24 000 თაღლითური ანგარიშით. სამი ლაბორატორია დასახელდა: DeepSeek (150 000-ზე მეტი გაცვლა), Moonshot AI (3,4 მილიონზე მეტი) და MiniMax (13 მილიონზე მეტი). ერთი პროქსი-ქსელი ერთდროულად 20 000-ზე მეტ ანგარიშს მართავდა. ეს Anthropic-ის საკუთარი მტკიცებებია, დამოუკიდებლად მათი გადამოწმება შეუძლებელია, კომპანია კი დავის მხარეა.</p>
<section class="fm-stats"><p>// ციფრები</p>
<b>80,4%</b>მსჯელობის სრულ ჩანაწერებზე გაწვრთნილი მოდელის შედეგი (SWE-bench Verified)

<b>71,8%</b>იგივე მოდელი, გაწვრთნილი შეჯამებებზე

<b>16 მლნ</b>მოთხოვნა Claude-ისადმი დისტილაციის კამპანიებში (Anthropic-ის მონაცემები)

<b>24 000</b>ყალბი ანგარიში ამ კამპანიებში

</section>

<p>ოქტომბრის დოკუმენტი ახალ რამეს ამატებს: ადრინდელმა დაცვამ მუშაობა შეწყვიტა, რადგან თავდამსხმელებმა ტაქტიკა შეცვალეს.</p>
<h2>როგორ ედევნებოდნენ ერთმანეთს დაცვა და მისი გვერდის ავლა</h2>
<p>პირველი ზომა მარტივი იყო. თუ მსჯელობა ძვირფასია, ნუ აჩვენებ სრულად, შეაჯამე. 80,4-სა და 71,8 პროცენტს შორის ტესტი აჩვენებს, რომ შეჯამება მართლაც აღარიბებს სასწავლო მასალას.</p>
<p>შემდეგ აქტიური ამოღება დაიწყო. მოთხოვნებში გაჩნდა ისეთი ფრაზები, როგორიცაა „გამოიტანე შენი წინა მსჯელობა სიტყვა-სიტყვით“, და Anthropic-ის თქმით, ერთმა ლაბორატორიამ 12 000 მოთხოვნა სცადა, თითოეული სხვა ხრიკით. ამის შემდეგ გაირკვა, რომ დაცული მსჯელობის ბლოკების გადატანა შეიძლებოდა: ერთი საუბრიდან მეორეში, უფრო სუსტი დაცვის მქონე მოდელთან, პროქსი-ქსელის შიგნით სხვა ანგარიშზე. მსჯელობის ბლოკი უბრალოდ ტექსტი იყო, რომლის ამოჭრაც და ჩასმაც შეიძლებოდა.</p>
<p>სწორედ ეს იყო სუსტი წერტილი, რომელსაც Anthropic პირველად მიუბრუნდა. თუ ჩანაწერს ვერ დამალავ, შეგიძლია გააკეთო ისე, რომ ის წარმოშობის ადგილის გარდა სხვაგან უსარგებლო იყოს.</p>
<h2>როგორ უკავშირდება მსჯელობის ბლოკი თავის კონტექსტს</h2>
<p>მექანიზმს preserved thinking ჰქვია და <a href="https://platform.claude.com/docs/en/build-with-claude/preserved-thinking">დოკუმენტაცია</a>
 მას მშრალად აღწერს. თითოეულ მსჯელობის ბლოკს ხელმოწერა აქვს. Claude Fable 5.1-დან დაწყებული, API მას ორი რამის შესამოწმებლად იყენებს: შეუძლია თუ არა მიმდინარე მოდელს ამ ბლოკის წაკითხვა საერთოდ და შეიცვალა თუ არა რამე მასზე ადრე. „მასზე ადრე“ ნიშნავს სისტემურ პრომპტს, ინსტრუმენტების სიას და ყველა წინა შეტყობინებას. თუ დასაწყისში ერთ სიტყვას შეცვლი, ბლოკი და ყველა მომდევნო ბლოკი არავალიდური ხდება.</p>
<p>არსებობს ანგარიშზე მიბმაც. Claude Sonnet 5.5-ისა და Claude Haiku 5.5-ის ბლოკები მუშაობს მხოლოდ იმ ანგარიშში, რომელმაც ისინი შექმნა, ან მასთან დაკავშირებულში. უცხო ბლოკები ჩუმად იშლება. Opus 5 და Opus 5.5 Fable 5.1-ის ბლოკებს არასოდეს კითხულობენ.</p>
<p>თავდამსხმელისთვის ეს უხერხულია: მოპარული მსჯელობის გამოსაყენებლად მთელი კონტექსტი ბოლო ასომდე უნდა აღადგინო და სწორ ანგარიშში უნდა იჯდე. რიგით დეველოპერსაც აქვს შედეგები. 2026 წლის 31 აგვისტოს ან მის შემდეგ შექმნილ ანგარიშებზე პრეფიქსის შემოწმება ნაგულისხმევად ჩართულია და შეუსაბამობა 400 შეცდომას აბრუნებს. ძველ ანგარიშებზე შემოწმება მხოლოდ მაშინ მოქმედებს, როცა prefix_mismatch_behavior პარამეტრი მითითებულია.</p>
<p>რა ტყდება? ყველაფერი, რაც ისტორიის ხელახლა აწყობას ეტანება. სისტემური პრომპტი, სადაც ყოველ ჯერზე ახალი თარიღი ჩაისმება. ძველი ინსტრუმენტული შედეგების მოჭრა. ძველი სვლების კლიენტის მხარეს შეჯამება ახლებისთვის ხელის უხლებლად. ინსტრუმენტების სიის შეცვლა საუბრის შუაში. დოკუმენტაცია კლიენტებს მხოლოდ დამატებას (append-only) ურჩევს და ალტერნატივებს სთავაზობს: პრომპტის ხელახლა აწყობის ნაცვლად სისტემური შეტყობინება დაამატე, ისტორიის ხელით მოჭრის ნაცვლად სერვერული შეკუმშვა გამოიყენე. იმავე გვერდის თანახმად, Claude Code, claude.ai და Agent SDK ამ ყველაფერს თავად ართმევენ თავს. თუ <a href="https://claude.ai/">Claude</a>
-ის API-ს პირდაპირ იძახებ, მინიმუმ შეამოწმე, როგორ სერიალიზდება პასუხები: ცარიელი thinking ბლოკები უკან ზუსტად ისე უნდა გაიგზავნოს, როგორც მოვიდა, რადგან თავად მსჯელობა ხელმოწერაშია.</p>
<p>რეჟიმი drop_block საშუალებას გაძლევს არავალიდური ბლოკები უბრალოდ გადააგდო, მაგრამ მაშინ მოდელი მსჯელობას თავიდან გამოიყვანს და გამოსავლის ტოკენების ხარჯი შესამჩნევად შეიძლება გაიზარდოს. დოკუმენტაცია თავადვე მას დროებით გამოსავალს უწოდებს.</p>
<h2>რას აჩვენებს ციფრები და რას არა</h2>
<aside class="fm-note fm-note-warn"><p>// ფრთხილად</p><p>ამ ნაწილის ყველა ციფრი თავად Anthropic-ის მონაცემებია, გაზომილი მის საკუთარ პლატფორმაზე. დამოუკიდებლად მათი შემოწმება შეუძლებელია.</p>
</aside>

<p>დაცვის მეორე ნახევარი ორსაფეხურიანი კლასიფიკატორია, რომელიც Anthropic-ის კონსტიტუციურ კლასიფიკატორებზე მუშაობას ეყრდნობა და რეალურ ამოღების მცდელობებზეა გაწვრთნილი. Anthropic ცრუ დადებითების მაჩვენებელს 0,1 პროცენტზე დაბალს ასახელებს. 24 სექტემბრიდან კომპანია იმ მოთხოვნებისთვისაც იღებს ფულს, რომლებსაც დაცვის მექანიზმები Claude-ის პასუხამდე ბლოკავს, დისტილაციის მიმართულებითაც. განმეორებით დამრღვევებს მკაცრი ლიმიტები და ბლოკირება ელით: კომპანიის გამოთვლით, ათიათასობით ანგარიში, ხშირად კამპანიის დაწყებიდან ორ საათზე ნაკლებ დროში.</p>
<p>მთავარი მტკიცება ისაა, რომ დისტილატორების მიერ ამოღებული მსჯელობის ტოკენები ახლა 10-ჯერ, 100-ჯერ ან მეტადაც ნაკლებია, ზოგ დღეს კი გასაზომადაც ძალიან მცირე. სხვაგან პოსტი დაახლოებით 90-99 პროცენტიან კლებაზე საუბრობს და ამას ადრეულ მონაცემს უწოდებს.</p>
<p>აქ სიფრთხილეა საჭირო. გაზომვა Anthropic-მა ჩაატარა, საკუთარ პლატფორმაზე. ამოღებული ტოკენები იმით ფასდება, რაც აღმოჩენა შეძლო, რაც შეუმჩნეველი დარჩა, განმარტებით უხილავია. დისტილატორები ტრაფიკს რამდენიმე პროვაიდერის API-სა და ღრუბელს შორისაც ანაწილებენ, ამიტომ ერთი კარის დახურვა სხვებზე არაფერს გარანტირებს. Anthropic პირდაპირ წერს, რომ არ იცის, რამდენ ხანს გაგრძელდება ეფექტი, კატა-თაგვის თამაშს ელის და ახალი დაცვის გვერდის ავლის მაღალი დონის, მუდმივი მცდელობა ჯერ არ უნახავს.</p>
<p>ხარჯებიც დასახელებულია: მნიშვნელოვანი შემოსავლის უარყოფა და ფასიანი ტრაფიკის „ტრილიონობით ტოკენი“, ინტეგრაციის ცვლილებები ზოგი კანონიერი კლიენტისთვის, იშვიათი მცდარი ბლოკირებები. თებერვლის მიზანს, დისტილაცია გაართულოს კანონიერი მომხმარებლების შეუწუხებლად, კომპანია ამბობს, რომ სრულად ჯერ ვერ მიაღწია.</p>


<h2>რატომ სცილდება ეს Anthropic-ს</h2>
<p>დავიწყოთ იმით, რაც დამოუკიდებელი წყაროდანაა ცნობილი. <a href="https://www.nist.gov/news-events/news/2026/09/caisis-assessment-zais-glm-53-cyber-capabilities">NIST-ის CAISI-მ სექტემბერში</a>
 Z.ai-ის GLM-5.3 დღემდე გამოშვებულ ყველაზე კიბერშესაძლებლობიან ღია წონების მოდელად დაასახელა და აშშ-ის ფრონტირს დაახლოებით ოთხი თვით ჩამორჩენილად შეაფასა. მაგალითად, SEC-Bench Pro ტესტზე მან 183 ამოცანიდან 74 ამოხსნა, აშშ-ის საუკეთესო მოდელმა კი 165. შეფასება დისტილაციაზე არაფერს ამბობს.</p>
<p>კავშირი GLM-5.3-სა და ამერიკული მოდელების კოპირებას შორის Anthropic-ის ოქტომბრის ტექსტიდანაა: მისი თქმით, Zhipu-მ კიბერშესაძლებლობები წამყვანი აშშ-ის მოდელებიდან დისტილა და როცა Anthropic-ის დაცვამ Claude Fable 5-თან მისი მცდელობები გააუარესა, უფრო ძველ Claude მოდელზე და სხვა ლაბორატორიის მოდელზე გადავიდა. ეს კომპანიის მტკიცებაა და არა სამთავრობო ორგანოს დასკვნა, გარედან დადასტურება კი ჯერ არ არსებობს.</p>
<p>თუ ეს სიმართლეა, სურათი უსიამოვნოა. შესაძლებლობა, რომელიც ერთმა კომპანიამ დამცავი შეზღუდვებით შემოსაზღვრა, ღია წონებით გამოშვებულ მოდელში ხვდება, სადაც ეს შეზღუდვები არ არის; თავად Anthropic-ის შეფასებით, GLM-5.3-ის ჩაშენებული დაცვის გვერდის ავლა მარტივია. დამალული მსჯელობა კომერციულ საიდუმლოდ აღარ რჩება და უსაფრთხოების ნაწილი ხდება.</p>
<p>მსჯელობის ბლოკზე ხელმოწერა, სავარაუდოდ, ამ სახის უკანასკნელი მექანიზმი არ არის. როცა პროდუქტის გადაღება მხოლოდ კითხვების დასმითაა შესაძლებელი, დაცვა თავად გაცვლის პროტოკოლში გადადის. გარე ინტეგრაციების დეველოპერებმა უნდა შეეჩვიონ აზრს, რომ საუბრის ისტორია უკვე მათი პირადი მიმოწერა აღარ არის, არამედ ჯაჭვია, რომელიც დაუზიანებელი უნდა მივიდეს დანიშნულებამდე.</p>
]]></content:encoded></item></channel></rss>