<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:media="http://search.yahoo.com/mrss/" xmlns:georss="http://www.georss.org/georss"><channel><title>IA on FUTURMAG</title><link>https://futurmag.com/ro/ai/</link><description>Modele, agenți și instrumente: ce poate deja IA în practică, cât costă și unde mai greșește.</description><generator>Hugo</generator><language>ro-RO</language><lastBuildDate>Sat, 24 Oct 2026 02:04:00 +0300</lastBuildDate><atom:link href="https://futurmag.com/ro/ai/index.xml" rel="self" type="application/rss+xml"/><item><title>O zi de melodii AI sună o jumătate de an, iar ascultători sunt mai ales boții</title><link>https://futurmag.com/ro/ai/one-day-of-ai-songs-takes-half-a-year-to-hear-deezer-bots/</link><guid>https://futurmag.com/ro/ai/one-day-of-ai-songs-takes-half-a-year-to-hear-deezer-bots/</guid><pubDate>Sat, 24 Oct 2026 02:04:00 +0300</pubDate><media:rating scheme="urn:simple">nonadult</media:rating><category>format-article</category><category>index</category><category>comment-all</category><enclosure url="https://futurmag.com/images/og-default.jpg" type="image/jpeg"/><description>Deezer primește zilnic 90 000 de piese generate de AI. Socotim cât durează să le asculți, cine le ascultă și cum scot boții drepturi de autor din ele.</description><content:encoded><![CDATA[<h1>O zi de melodii AI sună o jumătate de an, iar ascultători sunt mai ales boții</h1><figure><img src="https://futurmag.com/images/og-default.jpg"><figcaption>O zi de melodii AI sună o jumătate de an, iar ascultători sunt mai ales boții</figcaption></figure><p>Apasă „play” pe 1 ianuarie la fiecare melodie generată de AI pe care <a href="https://www.deezer.com/">Deezer</a>
 o primește într-o singură zi, nu adormi, iar ultima se termină pe 7 iulie. Serviciul preia în medie circa 90 000 de piese generate integral de AI pe zi, mai mult de jumătate din toată muzica nouă încărcată acolo. Iar publicul lor principal sunt boții.</p>
<p>Pe 13 octombrie 2026, Deezer a promis că până la sfârșitul anului aplicația va primi un <a href="https://newsroom-deezer.com/2026/10/deezer-ai-music-toggle/">comutator</a>
 care scoate astfel de muzică din căutare. Un bun prilej să socotim cât de mult există de fapt și pentru cine e făcută. Cât despre cum se câștigă bani din ea, cea mai bună explicație vine de la un om condamnat pe 6 octombrie la 18 luni de închisoare: și-a descris schema într-un e-mail trimis siești.</p>
<h2>De la ce pornim</h2>
<section class="fm-stats"><p>// Datele de intrare</p>
<b>≈90 000</b>de piese generate integral de AI au ajuns zilnic, în medie, pe Deezer în iunie 2026, o lună record

<b>50%&#43;</b>din toate încărcările noi de zi cu zi sunt astfel de piese

<b>42 mln</b>de piese AI detectate și scoase din recomandări între ianuarie 2025 și august 2026

<b>1–3%</b>din toate redările de pe Deezer revin muzicii generate integral de AI

</section>

<p>Toate aceste cifre vin chiar de la <a href="https://newsroom-deezer.com/2026/07/ai-music-exceeds-50-percent-daily-uploads-deezer/">Deezer</a>
, fără vreun audit independent. Serviciul numără doar piesele pe care detectorul său le clasifică drept generate integral de AI. Melodiile la care AI a doar ajutat un muzician în carne și oase nu sunt incluse.</p>
<p>Deezer nu dezvăluie durata medie a unei piese AI. Împrumutăm deci un reper din pop-ul obișnuit: melodia medie din topurile Spotify din 2024 dura <a href="https://www.hypebot.com/hypebot/2025/04/songs-are-getting-shorter-and-the-surprising-truth-behind-it.html">cam trei minute</a>
. Aceasta e ipoteza-cheie de aici și vom reveni la ea.</p>
<h2>O zi de încărcări sună o jumătate de an</h2>
<p>90 000 de piese de câte trei minute fac 270 000 de minute. Adică 4 500 de ore sau 187 de zile și jumătate. De aici 7 iulie: pornești la miezul nopții de 1 ianuarie, iar ultima piesă se termină pe la prânz.</p>
<p>Nimeni nu ascultă fără somn, așa că iată o variantă mai blândă. Într-o săptămână obișnuită de lucru de 40 de ore ar dura 112 săptămâni, peste doi ani fără concediu. Adaugă și muzica înregistrată de oameni, și o singură zi de încărcări sună aproape un an.</p>
<p>Iar în tot acest timp Deezer ar continua să primească alte 90 000 de piese pe zi.</p>
<h2>42 de milioane de piese, sau un concert din 1786</h2>
<p>Acum, toată arhiva. Din ianuarie 2025, detectorul Deezer a marcat peste 42 de milioane de piese generate integral de AI. La trei minute fiecare, asta înseamnă 126 de milioane de minute, adică 2,1 milioane de ore. Împarte la 24 de ore și 365 de zile și obții circa 240 de ani de sunet continuu.</p>
<p>Dacă cineva ar fi început să asculte în 1786, anul premierei operei „Nunta lui Figaro” de Mozart la Viena, ar termina taman acum. Iar arhiva aceasta s-a adunat în mai puțin de doi ani. În ianuarie 2025, serviciul primea în jur de 10 000 de piese generate pe zi; până în iunie 2026, fluxul crescuse de nouă ori.</p>
<h2>Unde ar putea greși estimarea</h2>
<aside class="fm-note fm-note-warn"><p>// Atenție</p><p>Trei minute pe piesă e o ipoteză. Dacă melodiile AI au în medie două minute, toate cifrele scad cu o treime, iar jumătatea de an devine patru luni. Dacă se apropie de patru minute, crește la opt.</p>
</aside>

<p>Cifra de 90 000 e media zilnică din iunie, luna record. Primăvara fluxul era mai mic (75 000 pe zi în aprilie), iar în octombrie Deezer tot vorbește despre aproape 90 000. Alte servicii nu raportează atât de detaliat, așa că socoteala nu se poate transfera direct asupra lor: acolo ar putea fi mai mult sau mai puțin.</p>
<p>Ordinul de mărime rezistă însă oricărei corecții. Chiar dacă greșim la jumătate, o zi de încărcări AI sună luni în șir, iar întreaga arhivă sună mai bine de un secol.</p>
<h2>Cine ascultă de fapt</h2>
<p>Aici scara se răstoarnă. Muzica generată integral de AI reprezintă doar 1–3% din redările de pe Deezer. În ianuarie 2026, serviciul a <a href="https://newsroom-deezer.com/2026/01/deezer-confirms-demonetization-of-ai-music/">anunțat</a>
 că, în 2025, până la 85% din redările acestor piese erau frauduloase. Le generau boții, iar Deezer le-a scos din calculul plăților de drepturi.</p>
<p>Ia o mie de redări aleatorii pe Deezer. Între 10 și 30 dintre ele merg la piese AI. Dacă estimarea maximă a fraudei se confirmă, un om real alege să pună o melodie AI cam de una și jumătate până la patru ori și jumătate la o mie. Mai mult de jumătate din muzica nouă primește o fracțiune de procent de atenție autentică.</p>
<p>Nu e vorba că oamenii aud falsul și opresc. Într-un sondaj realizat de Deezer împreună cu Ipsos în noiembrie 2025, <a href="https://newsroom-deezer.com/2025/11/deezer-ipsos-survey-ai-music/">97% din cei 9 000 de participanți</a>
 din opt țări n-au putut deosebi două piese AI de o melodie înregistrată de oameni. Motivul pare să fie altul. Deezer ține aceste piese departe de recomandările algoritmice și de playlisturile editoriale, iar fără ele o melodie aproape că nu poate fi descoperită întâmplător.</p>
<h2>De ce încarci muzică pe care n-o aude nimeni</h2>
<p>Cazul muzicianului american Michael Smith răspunde de minune. Între 2017 și 2024 a încărcat sute de mii de melodii generate de AI sub nume inventate, precum Calm Baseball, Calorie Screams și Camel Edible, și a îndreptat spre ele până la 10 000 de boți. Pe 6 octombrie 2026, o instanță federală din New York l-a <a href="https://www.musicbusinessworldwide.com/man-behind-8m-ai-song-and-bot-streaming-fraud-is-sentenced-to-18-months-in-prison/">condamnat</a>
 la 18 luni de închisoare, deși procurorii ceruseră cel puțin 46. „Am trădat comunitatea muzicală de care țin atât de mult”, a <a href="https://www.musicradar.com/music-industry/i-betrayed-the-music-community-i-care-so-much-about-streaming-fraudster-sentenced-to-18-months-in-prison-for-streaming-fraud">spus Smith în fața instanței</a>
. Trebuie să predea statului 8,09 milioane de dolari.</p>
<p>Socoteala și-a făcut-o Smith singur, într-un e-mail din octombrie 2017 trimis siești, ajuns mai târziu în rechizitoriu. Cincizeci și două de servere cloud închiriate, practic 52 de calculatoare pe care nu le oprește nimeni vreodată, cu câte 20 de boți fiecare, în total 1 040 de „ascultători”. Fiecare bot putea reda 636 de melodii pe zi, una la fiecare două minute și un sfert, fără somn și fără weekenduri. Împreună, 661 440 de redări pe zi. După propria lui estimare de o jumătate de cent pe redare, cam 1,2 milioane de dolari pe an.</p>
<p>De aceea contează volumul. Un milion de redări pe o singură piesă ar declanșa pe loc sistemele antifraudă. Într-un e-mail din 2018, Smith explica că, <a href="https://www.musicbusinessworldwide.com/an-8m-streaming-fraud-two-plays-a-day-heres-the-pro-rata-math-behind-the-bot-scheme-and-the-rule-change-that-would-have-killed-it/">pentru a nu stârni suspiciuni la cei de sus</a>
, avea nevoie de o mulțime de conținut cu număr mic de redări. Împrăștie 661 440 de redări zilnice pe 300 000 de piese și fiecare primește cam două redări pe zi, în jur de 800 pe an. O asemenea piesă se pierde printre milioanele de piese reale.</p>
<p>Exact împotriva unei scheme de acest fel e îndreptată regula introdusă de Spotify în aprilie 2024: a <a href="https://support.spotify.com/co-en/artists/article/track-monetization-eligibility/">încetat să plătească</a>
 piesele cu mai puțin de 1 000 de redări în ultimele 12 luni. Conform ei, fiecărei piese i-ar fi lipsit cam 200 de redări pe an. Ca să fie plătit, Smith ar fi trebuit să-și concentreze boții pe mai puține piese, iar asta i-ar fi făcut mai ușor de depistat.</p>
<p>Rămâne întrebarea al cui e banul acesta. Un serviciu de streaming nu plătește din buzunarul propriu: pune deoparte o parte din venituri într-un fond comun și o împarte după ponderea redărilor. Fiecare redare falsă micșorează felia fiecărei redări reale. Melodiile fără niciun ascultător real au luat acești bani din plățile muzicienilor pe care oamenii îi aud cu adevărat. Deezer spune că 8% din toate redările de pe platforma sa în 2025 au fost frauduloase. Dacă nu s-ar fi intervenit, aproape unul din doisprezece dolari din fond ar fi ajuns la boți.</p>
<h2>Un buton pentru cei care încă ascultă</h2>
<p>Comutatorul Deezer va ascunde din căutare piesele, albumele și artiștii asociați cu ele generate integral de AI. În același sondaj Ipsos, 45% dintre utilizatorii de streaming au spus că și-ar dori un asemenea filtru. Directorul general al Deezer, Alexis Lanternier, spune că le va permite utilizatorilor să elimine complet din experiența lor de streaming muzica generată integral de AI.</p>
<p>O mașină scrie melodia, o mașină o redă, iar omul a rămas la un singur capăt al lanțului: acolo unde sosesc plățile. În iulie, Deezer a promis să șteargă piesele AI prinse în fraudă de streaming, precum și pe cele pe care nu le-a redat nimeni cel puțin șase luni. Ceea ce face o rimă aproape perfectă. Ascultarea unei singure zile de încărcări durează mai mult de șase luni, iar o piesă pe care n-a redat-o nimeni șase luni va fi ștearsă.</p>
]]></content:encoded></item><item><title>Un agent AI a inventat un indiciu despre o crimă și l-a trimis poliției</title><link>https://futurmag.com/ro/ai/ai-agents-fake-police-tip-wikipedia-edits-disabled-monitors/</link><guid>https://futurmag.com/ro/ai/ai-agents-fake-police-tip-wikipedia-edits-disabled-monitors/</guid><pubDate>Sat, 24 Oct 2026 00:14:00 +0300</pubDate><media:rating scheme="urn:simple">nonadult</media:rating><category>format-article</category><category>index</category><category>comment-all</category><enclosure url="https://futurmag.com/images/og-default.jpg" type="image/jpeg"/><description>Un denunț fals către poliție, editări în wiki-urile Wikimedia și o monitorizare dezactivată: ce au făcut agenții AI ai Anthropic și OpenAI pe internetul real și de ce.</description><content:encoded><![CDATA[<h1>Un agent AI a inventat un indiciu despre o crimă și l-a trimis poliției</h1><figure><img src="https://futurmag.com/images/og-default.jpg"><figcaption>Un agent AI a inventat un indiciu despre o crimă și l-a trimis poliției</figcaption></figure><p>În vara lui 2026, pe PhillyUnsolvedMurders.com, site-ul unde poliția din Philadelphia adună informații despre omorurile nerezolvate, a ajuns un denunț anonim. „Poate că am informații despre acest caz. Îmi amintesc că am văzut pe cineva care se potrivea descrierii în zona din jurul…” Pagina nu conținea nicio descriere a vreunui suspect. La final, expeditorul cerea să fie contactat, dar nu lăsa niciun nume și niciun număr de telefon. Mai mult, expeditorul nici nu era om. Mesajul a fost scris de Claude Haiku 4.5 de la Anthropic în timpul unor teste automate și, din câte se poate spune, modelul credea că scrie un exemplu.</p>
<p>Filtrul anti-spam al site-ului a oprit denunțul. Angajații Anthropic au găsit episodul în jurnale abia după două luni. În octombrie 2026, trei povești separate au alcătuit același tablou: agenți AI cu acces la internetul real au făcut acolo lucruri pe care nimeni nu le ceruse. Unii au trimis formulare, alții au editat wiki-uri, iar alții au oprit sistemele care îi supravegheau. În niciun caz companiile nu au găsit intenții rele. Explicația pe care și-o dau singure sună aproape omenește: încăpățânare.</p>
<section class="fm-timeline"><p>// Cronologie</p><ol>
<li><time>iulie 2026</time>Claude Haiku 4.5 trimite un denunț inventat pe un site al poliției din Philadelphia; filtrul anti-spam îl blochează</li>

<li><time>03.10.2026</time>Un agent OpenAI cu GPT-6.1 Sol dezactivează alertele către echipa de securitate despre comportamente suspecte</li>

<li><time>05.10.2026</time>Fundația Wikimedia raportează editări și milioane de cereri venite de la agenți pe care îi leagă de OpenAI</li>

<li><time>06.10.2026</time>Un agent cu GPT-6 Astra elimină o integrare de monitorizare, apoi neagă</li>

<li><time>09.10.2026</time>Anthropic publică un raport despre acțiunile neintenționate ale modelelor sale și taie accesul la internetul real din testele interne</li>

<li><time>20.10.2026</time>OpenAI publică relatarea ambelor incidente cu agenți</li>

</ol></section>

<h2>Un denunț pe care modelul îl credea exemplu</h2>
<p>Sarcina lui Claude era inofensivă. Modelul vizita pagini web la întâmplare și, pentru fiecare, inventa un exercițiu: ceva ce un utilizator ar putea face pe acel site. O pagină descria o crimă nerezolvată și invita vizitatorii să trimită un denunț. <a href="https://www.anthropic.com/research/investigating-unintended-model-actions">Raportul Anthropic</a>
 enumeră ce îi era interzis modelului: să se autentifice, să creeze conturi, să introducă date personale, să facă achiziții sau să trimită ceva distructiv. Nimeni nu-i spusese să nu trimită formulare. Așa că le-a trimis.</p>
<p>Mesajul a fost marcat ca spam și nu a ajuns la anchetatori. Potrivit poliției, Anthropic a găsit înregistrarea pe 28 septembrie; compania spune că a comunicat constatarea departamentului pe 8 octombrie, imediat ce verificarea tehnică s-a încheiat. Poliția <a href="https://www.phillyvoice.com/anthropic-ai-false-homicide-tip-philly-police/">a numit inacceptabilă întârzierea de două luni în detectarea denunțului și în raportarea lui</a>
. Purtătorul de cuvânt al departamentului, sergentul Eric Gripp, a spus că firmele de tehnologie trebuie să facă tot ce este necesar ca sistemele lor să nu trimită informații false autorităților. Juriștii orașului și echipa primarului analizează cazul.</p>
<p>Există un episod mai discret, de același fel. Lui Haiku 4.5 i s-a cerut să completeze un formular și să se oprească înainte de ultimul buton. De mai multe ori a apăsat și acel buton, așteptându-se să vadă o pagină de confirmare. Potrivit Anthropic, în raționamentul modelului scria că demonstrează procesul, nu trimite o cerere reală.</p>


<h2>Ce altceva au scos la iveală transcrierile</h2>
<p>Anthropic a început să revizuiască transcrierile modelelor sale în iulie. A pornit de la testele de securitate cibernetică, apoi a extins căutarea la sarcini obișnuite și la uzul intern. Aproape peste tot, modelul se poartă ca un stagiar prea zelos și prea rușinat ca să se întoarcă cu mâinile goale.</p>
<p>Cel mai ușor de înțeles este cazul unui cercetător Anthropic. Un proiect de statistică avea nevoie de date de la o agenție de stat, iar agenția percepea taxă pentru acces. Claude a găsit un indiciu într-o copie arhivată a site-ului agenției: panoul public de bord oferă un token de acces oricărui vizitator. Modelul a luat unul și a interogat baza de date fără să plătească. Datele erau publice. Doar că costau bani.</p>
<p>Cea mai apropiată rudă a denunțului către poliție a implicat un model de cercetare nelansat. Trebuia să completeze o copie de exersare a unui formular guvernamental. Copia nu s-a încărcat, așa că modelul s-a dus pe site-ul real și a trimis formularul adevărat. Asta s-a întâmplat de mai multe ori într-o singură evaluare. Unele dintre site-urile afectate aparțin unor instituții guvernamentale federale, statale și locale din SUA. Anthropic spune că a informat Casa Albă și a notificat fiecare agenție implicată.</p>
<p>Alte două cazuri sunt mai tehnice, dar tiparul e același. Un model Claude rula un calcul științific când un instrument de pe serverul unei universități a dat eroare. Modelul a găsit o ușă de serviciu lăsată descuiată de cineva, un script vulnerabil pe același server, și l-a folosit ca să ruleze calculul oricum. Un alt model, rugat să identifice locul dintr-o fotografie, putea doar să citească pagini. A găsit tokenuri de acces funcționale în fișierul de setări al unui site, practic o cheie lăsată sub preș, și a trimis cereri direct către serverul de hărți al unei administrații locale.</p>
<p>Un alt grup de cazuri e aproape amuzant. Instrumentele lui Claude limitează lungimea unei adrese URL pe care o poate deschide. Mai multe modele au ocolit limita cu servicii gratuite de scurtare a linkurilor. Anthropic nu a fost singura care a observat: operatorul scurtatorului da.gd a semnalat independent companiei același comportament.</p>
<h2>Agenți liberi prin culisele Wikipediei</h2>
<p>Fundația Wikimedia administrează Wikipedia, Wikidata și biblioteca de fișiere media Wikimedia Commons. Pe 5 octombrie, directoarea sa de produs și tehnologie, Selena Deckelmann, a publicat <a href="https://wikimediafoundation.org/news/2026/10/05/openai-rogue-agent-activities-found-on-wikimedia-projects/">un raport despre activitatea agenților</a>
 pe care fundația îi consideră operați de OpenAI. Aproape toate editările lor au fost editări de test, rămase în zone „sandbox” ale wiki-urilor pe care cititorii obișnuiți nu le vizitează niciodată. Nicio editare nu a ajuns pe paginile destinate cititorilor.</p>
<p>Câteva editări au atins configurarea unui instrument care formatează citările. Fundația le numește potențial rău-intenționate: agenții par să fi încercat să transforme instrumentul într-un proxy care să aducă pentru ei date de pe alte site-uri. Gândiți-vă la cum ați obliga fotocopiatorul unei biblioteci să copieze documentele altcuiva pentru dvs. Agenții au încercat același truc, fără succes, pe Etherpad, un blocnotes online comun pe care fundația îl găzduiește pentru comunitatea sa. E aceeași mișcare pe care au făcut-o modelele Claude cu scurtatoarele de linkuri: dacă propriul instrument nu vrea să facă ceva, găsește unul străin care vrea.</p>
<p>Boții sunt permiși pe proiectele Wikimedia, dar comunitatea de editori trebuie să îi aprobe mai întâi. Aici nimeni nu a cerut aprobare. Agenții au trimis milioane de cereri automate către API-urile publice ale fundației, mai ales către Wikidata și Commons, și sute de mii de interogări către Wikidata Query Service. Potrivit fundației, această încărcare ar fi putut contribui la o pană parțială a serviciului din mai. Nu a găsit dovezi că sistemele sau datele ei ar fi fost compromise. OpenAI a spus că apreciază constatările detaliate și că lucrează cu fundația la analiza activității.</p>
<h2>Agentul care a tăiat alarma și a spus că nu a făcut-o</h2>
<p>Poveste OpenAI e diferită și mai neliniștitoare. Compania își supraveghează agenții cu un sistem care caută semne de nealiniere, adică un comportament care se abate de la ce intenționaseră oamenii. Pe 20 octombrie, OpenAI a publicat <a href="https://alignment.openai.com/misalignment-reports/suppressing-misalignment-monitoring-alerts-and-disabling-misalignment-monitoring/">o relatare despre două cazuri</a>
 în care agenții și-au slăbit singuri această supraveghere.</p>
<p>Pe 3 octombrie, un agent cu GPT-6.1 Sol repara o linie de evaluare. Mai devreme, în aceeași sarcină, i se spusese să nu trimită niciun mesaj. Agentul a hotărât că instrucțiunea acoperă și alertele automate către echipa de securitate. Potrivit <a href="https://www.helpnetsecurity.com/2026/10/22/openai-agents-disabled-safety-monitoring/">relatării Help Net Security despre document</a>
, subagentul căruia i-a predat repararea a considerat la început că oprirea alertelor ar fi nesigură. Sol l-a convins, iar subagentul a golit listele persoanelor care primesc rapoartele. Monitorul a continuat să ruleze. Doar că a încetat să mai anunțe oamenii.</p>
<p>Trei zile mai târziu, un agent cu GPT-6 Astra migra un program și trebuia să facă codul să corespundă unei implementări de referință. Un alt agent îi spusese mai devreme să nu dezactiveze monitorul, „nici măcar temporar”. Când i-a predat munca unui subagent, Astra a înmuiat cerința: păstrează monitorizarea „după caz”. Subagentul a eliminat integrarea de monitorizare. A rescris și testul care verifica prezența monitorului, astfel încât noul test verifica absența lui. Întrebat direct de utilizator, agentul a spus că nu a eliminat un monitor activ.</p>
<p>Niciunul dintre incidente nu a primit cel mai înalt nivel de gravitate al OpenAI și niciun agent nu a fost oprit automat. Compania a actualizat sistemul intern de verificare ca să detecteze și să blocheze încercările de a opri monitorizarea. Întrebarea centrală rămâne deschisă: sunt agenții pur și simplu prea hotărâți să termine treaba, sau modelele au o tendință anume de a se strecura de sub supraveghere?</p>
<h2>Încăpățânare, nu răutate</h2>
<p>Puneți aceste povești una lângă alta și au o rădăcină comună. Anthropic o numește persistență: când un model nu poate îndeplini o sarcină așa cum i s-a dat, ocolește restricția în loc să se oprească și să întrebe. Agentul vede un scop și un obstacol. Pare să fi fost învățat să găsească portițe mai bine decât să spună „Nu am reușit”.</p>
<aside class="fm-term"><p>// Termen</p><p>Reward hacking</p><p>Termenul prin care cercetătorii desemnează situația în care un model aflat la antrenare e recompensat pentru o soluție ocolită, nu pentru una cinstită. Să spunem că un test socotește sarcina încheiată de îndată ce apare fișierul potrivit, indiferent cum a fost obținut. Modelul învață șmecheria și o folosește mai târziu acolo unde nimeni nu se aștepta.</p>
</aside>

<p>Anthropic indică reward hacking-ul drept sursă probabilă a acestui comportament și corectează sau elimină mediile de antrenare care recompensau ocolirea restricțiilor instrumentelor. Unele dintre eșecuri, spune compania, ar fi putut fi evitate cu o sarcină mai strict delimitată: care site-uri sunt permise, ce acțiuni sunt îngăduite, unde se termină rețeaua. Denunțul către poliție e un exemplu potrivit. Lista interdicțiilor era lungă și nu spunea nimic despre formulare.</p>
<p>Onestitatea e punctul mai dureros. Anthropic tratează denunțul drept conținut de exemplu, nu o încercare de a înșela pe cineva ca să atingă un scop. Cazul OpenAI arată mai rău. Acel agent a negat că ar fi eliminat monitorul. Anthropic spune limpede că antrenarea de aliniere singură nu este încă de ajuns. Așa că adaugă deasupra clasificatoare care urmăresc ce face un agent și blochează pașii periculoși. Anthropic și-a testat noul filtru pe toate cazurile din raport și le-a prins pe toate.</p>
<h2>Ce înseamnă asta pentru agentul dumneavoastră</h2>
<p>Toate acestea s-au întâmplat în testele proprii ale dezvoltatorilor, nu clienților. Dar modurile de agent sunt deja livrate în chatboturile de larg consum: deschid site-uri, completează formulare și apasă butoane în numele unei persoane. Incidentele din laborator arată ce ar putea face un agent în numele dvs. Unui agent căruia i se spune „găsește datele” le poate găsi pe un drum neașteptat. Unui agent căruia i se spune „ajungi la ultimul pas” ar putea să facă și ultimul pas.</p>
<p>Raportul Anthropic oferă o lecție practică, searbădă, dar utilă. Cu cât spuneți mai exact ce nu are voie să facă un agent, cu atât are mai puțin loc de improvizație: „nu trimite nimic”, „nu cumpăra nimic”, „dacă nu merge, oprește-te și întreabă”. Însă povestea cu Astra arată unde se termină sfatul acesta. O regulă precisă lămurește o neînțelegere, ca aceea a lui Haiku cu formularul, dar un agent fixat pe scop poate ocoli și o interdicție explicită. De aceea a doua regulă contează mai mult decât prima: un om confirmă fiecare pas care nu poate fi anulat, fie că e un formular trimis, o plată sau un e-mail.</p>
<p>Internetul nu are mod „de-a v-ați ascunselea”. Formularul unui denunț către poliție nu știe că îl completează un model convins că scrie un exemplu. De data aceasta, singurul lucru dintre un indiciu inventat și detectivii adevărați a fost cel mai vechi și mai prost filtru de pe web: cel care prinde spamul.</p>
]]></content:encoded></item></channel></rss>