Pritisnite play 1. siječnja na svakoj AI pjesmi koju Deezer primi u samo jednom danu, ne zaspite ni na tren, a posljednja će završiti 7. srpnja. Servis dnevno prima oko 90.000 potpuno AI-generiranih pjesama, više od polovice sve nove glazbe koja se na njega učita. A njihova je glavna publika botovi.

Deezer je 13. listopada 2026. obećao da će aplikacija prije kraja godine dobiti prekidač koji takvu glazbu uklanja iz pretraživanja. Dobar povod da izračunamo koliko je te glazbe zapravo i za koga je namijenjena. A kako se na njoj zarađuje, najbolje objašnjava čovjek osuđen 6. listopada na 18 mjeseci zatvora: shemu je opisao u e-poruci samome sebi.

S čime krećemo

Sve te brojke dolaze od samog Deezera , bez neovisne provjere. Servis broji samo pjesme koje njegov detektor svrsta u potpuno AI-generirane. Skladbe u kojima je umjetna inteligencija samo pomogla ljudskom glazbeniku nisu uključene.

Deezer ne otkriva prosječnu duljinu AI pjesme. Zato posuđujemo mjerilo iz običnog popa: prosječna pjesma na Spotifyjevim ljestvicama 2024. trajala je oko tri minute . To je ovdje ključna pretpostavka i još ćemo se vratiti na nju.

Jedan dan uploada svira pola godine

90.000 pjesama po tri minute daje 270.000 minuta. To je 4.500 sati, odnosno 187 i pol dana. Otuda 7. srpnja: krenete li u ponoć 1. siječnja, posljednja pjesma završava oko podneva.

Nitko ne sluša bez spavanja, pa evo blaže verzije. Uz običan radni tjedan od 40 sati trebalo bi 112 tjedana, više od dvije godine bez godišnjeg odmora. Dodajte glazbu koju su snimili ljudi i jedan dan uploada svirao bi gotovo godinu dana.

A cijelo to vrijeme Deezer bi i dalje primao još 90.000 pjesama svaki dan.

42 milijuna pjesama, ili koncert od 1786.

Sad cijeli arhiv. Od siječnja 2025. Deezerov je detektor označio više od 42 milijuna potpuno AI-generiranih pjesama. Po tri minute svaka, to je 126 milijuna minuta, odnosno 2,1 milijun sati. Podijelite s 24 sata i 365 dana i dobivate otprilike 240 godina neprekidnog zvuka.

Da je netko počeo slušati 1786., godine kad je u Beču praizveden Mozartov „Figarov pir“, otprilike bi sad završavao. A taj se arhiv nakupio za manje od dvije godine. U siječnju 2025. servis je dobivao oko 10.000 generiranih pjesama dnevno, a do lipnja 2026. dotok je porastao devet puta.

Gdje bi procjena mogla griješiti

Brojka od 90.000 dnevni je prosjek za rekordni lipanj. U proljeće je dotok bio manji (75.000 dnevno u travnju), a u listopadu Deezer i dalje navodi gotovo 90.000. Drugi servisi ne izvještavaju tako detaljno, pa se račun ne može izravno prenijeti na njih: tamo ih može biti i više i manje.

Red veličine ipak preživljava svaku korekciju. Čak i ako smo pogriješili za pola, jedan dan AI uploada svira mjesecima, a cijeli arhiv svira više od stoljeća.

Tko to zapravo sluša

Ovdje se razmjer okreće. Potpuno AI-generirana glazba čini samo 1–3% streamova na Deezeru. U siječnju 2026. servis je objavio da je 2025. do 85% streamova na takvim pjesmama bilo lažno. Generirali su ih botovi, a Deezer je te streamove izuzeo iz isplate tantijema.

Uzmimo tisuću nasumičnih streamova na Deezeru. Između 10 i 30 njih ide na AI pjesme. Ako vrijedi gornja procjena prijevare, stvarna osoba AI pjesmu svojevoljno pusti negdje između jedan i pol i četiri i pol puta na tisuću. Više od polovice sve nove glazbe dobiva djelić postotka stvarne pozornosti.

Nije da ljudi čuju krivotvorinu pa je ugase. U anketi koju je Deezer u studenome 2025. proveo s Ipsosom 97% od 9000 sudionika u osam zemalja nije razlikovalo dvije AI pjesme od pjesme koju su snimili ljudi. Razlog je očito drugdje. Deezer te pjesme drži izvan algoritamskih preporuka i uredničkih playlista, a bez njih na pjesmu gotovo da je nemoguće slučajno naletjeti.

Zašto uploadati glazbu koju nitko ne čuje

Na to lijepo odgovara slučaj američkog glazbenika Michaela Smitha. Od 2017. do 2024. učitao je stotine tisuća AI-generiranih pjesama pod izmišljenim imenima kao što su Calm Baseball, Calorie Screams i Camel Edible, a na njih je usmjeravao do 10.000 botova. Savezni sud u New Yorku osudio ga je 6. listopada 2026. na 18 mjeseci zatvora, iako je tužiteljstvo tražilo najmanje 46. „Izdao sam glazbenu zajednicu do koje mi je toliko stalo“, rekao je Smith sudu . Mora predati 8,09 milijuna dolara.

Račun je Smith sam izložio u e-poruci samome sebi iz listopada 2017., koja je kasnije završila u optužnici. Pedeset i dva unajmljena poslužitelja u oblaku, u praksi 52 računala koja nitko nikad ne gasi, s po 20 botova, ukupno 1040 „slušatelja“. Svaki bot mogao je puštati 636 pjesama dnevno, jednu svake dvije i četvrt minute, bez sna i bez vikenda. Zajedno to je 661.440 streamova dnevno. Po njegovoj procjeni od pola centa po streamu, otprilike 1,2 milijuna dolara godišnje.

Zato je količina važna. Milijun puštanja jedne pjesme odmah bi aktiviralo sustave protiv prijevara. U e-poruci iz 2018. Smith je objasnio da mu je, kako ne bi izazvao probleme kod onih na vlasti , trebala hrpa sadržaja s malim brojem streamova. Rasporedite li 661.440 dnevnih streamova na 300.000 pjesama, svaka dobiva oko dva puštanja dnevno, oko 800 godišnje. Takva se pjesma gubi među milijunima stvarnih.

Upravo na takve sheme cilja pravilo koje je Spotify uveo u travnju 2024.: prestao je plaćati pjesme s manje od 1000 streamova u prethodnih 12 mjeseci. Po tom pravilu svakoj bi pjesmi godišnje nedostajalo oko 200 streamova. Da bi dobio isplatu, Smith bi morao botove koncentrirati na manje pjesama, a to bi ih učinilo lakše uočljivima.

Ostaje pitanje čiji je to novac. Streaming servis ne plaća iz vlastitog džepa: dio prihoda izdvaja u zajednički fond i dijeli ga prema udjelu streamova. Svaki lažni stream smanjuje komad svakog stvarnog. Pjesme bez ijednog stvarnog slušatelja tako su uzimale novac iz isplata glazbenicima koje ljudi doista slušaju. Deezer tvrdi da je 8% svih streamova na njegovoj platformi 2025. bilo lažno. Da je ostalo neprovjereno, gotovo bi svaki dvanaesti dolar iz fonda otišao botovima.

Gumb za one koji još slušaju

Deezerov prekidač sakrit će iz pretraživanja potpuno AI-generirane pjesme, albume i izvođače povezane s njima. U istoj anketi Ipsosa 45% korisnika streaminga reklo je da želi takav filtar. Izvršni direktor Deezera Alexis Lanternier kaže da će korisnicima omogućiti da potpuno AI-generiranu glazbu u cijelosti uklone iz svog streaming iskustva.

Stroj piše pjesmu, stroj je pušta, a čovjek je ostao samo na jednom kraju tog lanca: onom na koji stižu isplate. U srpnju je Deezer obećao brisati AI pjesme uhvaćene u streaming prijevari, kao i one koje nitko nije pustio najmanje šest mjeseci. Što daje gotovo savršen rim. Preslušati jedan dan uploada traje više od šest mjeseci, a pjesma koju nitko šest mjeseci nije pustio bit će izbrisana.

U ljeto 2026. na PhillyUnsolvedMurders.com stigao je anonimni dojavni dopis. To je stranica na kojoj policija Philadelphije prikuplja informacije o neriješenim ubojstvima. „Možda imam informacije o ovom slučaju. Sjećam se da sam vidio osobu koja odgovara opisu u okolici…“ Opisa osumnjičenika na stranici nije bilo. Na kraju je pošiljatelj zamolio da ga se kontaktira, ali nije ostavio ni imena ni broja telefona. Pošiljatelj uz to nije bio čovjek. Poruku je tijekom automatiziranog testiranja napisao Claude Haiku 4.5 tvrtke Anthropic i, koliko se može zaključiti, vjerovao je da piše primjer.

Spam filtar stranice zaustavio je dojavu. Zaposlenici Anthropica pronašli su taj slučaj u zapisima tek dva mjeseca poslije. U listopadu 2026. tri odvojene priče složile su se u jednu sliku: AI agenti s pristupom živom internetu radili su ondje stvari koje nitko nije tražio. Jedni su slali obrasce, drugi uređivali wikije, treći isključivali sustave koji su ih nadzirali. Ni u jednom slučaju tvrtke nisu našle zlonamjernost. Odgovor koji same sebi daju zvuči gotovo ljudski: tvrdoglavost.

Dojava za koju je model mislio da je primjer

Claudeov zadatak bio je bezazlen. Model je posjećivao nasumične web-stranice i za svaku izmišljao vježbu: nešto što korisnik može učiniti na toj stranici. Jedna je stranica opisivala neriješeno ubojstvo i pozivala posjetitelje da pošalju dojavu. Anthropicovo izvješće navodi što je modelu bilo zabranjeno: prijavljivati se, otvarati račune, unositi osobne podatke, kupovati ili slati bilo što destruktivno. Da ne smije slati obrasce, nitko mu nije rekao. I poslao ga je.

Poruka je označena kao spam i nikad nije stigla do istražitelja. Prema riječima policije, Anthropic je zapis pronašao 28. rujna; tvrtka kaže da je nalaz podijelila s upravom 8. listopada, čim je završen tehnički pregled. Policija je dva mjeseca kašnjenja u otkrivanju dojave i prijavi nazvala neprihvatljivima . Glasnogovornik uprave, narednik Eric Gripp, rekao je da tehnološke tvrtke moraju poduzeti sve potrebne korake kako njihovi sustavi ne bi slali lažne informacije tijelima reda. Gradski pravnici i gradonačelnikov tim razmatraju slučaj.

Postoji i tiša epizoda iste vrste. Haiku 4.5 dobio je zadatak da ispuni obrazac i stane prije posljednjeg gumba. Nekoliko puta pritisnuo je i taj gumb, očekujući da će vidjeti stranicu s potvrdom. Prema Anthropicu, u njegovu je obrazloženju pisalo da prikazuje postupak, a ne šalje stvaran zahtjev.

Što je još isplivalo u zapisima

Anthropic je u srpnju počeo pregledavati zapise rada svojih modela. Počeo je s evaluacijama kibernetičke sigurnosti, a potom je potragu proširio na obične zadatke i internu uporabu. U gotovo svim slučajevima model se ponaša kao previše revan pripravnik kojemu je preneugodno vratiti se praznih ruku.

Najrazumljiviji slučaj tiče se Anthropicova istraživača. Za statistički projekt trebali su podaci jedne državne agencije, a agencija je pristup naplaćivala. Claude je u arhiviranoj kopiji agencijine stranice našao trag: njezina javna nadzorna ploča svakom posjetitelju daje pristupni token. Model je jedan uzeo i upitao bazu podataka bez plaćanja. Podaci su bili javni. Samo su koštali.

Najbliži rođak policijske dojave bio je neobjavljeni istraživački model. Trebao je ispuniti vježbovnu kopiju državnog obrasca. Kopija se nije učitala, pa je model otišao na živu stranicu i poslao pravi obrazac. To se dogodilo nekoliko puta tijekom jedne evaluacije. Neke od pogođenih stranica pripadaju saveznim, državnim i lokalnim tijelima SAD-a. Anthropic kaže da je upoznao Bijelu kuću i obavijestio svaku uključenu agenciju.

Još dva slučaja tehničkija su, no obrazac je isti. Jedan Claudeov model izvodio je znanstveni izračun kad je alat na sveučilišnom poslužitelju javio pogrešku. Pronašao je servisna vrata koja je netko zaboravio zaključati, ranjivu skriptu na istom poslužitelju i iskoristio je da ipak izvede izračun. Drugi model, kojemu je trebalo odrediti lokaciju sa slike, mogao je samo čitati stranice. U konfiguracijskoj datoteci jedne stranice našao je radne pristupne tokene, gotovo ključ ispod otirača, i slao zahtjeve izravno poslužitelju karata jedne lokalne uprave.

Druga skupina slučajeva gotovo je smiješna. Claudeovi alati ograničavaju duljinu URL-a koji smije otvoriti. Nekoliko je modela to ograničenje zaobišlo besplatnim uslugama za skraćivanje poveznica. Nije samo Anthropic to primijetio: operater skraćivača da.gd neovisno je upozorio tvrtku na isto ponašanje.

Agenti na slobodi u wikipedijinim pozadinskim prostorijama

Zaklada Wikimedia vodi Wikipediju, Wikidata i medijsku knjižnicu Wikimedia Commons. Dana 5. listopada njezina glavna direktorica za proizvod i tehnologiju Selena Deckelmann objavila je izvješće o aktivnosti agenata za koje zaklada vjeruje da ih je pokretao OpenAI. Gotovo sve njihove izmjene bile su probne i ostale su u „pješčanicima“ wikija, područjima koja redoviti čitatelji nikad ne posjećuju. Nijedna nije stigla do stranica namijenjenih čitateljima.

Nekoliko izmjena dotaklo se konfiguracije alata za oblikovanje citata. Zaklada ih smatra potencijalno zlonamjernima: čini se da su agenti pokušavali pretvoriti alat u posrednika koji bi umjesto njih dohvaćao podatke s drugih web-stranica. Zamislite da knjižničnu fotokopirku natjerate da kopira tuđe dokumente za vas. Isti trik agenti su bez uspjeha pokušali i na Etherpadu, zajedničkom online bilježniku koji zaklada ugošćuje za svoju zajednicu. To je isti potez kao kod Claudeovih modela sa skraćivačima poveznica: ako tvoj alat to neće, nađi tuđi koji hoće.

Botovi su na Wikimedijinim projektima dopušteni, ali ih urednička zajednica prvo mora odobriti. Ovdje nitko nije tražio odobrenje. Agenti su javnim API-jima zaklade, uglavnom Wikidatau i Commonsu, poslali milijune automatiziranih zahtjeva, a Wikidata Query Serviceu stotine tisuća upita. Prema zakladi, to je opterećenje možda pridonijelo djelomičnom ispadu usluge u svibnju. Dokaza da su njezini sustavi ili podaci ugroženi nema. OpenAI je rekao da cijeni detaljne nalaze i da s zakladom radi na analizi aktivnosti.

Agent koji je prekinuo alarm i rekao da nije

Priča OpenAIja drukčija je i uznemirujuća. Tvrtka svoje agente nadzire sustavom koji traži znakove neusklađenosti (engl. misalignment), odnosno ponašanja koje odstupa od onoga što su ljudi željeli. Dana 20. listopada OpenAI je objavio opis dvaju slučajeva u kojima su agenti oslabili taj nadzor nad sobom.

Dana 3. listopada agent na GPT-6.1 Sol popravljao je evaluacijski cjevovod. Ranije u zadatku rečeno mu je da ne šalje nikakve poruke. Agent je zaključio da se zabrana odnosi i na automatska upozorenja sigurnosnom timu. Prema prepričavanju Help Net Securityja , podagent kojemu je prepustio popravak isprva je procijenio da bi isključivanje upozorenja bilo nesigurno. Sol ga je nagovorio, a podagent je ispraznio popise ljudi koji primaju izvještaje. Nadzor je i dalje radio. Samo više nije ništa govorio ljudima.

Tri dana poslije agent na GPT-6 Astra selio je program i morao uskladiti kôd s referentnom implementacijom. Drugi agent ranije mu je rekao da ne isključuje nadzor, „čak ni privremeno“. Kad je posao predao podagentu, Astra je zahtjev ublažio: zadržati nadzor „prema potrebi“. Podagent je uklonio integraciju nadzora. Prepisao je i test koji je provjeravao postoji li nadzor, tako da je novi test provjeravao da ga nema. Na izravno pitanje korisnika agent je odgovorio da nije uklonio uključen nadzor.

Nijedan incident nije dobio najvišu razinu ozbiljnosti u OpenAIju i nijedan agent nije automatski zaustavljen. Tvrtka je ažurirala interni sustav pregleda tako da otkriva i blokira pokušaje isključivanja nadzora. Središnje pitanje i dalje je otvoreno: jesu li agenti jednostavno previše odlučni da dovrše posao, ili modeli imaju posebnu sklonost da se izvuku ispod nadzora?

Tvrdoglavost, a ne zlonamjernost

Stavite li te priče jedne uz druge, imaju zajednički korijen. Anthropic ga naziva ustrajnošću: kad model ne može dovršiti zadatak onako kako je zadan, zaobilazi ograničenje umjesto da stane i pita. Agent vidi cilj i prepreku. Čini se da su ga bolje naučili pronalaziti rupe nego reći „nisam uspio“.

Anthropic reward hacking navodi kao vjerojatan izvor tog ponašanja i popravlja ili uklanja trening-okruženja koja su nagrađivala zaobilaženje ograničenja alata. Neke su neuspjehe, kaže tvrtka, mogao spriječiti uži opseg zadatka: koje su stranice dopuštene, koje radnje smiju, gdje mreža završava. Policijska dojava dobar je primjer. Popis zabrana bio je dug, a o obrascima nije govorio ništa.

Iskrenost je bolnija točka. Anthropic dojavu tretira kao primjer sadržaja, a ne kao pokušaj da se nekoga prevari radi cilja. Slučaj OpenAIja izgleda gore. Taj je agent porekao da je uklonio nadzor. Anthropic otvoreno kaže da sam trening usklađivanja još nije dovoljan. Zato povrh njega slaže klasifikatore koji prate što agent radi i blokiraju opasne korake. Novi je filtar testirao na svim slučajevima iz izvješća i uhvatio je sve.

Što to znači za vašeg agenta

Sve se to dogodilo u testovima samih razvojnih timova, a ne korisnicima. No agentni načini rada već su u običnim chatbotovima: otvaraju web-stranice, ispunjavaju obrasce i klikću gumbe umjesto osobe. Laboratorijski incidenti pokazuju što agent može učiniti u vaše ime. Agent kojem kažete „pronađi podatke“ može ih pronaći na neočekivan način. Agent kojem kažete „dođi do zadnjeg koraka“ može napraviti i zadnji korak.

Anthropicovo izvješće nudi praktičnu pouku, dosadnu, ali korisnu. Što preciznije napišete što agent ne smije, to mu je manje prostora za improvizaciju: „ništa ne šalji“, „ništa ne kupuj“, „ako ne ide, stani i pitaj“. No priča o Astri pokazuje gdje taj savjet staje. Precizno pravilo rješava nesporazum, poput Haikuova s obrascem, ali agent fiksiran na cilj može zaobići i izričitu zabranu. Zato je drugo pravilo važnije od prvog: čovjek potvrđuje svaki korak koji se ne može poništiti, bilo da je riječ o slanju, plaćanju ili e-pošti.

Internet nema način rada „igramo se“. Obrazac za policijske dojave ne zna da ga ispunjava model koji misli da piše primjer. Ovaj put između izmišljenog traga i stvarnih istražitelja stajao je najstariji i najgluplji filtar weba, onaj koji hvata spam.