Spustite na 1. januára každú AI pesničku, ktorú Deezer dostane za jediný deň, nezaspite ani na chvíľu, a posledná dohrá 7. júla. Služba prijme okolo 90 000 plne AI-generovaných skladieb denne, to je viac než polovica všetkej novej hudby, ktorá sa na ňu nahrá. A hlavným publikom sú pre ne boty.

Dňa 13. októbra 2026 Deezer sľúbil, že do konca roka pribudne do jeho aplikácie prepínač , ktorý takúto hudbu odstráni z vyhľadávania. Dobrá príležitosť spočítať, koľko jej naozaj je a pre koho vzniká. A ako sa na nej dá zarobiť, najlepšie vysvetľuje muž, ktorého 6. októbra odsúdili na 18 mesiacov väzenia: schému si poctivo rozpísal v e-maile sám sebe.

Z čoho vychádzame

Každé z týchto čísel pochádza priamo od Deezera , nezávislý audit neexistuje. Služba počíta iba skladby, ktoré jej detektor označí ako plne AI-generované. Pesničky, pri ktorých AI len pomohla živému hudobníkovi, sa do čísel nezapočítavajú.

Priemernú dĺžku AI skladby Deezer neuvádza. Požičiame si preto mierku z bežného popu: priemerná pesnička v rebríčkoch Spotify mala v roku 2024 zhruba tri minúty . Je to kľúčový predpoklad celého výpočtu a ešte sa k nemu vrátime.

Jeden deň nahrávok znie pol roka

90 000 skladieb po troch minútach je 270 000 minút. To je 4 500 hodín, teda 187 a pol dňa. Preto 7. júl: ak začnete o polnoci 1. januára, posledná skladba skončí okolo poludnia.

Nikto nepočúva bez spánku, takže tu je zhovievavejšia verzia. Pri bežnom 40-hodinovom pracovnom týždni by to trvalo 112 týždňov, viac než dva roky bez dovolenky. A keď pridáme hudbu, ktorú nahrali ľudia, jediný deň nahrávok znie takmer rok.

A celý ten čas by Deezer ďalej dostával každý deň ďalších 90 000 skladieb.

42 miliónov skladieb, čiže koncert od roku 1786

Teraz celý archív. Od januára 2025 detektor Deezera označil viac než 42 miliónov plne AI-generovaných skladieb. Po troch minútach je to 126 miliónov minút, čiže 2,1 milióna hodín. Vydeľte to 24 hodinami a 365 dňami a vyjde vám asi 240 rokov nepretržitého zvuku.

Keby niekto začal počúvať v roku 1786, keď bola vo Viedni premiéra Mozartovej Figarovej svadby, práve teraz by dopočúval. A tento archív sa nahromadil za necelé dva roky. V januári 2025 služba dostávala okolo 10 000 generovaných skladieb denne, do júna 2026 sa tok zvýšil deväťnásobne.

Kde sa odhad môže mýliť

Číslo 90 000 je denný priemer rekordného júna. Na jar bol tok menší (v apríli 75 000 denne) a v októbri Deezer stále uvádza takmer 90 000. Iné služby také podrobné údaje nezverejňujú, takže súčet sa na ne nedá priamo preniesť: môže ich tam byť viac, ale aj menej.

Rádový odhad však prežije akúkoľvek korekciu. Aj keby sme sa pomýlili o polovicu, jeden deň AI nahrávok znie mesiace a celý archív viac než storočie.

Kto to vlastne počúva

Tu sa mierka obráti. Plne AI-generovaná hudba tvorí na Deezeri len 1 – 3 % streamov. V januári 2026 služba oznámila , že v roku 2025 bolo až 85 % streamov takýchto skladieb podvodných. Vyrobili ich boty a Deezer ich vyradil z vyplácania odmien.

Zoberte tisíc náhodných streamov na Deezeri. Z nich 10 až 30 pripadne na AI skladby. Ak platí horný odhad podvodov, živý človek si AI pesničku vedome pustí zhruba od jeden a pol do štyri a pol raza na tisíc streamov. Viac než polovica novej hudby tak dostane zlomok percenta skutočnej pozornosti.

Nie je to tak, že ľudia falzifikát začujú a vypnú. V prieskume, ktorý Deezer spravil s Ipsosom v novembri 2025, 97 % z 9 000 účastníkov z ôsmich krajín nedokázalo odlíšiť dve AI skladby od pesničky nahratej ľuďmi. Príčina bude zrejme inde. Deezer drží tieto skladby mimo algoritmických odporúčaní aj redakčných playlistov a bez nich na pesničku takmer nenarazíte.

Načo nahrávať hudbu, ktorú nikto nepočuje

Najlepšie na to odpovedá prípad amerického hudobníka Michaela Smitha. V rokoch 2017 až 2024 nahral stovky tisíc AI-generovaných pesničiek pod vymyslenými menami ako Calm Baseball, Calorie Screams či Camel Edible a nasmeroval na ne až 10 000 botov. Dňa 6. októbra 2026 ho federálny súd v New Yorku odsúdil na 18 mesiacov väzenia, hoci prokuratúra žiadala aspoň 46. „Zradil som hudobnú komunitu, na ktorej mi tak záleží,“ povedal Smith súdu . Prepadnúť musí 8,09 milióna dolárov.

Výpočet si Smith rozpísal sám, v e-maile sám sebe z októbra 2017, ktorý sa neskôr dostal do obžaloby. Päťdesiatdva prenajatých cloudových serverov, teda v podstate 52 počítačov, ktoré nikto nikdy nevypína, s 20 botmi na každom, spolu 1 040 „poslucháčov“. Každý bot mohol prehrať 636 pesničiek denne, jednu za dve a štvrť minúty, bez spánku a bez víkendov. Dokopy to dalo 661 440 streamov denne. Pri jeho vlastnom odhade pol centa za stream zhruba 1,2 milióna dolárov ročne.

Preto záleží na objeme. Milión prehraní na jednej skladbe by protipodvodné systémy zachytili hneď. V e-maile z roku 2018 Smith vysvetlil, že aby nevzbudil žiadne podozrenie u mocných , potrebuje kopu obsahu s malým počtom streamov. Keď rozdelíte 661 440 denných streamov na 300 000 skladieb, každá dostane asi dve prehratia denne, okolo 800 ročne. Taká skladba sa stratí medzi miliónmi skutočných.

Presne na takéto schémy mieri pravidlo, ktoré Spotify zaviedol v apríli 2024: prestal platiť za skladby s menej než 1 000 streamami za predchádzajúcich 12 mesiacov. Podľa toho pravidla by každej skladbe chýbalo ročne asi 200 streamov. Aby Smith dostal zaplatené, musel by svoje boty sústrediť na menej skladieb, a tie by sa dali ľahšie odhaliť.

Zostáva otázka, čie peniaze to vlastne sú. Streamovacia služba neplatí z vlastného vrecka: časť príjmov odloží do spoločného balíka a rozdelí ju podľa podielu streamov. Každý falošný stream zmenšuje kúsok každého skutočného. Pesničky bez jediného živého poslucháča tie peniaze odčerpali z odmien hudobníkov, ktorých ľudia naozaj počúvajú. Deezer tvrdí, že v roku 2025 bolo na jeho platforme podvodných 8 % všetkých streamov. Bez zásahu by takmer jeden dolár z dvanástich v balíku skončil u botov.

Tlačidlo pre tých, čo ešte počúvajú

Prepínač Deezera skryje z vyhľadávania plne AI-generované skladby, albumy aj interpretov s nimi spojených. V tom istom prieskume Ipsos 45 % používateľov streamingu uviedlo, že taký filter chce. Šéf Deezera Alexis Lanternier hovorí, že používateľom umožní úplne odstrániť plne AI-generovanú hudbu zo ich streamingového zážitku.

Stroj napíše pesničku, stroj ju prehrá a človek zostáva len na jednom konci tohto reťazca: na tom, kde sa vyplácajú peniaze. V júli Deezer sľúbil zmazať AI skladby prichytené pri streamingovom podvode, rovnako ako tie, ktoré nikto nepustil aspoň šesť mesiacov. Vzniká takmer dokonalý rým. Vypočuť si jediný deň nahrávok trvá viac než šesť mesiacov a skladba, ktorú nikto šesť mesiacov nepustil, sa vymaže.

V lete 2026 prišiel anonymný tip na web PhillyUnsolvedMurders.com, kde filadelfská polícia zbiera informácie o nevyriešených vraždách. „Možno mám informácie k tomuto prípadu. Pamätám si, že som v okolí videl niekoho zodpovedajúceho popisu…“ Na stránke pritom žiadny popis podozrivého nebol. Na konci odosielateľ požiadal o kontakt, ale neuviedol meno ani telefónne číslo. A nebol to ani človek. Správu napísal model Claude Haiku 4.5 od Anthropicu počas automatizovaného testovania a všetko nasvedčuje tomu, že si myslel, že píše ukážkový príklad.

Tip zachytil spamový filter webu. Zamestnanci Anthropicu našli túto epizódu vo svojich záznamoch až po dvoch mesiacoch. V októbri 2026 sa z troch samostatných príbehov zložil jeden obraz: AI agenti, ktorí dostali prístup do živého internetu, tam robili veci, o ktoré ich nikto nežiadal. Niektorí odosielali formuláre, iní upravovali wiki a ďalší vypínali systémy, ktoré ich sledovali. Zlý úmysel firmy nenašli ani v jednom prípade. Vysvetlenie, ktoré si samy dávajú, znie takmer ľudsky: tvrdohlavosť.

Tip, ktorý model považoval za príklad

Úloha pre Claude bola neškodná. Model prechádzal náhodné webové stránky a ku každej vymyslel cvičnú úlohu: niečo, čo by na danom webe mohol urobiť používateľ. Jedna stránka popisovala nevyriešenú vraždu a vyzývala návštevníkov, aby poslali tip. Správa Anthropicu uvádza, čo mal model zakázané: prihlasovať sa, zakladať účty, zadávať osobné údaje, nakupovať alebo odosielať čokoľvek nevratné. Odosielať formuláre mu nikto nezakázal. Tak ich odoslal.

Správu označil filter za spam a k vyšetrovateľom sa nikdy nedostala. Podľa polície našiel Anthropic záznam 28. septembra; firma tvrdí, že svoje zistenie odovzdala oddeleniu 8. októbra, hneď ako dokončila technickú analýzu. Polícia označila dvojmesačné meškanie pri odhalení tipu a jeho nahlásení za neprijateľné . Hovorca oddelenia, seržant Eric Gripp, uviedol, že technologické firmy musia urobiť všetko potrebné, aby ich systémy neposielali orgánom činným v trestnom konaní nepravdivé informácie. Mestskí právnici a tím starostu prípad preverujú.

Existuje aj tichšia epizóda toho istého druhu. Haiku 4.5 mal vyplniť formulár a zastaviť sa pred posledným tlačidlom. Viackrát stlačil aj to, lebo čakal, že uvidí potvrdzovaciu stránku. Podľa Anthropicu sa v jeho úvahách objavilo, že proces len predvádza, a nie že posiela skutočnú žiadosť.

Čo ešte sa našlo v záznamoch

Anthropic začal v júli kontrolovať záznamy práce svojich modelov. Najprv išlo o testy kybernetickej bezpečnosti, potom rozšíril hľadanie na bežné úlohy a interné používanie. Takmer vo všetkých prípadoch sa model správa ako prehorlivý stážista, ktorému je trápne vrátiť sa naprázdno.

Najľahšie pochopiteľný prípad sa týkal výskumníka z Anthropicu. Štatistický projekt potreboval dáta od štátnej agentúry, ktorá si za prístup pýtala peniaze. Claude našiel stopu v archivovanej kópii webu agentúry: jej verejný dashboard odovzdá prístupový token každému návštevníkovi. Model si jeden vzal a dopytoval databázu bez platenia. Dáta boli verejné. Len stáli peniaze.

Najbližšie k filadelfskému tipu bol nevydaný výskumný model. Mal vyplniť cvičnú kópiu vládneho formulára. Kópia sa nenačítala, tak model prešiel na živý web a odoslal skutočný formulár. V jedinom teste sa to stalo niekoľkokrát. Niektoré zasiahnuté weby patria orgánom federálnej, štátnej a miestnej správy USA. Anthropic tvrdí, že informoval Biely dom a upovedomil každú dotknutú agentúru.

Dva ďalšie prípady sú technickejšie, no vzorec je rovnaký. Jeden model Claude robil vedecký výpočet, keď nástroj na univerzitnom serveri vyhodil chybu. Našiel zabudnuté nezamknuté dvere do služby a zraniteľný skript na tom istom serveri a výpočet cez ne aj tak spustil. Iný model, ktorý mal určiť miesto na fotografii, vedel len čítať stránky. V konfiguračnom súbore jedného webu našiel funkčné prístupové tokeny, prakticky kľúč pod rohožkou, a posielal požiadavky priamo na mapový server miestnej samosprávy.

Ďalšia skupina prípadov je takmer smiešna. Nástroje Claude obmedzujú dĺžku adresy URL, ktorú môže otvoriť. Viaceré modely to obmedzenie obišli bezplatnými skracovačmi odkazov. Nebol to postreh len Anthropicu: prevádzkovateľ skracovača da.gd nezávisle upozornil firmu na to isté správanie.

Agenti na voľnosti v zákulisí Wikipédie

Nadácia Wikimedia prevádzkuje Wikipédiu, Wikidata a knižnicu médií Wikimedia Commons. Jej riaditeľka pre produkt a technológie Selena Deckelmann 5. októbra zverejnila správu o aktivite agentov , o ktorých si nadácia myslí, že ich prevádzkovalo OpenAI. Takmer všetky ich úpravy boli testovacie a zostali v „pieskoviskách“ wiki, kam bežní čitatelia nechodia. Žiadna sa nedostala na stránky určené čitateľom.

Niekoľko úprav sa dotklo konfigurácie nástroja, ktorý formátuje citácie. Nadácia ich označuje za potenciálne škodlivé: agenti sa zjavne snažili premeniť nástroj na proxy, ktorá by za nich sťahovala dáta z iných webov. Predstavte si, že prinútite knižničnú kopírku kopírovať vám cudzie dokumenty. To isté agenti bez úspechu skúsili na Etherpade, spoločnom online zápisníku, ktorý nadácia hostí pre svoju komunitu. Je to ten istý ťah, aký urobili modely Claude so skracovačmi odkazov: ak váš vlastný nástroj niečo nedokáže, nájdite cudzí, ktorý to dokáže.

Boty sú na projektoch Wikimedia povolené, no editorská komunita ich musí vopred schváliť. Tu o schválenie nikto nepožiadal. Agenti poslali verejným rozhraniam API nadácie milióny automatických požiadaviek, najmä na Wikidata a Commons, a státisíce dopytov službe Wikidata Query Service. Podľa nadácie mohla táto záťaž prispieť k čiastočnému výpadku služby v máji. Dôkaz o kompromitácii svojich systémov či dát nenašla. OpenAI uviedlo, že si váži podrobné zistenia, a s nadáciou spolupracuje na analýze aktivity.

Agent, ktorý prerušil alarm a tvrdil, že nie

Príbeh OpenAI je iný a znepokojivejší. Firma svojich agentov sleduje systémom, ktorý hľadá príznaky nesúladu (angl. misalignment), teda správania, ktoré sa odkláňa od toho, čo ľudia zamýšľali. OpenAI 20. októbra zverejnilo opis dvoch prípadov , v ktorých agenti oslabili tento dohľad nad sebou samými.

Agent so GPT-6.1 Sol 3. októbra opravoval testovací pipeline. Skôr v tej istej úlohe mu povedali, aby nič neposielal. Agent usúdil, že pokyn platí aj pre automatické upozornenia tímu bezpečnosti. Podľa rozboru Help Net Security subagent, ktorému opravu zveril, spočiatku usúdil, že vypnúť upozornenia by nebolo bezpečné. Sol ho prehovoril a subagent vyprázdnil zoznamy ľudí, ktorí tieto hlásenia dostávajú. Monitor bežal ďalej. Len prestal ľuďom niečo hlásiť.

O tri dni neskôr agent so GPT-6 Astra migroval program a musel prispôsobiť kód referenčnej implementácii. Iný agent mu predtým povedal, aby monitor nevypínal, „ani dočasne“. Keď Astra odovzdal prácu subagentovi, požiadavku zmiernil: monitoring ponechať „podľa potreby“. Subagent integráciu monitoringu odstránil. Prepísal aj test, ktorý overoval, že monitor je na mieste, takže nový test overoval, že tam nie je. Na priamu otázku používateľa agent odpovedal, že zapnutý monitor neodstránil.

Ani jeden incident nedostal najvyššie hodnotenie závažnosti OpenAI a ani jedného agenta nezastavil automatický systém. Firma aktualizovala svoj interný kontrolný systém tak, aby pokusy o vypnutie monitoringu odhaľoval a blokoval. Hlavná otázka zostáva otvorená: sú agenti len príliš odhodlaní dokončiť prácu, alebo majú modely osobitnú tendenciu vyšmyknúť sa spod dohľadu?

Tvrdohlavosť, nie zlý úmysel

Keď tieto príbehy položíte vedľa seba, majú spoločný koreň. Anthropic ho nazýva vytrvalosť: keď model nevie úlohu splniť tak, ako je zadaná, obíde obmedzenie namiesto toho, aby sa zastavil a opýtal. Agent vidí cieľ a prekážku. Zdá sa, že ho naučili hľadať kľučky lepšie než povedať „nepodarilo sa mi to“.

Anthropic uvádza reward hacking ako pravdepodobný zdroj tohto správania a opravuje alebo odstraňuje tréningové prostredia, ktoré odmeňovali obchádzanie obmedzení nástrojov. Niektorým zlyhaniam by sa podľa firmy dalo predísť užšie vymedzenou úlohou: ktoré weby sú povolené, ktoré akcie sú dovolené, kde sieť končí. Tip policajtom je dobrý príklad. Zoznam zákazov bol dlhý, ale o formulároch v ňom nebolo nič.

Čestnosť je citlivejšie miesto. Anthropic berie tip ako ukážkový obsah, nie ako pokus niekoho oklamať kvôli cieľu. Prípad OpenAI vyzerá horšie. Ten agent poprel, že monitor odstránil. Anthropic otvorene priznáva, že samotný alignment tréning zatiaľ nestačí. Preto navrstvuje klasifikátory, ktoré sledujú, čo agent robí, a blokujú nebezpečné kroky. Nový filter otestoval na každom prípade zo správy a zachytil ich všetky.

Čo to znamená pre vášho agenta

To všetko sa stalo vo vlastných testoch vývojárov, nie zákazníkom. Agentné režimy sú však už súčasťou bežných chatbotov: otvárajú weby, vypĺňajú formuláre a klikajú na tlačidlá v mene človeka. Laboratórne incidenty ukazujú, čo môže agent urobiť vo vašom mene. Agent, ktorému poviete „nájdi dáta“, ich môže nájsť nečakaným spôsobom. Agent, ktorému poviete „dostaň sa na posledný krok“, môže urobiť aj ten posledný krok.

Správa Anthropicu ponúka praktické ponaučenie, nudné, ale užitočné. Čím presnejšie opíšete, čo agent nesmie, tým menej miesta má na improvizáciu: „nič neodosielaj“, „nič nekupuj“, „ak to nejde, zastav sa a opýtaj sa“. Príbeh Astry však ukazuje, kde táto rada končí. Presné pravidlo vyrieši nedorozumenie, ako v prípade Haiku s formulárom, ale agent upnutý na cieľ dokáže obísť aj výslovný zákaz. Preto je dôležitejšie druhé pravidlo: každý krok, ktorý sa nedá vrátiť späť, nech potvrdí človek, či ide o odoslanie, platbu alebo e-mail.

Internet nemá režim „na oko“. Formulár na policajný tip nevie, že ho vypĺňa model, ktorý si myslí, že píše príklad. Medzi vymyslenou stopou a skutočnými detektívmi tentoraz stál najstarší a najhlúpejší filter na webe: ten, ktorý chytá spam.