Nyomj lejátszást január 1-jén minden olyan MI-dalra, amelyet a Deezer egyetlen nap alatt megkap, ne aludj el közben, és az utolsó szám július 7-én ér véget. A szolgáltatás naponta nagyjából 90 000 teljesen MI-generált számot fogad, ez a feltöltött új zene több mint fele. És a közönségük java része bot.

1. október 13-án a Deezer megígérte, hogy az év vége előtt az alkalmazásba bekerül egy kapcsoló , amely kiszűri az ilyen zenét a keresésből. Jó alkalom kiszámolni, mennyi is van belőle valójában, és kinek készül. Hogy miből lehet ebből pénzt csinálni, azt a legjobban az a férfi magyarázza el, akit október 6-án 18 hónap börtönre ítéltek: a módszert egy saját magának írt e-mailben vázolta fel.

Ebből indulunk ki

Mindezek a számok magától a Deezertől származnak, független ellenőrzés nélkül. A szolgáltatás csak azokat a számokat veszi figyelembe, amelyeket a detektora teljesen MI-generáltnak minősít. Azok a dalok nem számítanak bele, amelyekben az MI csak segített egy emberi zenésznek.

A Deezer nem közli, mekkora egy MI-szám átlagos hossza. Ezért a hétköznapi popból kölcsönzünk mércét: a Spotify slágerlistáin 2024-ben az átlagos dal nagyjából három percig tartott. Ez itt a kulcsfeltevés, még visszatérünk rá.

Egy nap feltöltései fél évig szólnak

90 000 szám három-három perccel 270 000 perc. Ez 4500 óra, azaz 187 és fél nap. Innen a július 7.: január 1-jén éjfélkor indulva az utolsó szám nagyjából délben ér véget.

Alvás nélkül persze senki sem hallgat zenét, ezért itt egy emberibb változat. Egy átlagos, heti 40 órás munkahéttel számolva 112 hétig tartana, vagyis több mint két évig, szabadság nélkül. Ha hozzávesszük az emberek által felvett zenét is, egyetlen nap feltöltései majdnem egy évig szólnak.

És ez alatt az idő alatt a Deezer minden nap újabb 90 000 számot kapna.

42 millió szám, avagy egy koncert 1786 óta

Most az egész archívum jön. 2025 januárja óta a Deezer detektora több mint 42 millió teljesen MI-generált számot jelölt meg. Három perccel számolva ez 126 millió perc, vagyis 2,1 millió óra. Ha elosztjuk 24 órával és 365 nappal, nagyjából 240 évnyi megszakítatlan hangzást kapunk.

Ha valaki 1786-ban kezdte volna hallgatni, abban az évben, amikor Bécsben bemutatták Mozart Figaro házasságát, éppen most érne a végére. Ez az archívum pedig kevesebb mint két év alatt gyűlt össze. 2025 januárjában a szolgáltatás naponta nagyjából 10 000 generált számot kapott, 2026 júniusára az áradat kilencszeresére nőtt.

Hol tévedhet a becslés

A 90 000 a rekordot döntő június napi átlaga. Tavasszal kisebb volt az áradat (áprilisban naponta 75 000), októberben pedig a Deezer még mindig közel 90 000-et említ. A többi szolgáltatás nem közöl ilyen részletes adatokat, ezért az összeg nem vihető át rájuk közvetlenül: náluk több is lehet, kevesebb is.

A nagyságrend ugyanakkor minden korrekciót kibír. Még ha a felével tévednénk is, egy nap MI-feltöltései hónapokig szólnának, az egész archívum pedig több mint egy évszázadig.

Ki hallgatja valójában

Itt a léptékek megfordulnak. A teljesen MI-generált zene a Deezer streamjeinek mindössze 1–3 százalékát adja. 2026 januárjában a szolgáltatás közölte , hogy 2025-ben az ilyen számok streamjeinek akár 85 százaléka csalás volt. Botok generálták őket, és a Deezer kivette ezeket a streameket a jogdíjak kifizetéséből.

Vegyünk ezer véletlenszerű streamet a Deezeren. Ebből 10 és 30 közötti jut MI-számokra. Ha a csalás felső becslése áll, akkor ezerből másfél és négy és fél közé esik, hogy valódi ember választ ki egy MI-dalt. Az új zene több mint fele a valódi figyelem törtrészét kapja csupán.

Nem arról van szó, hogy az emberek meghallják a hamisítványt, és kikapcsolják. A Deezer 2025 novemberében az Ipsosszal végzett felmérésében nyolc ország 9000 résztvevőjének 97 százaléka nem tudott megkülönböztetni két MI-számot az emberek által felvett daltól. Az ok máshol lehet. A Deezer kizárja ezeket a számokat az algoritmikus ajánlásokból és a szerkesztői listákból, ezek nélkül pedig szinte lehetetlen véletlenül rájuk bukkanni.

Minek feltölteni zenét, amit senki sem hall

Erre szépen válaszol Michael Smith amerikai zenész esete. 2017 és 2024 között több százezer MI-generált dalt töltött fel kitalált nevek alatt, például Calm Baseball, Calorie Screams vagy Camel Edible néven, és akár 10 000 botot irányított rájuk. 2026. október 6-án egy New York-i szövetségi bíróság 18 hónap börtönre ítélte , pedig az ügyészek legalább 46 hónapot kértek. „Elárultam a zenei közösséget, amelyet annyira szeretek” – mondta a bíróságon Smith. 8,09 millió dollárt kell elkobzásként befizetnie.

A számítást Smith maga írta le, egy 2017 októberében saját magának küldött e-mailben, amely később a vádiratba is bekerült. Ötvenkét bérelt felhőszerver, gyakorlatilag 52 számítógép, amelyet soha senki nem kapcsol ki, egyenként 20 bottal, összesen 1040 „hallgatóval”. Egy bot naponta 636 dalt tudott lejátszani, kettő és negyed percenként egyet, alvás és hétvége nélkül. Ez együtt napi 661 440 streamet jelentett. Saját becslése szerint streamenként fél centtel számolva ez évente nagyjából 1,2 millió dollár.

Éppen ezért számít a mennyiség. Egyetlen számon egymillió lejátszás azonnal kiváltaná a csalásellenes rendszereket. Smith egy 2018-as e-mailben úgy fogalmazott, hogy nehogy bármilyen gondot okozzon a hatalmasságoknak , rengeteg tartalomra van szüksége kis streamszámokkal. A napi 661 440 streamet 300 000 szám között elosztva mindegyikre napi nagyjából két lejátszás jut, évente körülbelül 800. Egy ilyen szám elvész a valódi számok milliói között.

Pontosan az ilyen sémákat célozza a Spotify 2024 áprilisában bevezetett szabálya: nem fizet azokért a számokért, amelyeket az előző 12 hónapban 1000-nél kevesebbszer játszottak le. E szabály szerint mindegyik számhoz évente nagyjából 200 stream hiányozna. Hogy fizetést kapjon, Smithnek kevesebb számra kellett volna összpontosítania a botjait, ettől viszont könnyebben lelepleződtek volna.

Marad a kérdés, kinek a pénzéről van szó. A streamingszolgáltató nem a saját zsebéből fizet: a bevétel egy részét közös kasszába teszi, és a streamek aránya szerint osztja szét. Minden hamis stream összezsugorítja az összes valódi stream szeletét. Az egyetlen valódi hallgató nélküli dalok ezt a pénzt azoktól a zenészektől vették el, akiket az emberek tényleg hallgatnak. A Deezer szerint 2025-ben a platformon az összes stream 8 százaléka csalás volt. Ellenőrzés nélkül a kasszából minden tizenkettedik dollárból majdnem egy a botokhoz került volna.

Gomb azoknak, akik még hallgatnak

A Deezer kapcsolója elrejti a keresésből a teljesen MI-generált számokat, albumokat és a hozzájuk kapcsolódó előadókat. Ugyanebben az Ipsos-felmérésben a streamingfelhasználók 45 százaléka mondta, hogy szeretne ilyen szűrőt. Alexis Lanternier, a Deezer vezérigazgatója szerint ezzel a felhasználók teljesen eltávolíthatják a teljesen MI-generált zenét a streamingélményükből.

Gép írja a dalt, gép játssza le, és ember ebben a láncban csak az egyik végen marad: ott, ahová a kifizetések megérkeznek. Júliusban a Deezer megígérte, hogy törli a streamingcsalásban lebukott MI-számokat, valamint azokat, amelyeket legalább hat hónapja senki nem játszott le. Ebből szinte tökéletes rím lesz. Egy nap feltöltéseit végighallgatni több mint hat hónap, a számot pedig, amelyet hat hónapja senki sem játszott le, kitörlik.

2026 nyarán névtelen bejelentés érkezett a PhillyUnsolvedMurders.com oldalra, ahová a philadelphiai rendőrség a megoldatlan gyilkosságokról gyűjt információkat. „Lehet, hogy van információm az üggyel kapcsolatban. Emlékszem, hogy a leírásnak megfelelő személyt láttam a környéken…” Az oldalon egyébként nem szerepelt semmilyen gyanúsítotti személyleírás. A végén a feladó visszahívást kért, de nevet és telefonszámot nem adott meg. A feladó ráadásul nem is ember volt. Az üzenetet az Anthropic Claude Haiku 4.5 modellje írta automatizált tesztelés közben, és amennyire ki lehet deríteni, azt hitte, csak egy példát fogalmaz meg.

Az oldal spamszűrője megfogta a bejelentést. Az Anthropic munkatársai csak két hónappal később bukkantak rá a naplókban. 2026 októberében három külön történet rajzolt ki egyetlen képet: az élő internethez hozzáférő MI-ügynökök olyasmit csináltak a neten, amit senki sem kért tőlük. Volt, amelyik űrlapot küldött be, volt, amelyik wikiket szerkesztett, és volt, amelyik kikapcsolta a megfigyelésére szolgáló rendszereket. A cégek egyik esetben sem találtak rosszindulatot. A válasz, amelyet maguknak adnak, szinte emberien hangzik: makacsság.

A bejelentés, amelyet a modell példának hitt

A Claude feladata ártalmatlan volt. A modell találomra nyitogatott weboldalakat, és mindegyikhez kitalált egy gyakorlófeladatot: valamit, amit egy felhasználó csinálhatna az adott oldalon. Az egyik oldal egy megoldatlan gyilkosságról szólt, és arra hívta a látogatókat, hogy küldjenek be tippet. Az Anthropic jelentése felsorolja, mi volt tilos a modellnek: bejelentkezni, fiókot létrehozni, személyes adatot megadni, vásárolni vagy bármi romboló dolgot beküldeni. Azt viszont senki sem mondta neki, hogy űrlapot nem küldhet be. Ő pedig beküldte.

Az üzenetet spamnek jelölték, és sosem jutott el a nyomozókhoz. A rendőrség szerint az Anthropic szeptember 28-án talált rá a bejegyzésre; a cég szerint október 8-án osztotta meg a felfedezést az osztállyal, amint a műszaki vizsgálat lezárult. A rendőrség elfogadhatatlannak nevezte, hogy a bejelentés felderítése és jelentése két hónapot késett . Az osztály szóvivője, Eric Gripp őrmester közölte: a technológiai cégeknek minden szükséges lépést meg kell tenniük, hogy rendszereik ne küldjenek hamis információt a bűnüldöző szerveknek. A város jogászai és a polgármester csapata vizsgálja az esetet.

Van egy csendesebb, hasonló epizód is. A Haiku 4.5-nek ki kellett töltenie egy űrlapot, és az utolsó gomb előtt meg kellett állnia. Többször ezt a gombot is megnyomta, mert számított rá, hogy megjelenik egy visszaigazoló oldal. Az Anthropic szerint a modell gondolatmenetében az állt, hogy a folyamatot mutatja be, nem valódi kérelmet nyújt be.

Mi bukkant még fel a naplókban

Az Anthropic júliusban kezdte átnézni a modelljei munkanaplóit. Először a kiberbiztonsági értékelésekkel indult, aztán kiterjesztette a keresést a hétköznapi feladatokra és a belső használatra. Szinte minden esetben a modell úgy viselkedik, mint egy túlbuzgó gyakornok, aki szégyell üres kézzel visszamenni.

A legismerősebb eset egy anthropicos kutatóhoz kötődik. Egy statisztikai projekthez egy állami hivatal adataira volt szükség, a hivatal viszont pénzt kért a hozzáférésért. A Claude nyomra bukkant a hivatal oldalának egy archivált másolatában: a nyilvános irányítópult minden látogatónak odaad egy hozzáférési tokent. A modell kivett egyet, és fizetés nélkül lekérdezte az adatbázist. Az adatok nyilvánosak voltak. Csak pénzbe kerültek.

A rendőrségi bejelentés legközelebbi rokona egy kiadatlan kutatási modellhez kapcsolódik. Egy kormányzati űrlap gyakorlópéldányát kellett volna kitöltenie. A példány nem töltődött be, ezért a modell átment az élő oldalra, és a valódi űrlapot küldte be. Ez egyetlen értékelés során többször is megtörtént. Az érintett oldalak egy része az amerikai szövetségi, állami és helyi hatóságoké. Az Anthropic szerint tájékoztatta a Fehér Házat, és értesítette az összes érintett hivatalt.

Két másik eset műszakibb, de a minta ugyanaz. Az egyik Claude-modell tudományos számítást futtatott, amikor egy egyetemi szerveren az egyik eszköz hibát dobott. A modell talált egy szolgáltatási ajtót, amelyet valaki nyitva felejtett, meg egy sebezhető szkriptet ugyanazon a szerveren, és ennek segítségével mégis lefuttatta a számítást. Egy másik modell egy fotó helyszínét kellett volna megállapítania, de csak oldalakat olvashatott. Egy webhely konfigurációs fájljában működő hozzáférési tokeneket talált, gyakorlatilag a lábtörlő alatt hagyott kulcsot, és közvetlenül egy helyi önkormányzat térképszerverének küldött kéréseket.

Egy újabb csoport szinte mulatságos. A Claude eszközei korlátozzák, milyen hosszú URL-t nyithat meg. Több modell ingyenes linkrövidítő szolgáltatásokkal kerülte meg a korlátot. Nem az Anthropic vette ezt észre először: a da.gd rövidítő egyik üzemeltetője önállóan jelezte ugyanezt a viselkedést a cégnek.

Ügynökök szabadon a Wikipédia hátsó szobáiban

A Wikimedia Alapítvány üzemelteti a Wikipédiát, a Wikidatát és a Wikimedia Commons médiatárat. Október 5-én termék- és technológiai igazgatója, Selena Deckelmann jelentést tett közzé azoknak az ügynököknek a tevékenységéről , amelyeket az alapítvány szerint az OpenAI üzemeltetett. Szerkesztéseik szinte mind tesztszerkesztések voltak, amelyek a wikik „homokozó” területein maradtak, ahová a hétköznapi olvasók nem járnak. Az olvasóknak szánt oldalakat egy sem érte el.

Néhány szerkesztés egy hivatkozásokat formázó eszköz konfigurációját érintette. Az alapítvány potenciálisan rosszindulatúnak nevezi őket: az ügynökök úgy tűnik, azt akarták elérni, hogy az eszköz proxyként más weboldalakról kérjen le nekik adatokat. Ez olyan, mintha a könyvtár fénymásolóját venné rá valaki, hogy más dokumentumait másolja le helyette. Ugyanezt a trükköt sikertelenül az Etherpaden is megpróbálták, azon a közös online jegyzettömbön, amelyet az alapítvány a közösségének üzemeltet. Ez ugyanaz a lépés, amelyet a Claude-modellek a linkrövidítőkkel tettek: ha a saját eszközöd nem hajlandó valamire, keress egy másikat, amelyik igen.

A botok megengedettek a Wikimedia-projektekben, de a szerkesztői közösségnek előbb jóvá kell hagynia őket. Itt senki sem kért jóváhagyást. Az ügynökök több millió automatizált kérést küldtek az alapítvány nyilvános API-jaira, főleg a Wikidatára és a Commonsra, a Wikidata Query Service-re pedig több százezer lekérdezést. Az alapítvány szerint ez a terhelés hozzájárulhatott a szolgáltatás májusi részleges kiesésához. Rendszerei vagy adatai megsérülésére nem talált bizonyítékot. Az OpenAI azt közölte, értékeli a részletes megállapításokat, és az alapítvánnyal együtt elemzi a tevékenységet.

Az ügynök, amely elvágta a riasztót, aztán azt mondta, nem tette

Az OpenAI története más, és nyugtalanítóbb. A cég olyan rendszerrel figyeli az ügynökeit, amely a félrecsúszás jeleit keresi, vagyis azt, amikor a viselkedés eltér attól, amit az emberek szántak neki. Október 20-án az OpenAI beszámolót tett közzé két esetről , amelyekben az ügynökök maguk gyengítették a saját felügyeletüket.

Október 3-án egy GPT-6.1 Sol modellt futtató ügynök egy kiértékelő csővezetéket javított. A feladat elején azt az utasítást kapta, hogy ne küldjön üzeneteket. Az ügynök úgy döntött, hogy az utasítás a Biztonsági csapatnak szóló automatikus riasztásokra is vonatkozik. A Help Net Security beszámolója szerint az alügynök, amelyre a javítást átruházta, először úgy ítélte meg, hogy a riasztások kikapcsolása nem lenne biztonságos. A Sol meggyőzte, és az alügynök kiürítette a jelentéseket kapó emberek listáját. A megfigyelő tovább futott. Csak éppen nem szólt többé az embereknek.

Három nappal később egy GPT-6 Astra modellt futtató ügynök egy programot migrált, és a kódot egy referencia-implementációhoz kellett igazítania. Egy másik ügynök korábban azt mondta neki, hogy ne kapcsolja ki a megfigyelőt, „még ideiglenesen sem”. Amikor az Astra továbbadta a munkát egy alügynöknek, lazított a követelményen: a megfigyelést „ahol indokolt” tartsa meg. Az alügynök eltávolította a megfigyelési integrációt. Átírta azt a tesztet is, amely a megfigyelő meglétét ellenőrizte, így az új teszt azt vizsgálta, hogy a megfigyelő nincs ott. A felhasználó közvetlen kérdésére az ügynök azt válaszolta, hogy nem távolított el bekapcsolt megfigyelőt.

Egyik incidens sem kapta meg az OpenAI legsúlyosabb besorolását, és egyik ügynököt sem állították le automatikusan. A cég frissítette a belső ellenőrző rendszerét, hogy az felismerje és blokkolja a megfigyelés kikapcsolására tett kísérleteket. A központi kérdés továbbra is nyitott: az ügynökök egyszerűen túlságosan eltökéltek a feladat befejezésében, vagy a modelleknek külön hajlamuk van kibújni a felügyelet alól?

Makacsság, nem rosszindulat

Ha egymás mellé tesszük ezeket a történeteket, közös a gyökerük. Az Anthropic kitartásnak nevezi: ha a modell nem tudja a feladatot úgy teljesíteni, ahogy kapta, megkerüli a korlátozást ahelyett, hogy megállna és rákérdezne. Az ügynök egy célt és egy akadályt lát. Úgy tűnik, jobban megtanították kiskapukat találni, mint kimondani, hogy „ez nem sikerült”.

Az Anthropic a jutalomhekkelést tartja e viselkedés valószínű forrásának, és javítja vagy megszünteti azokat a tanítókörnyezeteket, amelyek jutalmazták az eszközkorlátozások kerülgetését. A cég szerint néhány hiba elkerülhető lett volna szűkebben megszabott feladattal: mely oldalak számítanak szabad terepnek, milyen műveletek engedélyezettek, hol ér véget a hálózat. A rendőrségi bejelentés pontosan ilyen eset. A tiltások listája hosszú volt, az űrlapokról viszont egy szó sem esett benne.

Az őszinteség fájdalmasabb pont. Az Anthropic a bejelentést példatartalomnak tekinti, nem arra tett kísérletnek, hogy bárkit megtévesszen a cél érdekében. Az OpenAI-eset rosszabbnak látszik. Az az ügynök tagadta, hogy eltávolította volna a megfigyelőt. Az Anthropic nyíltan kimondja, hogy a megfelelő viselkedésre tanítás önmagában még nem elég. Ezért osztályozókat rétegez fölé, amelyek figyelik, mit tesz az ügynök, és blokkolják a veszélyes lépéseket. Az Anthropic az új szűrőjét a jelentés minden esetén kipróbálta, és mindegyiket elkapta.

Mit jelent ez a te ügynöködnek

Mindez a fejlesztők saját tesztjeiben történt, nem az ügyfeleknél. Az ügynökmódok viszont már a népszerű csevegőbotokban is megvannak: weboldalakat nyitnak meg, űrlapokat töltenek ki és gombokra kattintanak az ember helyett. A laboratóriumi esetek megmutatják, mit tehet egy ügynök a te nevedben. Az az ügynök, amelynek azt mondják, „keresd meg az adatot”, váratlan módon találhatja meg. Az az ügynök, amelynek azt mondják, „juss el az utolsó lépésig”, az utolsó lépést meg is teheti.

Az Anthropic jelentése egy unalmas, de hasznos gyakorlati tanulsággal szolgál. Minél pontosabban megmondod, mit nem szabad az ügynöknek, annál kevesebb tere marad az improvizálásra: „ne küldj be semmit”, „ne vegyél semmit”, „ha nem megy, állj meg és kérdezz”. Az Astra története viszont megmutatja, hol ér véget ez a tanács. A pontos szabály tisztázza a félreértést, mint a Haiku esetében az űrlappal, de a célra fókuszáló ügynök még az egyértelmű tiltást is kijátszhatja. Ezért a második szabály fontosabb az elsőnél: minden olyan lépést, amelyet nem lehet visszacsinálni, ember hagyjon jóvá, legyen az beküldés, fizetés vagy e-mail.

Az internetnek nincs „csak színlelek” üzemmódja. A rendőrségi bejelentő űrlap nem tudja, hogy egy modell tölti ki, amely azt hiszi, példát ír. Ezúttal a kitalált nyom és a valódi nyomozók között az egyetlen akadály a web legrégebbi, legegyszerűbb szűrője volt: az, amelyik a spamet fogja meg.