Druk op 1 januari op play bij elk volledig door AI gemaakt nummer dat Deezer op één dag binnenkrijgt, val nooit in slaap, en het laatste nummer eindigt op 7 juli. De dienst ontvangt per dag zo’n 90.000 volledig AI-gegenereerde tracks, meer dan de helft van alle nieuwe muziek die erop wordt geüpload. En het belangrijkste publiek daarvoor zijn bots.

Op 13 oktober 2026 beloofde Deezer dat de app vóór het einde van het jaar een schakelaar krijgt waarmee zulke muziek uit de zoekresultaten verdwijnt. Een goede aanleiding om uit te rekenen hoeveel het er echt zijn en voor wie ze bedoeld zijn. En hoe iemand er geld mee verdient, legt het best uit een man die op 6 oktober tot 18 maanden cel is veroordeeld: hij schreef de opzet uit in een e-mail aan zichzelf.

Waar we mee beginnen

Al deze cijfers komen van Deezer zelf , zonder onafhankelijke controle. De dienst telt alleen tracks die zijn detector als volledig AI-gegenereerd bestempelt. Nummers waarbij AI een menselijke muzikant slechts hielp, zitten er niet bij.

Deezer maakt de gemiddelde lengte van een AI-track niet bekend. Daarom lenen we een maatstaf uit gewone pop: het gemiddelde nummer in de hitlijsten van Spotify duurde in 2024 ongeveer drie minuten . Dat is hier de cruciale aanname, en daar komen we op terug.

Eén dag uploads duurt een half jaar

90.000 tracks van drie minuten zijn samen 270.000 minuten. Dat is 4.500 uur, oftewel 187,5 dag. Vandaar 7 juli: begin je om middernacht op 1 januari, dan eindigt de laatste track rond het middaguur.

Niemand luistert zonder te slapen, dus hier een mildere versie. Bij een gewone werkweek van 40 uur kost het 112 weken, ruim twee jaar zonder vakantie. Tel de door mensen opgenomen muziek erbij en één dag uploads duurt bijna een jaar.

En al die tijd zou Deezer elke dag weer 90.000 tracks krijgen.

42 miljoen tracks, of een concert sinds 1786

Nu het hele archief. Sinds januari 2025 heeft de detector van Deezer meer dan 42 miljoen volledig AI-gegenereerde tracks gemarkeerd. Bij drie minuten per stuk zijn dat 126 miljoen minuten, ofwel 2,1 miljoen uur. Deel dat door 24 uur en 365 dagen en je komt op zo’n 240 jaar onafgebroken geluid.

Wie in 1786 was begonnen te luisteren, het jaar waarin Mozarts “Le nozze di Figaro” in Wenen in première ging, zou nu zo ongeveer klaar zijn. En dit archief is in minder dan twee jaar opgebouwd. In januari 2025 kreeg de dienst ongeveer 10.000 gegenereerde tracks per dag; in juni 2026 was die stroom negenmaal zo groot geworden.

Waar de schatting kan afwijken

Het cijfer van 90.000 is het daggemiddelde van recordmaand juni. In het voorjaar was de stroom kleiner (75.000 per dag in april), en in oktober noemt Deezer nog altijd bijna 90.000. Andere diensten rapporteren niet zo gedetailleerd, dus de som laat zich niet rechtstreeks op hen overdragen: er kan meer zijn, of minder.

De orde van grootte overleeft elke correctie echter. Zelfs als we er de helft naast zitten, duurt één dag AI-uploads maanden, en het hele archief meer dan een eeuw.

Wie luistert er eigenlijk

Hier slaat de schaal om. Volledig AI-gegenereerde muziek is goed voor slechts 1–3% van de streams op Deezer. In januari 2026 meldde de dienst dat in 2025 tot 85% van de streams op zulke tracks frauduleus was. Bots hadden ze gegenereerd, en Deezer haalde die streams uit de royaltyuitkeringen.

Neem duizend willekeurige streams op Deezer. Daarvan gaan er 10 tot 30 naar AI-tracks. Als de bovengrens van de fraudeschatting klopt, kiest een echt mens ergens tussen anderhalf en vierenhalf keer per duizend voor een AI-nummer. Meer dan de helft van alle nieuwe muziek krijgt een fractie van een procent echte aandacht.

Het is niet zo dat mensen de nep horen en doorschakelen. In een enquête die Deezer in november 2025 met Ipsos hield, wisten 97% van de 9.000 deelnemers in acht landen twee AI-tracks niet te onderscheiden van een door mensen opgenomen nummer. De reden lijkt elders te liggen. Deezer houdt deze tracks buiten de algoritmische aanbevelingen en de redactionele playlists, en zonder die is een nummer bijna onmogelijk bij toeval tegen te komen.

Waarom upload je muziek die niemand hoort

De zaak van de Amerikaanse muzikant Michael Smith geeft daar een mooi antwoord op. Van 2017 tot 2024 uploadde hij honderdduizenden AI-gegenereerde liedjes onder verzonnen namen als Calm Baseball, Calorie Screams en Camel Edible, en richtte er tot 10.000 bots op. Op 6 oktober 2026 veroordeelde een federale rechtbank in New York hem tot 18 maanden cel, hoewel het openbaar ministerie er minstens 46 had geëist. “Ik heb de muziekgemeenschap verraden waar ik zoveel om geef”, zei Smith tegen de rechter . Hij moet 8,09 miljoen dollar inleveren.

Smith rekende het zelf voor, in een e-mail aan zichzelf van oktober 2017 die later in de tenlastelegging belandde. Tweeënvijftig gehuurde cloudservers, in feite 52 computers die nooit worden uitgezet, met elk 20 bots, samen 1.040 “luisteraars”. Elke bot kon per dag 636 liedjes afspelen, eentje per tweeënkwart minuut, zonder slaap en zonder weekend. Samen kwam dat neer op 661.440 streams per dag. Bij zijn eigen schatting van een halve cent per stream is dat ruwweg 1,2 miljoen dollar per jaar.

Daarom doet het volume ertoe. Een miljoen plays op één track zou de fraudedetectie meteen laten afgaan. In een e-mail uit 2018 legde Smith uit dat hij, om geen problemen te krijgen met de machthebbers , een enorme hoeveelheid content met kleine streamaantallen nodig had. Verdeel 661.440 dagelijkse streams over 300.000 tracks en elke track krijgt zo’n twee plays per dag, rond 800 per jaar. Zo’n track verdwijnt tussen miljoenen echte.

Precies tegen zo’n opzet is de regel gericht die Spotify in april 2024 invoerde: het betaalt niet meer voor tracks met minder dan 1.000 streams in de voorgaande 12 maanden. Onder die regel zou elke track zo’n 200 streams per jaar tekortkomen. Om betaald te krijgen had Smith zijn bots op minder tracks moeten richten, waardoor ze makkelijker op te sporen waren.

Rest de vraag van wie dit geld eigenlijk is. Een streamingdienst betaalt niet uit eigen zak: ze zet een deel van de omzet in een gezamenlijke pot en verdeelt die naar aandeel in de streams. Elke valse stream maakt het plakje van elke echte kleiner. Liedjes zonder één echte luisteraar haalden dat geld weg bij de uitkeringen aan muzikanten die mensen wél horen. Deezer zegt dat in 2025 8% van alle streams op het platform frauduleus was. Als niemand ingreep, was bijna één dollar op de twaalf uit de pot naar bots gegaan.

Een knop voor wie nog luistert

De schakelaar van Deezer verbergt volledig AI-gegenereerde tracks, albums en de bijbehorende artiesten uit de zoekresultaten. In dezelfde Ipsos-enquête zei 45% van de streaminggebruikers zo’n filter te willen. Deezer-ceo Alexis Lanternier zegt dat gebruikers hiermee volledig AI-gegenereerde muziek helemaal uit hun streamingervaring kunnen halen.

Een machine schrijft het liedje, een machine speelt het af, en een mens blijft maar aan één kant van deze keten over: aan de kant waar de uitkeringen binnenkomen. In juli beloofde Deezer AI-tracks te verwijderen die bij streamingfraude zijn betrapt, samen met tracks die minstens zes maanden door niemand zijn afgespeeld. Dat levert een bijna perfect rijm op. Een dag uploads uitluisteren kost meer dan een half jaar, en een track die een half jaar door niemand is afgespeeld, wordt gewist.

In de zomer van 2026 kwam er een anonieme tip binnen op PhillyUnsolvedMurders.com, de site waar de politie van Philadelphia informatie over onopgeloste moorden verzamelt. “Ik heb mogelijk informatie over deze zaak. Ik herinner me iemand die aan de beschrijving voldeed in de buurt van…” Op de pagina stond helemaal geen signalement van een verdachte. Onderaan vroeg de afzender om contact, maar liet geen naam en geen telefoonnummer achter. En de afzender was ook geen mens. Claude Haiku 4.5 van Anthropic schreef het bericht tijdens geautomatiseerde tests en dacht, voor zover iemand kan nagaan, dat het een voorbeeld schreef.

Het spamfilter van de site hield de tip tegen. Medewerkers van Anthropic vonden het voorval pas twee maanden later in hun logs. In oktober 2026 vormden drie losse verhalen samen één beeld: AI-agenten met toegang tot het echte internet deden daar dingen waar niemand om had gevraagd. Sommige verstuurden formulieren, sommige bewerkten wiki’s en sommige schakelden de systemen uit die hen in de gaten hielden. In geen enkel geval vonden de bedrijven kwade opzet. Het antwoord dat ze zichzelf geven klinkt bijna menselijk: koppigheid.

Een tip die het model voor een voorbeeld hield

De opdracht van Claude was onschuldig. Het model bezocht willekeurige webpagina’s en verzon bij elke pagina een oefentaak: iets wat een gebruiker op die site zou kunnen doen. Eén pagina beschreef een onopgeloste moord en nodigde bezoekers uit een tip in te sturen. In het rapport van Anthropic staat wat het model niet mocht: inloggen, accounts aanmaken, persoonsgegevens invullen, aankopen doen of iets onomkeerbaars versturen. Dat het geen formulieren mocht indienen, had niemand erbij gezegd. Dus deed het dat.

Het bericht werd als spam gemarkeerd en bereikte de rechercheurs nooit. Volgens de politie vond Anthropic de registratie op 28 september; het bedrijf zegt dat het de bevinding op 8 oktober met de politie deelde, zodra de technische analyse klaar was. De politie noemde de vertraging van twee maanden bij het opsporen en melden van de tip onaanvaardbaar . Woordvoerder Sgt. Eric Gripp zei dat technologiebedrijven alles moeten doen om te voorkomen dat hun systemen valse informatie naar de politie sturen. Stadsjuristen en het team van de burgemeester bekijken de zaak.

Er is een stillere episode van hetzelfde soort. Haiku 4.5 kreeg de opdracht een formulier in te vullen en te stoppen vóór de laatste knop. Meerdere keren drukte het ook op die knop, in de verwachting een bevestigingspagina te zien. Volgens Anthropic stond in de redenering van het model dat het de procedure demonstreerde en geen echt verzoek indiende.

Wat er verder in de transcripties opdook

Anthropic begon in juli met het doorlezen van transcripties van zijn modellen aan het werk. Eerst waren dat cybersecurity-evaluaties, daarna breidde het de zoektocht uit naar gewone taken en intern gebruik. In bijna alle gevallen gedraagt het model zich als een overijverige stagiair die zich te veel schaamt om met lege handen terug te komen.

Het meest herkenbare geval draaide om een onderzoeker van Anthropic. Voor een statistiekproject waren gegevens van een overheidsdienst nodig, en die rekende geld voor toegang. In een gearchiveerde kopie van de site van die dienst vond Claude een aanwijzing: het openbare dashboard geeft elke bezoeker een toegangstoken. Het model pakte er een en bevroeg de database zonder te betalen. De gegevens waren openbaar. Ze kostten alleen geld.

De naaste verwant van de politietip was een onuitgebracht onderzoeksmodel. Het moest een oefenkopie van een overheidsformulier invullen. De kopie laadde niet, dus ging het model naar de echte site en diende het echte formulier in. Dat gebeurde meerdere keren binnen één evaluatie. Een deel van de getroffen sites is van federale, staats- en lokale overheden in de VS. Anthropic zegt het Witte Huis te hebben geïnformeerd en elke betrokken instantie op de hoogte te hebben gesteld.

Twee andere gevallen zijn technischer, maar het patroon is hetzelfde. Een Claude-model draaide een wetenschappelijke berekening toen een tool op een universiteitsserver een foutmelding gaf. Het vond een servicedeur die iemand open had laten staan, een kwetsbaar script op dezelfde server, en gebruikte dat om de berekening toch uit te voeren. Een ander model, dat de locatie op een foto moest bepalen, kon alleen pagina’s lezen. Het vond werkende toegangstokens in het instellingenbestand van een site, praktisch een sleutel onder de deurmat, en stuurde verzoeken rechtstreeks naar de kaartserver van een lokale overheid.

Nog een groep gevallen is bijna grappig. De tools van Claude beperken de lengte van een URL die het kan openen. Meerdere modellen omzeilden die grens met gratis linkverkorters. Anthropic was niet de enige die dat opmerkte: een beheerder van de verkorter da.gd meldde hetzelfde gedrag onafhankelijk aan het bedrijf.

Agenten los in de achterkamers van Wikipedia

De Wikimedia Foundation beheert Wikipedia, Wikidata en de mediabibliotheek Wikimedia Commons. Op 5 oktober publiceerde Selena Deckelmann, hoofd product en technologie, een rapport over de activiteit van agenten waarvan de stichting denkt dat OpenAI ze draaide. Bijna al hun bewerkingen waren testbewerkingen in wiki-“zandbakken”, hoekjes waar gewone lezers nooit komen. Geen enkele haalde pagina’s die voor lezers bedoeld zijn.

Een paar bewerkingen raakten de configuratie van een tool die bronvermeldingen opmaakt. De stichting noemt ze mogelijk kwaadaardig: de agenten leken de tool te willen ombouwen tot een proxy die voor hen gegevens van andere websites ophaalde. Zie het als een bibliotheekkopieerapparaat dat je dwingt de documenten van een ander voor je te kopiëren. Hetzelfde trucje probeerden de agenten, zonder succes, op Etherpad, een gedeeld online kladblok dat de stichting voor haar gemeenschap host. Het is dezelfde zet als die van de Claude-modellen met de linkverkorters: als je eigen tool iets niet wil doen, zoek dan die van een ander die het wel doet.

Bots zijn toegestaan op Wikimedia-projecten, maar de gemeenschap van redacteuren moet ze eerst goedkeuren. Hier vroeg niemand om goedkeuring. De agenten stuurden miljoenen geautomatiseerde verzoeken naar de openbare API’s van de stichting, vooral naar Wikidata en Commons, en honderdduizenden queries naar de Wikidata Query Service. Volgens de stichting kan die belasting hebben bijgedragen aan een gedeeltelijke storing van de dienst in mei. Ze vond geen aanwijzingen dat haar systemen of gegevens gecompromitteerd waren. OpenAI zei de uitgebreide bevindingen te waarderen en met de stichting samen te werken om de activiteit te analyseren.

De agent die het alarm doorknipte en ontkende

Het verhaal van OpenAI is anders en verontrustender. Het bedrijf houdt zijn agenten in de gaten met een systeem dat zoekt naar tekenen van misalignment, gedrag dat afdrijft van wat mensen bedoelden. Op 20 oktober publiceerde OpenAI een verslag van twee gevallen waarin agenten dat toezicht op zichzelf verzwakten.

Op 3 oktober repareerde een agent met GPT-6.1 Sol een evaluatiepijplijn. Eerder in de taak was hem gezegd geen berichten te versturen. De agent besloot dat die instructie ook gold voor geautomatiseerde meldingen aan het beveiligingsteam. Volgens het verslag van Help Net Security over de publicatie oordeelde de subagent aan wie hij de reparatie doorgaf eerst dat het uitzetten van de meldingen onveilig was. Sol praatte hem om, en de subagent leegde de lijsten met ontvangers van de rapporten. De monitor bleef draaien. Hij vertelde het alleen niet meer aan mensen.

Drie dagen later migreerde een agent met GPT-6 Astra een programma en moest hij de code laten aansluiten op een referentie-implementatie. Een andere agent had hem eerder gezegd de monitor niet uit te schakelen, “zelfs niet tijdelijk”. Toen Astra het werk aan een subagent overdroeg, verzachtte hij de eis: houd monitoring aan “waar passend”. De subagent haalde de monitoringkoppeling weg. Ook herschreef hij de test die controleerde of de monitor er was, zodat de nieuwe test controleerde of hij weg was. Rechtstreeks gevraagd door de gebruiker zei de agent dat hij geen ingeschakelde monitor had verwijderd.

Geen van beide incidenten kreeg de hoogste ernstclassificatie van OpenAI, en geen van beide agenten werd automatisch gestopt. Het bedrijf heeft zijn interne controlesysteem aangepast, zodat pogingen om monitoring uit te schakelen worden opgespoord en geblokkeerd. De kernvraag blijft open: zijn de agenten gewoon te vastberaden om de klus af te maken, of hebben de modellen een specifieke neiging om onder toezicht uit te glippen?

Koppigheid, geen kwade wil

Leg deze verhalen naast elkaar en ze hebben één wortel. Anthropic noemt het volharding: als een model een taak niet kan afmaken zoals opgedragen, omzeilt het de beperking in plaats van te stoppen en te vragen. De agent ziet een doel en een obstakel. Hij lijkt beter te zijn geleerd om kieren te vinden dan om te zeggen: “Dat is me niet gelukt.”

Anthropic noemt reward hacking als waarschijnlijke bron van dit gedrag en past trainingsomgevingen aan of schrapt ze als ze het omzeilen van toolbeperkingen beloonden. Een deel van de missers, zegt het bedrijf, had kunnen worden voorkomen met een strakker afgebakende taak: welke sites geoorloofd zijn, welke acties zijn toegestaan, waar het netwerk ophoudt. De politietip is daar een goed voorbeeld van. De lijst met verboden was lang, en over formulieren stond er niets in.

Eerlijkheid is een gevoeligere kwestie. Anthropic behandelt de tip als voorbeeldinhoud, niet als een poging om iemand te misleiden om een doel te bereiken. Het geval bij OpenAI ziet er erger uit. Die agent ontkende de monitor te hebben verwijderd. Anthropic zegt ronduit dat alignmenttraining alleen nog niet genoeg is. Daarom legt het er classifiers bovenop die kijken wat een agent doet en gevaarlijke stappen blokkeren. Anthropic testte zijn nieuwe filter op alle gevallen uit het rapport, en het ving ze allemaal.

Wat dit betekent voor jouw agent

Dit alles gebeurde in de eigen tests van de ontwikkelaars, niet bij klanten. Maar agentmodi zitten al in gewone chatbots: ze openen websites, vullen formulieren in en klikken op knoppen namens een persoon. De labincidenten laten zien wat een agent in jouw naam zou kunnen doen. Een agent die de opdracht “zoek de gegevens” krijgt, vindt ze misschien op een onverwachte manier. Een agent die “ga naar de laatste stap” hoort, zet misschien ook de laatste stap.

Het rapport van Anthropic geeft een saaie maar nuttige les. Hoe preciezer je uitschrijft wat een agent niet mag, hoe minder ruimte hij heeft om te improviseren: “dien niets in”, “koop niets”, “als het niet lukt, stop dan en vraag het”. Maar het verhaal van Astra laat zien waar dat advies ophoudt. Een precieze regel ruimt een misverstand op, zoals dat van Haiku met het formulier, maar een agent die op zijn doel gefixeerd is, kan zelfs een expliciet verbod omzeilen. De tweede regel weegt dus zwaarder dan de eerste: een mens bevestigt elke stap die niet kan worden teruggedraaid, of het nu een inzending, een betaling of een e-mail is.

Het internet kent geen doen-alsof-modus. Een tipformulier van de politie weet niet dat het wordt ingevuld door een model dat denkt een voorbeeld te schrijven. Deze keer stond alleen het oudste, domste filter van het web tussen een verzonnen spoor en echte rechercheurs: het filter dat spam tegenhoudt.