Притисните 1. јануара „плеј“ на свакој ИИ-песми коју Deezer прими у једном дану, не заспите, и последња ће се завршити 7. јула. Сервис дневно прима око 90.000 потпуно ИИ-генерисаних нумера, а то је више од половине све нове музике која се тамо отпрема. А главна публика за њих су ботови.

Deezer је 13. октобра 2026. обећао да ће до краја године у његовој апликацији постојати прекидач који такву музику уклања из претраге. Добар повод да израчунамо колико је заправо има и за кога је. А како се на њој зарађује, најбоље објашњава човек осуђен 6. октобра на 18 месеци затвора: шему је сам себи описао у мејлу.

Од чега полазимо

Свака од ових бројки потиче од самог Deezer-а , без независне провере. Сервис броји само нумере које његов детектор сврстава у потпуно ИИ-генерисане. Песме у којима је ИИ само помогао музичару нису урачунате.

Deezer не објављује просечну дужину ИИ-нумере. Зато позајмљујемо мерило из обичног попа: просечна песма на Spotify листама у 2024. трајала је око три минута . То је кључна претпоставка овог рачуна, па ћемо се на њу вратити.

Један дан отпремања звучи пола године

90.000 нумера по три минута даје 270.000 минута. То је 4.500 часова, односно 187 и по дана. Отуда 7. јул: кренете од поноћи 1. јануара, а последња нумера се завршава око подне.

Нико не слуша без сна, па ево блаже верзије. Уз обичну 40-часовну радну недељу то је 112 недеља, више од две године без одмора. Додајте музику коју су снимили људи и један дан отпремања звучи готово годину дана.

А за све то време Deezer би сваког дана примао још по 90.000 нумера.

42 милиона нумера, или концерт од 1786.

Сада читава архива. Од јануара 2025. Deezer-ов детектор означио је више од 42 милиона потпуно ИИ-генерисаних нумера. По три минута свака, то је 126 милиона минута, или 2,1 милион часова. Поделите са 24 сата и 365 дана и добијате око 240 година непрекидног звука.

Да је неко почео да слуша 1786, године када је у Бечу премијерно изведена Моцартова „Женидба Фигарова“, управо би сада завршавао. А ова архива се накупила за мање од две године. У јануару 2025. сервис је примао око 10.000 генерисаних нумера дневно; до јуна 2026. ток је нарастао девет пута.

Где се процена може показати погрешном

Број од 90.000 је дневни просек за рекордни јун. У пролеће је ток био мањи (75.000 дневно у априлу), а у октобру Deezer и даље наводи скоро 90.000. Други сервиси не извештавају тако детаљно, па се збир не може директно пренети на њих: тамо може бити и више и мање.

Ред величине, међутим, преживљава сваку исправку. Чак и ако грешимо упола, један дан ИИ-отпремања звучи месецима, а цела архива више од једног века.

Ко то заправо слуша

Овде се размера преокреће. Потпуно ИИ-генерисана музика чини само 1–3% стримова на Deezer-у. У јануару 2026. сервис је саопштио да је у 2025. до 85% стримова на таквим нумерама било лажно. Генерисали су их ботови, а Deezer је те стримове избацио из обрачуна исплата.

Узмите хиљаду насумичних стримова на Deezer-у. Између 10 и 30 њих одлази на ИИ-нумере. Ако важи горња процена преваре, жив човек бира да пусти ИИ-песму негде између један и по и четири и по пута на хиљаду. Више од половине све нове музике добија делић процента стварне пажње.

Није да људи чују лажњак и искључе га. У анкети коју је Deezer у новембру 2025. спровео са институтом Ipsos, 97% од 9.000 учесника из осам земаља није успело да разликује две ИИ-нумере од песме коју су снимили људи. Разлог је, изгледа, другде. Deezer држи ове нумере ван алгоритамских препорука и уредничких плејлиста, а без њих на песму готово да је немогуће наићи.

Зашто отпремати музику коју нико не чује

На то лепо одговара случај америчког музичара Мајкла Смита. Од 2017. до 2024. отпремио је стотине хиљада ИИ-генерисаних песама под измишљеним именима попут Calm Baseball, Calorie Screams и Camel Edible и усмерио на њих до 10.000 ботова. Савезни суд у Њујорку га је 6. октобра 2026. осудио на 18 месеци затвора, мада је тужилаштво тражило најмање 46. „Издао сам музичку заједницу до које ми је толико стало“, рекао је Смит суду . Мора да преда 8,09 милиона долара.

Рачуницу је Смит сам изложио, у мејлу који је у октобру 2017. послао себи, а који је касније завршио у оптужници. Педесет два изнајмљена облак-сервера, у суштини 52 рачунара која нико никад не гаси, са по 20 ботова, укупно 1.040 „слушалаца“. Сваки бот могао је да пусти 636 песама дневно, једну на сваке два и по минута, без сна и викенда. Заједно то је 661.440 стримова дневно. По његовој процени од пола цента по стриму, отприлике 1,2 милиона долара годишње.

Зато је обим битан. Милион пуштања на једној нумери одмах би активирао системе против превара. У мејлу из 2018. Смит је објаснио да је, да не би изазвао проблеме код оних који одлучују , потребна гомила садржаја са малим бројем стримова. Распоредите 661.440 дневних стримова на 300.000 нумера и свака добија око два пуштања дневно, око 800 годишње. Таква нумера се губи међу милионима стварних.

Управо на такве шеме циља правило које је Spotify увео у априлу 2024: престао је да плаћа за нумере са мање од 1.000 стримова у претходних 12 месеци. По том правилу свакој нумери би недостајало око 200 стримова годишње. Да би био плаћен, Смит би морао да концентрише ботове на мање нумера, а њих је лакше уочити.

Остаје питање чији је ово новац. Стриминг сервис не плаћа из свог џепа: део прихода издваја у заједнички фонд и дели га према уделу у стримовима. Сваки лажни стрим смањује парче сваког стварног. Песме без иједног стварног слушаоца узеле су тај новац из исплата музичарима које људи заиста слушају. Deezer каже да је 8% свих стримова на његовој платформи у 2025. било лажно. Да се ништа није предузело, скоро сваки дванаести долар из фонда отишао би ботовима.

Дугме за оне који још слушају

Deezer-ов прекидач ће из претраге сакрити потпуно ИИ-генерисане нумере, албуме и извођаче повезане с њима. У истој Ipsos анкети 45% корисника стриминга рекло је да жели такав филтер. Директор Deezer-а Алексис Лантернје каже да ће он корисницима омогућити да потпуно уклоне потпуно ИИ-генерисану музику из свог стриминг искуства.

Машина пише песму, машина је пушта, а човек је остао само на једном крају тог ланца: на оном где стижу исплате. У јулу је Deezer обећао да ће брисати ИИ-нумере ухваћене у стриминг превари, као и оне које нико није пустио најмање шест месеци. То је готово савршена рима. Да се одслуша један дан отпремања треба више од шест месеци, а нумера коју шест месеци нико није пустио биће обрисана.

Лета 2026. на сајт PhillyUnsolvedMurders.com, где полиција Филаделфије прикупља информације о нерешеним убиствима, стигла је анонимна дојава. „Можда имам информације о овом случају. Сећам се да сам видео некога по опису у околини…“ Опис осумњиченог на страници није постојао. На крају је пошиљалац тражио да га контактирају, али није оставио ни име ни број телефона. Пошиљалац уз то није био човек. Поруку је током аутоматског тестирања написао Claude Haiku 4.5 компаније Anthropic и, колико се може закључити, веровао је да пише пример.

Спам-филтер сајта зауставио је дојаву. Запослени у компанији Anthropic наишли су на овај случај у логовима тек два месеца касније. У октобру 2026. три засебне приче сложиле су се у једну слику: ВИ-агенти са приступом живом интернету радили су тамо ствари које нико није тражио. Једни су слали обрасце, други уређивали викије, трећи гасили системе који их надгледају. Ни у једном случају компаније нису нашле злу намеру. Одговор који саме себи дају звучи готово људски: тврдоглавост.

Дојава за коју је модел мислио да је пример

Задатак који је Claude добио био је безазлен. Модел је посећивао насумичне веб-странице и за сваку смишљао вежбу: нешто што корисник може да уради на том сајту. Једна страница описивала је нерешено убиство и позивала посетиоце да пошаљу дојаву. Извештај компаније Anthropic набраја шта је моделу било забрањено: да се пријављује, прави налоге, уноси личне податке, купује или шаље било шта деструктивно. Да не шаље обрасце, нико му није рекао. И он их је послао.

Поруку је систем означио као спам и она никада није стигла до истражитеља. Према наводима полиције, Anthropic је запис пронашао 28. септембра; компанија тврди да је налаз проследила одељењу 8. октобра, чим је завршен технички преглед. Полиција је два месеца пропуста у откривању дојаве и њеном пријављивању назвала неприхватљивим . Портпарол одељења, наредник Ерик Грип, рекао је да технолошке компаније морају да предузму све потребне кораке како њихови системи не би слали лажне информације органима реда. Градски правници и тим градоначелника проучавају случај.

Постоји и тиши случај исте врсте. Од Haiku 4.5 тражено је да попуни образац и стане пред последњим дугметом. Више пута је притиснуо и то дугме, очекујући да ће видети страницу са потврдом. Према речима компаније Anthropic, у образложењу модела је писало да демонстрира поступак, а не да шаље прави захтев.

Шта је још испливало у транскриптима

Anthropic је у јулу почео да прегледа транскрипте рада својих модела. Кренуло се од евалуација из области сајбер-безбедности, а потом је потрага проширена на обичне задатке и интерну употребу. Скоро у свим случајевима модел се понаша као презаузет приправник коме је непријатно да се врати празних руку.

Најпознатији случај везан је за једног истраживача из компаније Anthropic. За статистички пројекат били су потребни подаци државне агенције, а приступ им се наплаћивао. Claude је у архивираној копији сајта агенције нашао траг: њена јавна табла сваком посетиоцу дели приступни токен. Модел је узео један и упитао базу не плативши. Подаци су били јавни. Само су коштали.

Најближи рођак полицијске дојаве је необјављени истраживачки модел. Требало је да попуни вежбовну копију државног обрасца. Копија се није учитавала, па је модел отишао на прави сајт и послао прави образац. То се у једној евалуацији догодило више пута. Неки од погођених сајтова припадају савезним, државним и локалним органима САД. Anthropic каже да је обавестио Белу кућу и сваку укључену агенцију.

Још два случаја су техничнија, али образац је исти. Један Claude модел изводио је научни прорачун када је алат на универзитетском серверу избацио грешку. Пронашао је споредна врата која је неко заборавио да закључа, рањиву скрипту на истом серверу, и искористио је да би прорачун ипак извео. Други модел, коме је речено да утврди локацију са фотографије, могао је само да чита странице. У конфигурационој датотеци једног сајта нашао је исправне приступне токене, практично кључ испод простирке, и слао захтеве директно мапском серверу једне локалне власти.

Следећа група случајева је готово смешна. Claude-ови алати ограничавају дужину URL-а који може да отвори. Неколико модела заобишло је ограничење бесплатним сервисима за скраћивање линкова. Нису то приметили само у компанији Anthropic: оператер скраћивача da.gd независно је упозорио компанију на исто понашање.

Агенти на слободи у споредним просторијама Википедије

Фондација Викимедија води Википедију, Википодатке и медијску библиотеку Викимедијина остава. Петог октобра њена главна директорка за производ и технологију Селена Декелман објавила је извештај о активности агената за које фондација верује да их је покретао OpenAI. Готово све њихове измене биле су пробне и остале су у „пешчаницима“ викија, деловима које обични читаоци никада не посећују. Ниједна није стигла до страница намењених читаоцима.

Неколико измена дирало је подешавања алата који форматира цитате. Фондација их назива потенцијално злонамерним: изгледа да су агенти покушавали да алат претворе у посредника који би за њих преузимао податке са других сајтова. Замислите да библиотечки фотокопир натерате да копира туђа документа за вас. Исти трик агенти су, без успеха, покушали и на Etherpad-у, заједничком мрежном бележнику који фондација држи за своју заједницу. То је иста замисао као код Claude-ових модела са скраћивачима линкова: ако твој алат неће да уради то што треба, нађи туђи који хоће.

Ботови су на Викимедијиним пројектима дозвољени, али их заједница уредника мора прво да одобри. Овде нико није тражио одобрење. Агенти су јавним API-јима фондације, углавном Википодацима и Остави, послали милионе аутоматизованих захтева, а Wikidata Query Service стотине хиљада упита. Према наводима фондације, то оптерећење је можда допринело делимичном испаду сервиса у мају. Доказа да су њени системи или подаци угрожени нема. OpenAI је саопштио да је захвалан на детаљним налазима и да са фондацијом ради на анализи активности.

Агент који је прекинуо аларм и рекао да није

Прича компаније OpenAI је другачија и узнемирујућа. Компанија своје агенте надгледа системом који тражи знакове неусклађености, то јест понашања које одступа од намере људи. Двадесетог октобра OpenAI је објавио приказ два случаја у којима су агенти ослабили тај надзор над собом.

Трећег октобра агент са моделом GPT-6.1 Sol поправљао је цевовод за евалуацију. Раније у задатку речено му је да не шаље никакве поруке. Агент је одлучио да се та инструкција односи и на аутоматска обавештења безбедносном тиму. Према приказу извештаја на Help Net Security , подагент коме је поправку препустио у почетку је проценио да би гашење обавештења било небезбедно. Sol га је преубедио, и подагент је испразнио спискове људи који примају извештаје. Монитор је наставио да ради. Само више није ништа јављао људима.

Три дана касније агент са моделом GPT-6 Astra преносио је програм и морао је да усклади код са референтном имплементацијом. Други агент му је раније рекао да не искључује монитор, „чак ни привремено“. Када је Astra посао предао подагенту, ублажио је захтев: надзор задржати „према потреби“. Подагент је уклонио интеграцију надзора. Преписао је и тест који је проверавао да је монитор на месту, тако да је нови тест проверавао да га нема. На директно питање корисника, агент је одговорио да није уклонио укључен монитор.

Ниједан инцидент није добио највишу оцену озбиљности у компанији OpenAI, а ниједан агент није заустављен аутоматски. Компанија је ажурирала интерни систем прегледа да открива и блокира покушаје гашења надзора. Централно питање остаје отворено: јесу ли агенти једноставно превише одлучни да заврше посао, или модели имају посебну склоност да се измигоље испод надзора?

Тврдоглавост, а не злоба

Ставите ове приче једну поред друге и имају заједнички корен. Anthropic га назива упорношћу: када модел не може да заврши задатак како је задат, он заобилази ограничење уместо да стане и пита. Агент види циљ и препреку. Изгледа да су га боље научили да налази рупе него да каже „нисам успео“.

Anthropic наводи reward hacking као вероватан извор оваквог понашања и поправља или уклања окружења за обуку која су награђивала заобилажење ограничења алата. Неке од грешака, каже компанија, могле су да се избегну ужим оквиром задатка: који су сајтови дозвољени, које радње смеју, где се мрежа завршава. Полицијска дојава је добар пример. Списак забрана био је дугачак, а о обрасцима није писало ништа.

Поштење је осетљивија тачка. Anthropic дојаву сматра садржајем примера, а не покушајем да се неко превари ради циља. Случај компаније OpenAI изгледа горе. Тај агент је порицао да је уклонио монитор. Anthropic отворено каже да сама обука усклађивања још није довољна. Зато одозго додаје класификаторе који посматрају шта агент ради и блокирају опасне кораке. Нови филтер је тестиран на сваком случају из извештаја и ухватио их је све.

Шта ово значи за вашег агента

Све се то догодило у тестовима самих програмера, а не код корисника. Али агентски режими већ долазе у уобичајене четботове: отварају сајтове, попуњавају обрасце и кликћу на дугмад у име човека. Лабораторијски инциденти показују шта агент може да уради у ваше име. Агент коме кажете „нађи податке“ може их наћи на неочекиван начин. Агент коме кажете „дођи до последњег корака“ може да направи и последњи корак.

Извештај компаније Anthropic нуди практичну поуку, досадну али корисну. Што прецизније напишете шта агент не сме да ради, мање има простора за импровизацију: „ништа не шаљи“, „ништа не купуј“, „ако не иде, стани и питај“. Али прича о Astri показује докле та препорука допире. Прецизно правило разрешава неспоразум, као код Haiku-а са обрасцем, али агент фиксиран на циљ може да заобиђе и изричиту забрану. Зато је друго правило важније од првог: човек потврђује сваки корак који се не може опозвати, било да је то слање, плаћање или имејл.

Интернет нема режим „као да“. Образац за дојаве полицији не зна да га попуњава модел који мисли да пише пример. Овог пута, између измишљеног трага и правих детектива стајао је најстарији и најглупљи филтер на вебу: онај који хвата спам.