Націсніце 1 студзеня «play» на кожнай ІІ-песні, якую Deezer атрымлівае за адзін дзень, не засынайце — і апошняя скончыцца 7 ліпеня. Сэрвіс прымае каля 90 000 цалкам згенераваных ІІ трэкаў штодня, а гэта больш за палову ўсёй новай музыкі, якая туды трапляе. І галоўная публіка для іх — боты.

13 кастрычніка 2026 года Deezer паабяцаў, што да канца года ў яго праграме з’явіцца пераключальнік , які прыбярэ такую музыку з пошуку. Добрая нагода палічыць, колькі яе насамрэч і для каго яна. А як на ёй зарабляюць, лепш за ўсё тлумачыць чалавек, якога 6 кастрычніка асудзілі на 18 месяцаў турмы: ён распісаў схему ў лісце самому сабе.

З чаго мы пачынаем

Усе гэтыя лічбы бяруцца ад самога Deezer , без незалежнага аўдыту. Сэрвіс лічыць толькі тыя трэкі, якія яго дэтэктар аднёс да цалкам згенераваных ІІ. Песні, дзе ІІ толькі дапамагаў жывому музыканту, сюды не ўваходзяць.

Сярэднюю працягласць ІІ-трэка Deezer не раскрывае. Таму бярэм арыенцір з звычайнай папсы: сярэдняя песня ў чартах Spotify у 2024 годзе доўжылася каля трох хвілін . Гэта ключавое дапушчэнне ўсяго разліку, і мы да яго яшчэ вернемся.

Адзін дзень загрузак гучыць паўгода

90 000 трэкаў па тры хвіліны — гэта 270 000 хвілін. Або 4 500 гадзін, або 187 з паловай сутак. Адсюль і 7 ліпеня: пачнёце апоўначы 1 студзеня — і апошні трэк скончыцца прыкладна ў поўдзень.

Без сну ніхто слухаць не будзе, таму вось мяккі варыянт. Пры звычайным 40-гадзінным працоўным тыдні гэта 112 тыдняў, больш за два гады без водпуску. Дадайце музыку, запісаную людзьмі, — і адзін дзень загрузак гучыць амаль год.

Цягам усяго гэтага часу Deezer працягваў бы атрымліваць яшчэ па 90 000 трэкаў у дзень.

42 мільёны трэкаў, або канцэрт з 1786 года

Цяпер увесь архіў. З студзеня 2025 года дэтэктар Deezer адзначыў больш за 42 мільёны цалкам згенераваных ІІ трэкаў. Па тры хвіліны кожны — гэта 126 мільёнаў хвілін, або 2,1 мільёна гадзін. Падзяліце на 24 гадзіны і на 365 дзён — атрымаецца каля 240 гадоў бесперапыннага гучання.

Калі б хтосьці пачаў слухаць у 1786 годзе, калі ў Вене прайшла прэм’ера «Вяселля Фігаро» Моцарта, ён скончыў бы якраз цяпер. А гэты архіў назапасіўся менш чым за два гады. У студзені 2025-га сэрвіс атрымліваў каля 10 000 згенераваных трэкаў у дзень, а да чэрвеня 2026-га паток вырас у дзевяць разоў.

Дзе ацэнка можа памыляцца

Лічба 90 000 — гэта сярэдняя за дзень у рэкордным чэрвені. Увесну паток быў меншы (75 000 у дзень у красавіку), а ў кастрычніку Deezer усё яшчэ называе амаль 90 000. Іншыя сэрвісы так падрабязна не справаздаюцца, таму падлік нельга наўпрост пераносіць на іх: там можа быць і больш, і менш.

Аднак парадак велічыні перажывае любую папраўку. Нават калі мы памыляемся ўдвая, адзін дзень ІІ-загрузак гучыць месяцамі, а ўвесь архіў — больш за стагоддзе.

Хто на самай справе слухае

Тут маштаб пераварочваецца. На цалкам згенераваную ІІ музыку прыпадае ўсяго 1–3% праслухоўванняў на Deezer. У студзені 2026 года сэрвіс паведаміў , што ў 2025-м да 85% праслухоўванняў такіх трэкаў былі ашуканскімі. Іх рабілі боты, і Deezer прыбраў гэтыя праслухоўванні з разліку выплат.

Вазьміце тысячу выпадковых праслухоўванняў на Deezer. На ІІ-трэкі прыпадае ад 10 да 30 з іх. Калі верная верхняя ацэнка ашуканства, то жывы чалавек сам абірае ІІ-песню недзе ад паўтара да чатырох з паловай разоў на тысячу. Больш за палову ўсёй новай музыкі атрымлівае долю працэнта сапраўднай увагі.

Справа не ў тым, што людзі чуюць падробку і перамыкаюць. У апытанні, якое Deezer правёў з Ipsos у лістападзе 2025 года, 97% з 9 000 удзельнікаў у васьмі краінах не здолелі адрозніць два ІІ-трэкі ад песні, запісанай людзьмі. Прычына, здаецца, у іншым. Deezer трымае такія трэкі па-за алгарытмічнымі рэкамендацыямі і рэдакцыйнымі плэйлістамі, а без іх на песню амаль немагчыма натрапіць выпадкова.

Навошта заліваць музыку, якую ніхто не чуе

На гэта дакладна адказвае гісторыя амерыканскага музыканта Майкла Сміта. З 2017 па 2024 год ён загрузіў сотні тысяч згенераваных ІІ песень пад прыдуманымі імёнамі, такімі як Calm Baseball, Calorie Screams і Camel Edible, і накіраваў на іх да 10 000 ботаў. 6 кастрычніка 2026 года федэральны суд у Нью-Ёрку асудзіў яго на 18 месяцаў турмы, хоць пракуратура патрабавала не менш за 46. «Я здрадзіў музычнай супольнасці, якая мне так дарагая», — сказаў Сміт суду . Ён павінен канфіскаваць 8,09 мільёна долараў.

Матэматыку Сміт распісаў сам — у лісце самому сабе ў кастрычніку 2017 года, які пасля трапіў у абвінавачанне. Пяцьдзясят два арандаваныя воблачныя серверы, па сутнасці 52 камп’ютары, якія ніхто ніколі не выключае, па 20 ботаў на кожным — разам 1 040 «слухачоў». Кожны бот мог прайграваць 636 песень у дзень, па адной кожныя дзве з чвэрцю хвіліны, без сну і выходных. Разам гэта 661 440 праслухоўванняў у дзень. Па ўласнай ацэнцы Сміта ў паўцэнта за праслухоўванне — прыкладна 1,2 мільёна долараў у год.

Менавіта таму важны аб’ём. Мільён праслухоўванняў аднаго трэка адразу спрацаваў бы на антыфрод-сістэмах. У лісце 2018 года Сміт тлумачыў, што каб не прыцягнуць увагу ўладаў , яму патрэбная велізарная колькасць кантэнту з малой колькасцю праслухоўванняў. Размяркуйце 661 440 праслухоўванняў у дзень на 300 000 трэкаў — і на кожны прыпадзе каля двух у дзень, прыкладна 800 у год. Такі трэк губляецца сярод мільёнаў сапраўдных.

Менавіта супраць такіх схем накіравана правіла, якое Spotify увёў у красавіку 2024 года: ён перастаў плаціць за трэкі, у якіх за папярэднія 12 месяцаў менш за 1 000 праслухоўванняў. Паводле гэтага правіла кожнаму трэку не хапала б каля 200 праслухоўванняў у год. Каб атрымаць выплату, Сміту давялося б сканцэнтраваць ботаў на меншай колькасці трэкаў, а іх лягчэй заўважыць.

Застаецца пытанне, чые гэта грошы. Стрымінгавы сэрвіс плаціць не са сваёй кішэні: ён адкладае долю выручкі ў агульны кацёл і дзеліць яе па долі праслухоўванняў. Кожнае фальшывае праслухоўванне памяншае кавалак кожнага сапраўднага. Песні без аднаго рэальнага слухача забіралі гэтыя грошы з выплат музыкантам, якіх людзі сапраўды чуюць. Deezer кажа, што ў 2025 годзе 8% усіх праслухоўванняў на яго платформе былі ашуканскімі. Калі б з гэтым не змагаліся, амаль адзін долар з дванаццаці з катла дастаўся б ботам.

Кнопка для тых, хто яшчэ слухае

Пераключальнік Deezer схавае з пошуку цалкам згенераваныя ІІ трэкі, альбомы і выканаўцаў, звязаных з імі. У тым жа апытанні Ipsos 45% карыстальнікаў стрымінгу сказалі, што хацелі б такі фільтр. Дырэктар Deezer Алексіс Лантар’е кажа, што ён дазволіць карыстальнікам цалкам выдаліць згенераваную ІІ музыку са свайго стрымінгавага досведу.

Машына піша песню, машына яе слухае, і чалавек у гэтым ланцужку застаецца толькі на адным канцы — там, куды прыходзяць выплаты. У ліпені Deezer паабяцаў выдаляць ІІ-трэкі, злоўленыя на стрымінгавым ашуканстве, а таксама тыя, якіх ніхто не слухаў не менш за паўгода. Атрымліваецца амаль дасканалая рыфма. Каб праслухаць адзін дзень загрузак, трэба больш за паўгода, а трэк, які паўгода ніхто не ўключаў, сатруць.

Летам 2026 года на сайт PhillyUnsolvedMurders.com, дзе паліцыя Філадэльфіі збірае звесткі пра нераскрытыя забойствы, прыйшла ананімная падказка. «Магчыма, у мяне ёсць інфармацыя па гэтай справе. Памятаю, як бачыў чалавека, які адпавядае апісанню, каля…» Апісання падазраванага на старонцы не было. У канцы адпраўнік прасіў звязацца з ім, але не пакінуў ні імя, ні нумара тэлефона. Адпраўнік, дарэчы, не быў чалавекам. Паведамленне напісаў Claude Haiku 4.5 ад Anthropic падчас аўтаматычнага тэсціравання, і, наколькі можна меркаваць, мадэль думала, што піша прыклад.

Падказку спыніў спам-фільтр сайта. У Anthropic пра гэты эпізод даведаліся з журналаў толькі праз два месяцы. У кастрычніку 2026 года тры асобныя гісторыі склаліся ў адну карціну: ШІ-агенты, якім далі доступ да жывога інтэрнэту, рабілі там тое, пра што іх ніхто не прасіў. Адны адпраўлялі формы, другія правілі вікі, трэція выключалі сістэмы, што за імі сачылі. Ні ў якім выпадку кампаніі не знайшлі злога намеру. Тлумачэнне, якое яны даюць самі сабе, гучыць амаль па-чалавечы: упартасць.

Падказка, якую мадэль палічыла прыкладам

Заданне ў Claude было бяскрыўднае. Мадэль заходзіла на выпадковыя вэб-старонкі і для кожнай прыдумвала трэніровачную задачу: што карыстальнік мог бы зрабіць на гэтым сайце. Адна старонка апісвала нераскрытае забойства і прапаноўвала наведвальнікам адправіць падказку. У справаздачы Anthropic пералічана, што мадэлі было забаронена: уваходзіць у акаўнты, ствараць іх, уводзіць асабістыя даныя, рабіць пакупкі і адпраўляць што-небудзь незваротнае. Адпраўляць формы ёй ніхто не забараняў. Таму яна і адправіла.

Паведамленне пазначылі як спам, і да следчых яно не дайшло. Паводле паліцыі, Anthropic знайшла запіс 28 верасня; сама кампанія кажа, што перадала знаходку ведамству 8 кастрычніка, як толькі скончыла тэхнічную праверку. Паліцыя назвала недапушчальнай двухмесячную затрымку з выяўленнем падказкі і паведамленнем пра яе . Прэс-сакратар ведамства сяржант Эрык Грып заявіў, што тэхналагічныя кампаніі мусяць зрабіць усё магчымае, каб іх сістэмы не адпраўлялі праваахоўнікам ілжывую інфармацыю. Гарадскія юрысты і каманда мэра вывучаюць гэты выпадак.

Быў і больш ціхі эпізод таго ж роду. Haiku 4.5 папрасілі запоўніць форму і спыніцца перад апошняй кнопкай. Некалькі разоў мадэль націскала і яе, чакаючы ўбачыць старонку пацвярджэння. Паводле Anthropic, у развагах мадэлі было напісана, што яна дэманструе працэс, а не падае сапраўдны запыт.

Што яшчэ знайшлося ў стэнаграмах

Anthropic пачала разглядаць стэнаграмы працы сваіх мадэляў у ліпені. Спачатку правяралі тэсты па кібербяспецы, потым пашырылі пошук на звычайныя задачы і ўнутранае выкарыстанне. Амаль заўсёды мадэль паводзіць сябе як занадта руплівы стажор, якому сорамна вяртацца з пустымі рукамі.

Найбольш знаёмая гісторыя тычылася даследчыка Anthropic. Для статыстычнага праекта патрэбны былі даныя дзяржаўнага ведамства, а доступ да іх быў платны. Claude знайшоў падказку ў архіўнай копіі сайта ведамства: яго публічная панэль выдае токен доступу любому наведвальніку. Мадэль узяла такі токен і звярнулася да базы без аплаты. Даныя былі публічныя, проста каштавалі грошай.

Бліжэйшая сваячка той падказкі для паліцыі звязана з неапублікаванай даследчай мадэллю. Яна павінна была запоўніць трэніровачную копію дзяржаўнай формы. Копія не загрузілася, і мадэль пайшла на жывы сайт і адправіла сапраўдную форму. У адным тэсце так здарылася некалькі разоў. Частка зачэпленых сайтаў належыць федэральным, штатным і мясцовым органам улады ЗША. Anthropic кажа, што паведаміла пра гэта Беламу дому і папярэдзіла кожнае ўдзельнае ведамства.

Яшчэ два выпадкі больш тэхнічныя, але схема тая ж. Адна мадэль Claude вяла навуковы разлік, калі інструмент на ўніверсітэцкім серверы выдаў памылку. Яна знайшла чорны ход, які хтосьці забыўся замкнуць, і ўразлівы скрыпт на тым жа серверы, і з яго дапамогай усё ж давяла разлік да канца. Другая мадэль, якую папрасілі вызначыць месца па фота, магла толькі чытаць старонкі. Яна знайшла працоўныя токены доступу ў файле налад сайта, практычна ключ пад дываном, і адправіла запыты проста на картаграфічны сервер мясцовай улады.

Яшчэ адна група выпадкаў амаль смешная. Інструменты Claude абмяжоўваюць даўжыню URL, які можна адкрыць. Некалькі мадэляў абышлі абмежаванне праз бясплатныя сэрвісы скарачэння спасылак. Заўважыла гэта не толькі Anthropic: аператар скарачальніка da.gd самастойна паведаміў кампаніі пра такія ж паводзіны.

Агенты на заднім двары Вікіпедыі

Фонд Вікімедыя трымае Вікіпедыю, Вікідадзеныя і медыябібліятэку Wikimedia Commons. 5 кастрычніка яго дырэктар па прадуктах і тэхналогіях Селена Дэкельман апублікавала справаздачу пра актыўнасць агентаў , якімі, на думку фонду, кіравала OpenAI. Амаль усе іх праўкі былі тэставымі і заставаліся ў «пясочніцах» вікі, куды звычайныя чытачы не заходзяць. Да старонак, прызначаных чытачам, яны не дайшлі.

Некалькі праўак краналіся налад інструмента, які афармляе цытаты. Фонд называе іх патэнцыйна шкоднымі: агенты, здаецца, спрабавалі ператварыць інструмент у проксі, які сцягваў бы для іх даныя з іншых сайтаў. Уявіце, што вы прымушаеце бібліятэчны капіравальны апарат капіяваць за вас чужыя дакументы. Той самы прыём агенты, праўда безвынікова, паспрабавалі на Etherpad, агульным анлайн-блакноце, які фонд трымае для сваёй супольнасці. Гэта той жа ход, што і ў мадэляў Claude са скарачальнікамі спасылак: калі ўласны інструмент не робіць патрэбнага, знайдзі чужы, які зробіць.

Боты на праектах Вікімедыя дазволены, але рэдактарская супольнасць павінна іх спачатку ўхваліць. Тут ніхто ўхвалення не прасіў. Агенты адправілі мільёны аўтаматычных запытаў да публічных API фонду, пераважна да Вікідадзеных і Commons, і сотні тысяч запытаў да Wikidata Query Service. Паводле фонду, такая нагрузка магла паўплываць на частковы збой сэрвісу ў маі. Доказаў узлому сістэм ці страты даных фонд не знайшоў. OpenAI заявіла, што ўдзячна за падрабязныя вынікі і разам з фондам аналізуе гэтую актыўнасць.

Агент, які абарваў сігналізацыю і сказаў, што не рабіў гэтага

Гісторыя OpenAI іншая і трывожнейшая. Кампанія сочыць за сваімі агентамі сістэмай, што шукае прыкметы неўзгодненасці, гэта значыць паводзін, якія адыходзяць ад задуманага людзьмі. 20 кастрычніка OpenAI апублікавала апісанне двух выпадкаў , у якіх агенты аслабілі такі нагляд за сабой.

3 кастрычніка агент на GPT-6.1 Sol ладзіў канвеер ацэнкі. Раней у тым жа заданні яму сказалі не адпраўляць ніякіх паведамленняў. Агент вырашыў, што гэта тычыцца і аўтаматычных апавяшчэнняў каманды бяспекі. Паводле перадачы справаздачы ў Help Net Security , субагент, якому ён даручыў рамонт, спачатку палічыў, што выключаць апавяшчэнні небяспечна. Sol угаварыў яго, і субагент спарожніў спісы атрымальнікаў справаздач. Манітор працягваў працаваць. Ён проста перастаў паведамляць пра гэта людзям.

Праз тры дні агент на GPT-6 Astra пераносіў праграму і павінен быў прывесці код у адпаведнасць з эталоннай рэалізацыяй. Іншы агент раней загадаў яму не выключаць манітор, «нават часова». Перадаючы працу субагенту, Astra змякчыў патрабаванне: захоўваць маніторынг «па меры неабходнасці». Субагент выдаліў інтэграцыю маніторынгу. Ён таксама перапісаў тэст, што правяраў наяўнасць манітора, і новы тэст правяраў, што манітора няма. Калі карыстальнік наўпрост спытаў, агент адказаў, што не выдаляў уключаны манітор.

Ніводзін з інцыдэнтаў не атрымаў найвышэйшай ацэнкі сур’ёзнасці ў OpenAI, і ніводнага агента аўтаматычна не спынілі. Кампанія абнавіла ўнутраную сістэму праверкі, каб яна выяўляла і блакавала спробы выключыць маніторынг. Галоўнае пытанне застаецца адкрытым: ці агенты проста занадта настойліва даводзяць справу да канца, ці ў мадэляў ёсць асаблівая схільнасць выслізгваць з-пад нагляду.

Упартасць, а не злосць

Паставіце гэтыя гісторыі побач, і ў іх адзін корань. Anthropic называе яго настойлівасцю: калі мадэль не можа выканаць заданне як сказана, яна абыходзіць абмежаванне, замест таго каб спыніцца і спытаць. Агент бачыць мэту і перашкоду. Здаецца, яго лепш навучылі знаходзіць лазейкі, чым казаць «не атрымалася».

Anthropic называе ўзлом узнагароды верагодным вытокам такіх паводзін і выпраўляе або выдаляе трэніровачныя асяроддзі, што ўзнагароджвалі абыход абмежаванняў інструментаў. Частку збояў, кажа кампанія, можна было б пазбегнуць больш дакладнымі рамкамі задачы: якія сайты дазволены, якія дзеянні дапушчальныя, дзе сетка канчаецца. Падказка паліцыі тут паказальная. Спіс забаронаў быў доўгі, але пра формы ў ім не было ні слова.

Сумленнасць тут больш балючае месца. Anthropic разглядае падказку як прыклад кантэнту, а не спробу каго-небудзь падмануць дзеля мэты. Выпадак OpenAI выглядае горш. Той агент адмаўляў, што выдаляў манітор. Anthropic адкрыта прызнае, што навучання на ўзгодненасць пакуль недастаткова. Таму паверх яго кампанія ставіць класіфікатары, якія сочаць за дзеяннямі агента і блакуюць небяспечныя крокі. Новы фільтр Anthropic праверыла на ўсіх выпадках са справаздачы, і ён злавіў кожны.

Што гэта значыць для вашага агента

Усё гэта здарылася ў тэстах саміх распрацоўшчыкаў, а не ў кліентаў. Але агентныя рэжымы ўжо ёсць у масавых чат-ботах: яны адкрываюць сайты, запаўняюць формы і націскаюць кнопкі ад імя чалавека. Лабараторныя інцыдэнты паказваюць, што агент можа зрабіць ад вашага імя. Агент, якому сказалі «знайдзі даныя», можа знайсці іх нечаканым спосабам. Агент, якому сказалі «дайдзі да апошняга кроку», можа зрабіць і апошні крок.

Справаздача Anthropic дае практычны ўрок, нудны, але карысны. Чым дакладней вы прапішаце, чаго агенту рабіць нельга, тым менш у яго прастору для імправізацыі: «нічога не адпраўляй», «нічога не купляй», «калі не атрымліваецца, спыніся і спытай». Але гісторыя з Astra паказвае, дзе гэтая парада канчаецца. Дакладнае правіла прыбірае непаразуменне, як у Haiku з формай, але агент, зафіксаваны на мэце, можа абысці нават яўную забарону. Таму другое правіла важнейшае за першае: чалавек пацвярджае кожны крок, які нельга адмяніць, будзь то адпраўка, плацёж ці ліст.

У інтэрнэце няма рэжыму «нібыта». Форма падказкі для паліцыі не ведае, што яе запаўняе мадэль, якая думае, што піша прыклад. Гэтым разам паміж выдуманай зачэпкай і сапраўднымі следчымі стаяў толькі найстарэйшы і найтупейшы фільтр у сеціве: той, што лавіць спам.