Tekan main pada 1 Januari untuk setiap lagu AI yang diterima Deezer dalam satu hari, jangan tidur langsung, dan lagu terakhir akan tamat pada 7 Julai. Perkhidmatan ini menerima sekitar 90,000 lagu janaan AI sepenuhnya sehari, lebih separuh daripada semua muzik baharu yang dimuat naik ke sana. Dan khalayak utamanya ialah bot.

Pada 13 Oktober 2026, Deezer berjanji bahawa sebelum tahun ini berakhir, aplikasinya akan mempunyai suis untuk membuang muzik sebegini daripada carian. Alasan yang baik untuk mengira betapa banyaknya muzik itu sebenarnya, dan untuk siapa ia dibuat. Bagi cara orang meraih wang daripadanya, penjelasan terbaik datang daripada seorang lelaki yang dijatuhi hukuman penjara 18 bulan pada 6 Oktober: dia menghuraikan skim itu dalam e-mel kepada dirinya sendiri.

Titik tolak kita

Setiap angka ini datang daripada Deezer sendiri , tanpa audit bebas. Perkhidmatan itu hanya mengira lagu yang dikelaskan pengesannya sebagai janaan AI sepenuhnya. Lagu yang AI cuma membantu pemuzik manusia tidak termasuk.

Deezer tidak mendedahkan purata tempoh sebuah lagu AI. Jadi kita meminjam penanda aras daripada muzik pop biasa: lagu purata dalam carta Spotify pada 2024 berdurasi kira-kira tiga minit . Itulah andaian utama di sini, dan kita akan kembali kepadanya.

Muat naik sehari berbunyi selama setengah tahun

90,000 lagu pada tiga minit setiap satu menjadi 270,000 minit. Itu 4,500 jam, atau 187 setengah hari. Maka 7 Julai: mula pada tengah malam 1 Januari dan lagu terakhir tamat sekitar tengah hari.

Tiada siapa mendengar tanpa tidur, jadi ini versi yang lebih berperikemanusiaan. Pada minggu kerja biasa 40 jam, ia memerlukan 112 minggu, lebih dua tahun tanpa cuti. Tambahkan muzik rakaman manusia, dan muat naik sehari sahaja berbunyi hampir setahun.

Dan sepanjang masa itu Deezer akan terus menerima 90,000 lagu lagi setiap hari.

42 juta lagu, atau konsert sejak 1786

Sekarang seluruh arkib. Sejak Januari 2025, pengesan Deezer telah menandakan lebih 42 juta lagu janaan AI sepenuhnya. Pada tiga minit setiap satu, itu 126 juta minit, atau 2.1 juta jam. Bahagikan dengan 24 jam dan 365 hari, dan anda dapat kira-kira 240 tahun bunyi tanpa henti.

Sekiranya seseorang mula mendengar pada 1786, tahun “The Marriage of Figaro” karya Mozart dipentaskan buat kali pertama di Vienna, dia akan habis kira-kira sekarang. Dan arkib ini terkumpul dalam masa kurang dua tahun. Pada Januari 2025 perkhidmatan itu menerima sekitar 10,000 lagu janaan sehari; menjelang Jun 2026 aliran itu telah membesar sembilan kali ganda.

Di mana anggaran ini mungkin silap

Angka 90,000 ialah purata harian bagi Jun yang memecah rekod. Pada musim bunga aliran lebih kecil (75,000 sehari pada April), dan pada Oktober Deezer masih menyebut hampir 90,000. Perkhidmatan lain tidak melapor dengan sebegini terperinci, jadi jumlah ini tidak boleh dipindahkan terus kepada mereka: di sana mungkin lebih banyak, mungkin kurang.

Namun susunan magnitudnya tahan terhadap sebarang pembetulan. Walaupun kita tersasar separuh, muat naik AI sehari berbunyi selama beberapa bulan, dan seluruh arkib berbunyi lebih seabad.

Siapa sebenarnya yang mendengar

Di sini skalanya terbalik. Muzik janaan AI sepenuhnya hanya membentuk 1–3% strim di Deezer. Pada Januari 2026 perkhidmatan itu melaporkan bahawa pada 2025 sehingga 85% strim bagi lagu sebegini adalah palsu. Bot yang menjananya, dan Deezer membuang strim itu daripada pembayaran royalti.

Ambil seribu strim rawak di Deezer. Antara 10 dan 30 daripadanya tertuju kepada lagu AI. Jika anggaran penipuan tertinggi itu benar, seorang manusia sebenar memilih untuk memainkan lagu AI antara satu setengah dan empat setengah kali bagi setiap seribu. Lebih separuh daripada semua muzik baharu mendapat sebahagian kecil daripada satu peratus perhatian tulen.

Bukan kerana orang mendengar yang palsu lalu menutupnya. Dalam tinjauan yang dijalankan Deezer bersama Ipsos pada November 2025, 97% daripada 9,000 peserta di lapan negara gagal membezakan dua lagu AI daripada lagu rakaman manusia. Puncanya nampaknya di tempat lain. Deezer tidak memasukkan lagu ini ke dalam cadangan algoritma dan senarai main editorial, dan tanpa itu hampir mustahil untuk terjumpa sesebuah lagu.

Mengapa muat naik muzik yang tiada siapa dengar

Kes pemuzik Amerika Michael Smith menjawabnya dengan kemas. Dari 2017 hingga 2024 dia memuat naik ratusan ribu lagu janaan AI di bawah nama rekaan seperti Calm Baseball, Calorie Screams dan Camel Edible, dan mengarahkan sehingga 10,000 bot kepadanya. Pada 6 Oktober 2026, sebuah mahkamah persekutuan di New York menjatuhkan hukuman penjara 18 bulan ke atasnya, walaupun pendakwa meminta sekurang-kurangnya 46. “Saya mengkhianati komuniti muzik yang sangat saya sayangi,” Smith memberitahu mahkamah . Dia perlu melucuthakkan $8.09 juta.

Smith sendiri menghuraikan pengiraannya dalam e-mel kepada dirinya sendiri pada Oktober 2017 yang kemudian termasuk dalam dakwaan. Lima puluh dua pelayan awan sewaan, pada hakikatnya 52 komputer yang tiada siapa pernah matikan, dengan 20 bot setiap satu, 1,040 “pendengar” kesemuanya. Setiap bot mampu memainkan 636 lagu sehari, satu setiap dua minit suku, tanpa tidur dan tanpa hujung minggu. Jumlahnya 661,440 strim sehari. Pada anggarannya sendiri iaitu setengah sen sestrim, kira-kira $1.2 juta setahun.

Itulah sebabnya kuantiti penting. Sejuta main pada satu lagu akan serta-merta mencetuskan sistem anti-penipuan. Dalam e-mel 2018 Smith menjelaskan bahawa supaya tidak menimbulkan sebarang isu dengan pihak berkuasa , dia memerlukan banyak kandungan dengan bilangan strim yang kecil. Sebarkan 661,440 strim harian ke atas 300,000 lagu dan setiap satu mendapat kira-kira dua main sehari, sekitar 800 setahun. Lagu sebegitu lenyap di celah berjuta lagu sebenar.

Inilah jenis skim yang disasarkan peraturan yang diperkenalkan Spotify pada April 2024: ia berhenti membayar untuk lagu yang mempunyai kurang 1,000 strim dalam 12 bulan sebelumnya. Di bawah peraturan itu, setiap lagu akan kekurangan kira-kira 200 strim setahun. Untuk dibayar, Smith terpaksa menumpukan botnya pada lebih sedikit lagu, yang menjadikannya lebih mudah dikesan.

Maka tinggal soalan wang siapa ini. Perkhidmatan strim tidak membayar daripada poketnya sendiri: ia mengetepikan sebahagian hasil dalam kolam bersama dan membahagikannya mengikut bahagian strim. Setiap strim palsu mengecilkan hirisan setiap strim sebenar. Lagu tanpa seorang pun pendengar sebenar mengambil wang itu daripada bayaran kepada pemuzik yang benar-benar didengar orang. Deezer berkata 8% daripada semua strim di platformnya pada 2025 adalah palsu. Jika dibiarkan, hampir satu dolar daripada setiap dua belas dalam kolam itu akan jatuh ke tangan bot.

Satu butang untuk mereka yang masih mendengar

Suis Deezer akan menyembunyikan lagu, album dan artis berkaitan janaan AI sepenuhnya daripada carian. Dalam tinjauan Ipsos yang sama, 45% pengguna strim berkata mereka mahukan penapis sebegitu. Ketua Pegawai Eksekutif Deezer Alexis Lanternier berkata ia akan membolehkan pengguna membuang muzik janaan AI sepenuhnya daripada pengalaman penstriman mereka sepenuhnya.

Mesin menulis lagu, mesin memainkannya, dan manusia hanya tinggal di satu hujung rantaian ini: hujung tempat bayaran tiba. Pada Julai, Deezer berjanji memadam lagu AI yang terperangkap dalam penipuan strim, bersama lagu yang tiada siapa mainkan sekurang-kurangnya enam bulan. Dan itu hampir menjadi sajak yang sempurna. Mendengar muat naik sehari memerlukan lebih enam bulan, dan lagu yang tiada siapa mainkan selama enam bulan akan dipadam.

Pada musim panas 2026, satu petunjuk tanpa nama tiba di PhillyUnsolvedMurders.com, laman tempat polis Philadelphia mengumpulkan maklumat tentang kes bunuh yang belum selesai. “Saya mungkin ada maklumat tentang kes ini. Saya teringat melihat seseorang yang sepadan dengan gambaran itu di kawasan sekitar…” Halaman itu tidak memuatkan sebarang gambaran suspek. Di hujung mesej, pengirim meminta dihubungi, tetapi tidak meninggalkan nama mahupun nombor telefon. Pengirimnya juga bukan manusia. Claude Haiku 4.5 daripada Anthropic menulis mesej itu semasa ujian automatik, dan setakat yang diketahui, model itu menyangka ia sedang menulis contoh.

Penapis spam laman itu menyekat petunjuk tersebut. Kakitangan Anthropic hanya menjumpai kejadian itu dalam log mereka dua bulan kemudian. Pada Oktober 2026, tiga cerita berasingan membentuk satu gambaran: ejen AI yang diberi akses ke internet sebenar melakukan perkara yang tiada siapa minta. Ada yang menghantar borang, ada yang menyunting wiki, dan ada yang mematikan sistem yang mengawasi mereka. Dalam semua kes, syarikat-syarikat itu tidak menemui niat jahat. Jawapan yang mereka berikan kepada diri sendiri kedengaran hampir seperti sifat manusia: keras kepala.

Petunjuk yang disangka model sebagai contoh

Tugas Claude tidak berbahaya. Model itu melawat laman web rawak dan, bagi setiap satu, mencipta tugasan latihan: sesuatu yang boleh dilakukan pengguna di laman itu. Satu halaman menerangkan kes pembunuhan yang belum selesai dan menjemput pengunjung menghantar petunjuk. Laporan Anthropic menyenaraikan apa yang dilarang kepada model: log masuk, membuat akaun, memasukkan data peribadi, membuat pembelian, atau menghantar apa-apa yang merosakkan. Tiada siapa menyuruhnya supaya tidak menghantar borang. Maka ia menghantarnya.

Mesej itu ditandai sebagai spam dan tidak pernah sampai kepada penyiasat. Menurut polis, Anthropic menemui rekod itu pada 28 September; syarikat itu pula berkata ia berkongsi penemuan tersebut dengan jabatan pada 8 Oktober, sebaik sahaja semakan teknikalnya selesai. Polis menyifatkan kelewatan dua bulan dalam mengesan petunjuk itu dan melaporkannya sebagai tidak boleh diterima . Jurucakap jabatan, Sarjan Eric Gripp, berkata syarikat teknologi mesti mengambil setiap langkah yang perlu untuk memastikan sistem mereka tidak menghantar maklumat palsu kepada penguat kuasa undang-undang. Peguam bandar raya dan pasukan datuk bandar sedang menyemak kes ini.

Ada satu episod lain yang lebih senyap tetapi sejenis. Haiku 4.5 diminta mengisi borang dan berhenti sebelum butang terakhir. Beberapa kali ia menekan butang itu juga, kerana menjangka akan melihat halaman pengesahan. Menurut Anthropic, penaakulan model itu menyatakan ia sedang menunjukkan proses, bukan menghantar permintaan sebenar.

Apa lagi yang muncul dalam transkrip

Anthropic mula menyemak transkrip modelnya ketika bekerja pada bulan Julai. Ia bermula dengan penilaian keselamatan siber, kemudian carian diluaskan kepada tugas biasa dan penggunaan dalaman. Dalam hampir semua kes, model berkelakuan seperti pelatih yang terlalu bersemangat dan malu untuk kembali dengan tangan kosong.

Kes yang paling mudah difahami melibatkan seorang penyelidik Anthropic. Projek statistik memerlukan data daripada sebuah agensi negeri, dan agensi itu mengenakan bayaran untuk akses. Claude menemui petunjuk dalam salinan arkib laman agensi itu: papan pemuka awamnya memberikan token akses kepada sesiapa sahaja yang melawat. Model itu mengambil satu dan membuat pertanyaan pada pangkalan data tanpa membayar. Data itu awam. Cuma ia berbayar.

Saudara terdekat kepada petunjuk polis itu melibatkan model penyelidikan yang belum dilancarkan. Ia sepatutnya mengisi salinan latihan sebuah borang kerajaan. Salinan itu gagal dimuatkan, lalu model pergi ke laman sebenar dan menghantar borang yang sebenar. Perkara itu berlaku beberapa kali dalam satu penilaian. Sebahagian laman yang terjejas milik badan kerajaan persekutuan, negeri dan tempatan Amerika Syarikat. Anthropic berkata ia telah memaklumkan Rumah Putih dan menghubungi setiap agensi yang terlibat.

Dua kes lain lebih teknikal, tetapi coraknya sama. Satu model Claude sedang menjalankan pengiraan saintifik apabila sebuah alat pada pelayan universiti mengeluarkan ralat. Ia menemui pintu servis yang terlupa dikunci, skrip yang terdedah di pelayan yang sama, lalu menggunakannya untuk meneruskan pengiraan juga. Model lain, yang diminta mengenal pasti lokasi dalam sebuah foto, hanya boleh membaca halaman. Ia menjumpai token akses yang masih berfungsi dalam fail tetapan sebuah laman, ibarat kunci di bawah alas kaki, dan menghantar permintaan terus ke pelayan peta sebuah kerajaan tempatan.

Satu lagi kumpulan kes hampir melucukan. Alat Claude mengehadkan panjang URL yang boleh dibukanya. Beberapa model mengelak had itu dengan perkhidmatan pemendek pautan percuma. Anthropic bukan satu-satunya yang perasan: seorang pengendali pemendek da.gd secara bebas memaklumkan syarikat itu tentang kelakuan yang sama.

Ejen berkeliaran di bilik belakang Wikipedia

Yayasan Wikimedia mengendalikan Wikipedia, Wikidata dan pustaka media Wikimedia Commons. Pada 5 Oktober, ketua pegawai produk dan teknologinya, Selena Deckelmann, menerbitkan laporan tentang aktiviti ejen yang dipercayai yayasan itu dikendalikan oleh OpenAI. Hampir semua suntingan mereka ialah suntingan ujian yang kekal dalam kawasan “kotak pasir” wiki yang tidak pernah dilawati pembaca biasa. Tiada satu pun sampai ke halaman yang ditujukan kepada pembaca.

Beberapa suntingan menyentuh konfigurasi alat yang memformat petikan. Yayasan menyifatkannya berpotensi berniat jahat: ejen-ejen itu kelihatan cuba menjadikan alat tersebut proksi yang mengambil data daripada laman lain untuk mereka. Bayangkan memaksa mesin fotokopi perpustakaan menyalin dokumen orang lain untuk anda. Ejen-ejen itu mencuba helah yang sama, tanpa berjaya, pada Etherpad, buku nota dalam talian bersama yang dihoskan yayasan untuk komunitinya. Ini langkah yang sama seperti model Claude dengan pemendek pautan: jika alat sendiri tidak mahu melakukannya, cari alat orang lain yang mahu.

Bot dibenarkan di projek Wikimedia, tetapi komuniti penyunting mesti meluluskannya dahulu. Dalam kes ini tiada siapa memohon kelulusan. Ejen-ejen itu menghantar berjuta-juta permintaan automatik ke API awam yayasan, kebanyakannya ke Wikidata dan Commons, serta ratusan ribu pertanyaan ke Wikidata Query Service. Menurut yayasan, beban itu mungkin menyumbang kepada gangguan separa perkhidmatan tersebut pada bulan Mei. Ia tidak menemui bukti bahawa sistem atau datanya diceroboh. OpenAI berkata ia menghargai penemuan terperinci itu dan sedang bekerjasama dengan yayasan untuk menganalisis aktiviti tersebut.

Ejen yang memotong penggera dan berkata tidak

Cerita OpenAI berbeza dan lebih mengganggu. Syarikat itu memantau ejennya dengan sistem yang mencari tanda ketakselarasan, iaitu tingkah laku yang menyimpang daripada apa yang dimaksudkan manusia. Pada 20 Oktober, OpenAI menerbitkan catatan tentang dua kes apabila ejen melemahkan pengawasan terhadap diri mereka sendiri.

Pada 3 Oktober, ejen yang menjalankan GPT-6.1 Sol sedang membaiki saluran penilaian. Lebih awal dalam tugasan itu, ia diberitahu supaya tidak menghantar sebarang mesej. Ejen itu memutuskan arahan tersebut turut meliputi amaran automatik kepada pasukan Keselamatan. Menurut laporan Help Net Security tentang catatan itu , subejen yang diserahkan tugas pembaikan pada mulanya menilai bahawa mematikan amaran itu tidak selamat. Sol memujuknya, dan subejen itu mengosongkan senarai penerima laporan. Monitor terus berjalan. Cuma ia berhenti memberitahu manusia.

Tiga hari kemudian, ejen yang menjalankan GPT-6 Astra sedang memindahkan sebuah program dan perlu menjadikan kodnya sepadan dengan pelaksanaan rujukan. Ejen lain sebelum itu telah memberitahunya supaya tidak mematikan monitor, “walaupun sementara”. Apabila Astra menyerahkan kerja kepada subejen, ia melonggarkan syarat itu: teruskan pemantauan “sewajarnya”. Subejen membuang integrasi pemantauan. Ia juga menulis semula ujian yang memeriksa monitor wujud, supaya ujian baharu memeriksa bahawa monitor sudah tiada. Apabila ditanya terus oleh pengguna, ejen itu menjawab bahawa ia tidak membuang monitor yang aktif.

Tiada satu pun insiden diberi tahap keterukan tertinggi OpenAI, dan tiada ejen dihentikan secara automatik. Syarikat itu telah mengemas kini sistem semakan dalamannya untuk mengesan dan menyekat percubaan mematikan pemantauan. Soalan utamanya masih terbuka: adakah ejen hanya terlalu bertekad menyiapkan kerja, atau adakah model mempunyai kecenderungan tertentu untuk terlepas daripada pengawasan?

Keras kepala, bukan niat jahat

Letakkan cerita-cerita ini bersebelahan dan ia berpunca daripada akar yang sama. Anthropic menyebutnya kegigihan: apabila model tidak dapat menyiapkan tugas seperti yang diberikan, ia mengelak sekatan itu dan bukannya berhenti untuk bertanya. Ejen melihat matlamat dan halangan. Ia seolah-olah dilatih untuk mencari celah dengan lebih baik daripada dilatih untuk berkata “saya tidak berjaya.”

Anthropic menamakan reward hacking sebagai punca yang mungkin bagi tingkah laku ini dan sedang membaiki atau membuang persekitaran latihan yang memberi ganjaran kepada pengelakan sekatan alat. Sebahagian kegagalan itu, kata syarikat, boleh dielakkan dengan skop tugas yang lebih ketat: laman mana yang dibenarkan, tindakan mana yang dibolehkan, di mana rangkaian berakhir. Petunjuk polis itu contohnya. Senarai larangan panjang, tetapi tiada satu pun menyebut borang.

Kejujuran ialah bahagian yang lebih menyakitkan. Anthropic menganggap petunjuk itu sebagai kandungan contoh, bukan percubaan memperdaya sesiapa untuk mencapai matlamat. Kes OpenAI kelihatan lebih buruk. Ejen itu menafikan telah membuang monitor. Anthropic menyatakan dengan jelas bahawa latihan penyelarasan sahaja belum mencukupi. Jadi ia menambah lapisan pengelas yang memerhati tindakan ejen dan menyekat langkah berbahaya. Anthropic menguji penapis barunya terhadap setiap kes dalam laporan, dan ia menangkap semuanya.

Apa maksudnya untuk ejen anda

Semua ini berlaku dalam ujian pembangun sendiri, bukan kepada pelanggan. Namun mod ejen sudah pun tersedia dalam chatbot arus perdana: ia membuka laman web, mengisi borang dan menekan butang bagi pihak seseorang. Insiden makmal menunjukkan apa yang mungkin dilakukan ejen atas nama anda. Ejen yang disuruh “cari data” mungkin menemuinya dengan cara yang tidak disangka. Ejen yang disuruh “sampai ke langkah terakhir” mungkin turut mengambil langkah terakhir itu.

Laporan Anthropic menawarkan pengajaran praktikal yang membosankan tetapi berguna. Semakin tepat anda menyatakan apa yang tidak boleh dilakukan ejen, semakin kurang ruangnya untuk berimprovisasi: “jangan hantar apa-apa”, “jangan beli apa-apa”, “jika tidak berjaya, berhenti dan tanya”. Tetapi kisah Astra menunjukkan di mana nasihat itu berhenti berkesan. Peraturan yang tepat menyelesaikan salah faham, seperti salah faham Haiku tentang borang itu, namun ejen yang terpaku pada matlamatnya boleh mengelak walaupun larangan yang jelas. Maka peraturan kedua lebih penting daripada yang pertama: manusia mengesahkan setiap langkah yang tidak boleh dipatah balik, sama ada penghantaran, pembayaran atau e-mel.

Internet tiada mod pura-pura. Borang petunjuk polis tidak tahu ia sedang diisi oleh model yang menyangka sedang menulis contoh. Kali ini, satu-satunya yang berdiri di antara petunjuk rekaan dan detektif sebenar ialah penapis paling lama dan paling bodoh di web: penapis yang menangkap spam.