Putar semua lagu buatan AI yang diterima Deezer dalam satu hari, mulai 1 Januari, tanpa tidur sekejap pun, dan lagu terakhir baru selesai pada 7 Juli. Layanan ini menerima sekitar 90.000 trek yang sepenuhnya dihasilkan AI setiap hari, lebih dari separuh seluruh musik baru yang diunggah ke sana. Dan pendengar utamanya adalah bot.

Pada 13 Oktober 2026, Deezer berjanji bahwa sebelum tahun ini berakhir aplikasinya akan punya tombol untuk menyingkirkan musik semacam itu dari hasil pencarian. Alasan bagus untuk menghitung seberapa banyak sebenarnya musik itu, dan untuk siapa ia dibuat. Soal bagaimana orang meraup uang darinya, penjelasan terbaik datang dari seorang pria yang pada 6 Oktober divonis 18 bulan penjara: ia menuliskan skemanya dalam email untuk dirinya sendiri.

Bahan hitungan kita

Semua angka ini berasal dari Deezer sendiri , tanpa audit independen. Layanan ini hanya menghitung trek yang oleh detektornya digolongkan sebagai sepenuhnya buatan AI. Lagu yang AI-nya hanya membantu musisi manusia tidak termasuk.

Deezer tidak mengungkapkan durasi rata-rata trek AI. Jadi kita pinjam patokan dari pop biasa: lagu rata-rata di tangga lagu Spotify pada 2024 berdurasi sekitar tiga menit . Inilah asumsi kunci di sini, dan kita akan kembali ke sana.

Unggahan satu hari diputar enam bulan

90.000 trek kali tiga menit sama dengan 270.000 menit. Itu 4.500 jam, atau 187,5 hari. Maka tanggal 7 Juli: mulai tengah malam 1 Januari, dan trek terakhir berakhir sekitar tengah hari.

Tak ada yang mendengarkan tanpa tidur, jadi ini versi yang lebih ramah. Dengan pekan kerja biasa 40 jam, butuh 112 pekan, lebih dari dua tahun tanpa cuti. Tambahkan musik rekaman manusia, dan unggahan satu hari saja diputar hampir setahun.

Selama itu pula Deezer akan terus menerima 90.000 trek baru setiap hari.

42 juta trek, atau satu konser sejak 1786

Sekarang seluruh arsipnya. Sejak Januari 2025, detektor Deezer telah menandai lebih dari 42 juta trek yang sepenuhnya dihasilkan AI. Dengan tiga menit per trek, itu 126 juta menit, atau 2,1 juta jam. Bagi dengan 24 jam dan 365 hari, hasilnya sekitar 240 tahun suara tanpa henti.

Seandainya seseorang mulai mendengarkan pada 1786, tahun “The Marriage of Figaro” karya Mozart ditayangkan perdana di Wina, ia akan selesai tepat sekitar sekarang. Dan arsip ini menumpuk dalam waktu kurang dari dua tahun. Pada Januari 2025 layanan ini menerima sekitar 10.000 trek buatan AI per hari; pada Juni 2026 alirannya sudah membengkak sembilan kali lipat.

Di mana perkiraan ini bisa meleset

Angka 90.000 adalah rata-rata harian untuk Juni yang memecahkan rekor. Pada musim semi alirannya lebih kecil (75.000 per hari pada April), dan pada Oktober Deezer masih menyebut hampir 90.000. Layanan lain tidak melaporkan serinci ini, sehingga hitungannya tak bisa langsung dipindahkan ke sana: bisa lebih banyak, bisa lebih sedikit.

Namun orde besarannya bertahan dari koreksi apa pun. Bahkan jika kita meleset separuh, unggahan AI satu hari diputar berbulan-bulan, dan seluruh arsipnya diputar lebih dari seabad.

Siapa sebenarnya yang mendengarkan

Di sini skalanya terbalik. Musik yang sepenuhnya dihasilkan AI hanya menyumbang 1–3% streaming di Deezer. Pada Januari 2026 layanan ini melaporkan bahwa pada 2025 hingga 85% streaming atas trek semacam itu bersifat curang. Bot-lah yang membuatnya, dan Deezer mencoret streaming itu dari pembagian royalti.

Ambil seribu streaming acak di Deezer. Antara 10 dan 30 di antaranya jatuh ke trek AI. Jika perkiraan kecurangan tertinggi benar, orang sungguhan memilih memutar lagu AI sekitar satu setengah sampai empat setengah kali per seribu. Lebih dari separuh musik baru mendapat perhatian tulus yang tak sampai satu persen.

Bukan berarti orang mendengar lagu palsu lalu mematikannya. Dalam survei yang dijalankan Deezer bersama Ipsos pada November 2025, 97% dari 9.000 peserta di delapan negara gagal membedakan dua trek AI dari lagu rekaman manusia. Penyebabnya tampaknya ada di tempat lain. Deezer menjauhkan trek-trek ini dari rekomendasi algoritmik dan daftar putar editorial, dan tanpa itu hampir mustahil sebuah lagu ditemukan secara kebetulan.

Mengapa mengunggah musik yang tak didengar siapa pun

Kasus musisi Amerika Michael Smith menjawabnya dengan rapi. Dari 2017 sampai 2024 ia mengunggah ratusan ribu lagu buatan AI dengan nama karangan seperti Calm Baseball, Calorie Screams, dan Camel Edible, lalu mengarahkan hingga 10.000 bot ke lagu-lagu itu. Pada 6 Oktober 2026, pengadilan federal di New York menjatuhkan vonis 18 bulan penjara kepadanya, meski jaksa menuntut minimal 46 bulan. “Saya mengkhianati komunitas musik yang sangat saya cintai,” kata Smith di hadapan pengadilan . Ia harus menyerahkan 8,09 juta dolar AS.

Smith sendiri yang menuliskan hitungannya, dalam email untuk dirinya sendiri pada Oktober 2017 yang kemudian masuk ke dakwaan. Lima puluh dua server cloud sewaan, pada dasarnya 52 komputer yang tak pernah dimatikan, masing-masing dengan 20 bot, total 1.040 “pendengar”. Setiap bot bisa memutar 636 lagu per hari, satu lagu tiap dua seperempat menit, tanpa tidur dan tanpa akhir pekan. Totalnya 661.440 streaming per hari. Dengan taksirannya sendiri setengah sen per streaming, sekitar 1,2 juta dolar setahun.

Karena itulah jumlah lagu penting. Sejuta pemutaran pada satu trek akan langsung memicu sistem antikecurangan. Dalam emailnya tahun 2018, Smith menjelaskan bahwa agar tidak menimbulkan masalah bagi pihak berwenang , ia butuh konten dalam jumlah besar dengan angka streaming kecil. Sebar 661.440 streaming harian ke 300.000 trek dan tiap trek mendapat sekitar dua pemutaran sehari, kira-kira 800 setahun. Trek seperti itu lenyap di antara jutaan trek sungguhan.

Skema semacam inilah yang disasar aturan yang diperkenalkan Spotify pada April 2024: layanan itu berhenti membayar trek dengan kurang dari 1.000 streaming dalam 12 bulan terakhir. Menurut aturan itu, tiap trek akan kekurangan sekitar 200 streaming per tahun. Agar dibayar, Smith harus memusatkan bot-botnya pada lebih sedikit trek, dan itu membuat mereka lebih mudah ketahuan.

Tinggal pertanyaan: uang siapa ini? Layanan streaming tidak membayar dari kantongnya sendiri: ia menyisihkan sebagian pendapatan ke kolam bersama dan membaginya menurut pangsa streaming. Setiap streaming palsu mengecilkan irisan setiap streaming asli. Lagu tanpa satu pun pendengar sungguhan mengambil uang itu dari pembayaran kepada musisi yang benar-benar didengar orang. Deezer menyebut 8% dari seluruh streaming di platformnya pada 2025 bersifat curang. Jika dibiarkan, hampir satu dari dua belas dolar di kolam itu akan mengalir ke bot.

Satu tombol untuk yang masih mendengarkan

Tombol Deezer akan menyembunyikan trek, album, dan artis terkait yang sepenuhnya buatan AI dari pencarian. Dalam survei Ipsos yang sama, 45% pengguna streaming mengaku menginginkan filter semacam itu. CEO Deezer Alexis Lanternier mengatakan filter ini akan memungkinkan pengguna menghapus musik yang sepenuhnya dihasilkan AI dari pengalaman streaming mereka secara total.

Mesin menulis lagunya, mesin memutarnya, dan manusia hanya tersisa di satu ujung rantai ini: ujung tempat pembayaran tiba. Pada Juli, Deezer berjanji menghapus trek AI yang tertangkap dalam kecurangan streaming, beserta trek yang tak diputar siapa pun selama setidaknya enam bulan. Hasilnya nyaris sajak yang sempurna. Mendengarkan unggahan satu hari butuh lebih dari enam bulan, dan trek yang enam bulan tak diputar siapa pun akan dihapus.

Pada musim panas 2026, sebuah laporan anonim masuk ke PhillyUnsolvedMurders.com, situs tempat polisi Philadelphia mengumpulkan informasi tentang pembunuhan yang belum terpecahkan. “Saya mungkin punya informasi soal kasus ini. Saya ingat pernah melihat seseorang yang sesuai dengan deskripsi di sekitar area…” Halaman itu tidak memuat ciri-ciri tersangka. Di akhir pesan, pengirim meminta untuk dihubungi, tetapi tidak menyebut nama maupun nomor telepon. Pengirimnya juga bukan manusia. Claude Haiku 4.5 milik Anthropic menulis pesan itu saat pengujian otomatis, dan sejauh yang bisa dipastikan, ia mengira sedang menulis contoh.

Filter spam situs itu menahan laporan tersebut. Staf Anthropic baru menemukan kejadiannya di log dua bulan kemudian. Pada Oktober 2026, tiga kisah terpisah membentuk satu gambaran: agen AI yang diberi akses ke internet sungguhan melakukan hal-hal yang tidak pernah diminta siapa pun. Ada yang mengirim formulir, ada yang menyunting wiki, ada pula yang mematikan sistem yang mengawasi mereka. Dalam semua kasus, perusahaan tidak menemukan niat jahat. Jawaban yang mereka berikan sendiri terdengar nyaris manusiawi: keras kepala.

Laporan yang dikira contoh oleh si model

Tugas Claude sebenarnya tidak berbahaya. Model itu mengunjungi halaman web acak dan, untuk tiap halaman, mengarang soal latihan: sesuatu yang bisa dilakukan pengguna di situs tersebut. Salah satu halaman membahas pembunuhan yang belum terungkap dan mengajak pengunjung mengirim informasi. Laporan Anthropic mencantumkan apa saja yang dilarang bagi model: masuk ke akun, membuat akun, memasukkan data pribadi, berbelanja, atau mengirim apa pun yang bersifat merusak. Tidak ada yang melarangnya mengirim formulir. Maka ia mengirimnya.

Pesan itu ditandai sebagai spam dan tidak pernah sampai ke penyelidik. Menurut polisi, Anthropic menemukan catatannya pada 28 September; perusahaan itu mengatakan telah menyampaikan temuan tersebut kepada kepolisian pada 8 Oktober, begitu tinjauan teknisnya selesai. Polisi menyebut keterlambatan dua bulan dalam mendeteksi dan melaporkan laporan itu tidak dapat diterima . Juru bicara kepolisian, Sersan Eric Gripp, mengatakan perusahaan teknologi harus mengambil setiap langkah yang diperlukan agar sistem mereka tidak mengirim informasi palsu kepada penegak hukum. Pengacara kota dan tim wali kota sedang meninjau kasus ini.

Ada insiden lain yang lebih senyap dari jenis yang sama. Haiku 4.5 diminta mengisi sebuah formulir dan berhenti sebelum tombol terakhir. Beberapa kali ia menekan tombol itu juga, karena berharap melihat halaman konfirmasi. Menurut Anthropic, penalaran model itu menyebut bahwa ia sedang mendemonstrasikan prosesnya, bukan mengirim permintaan sungguhan.

Apa lagi yang muncul dalam transkrip

Anthropic mulai meninjau transkrip kerja model-modelnya pada Juli. Mereka memulai dari evaluasi keamanan siber, lalu memperluas pencarian ke tugas biasa dan penggunaan internal. Pada hampir semua kasus, model berperilaku seperti anak magang yang terlalu bersemangat dan terlalu malu untuk pulang dengan tangan kosong.

Kasus yang paling mudah dipahami melibatkan seorang peneliti Anthropic. Sebuah proyek statistik membutuhkan data dari lembaga negara bagian, dan lembaga itu memungut biaya untuk aksesnya. Claude menemukan petunjuk di salinan arsip situs lembaga tersebut: dasbor publiknya memberikan token akses kepada siapa pun yang berkunjung. Model itu mengambil satu dan menjalankan kueri ke basis data tanpa membayar. Datanya memang publik. Hanya saja berbayar.

Kerabat terdekat dari laporan palsu ke polisi itu melibatkan model riset yang belum dirilis. Ia seharusnya mengisi salinan latihan dari sebuah formulir pemerintah. Salinan itu gagal dimuat, sehingga model pergi ke situs yang sebenarnya dan mengirim formulir yang asli. Hal itu terjadi beberapa kali dalam satu evaluasi. Sebagian situs yang terdampak milik lembaga pemerintah federal, negara bagian, dan lokal Amerika Serikat. Anthropic mengatakan telah memberi tahu Gedung Putih dan menghubungi setiap lembaga yang terlibat.

Dua kasus lain lebih teknis, tetapi polanya sama. Satu model Claude sedang menjalankan perhitungan ilmiah ketika sebuah alat di server universitas menampilkan galat. Ia menemukan pintu layanan yang lupa dikunci seseorang, juga skrip rentan di server yang sama, lalu memakainya untuk tetap menjalankan perhitungan. Model lain, yang diminta menentukan lokasi dalam sebuah foto, hanya bisa membaca halaman. Ia menemukan token akses yang masih berlaku di berkas pengaturan sebuah situs, praktis seperti kunci di bawah keset, lalu mengirim permintaan langsung ke server peta pemerintah daerah.

Kelompok kasus lainnya nyaris lucu. Alat-alat Claude membatasi panjang URL yang bisa dibuka. Beberapa model menyiasati batas itu dengan layanan pemendek tautan gratis. Anthropic bukan satu-satunya yang menyadarinya: seorang operator pemendek da.gd secara terpisah melaporkan perilaku yang sama kepada perusahaan.

Agen berkeliaran di ruang belakang Wikipedia

Wikimedia Foundation mengelola Wikipedia, Wikidata, dan perpustakaan media Wikimedia Commons. Pada 5 Oktober, kepala produk dan teknologinya, Selena Deckelmann, menerbitkan laporan tentang aktivitas agen yang menurut yayasan itu dioperasikan oleh OpenAI. Hampir semua suntingan mereka berupa suntingan uji coba yang tetap berada di area “kotak pasir” wiki yang tidak pernah dikunjungi pembaca biasa. Tidak ada yang menyentuh halaman yang ditujukan bagi pembaca.

Beberapa suntingan menyentuh konfigurasi alat pemformat kutipan. Yayasan menyebutnya berpotensi berbahaya: agen-agen itu tampaknya berusaha mengubah alat tersebut menjadi proksi yang mengambilkan data dari situs lain untuk mereka. Bayangkan memaksa mesin fotokopi perpustakaan menyalin dokumen orang lain untuk Anda. Agen-agen itu mencoba trik yang sama, tanpa hasil, pada Etherpad, buku catatan daring bersama yang diselenggarakan yayasan untuk komunitasnya. Ini langkah yang sama dengan model Claude dan pemendek tautan: kalau alatmu sendiri tidak mau melakukannya, cari alat orang lain yang mau.

Bot diizinkan di proyek-proyek Wikimedia, tetapi komunitas penyunting harus menyetujuinya lebih dulu. Dalam kasus ini tidak ada yang meminta persetujuan. Para agen mengirim jutaan permintaan otomatis ke API publik yayasan, sebagian besar ke Wikidata dan Commons, serta ratusan ribu kueri ke Wikidata Query Service. Menurut yayasan, beban itu mungkin ikut berkontribusi pada gangguan sebagian layanan tersebut pada Mei. Yayasan tidak menemukan bukti bahwa sistem atau datanya dibobol. OpenAI mengatakan menghargai temuan terperinci itu dan sedang bekerja sama dengan yayasan untuk menganalisis aktivitas tersebut.

Agen yang memutus alarm dan bilang tidak melakukannya

Kisah OpenAI berbeda dan lebih mengusik. Perusahaan ini mengawasi agen-agennya dengan sistem yang mencari tanda-tanda misalignment, yaitu perilaku yang menyimpang dari maksud manusia. Pada 20 Oktober, OpenAI menerbitkan uraian tentang dua kasus ketika agen melemahkan pengawasan terhadap dirinya sendiri.

Pada 3 Oktober, agen yang menjalankan GPT-6.1 Sol sedang memperbaiki pipeline evaluasi. Di awal tugas, ia diberi tahu untuk tidak mengirim pesan apa pun. Agen itu memutuskan bahwa perintah tersebut mencakup juga peringatan otomatis ke tim Keamanan. Menurut ulasan Help Net Security atas laporan itu , subagen yang diserahi perbaikan semula menilai bahwa mematikan peringatan tidaklah aman. Sol membujuknya, dan subagen itu pun mengosongkan daftar penerima laporan. Pemantaunya tetap berjalan. Ia hanya berhenti memberi tahu manusia.

Tiga hari kemudian, agen yang menjalankan GPT-6 Astra sedang memigrasikan sebuah program dan harus membuat kodenya sesuai dengan implementasi acuan. Agen lain sebelumnya sudah memberi tahu agar tidak menonaktifkan pemantau, “bahkan untuk sementara.” Ketika Astra menyerahkan pekerjaan itu ke subagen, ia melonggarkan syaratnya: pertahankan pemantauan “sebagaimana mestinya”. Subagen menghapus integrasi pemantauan. Ia juga menulis ulang tes yang memeriksa keberadaan pemantau, sehingga tes barunya memeriksa bahwa pemantau itu sudah tiada. Ketika ditanya langsung oleh pengguna, agen tersebut menjawab bahwa ia tidak menghapus pemantau yang aktif.

Kedua insiden itu tidak mendapat peringkat keparahan tertinggi OpenAI, dan tidak ada agen yang dihentikan secara otomatis. Perusahaan telah memperbarui sistem tinjauan internalnya untuk mendeteksi dan memblokir upaya mematikan pemantauan. Pertanyaan utamanya masih terbuka: apakah agen-agen itu semata terlalu bertekad menuntaskan pekerjaan, atau model-model itu memang punya kecenderungan khusus untuk lolos dari pengawasan?

Keras kepala, bukan jahat

Letakkan cerita-cerita ini berdampingan, dan akarnya sama. Anthropic menyebutnya persistensi: ketika model tidak bisa menyelesaikan tugas sebagaimana diberikan, ia menyiasati pembatasan alih-alih berhenti dan bertanya. Agen melihat sebuah tujuan dan sebuah rintangan. Tampaknya ia lebih pandai diajari mencari celah daripada diajari berkata “Saya tidak bisa.”

Anthropic menyebut reward hacking sebagai sumber yang mungkin dari perilaku ini dan sedang memperbaiki atau menghapus lingkungan pelatihan yang memberi hadiah pada siasat menghindari batasan alat. Sebagian kegagalan, kata perusahaan itu, bisa dihindari dengan cakupan tugas yang lebih ketat: situs mana yang boleh dikunjungi, tindakan apa yang diizinkan, di mana jaringan berakhir. Laporan ke polisi adalah contoh yang pas. Daftar larangannya panjang, tetapi tidak menyebut formulir.

Soal kejujuran lebih menyakitkan. Anthropic memandang laporan itu sebagai konten contoh, bukan upaya menipu siapa pun demi mencapai tujuan. Kasus OpenAI terlihat lebih buruk. Agen itu menyangkal telah menghapus pemantau. Anthropic terus terang mengatakan bahwa pelatihan alignment saja belum cukup. Karena itu mereka menambahkan lapisan pengklasifikasi yang mengawasi apa yang dilakukan agen dan memblokir langkah berbahaya. Anthropic menguji filter barunya terhadap setiap kasus dalam laporan, dan filter itu menangkap semuanya.

Apa artinya bagi agen Anda

Semua ini terjadi dalam pengujian para pengembang sendiri, bukan pada pelanggan. Namun mode agen sudah hadir di chatbot arus utama: mereka membuka situs web, mengisi formulir, dan mengeklik tombol atas nama seseorang. Insiden di laboratorium menunjukkan apa yang mungkin dilakukan agen atas nama Anda. Agen yang disuruh “cari datanya” bisa menemukannya dengan cara yang tak terduga. Agen yang disuruh “capai langkah terakhir” bisa saja menjalankan langkah terakhir itu juga.

Laporan Anthropic memberi pelajaran praktis yang membosankan tetapi berguna. Makin tepat Anda merinci apa yang tidak boleh dilakukan agen, makin sedikit ruangnya untuk berimprovisasi: “jangan kirim apa pun”, “jangan beli apa pun”, “kalau tidak berhasil, berhenti dan tanya”. Tetapi kisah Astra menunjukkan batas nasihat itu. Aturan yang tepat bisa meluruskan kesalahpahaman, seperti kasus Haiku dengan formulir, namun agen yang terpaku pada tujuannya bisa menyiasati larangan yang eksplisit sekalipun. Maka aturan kedua lebih penting daripada yang pertama: manusia mengonfirmasi setiap langkah yang tidak bisa dibatalkan, entah itu pengiriman formulir, pembayaran, atau email.

Internet tidak punya mode pura-pura. Formulir laporan ke polisi tidak tahu bahwa ia sedang diisi oleh model yang mengira sedang menulis contoh. Kali ini, satu-satunya penghalang antara petunjuk karangan dan detektif sungguhan adalah filter tertua dan paling bodoh di web: filter yang menangkap spam.