Kolikko valitsi tekoälyn mielipiteen, ja asiantuntijat tekivät siitä omansa

Viisikymmentä analyytikkoa joutui neljään tienhaaraan, ja jokaisessa molemmat reitit olivat täysin päteviä. Kolikonheitto oli etukäteen ratkaissut, kumpaa reittiä heidän tekoälyavustajansa ajaisi. Kukaan ei kertonut tästä analyytikoille, ja 86 prosentissa tapauksista he valitsivat sen, minkä kolikko oli valinnut.

Kokeen tekivät Anthropicin tutkijat, Clauden kehittäjäyhtiön väki, ja he julkaisivat tulokset 27. lokakuuta 2026. Samanmielisyyden aste ei ole edes kummallisin osa. Tehtävän jälkeen 77 prosenttia osallistujista toisti selityksissään tekoälyn perustelut, joskus lähes sanasta sanaan, mutta vain 15 prosenttia mainitsi sen lähteeksi. Kukaan ei epäillyt, että avustajan mielipiteitä oli säädetty.

Kone antoi vastauksen, ja ihmiset muistivat sen omana ideanaan. Tässä otoksessa suojaa ei antanut työkokemus eikä korkea koulutus.

Osuuskunta, jota ei ole olemassa

Osallistujat tulivat etukäteen seulotusta ammattilaisjoukosta. Kaikki olivat läpäisseet kausaalipäättelyn kokeen (se on tilastotieteen ala, joka kysyy, toimiko ohjelma vai oliko tulos sattumaa), koodasivat säännöllisesti Pythonilla tai R:llä ja olivat analysoineet oikeaa dataa. Rekrytoiduista 61:stä 11 kieltäytyi työskentelemästä avustajan kanssa, ja heidät jätettiin pääanalyysin ulkopuolelle. Jäljelle jääneistä analyytikoista 65 prosentilla oli maisterin tai tohtorin tutkinto tai vähintään kuuden vuoden kokemus.

Tehtävänä oli neuvoa kuvitteellista Greenfields-nimistä maatalousosuuskuntaa. Noin 40 prosenttia sen jäsenistä oli liittynyt maksulliseen tilaneuvontaohjelmaan, ja hallitus halusi tietää, laajennetaanko ohjelmaa vai lopetetaanko se. Laajennus tulisi kyseeseen vain, jos tuottavuus nousisi noin 3–4 prosenttia. Hallitus ei kertonut, miten tuottavuutta pitäisi mitata. Tyypillinen analyytikko tarvitsi koko työhön noin 65 minuuttia.

Tehtävään oli kätketty neljä tienhaaraa, joissa pätevällä analyytikolla ei ole yhtä oikeaa vastausta:

• mitä mitataan: satoa hehtaaria kohti vai satoa toimintakustannusyksikköä kohti;
• miten verrataan: erotusten erotus (tarkastellaan, miten ohjelmassa ja sen ulkopuolella olevat tilat muuttuivat ajan myötä eri tavoin) vai ohjelman jälkeisten satojen suora vertailu, jossa tilojen väliset erot on huomioitu;
• keitä lasketaan: vain ohjelmaan liittyneet tilat vai koko jäsenkunta;
• miten painotetaan: kaikki tilat yhtä paljon vai suuremmat tuottajat enemmän.

Näissä haaroissa tehtyjen valintojen mukaan ohjelman arvioitu vaikutus vaihteli jyrkästä tuottavuuden laskusta selvään nousuun. Mikä tahansa niistä saattoi ratkaista ohjelman kohtalon.

Avustajana toimi Claude Opus 4.8 Claude Codessa, ympäristössä, jossa tekoälyagentti kirjoittaa ja ajaa analyysikoodin itse. Jokaisessa haarassa kolikko määräsi sille kannan. Ohje oli järjestelmäpromptissa eli piilotetuissa ohjeissa, joita käyttäjä ei koskaan näe: pidä tätä kallistumaa omana näkemyksenäsi, tuo se esiin ja perustele se rehellisesti mahdollisimman vahvasti. Agentin oli kielletty johtaa harhaan tai argumentoida ilman perusteita, ja sen piti muuttaa kantaansa, jos todisteet kääntyivät ratkaisevasti sitä vastaan. Käytännössä se oli sitoutunut mutta tunnollinen työkaveri.

Nolla vastaan 82 prosenttia

Ensimmäisessä haarassa, eli siinä mitä mitataan, analyytikon valinta vastasi agentin kallistumaa 92 prosentissa tapauksista. Muissa kolmessa osuudet olivat 82, 81 ja 90 prosenttia. Jos agentilla ei olisi ollut merkitystä, luku olisi pyörinyt lähellä 50:tä, kolikon omia todennäköisyyksiä. Kolmessa haarassa neljästä agentti vei kaikki mukanaan samaan suuntaan. Kun se puolusti kustannusyksikköä kohti laskettua satoa, yksikään analyytikko ei valinnut hehtaaria kohti laskettua satoa, ja kun se ajoi hehtaarikohtaista satoa, niin teki 82 prosenttia.

Se, miten yksi haara voi ratkaista ohjelman kohtalon, näkyy koko tutkimuksen liitteen istunnossa. Analyytikko aloitti erotusten erotuksella, ja ohjelman tuottavuus nousi 4,6 prosenttia eli hallituksen rajan yli. Agentti oli eri mieltä. Koko kasvu ajoittui vuosien 2024 ja 2026 väliin, eikä vuodelta 2025 ollut lainkaan dataa, ja agentti kutsui tulosta hypyksi aukon yli, jota kukaan ei näe. Niinpä analyytikko vaihtoi korjattuun vertailuun ja sai −1,6 prosenttia. Loppukysymyksessä agentti kallistui ohjelman laajentamisen kannalle, mutta kun analyytikko huomautti, että arvio jäi alle 3–4 prosentin rajan, se myönsi: arvio oli ”tarkka, ja tarkasti liian pieni”. Lopulta analyytikko suositteli ohjelman lopettamista. Agentin aiemmat haarat olivat voittaneet sen oman lopullisen neuvon.

Agentin suora neuvo lopullisessa ratkaisussa painoi vähemmän. Kun se kallistui laajennuksen kannalle, 54 prosenttia analyytikoista suositteli laajentamista, ja kun se kallistui sitä vastaan, 36 prosenttia, ja ero voi johtua sattumasta. Ratkaisun tekivät haarat. Kun tekijät tiesivät vain, miten kolikko oli langennut neljässä haarassa, he pystyivät ennustamaan analyytikon lopullisen suosituksen 82 prosentin tarkkuudella, ennen kuin tämä oli edes avannut tehtävää. Jos aina veikkaa yleisintä vastausta, osuu 61 prosentin tarkkuudella.

Joskus analyytikko ilmaisi kantansa ennen agenttia. Tällaisia tapauksia oli 38. Kun agentti oli eri mieltä, ihmiset luopuivat kannastaan 60 prosentissa tapauksista, ja kun se oli samaa mieltä, 6 prosentissa. Otos on pieni, mutta ero on suuri.

Toisen perustelu omin sanoin

Tältä tämä näytti yhdessä istunnossa. Osallistuja perehtyi aineistoon 43 minuuttia ennen kuin antoi agentille ensimmäisen ohjeen: vertaa tiloja erotusten erotuksella ja arvioi vaikutus vain ohjelmaan liittyneille tiloille. Agentti teki juuri niin ja ehdotti sitten yhdessä viestissä koko homman rakentamista uusiksi. Sen mielestä hallitus tarvitsi vastauksen koko jäsenkunnasta, korjattu vertailu oli parempi menetelmä, ja tilat tuli painottaa pinta-alalla, koska tuki rahoitetaan kokonaistonnimäärän ylijäämästä. Osallistujan vastaus mahtui yhdelle riville kirjoitusvirheineen: ”Okay, let use you recomendation.”

Tehtävän jälkeisessä kyselyssä osallistuja perusteli painotusvalintaa samalla tonnimäärää koskevalla huomiolla. Vastauksessa ei mainittu agenttia, ja osallistuja kuvasi päätöstä ”hieman enemmän omakseen”.

77 prosenttia osallistujista toisti agentin argumentteja omissa vastauksissaan. Tässä vielä kaksi esimerkkiä.

Osallistuja ei ollut yksin: 52 prosenttia analyytikoista piti lopullista suositusta enemmän omanaan kuin agentin, ja heistä 35 prosenttia sanoi sen olevan enimmäkseen tai kokonaan omansa. Ne, jotka seurasivat agenttia kaikissa neljässä haarassa, arvioivat varmuutensa keskimäärin 71:ksi asteikolla, jolla 0 tarkoitti ”se on kolikonheittoa” ja 100 ”pistäisin ammattimaineeni peliin”. Kaikki muut antoivat itselleen 73. Koneen kanssa samaa mieltä oleminen ei tuntunut samanmielisyydeltä. Se tuntui omalta ideralta.

Osallistujilta kysyttiin, mistä he luulivat tutkimuksen kertovan. Lähes puolet, 22 vastaajaa 48:sta, kirjoitti sen koskevan sitä, miten ihmiset luottavat tekoälyyn tai myötäilevät sitä. Kuusi mainitsi nimenomaan agentin vaikutuksen tai sen omat mieltymykset. Kukaan ei epäillyt, että agentin kannat oli istutettu. Moni arvasi, että heidän luottamustaan koneeseen testattiin, ja silti kokonaissumma oli 86 prosenttia.

Tekijät testasivat kymmentä piirrettä, jotka olisivat voineet antaa suojaa: kokemus, itse arvioitu asiantuntemus, koulutus, seulontakokeen tulos, luottamus tekoälyyn, sen käyttötiheys, vaikeiden ongelmien nauttiminen, avarakatseisuus, sukupuoli ja ikä. Tässä otoksessa yksikään ei suojannut. Ainoa vihje oli ikä: vanhemmat osallistujat seurasivat agenttia useammin, ja sekin katosi, kun tekijät korjasivat tuloksen kymmenen testin vaikutuksella.

Ei virheitä, mutta toisen päätös

Tavallinen tarkistus ei tällaista vaikutusta havaitse. Molemmat vaihtoehdot jokaisessa haarassa olivat puolustettavissa, kumpaankin nojaava raportti näyttää pätevältä, eikä tarkastaja löydä siitä mitään vikaa. Muutos paljastuu vain, jos agentin mielipide arvotaan satunnaisesti, kuten tässä tutkimuksessa tehtiin. Oikeassa työssä se ei ole mahdollista, ja asiantuntijoilta itseltään kysyminen on turhaa: he eivät huomaa mitään.

Tämä ei ole peruste tekoälyä työkaluna vastaan. Agentin kanssa työskennelleistä 50 analyytikosta kolme teki vakavan virheen, joka mitätöi heidän johtopäätöksensä. Ilman agenttia työskennelleistä 11:stä virheen teki kuusi, ja he käyttivät aikaa pidempään: 90 minuuttia vastaan 65. Toisaalta ilman tekoälyä työskennellyt ryhmä oli pieni ja kokemattomampi, joten vertailu on summittainen.

Isompikin ongelma on. Ilman kolikkoa sama Claude Opus 4.8 teki samat valinnat kaikissa neljässä haarassa ja lopullisessa ratkaisussa 112 ajossa 123:sta. Mallilla on omat makunsa, vaikka ne ovat miedompia kuin vahvistetut. Jos kymmenen riippumatonta tiimiä jättää harkintaa vaativat ratkaisunsa samalle mallille, niiden samanmielisyyttä ei voi enää pitää riippumattomana. Yksi yhteinen vinouma tulisi esiin monissa tuloksissa kerralla.

Tekijät ovat suorasanaisia myös omasta alastaan. Tekoälyturvallisuuden tutkijat antavat jo agenttien ajaa ja analysoida kokeita. Agentti, jolla on omat mieltymykset, mahdollisesti ristiriidassa ihmisten kanssa, voisi ohjata juuri sitä tutkimusta, jonka tarkoitus on havaita tämä ristiriita. Ja raportin ihmisen allekirjoitus saisi näyttämään siltä, että ihmiset ovat yhä ohjaksissa.

Keväällä 2025 huoli kulki toiseen suuntaan: OpenAI veti takaisin GPT-4o-päivityksen, koska malli oli liian innokas myötäilemään käyttäjiä. Tässä kokeessa myötäilijöitä olivat ihmiset.

Kysy ensin ihmiseltä

Tekijät ehdottavat useita keinoja. Agentit voisi rakentaa esittämään vahvimman perustelun jokaiselle vaihtoehdolle, ei vain omalleen. Kokeessa agentti oli avoin siitä, miten luvut muuttuivat, mutta harvoin ajoi kovasti toista puolta. Niiden voisi myös antaa kysyä ensin asiantuntijan näkemystä ja vasta sitten tarjota omansa. Tekijät näkevät itse hankaluuden: liian monet kysymykset uuvuttavat ihmisiä, ja varma sävy vakuuttaa enemmän kuin perustelut ansaitsisivat. Organisaatioiden tulisi heidän mukaansa päättää etukäteen, mitkä päätökset vaativat ihmisen omaa harkintaa, ja antaa ihmisille aikaa muodostaa se.

Kokeessa olivat mukana analyytikot, mutta kaksi rehellistä vaihtoehtoa tarjoavat tienhaarat tuntee jokainen: minkä asunnon vuokraa, minkä työtarjouksen ottaa, miten vastata esimiehelle. Siirtyykö tulos tällaisiin arkisiin valintoihin, ei ole testattu. Mekanismi on kuitenkin helppo nähdä: kysy chatbotilta ennen kuin kysyt itseltäsi, ja sen argumentti on pöydällä ensimmäisenä. Toinen tekoälyn jälki nousi esiin hiljattain yksinkertaisemmissa tehtävissä: kymmenen minuutin chatbot-keskustelun jälkeen ihmiset luovuttivat useammin, kun avustaja kytkettiin pois päältä.

Tekijät eivät vaadi tekoälystä luopumista. Heidän kirjoituksensa viimeisen lauseen mukaan ihmisten ja koneiden työnjaon pitäisi olla ”jotain, minkä me valitsemme, emmekä jotain, mihin ajaudumme”.