// Sisältö
”Muut hahmot tai ajoneuvot eivät olleet suoraan tekemisissä tapahtumapaikan kanssa.” Näin tekoälymalli tiivisti 25 sekunnin pätkän, jossa punainen auto kääntyy oikealle ja ajaa jalankulkijan päälle. Jalankulkija kaatuu ja nousee takaisin pystyyn. Mikään tästä ei päässyt tiivistelmään.
Ei se sattumaa ollut. Georgetownin yliopiston ja Washingtonin yliopiston tutkijat pyysivät ChatGPT:tä ja Geminiä kuvaamaan kahta lähes identtistä kolarivideota kaksikymmentä kertaa. Yhdeksästätoista tiivistelmästä kahdestakymmenestä itse kolari puuttui. Esijulkaisu ilmestyi verkkoon 23. syyskuuta 2026, ja lokakuussa työ esiteltiin tekoälyn etiikkaan keskittyvässä AIES -konferenssissa. Huoli on käytännöllinen: yhdysvaltalaiset poliisit laativat jo tekoälyn avulla raportteja vartalokameroiden tallenteista, ja luonnoksen tarkistaja on sama ihminen, joka voi myöhemmin joutua todistamaan oikeudessa.
Kolari, jota ”ei tapahtunut”
Keväällä 2026 tutkijat Mattea Sim, Yael Eiger ja Tadayoshi Kohno näyttivät kumpaakin kahdesta pätkästä viisi kertaa sekä ChatGPT-5.5:lle että Gemini 2.5 Flash-Litelle, kevyelle mallille. He pyysivät neutraalia, vähintään 300 sanan tiivistelmää ilman arvailuja ja ilman uusia tosiasioita ja kirjoittivat kehotteeseen vielä erikseen: ”varmista, että kaikki tärkeä on mukana.”
Se ei auttanut. Tiivistelmästä puuttui keskimäärin 51,6 % pätkän keskeisistä tapahtumista. Yhdeksässä tekstissä kymmenestä ei mainittu edes sitä, että jalankulkija makasi asfaltilla ja nousi sitten ylös. Samalla mallit lisäsivät sellaista, mitä ruudulla ei koskaan ollut: ylimääräisiä autoja, ylimääräisiä ohikulkijoita, arvauksia hahmojen aikeista. Vakavia epätarkkuuksia löytyi suunnilleen kahdesta tiivistelmästä kolmesta. ”Minua hämmästytti, kuinka huonoja tiivistelmät olivat tekoälyn kehityksen tässäkin vaiheessa”, Eiger sanoo Georgetownin tiedotteessa .
Merkki vaihtui vuorokautta myöhemmin
Punaisella autolla ja liikennemerkillä on lähes viisikymmentä vuotta takana. Vuonna 1978 Elizabeth Loftus kollegoineen näytti ihmisille diakuvia autosta stop-merkin kohdalla ja antoi sitten luettavaksi kuvauksen tilanteesta, jossa mainittiin toinen merkki. Monet muistivat myöhemmin merkin, jota eivät olleet nähneet. Tästä tuli oppikirjaesimerkki väärän tiedon vaikutuksesta: se, minkä oppii tapahtuman jälkeen, kirjoittaa muistisi uusiksi. Nämä kaksi GTA V:llä tehtyä pätkää luotiin tuoretta tutkimuksen toistoa varten, ja Loftus on taas yksi sen tekijöistä. Pätkät eroavat yhdessä yksityiskohdassa: risteyksessä on joko stop-merkki tai väistämisvelvollisuusmerkki.
Sim ja hänen kollegansa korvasivat väärän tiedon ihmislähteen tekoälyllä. 331 yhdysvaltalaista aikuista katsoi pätkän ja luki 24 tuntia myöhemmin ChatGPT:n kirjoittaman 21 lauseen tiivistelmän. Puolelle merkki tekstissä vastasi videota, toiselle puolelle se oli vaihdettu. Vaihdon tekivät tutkijat itse ja lainasivat sanamuodon toisesta ChatGPT:n vastauksesta, jotta virhe näyttäisi aidolta. Tutkimus mittasi, mitä tällainen virhe saa aikaan, ei sitä, kuinka usein mallit sellaisen tekevät. Sen jälkeen esitettiin 12 kysymystä tapahtumapaikasta.
Tarkan tiivistelmän jälkeen 83,6 % nimesi merkin oikein. Katsojat, jotka eivät lukeneet mitään tiivistelmää, muistavat sen oikein noin 80-prosenttisesti saman toistotutkimuksen mukaan, joten tarkka teksti tuskin liikuttaa muistia. Harhaanjohtavan tiivistelmän jälkeen oikeita vastauksia oli vain 44,8 %. Kaikki muu pysyi mielessä. Muihin yhteentoista kysymykseen ihmiset vastasivat keskimäärin 91,4-prosenttisesti oikein. Tiivistelmä rikkoi täsmälleen sen yksityiskohdan, jonka se oli saanut väärin.
”Tekoäly”-merkintä ei auttanut
Teksti oli aina sama, mutta joillekin kerrottiin sen tulleen tekoälyllä toimivasta litterointipalvelusta ja toisille, että sen oli kirjoittanut ammattimainen ihmislitteroija. Voisi odottaa, että koneen kirjoittamaa tekstiä luetaan tarkemmin. Ei luettu. Niistä, jotka saivat harhaanjohtavan tiivistelmän tekoälyksi merkittynä, 46,3 % nimesi merkin oikein, ihmiseksi merkittynä 43,4 %, ja ero on satunnaisvaihtelun rajoissa. Luottamus tekoälyyn ei auttanut. Ei myöskään jatkuva käyttö. Esiin nousi vain yksi ero, ja se oli melkein hauska: täsmälleen sama teksti vaikutti osallistujista selkeämmältä, kun he luulivat sen olevan ihmisen kirjoittama.
Kun lukee koneen kertomuksen, alkaa muistaa koneen version.
Tämä on kiusallista sääntelijöille ja kehittäjille. Lähes jokainen turvallisen tekoälyn ohjeistus nojaa periaatteeseen ”ihminen mukana prosessissa”: kone laatii luonnoksen, ihminen tarkistaa ja korjaa. Tutkimus ei mallintanut tarkistamista: osallistujia ei pyydetty vertaamaan tiivistelmää pätkään, he vain lukivat sen ja vastasivat muistinsa varassa. Tekijöiden johtopäätös on varovainen: sen sijaan että ihminen korjaisi tekoälyn virheen, hänen muistinsa saattaa taipua sopimaan siihen, ja tämän testaaminen oikeilla tarkistajilla on vielä edessä.
Poliisi, josta tuli sammakko
Alkuvuodesta 2026 julkisuuteen nousi tapaus Heber Citystä Utahista. Poliisiraportin luonnoksessa väitettiin, että poliisi oli muuttunut sammakoksi : taustalla pyöri Prinsessa ja sammakko, ja ohjelmisto luuli elokuvaa osaksi tapahtumia. Kersantti Rick Keelin mukaan juuri silloin osasto oppi korjaamaan näitä raportteja. Työkalu jäi käyttöön. Keelin mukaan se säästää hänelle kuudesta kahdeksaan tuntia viikossa.
Ohjelmisto on Draft One, jonka valmistaa Taser-yhtiö Axon ja joka kirjoittaa luonnoksen vartalokameran äänestä. Axonin ohjesivu kertoo vakioluonnoksen pituudeksi 300–500 sanaa, mistä tutkijoiden kehotteen 300 sanaa. Samalla sivulla todetaan, että poliisin tulee tarkistaa ja muokata teksti huolellisesti.
Sammakon huomaisi kuka tahansa. Vaihtunut liikennemerkki, huomaamatta jäänyt isku tai ylimääräinen sivullinen näyttää uskottavalta, ja Simin tutkimus herättää huolen siitä, että tällaisen tekstin lukenut poliisi voi myöhemmin muistaa sen omana muistonaan. Se on silti vasta laboratoriotulos. Lokakuussa 2025 Kalifornia hyväksyi lain SB 524, joka velvoittaa poliisin merkitsemään tekoälyllä kirjoitetut raportit ja säilyttämään ensimmäisen luonnoksen. Digitaalisten oikeuksien järjestö EFF huomautti , että Draft One ei suunnittelunsa mukaan tallenna muokkauslokia, josta näkyisi, mitkä osat kirjoitti kone ja mitkä poliisi.
”Minua huolestuttaa, että poliisilaitokset saattavat käyttää videotiivistystekniikoita ilman tiukkaa testausta”, Eiger sanoo.
Mitä tutkimus ei vielä osoita
Tekijät luettelevat rajoitukset itse. Pätkiä oli vain kaksi, molemmat yksinkertaisia ja pelimoottorilla tehtyjä, kehote yksi ja tiivistelmiä kaksikymmentä. Toisen vaiheen teksti valittiin usean yrityksen joukosta ja muokattiin kevyesti käsin. Testattiin vain yhtä virhetyyppiä, liikennemerkkiä, ja verkkokyselyn rauhassa eikä oikean hälytystehtävän jälkeen. Oikeat vartalokameratallenteet jätettiin pois, koska ne voivat olla graafisia. Seuraavaksi on vuorossa tuo materiaali yhdessä oikeiden poliisiraporttien kanssa.
Tiivistelmä on olemassa, jotta kenenkään ei tarvitse katsoa koko tallennetta uudelleen, ja juuri siksi sitä tuskin kukaan tarkistaa alkuperäistä vasten. Jos poliisi todistaa oikeudessa kuuden kuukauden päästä, mitä hän silloin muistaa: risteyksen vai luonnoksen, jonka hän kerran luki läpi?
