// Saturs
„Pārējie tēli vai transportlīdzekļi ar notiekošo tieši nesaskārās.” Tā MI modelis apkopoja 25 sekunžu klipu, kurā sarkana automašīna pagriežas pa labi un notrieks gājēju. Gājējs nokrīt, tad atkal piecelas. Nekas no tā kopsavilkumā neparādījās.
Tā nebija nejaušība. Džordžtaunas un Vašingtonas universitātes pētnieki divdesmit reižu lūdza ChatGPT un Gemini aprakstīt divus gandrīz identiskus avārijas video. 19 no 20 kopsavilkumiem pašas avārijas trūka. Preprints tīmeklī parādījās 2026. gada 23. septembrī, bet oktobrī darbs tika prezentēts AIES , MI ētikas konferencē. Raizes ir pavisam praktiskas: ASV policija jau izmanto MI, lai pēc ķermeņa kameru ierakstiem sagatavotu ziņojumu melnrakstus, un cilvēks, kas šo melnrakstu pārbauda, vēlāk var būt tas pats, kas liecina tiesā.
Avārija, kas „nenotika”
- gada pavasarī autori Mattea Sima, Jaēla Eigere un Tadajoši Kono piecas reizes parādīja katru no abiem klipiem ChatGPT-5.5 un vieglajam modelim Gemini 2.5 Flash-Lite. Viņi prasīja neitrālu kopsavilkumu vismaz 300 vārdu apjomā, bez minējumiem un jauniem faktiem, un uzvednē atsevišķi uzsvēra: „pārliecinies, ka viss svarīgais ir iekļauts”.
Tas nepalīdzēja. Vidēji kopsavilkums izlaida 51,6 % klipa svarīgāko notikumu. Deviņos tekstos no desmit pat nebija pieminēts, ka gājējs gulēja uz asfalta un tad piecēlās. Tajā pašā laikā modeļi piedomāja to, kā ekrānā nekad nebija: papildu automašīnas, papildu garāmgājējus, minējumus par tēlu nodomiem. Būtiskas neprecizitātes bija apmēram divos kopsavilkumos no trim. „Mani pārsteidza, cik sliktus kopsavilkumus MI sniedz pat šajā attīstības posmā,” saka Eigere Džordžtaunas preses relīzē .
Zīme, kas apmainīta pēc diennakts
Sarkanajai automašīnai un zīmei ir gandrīz piecdesmit gadu. 1978. gadā Elizabete Loftusa ar kolēģiem rādīja cilvēkiem slaidus ar automašīnu pie stop zīmes un tad lika izlasīt aprakstu, kurā minēta cita zīme. Daudzi vēlāk atcerējās zīmi, ko nekad nebija redzējuši. Tā kļuva par mācību grāmatu piemēru dezinformācijas efektam: tas, ko uzzini pēc notikuma, pārraksta atmiņu par to. Abi klipi, veidoti ar GTA V, tapa nesen veiktam šī pētījuma atkārtojumam, un Loftusa atkal ir starp autoriem. Tie atšķiras tikai ar vienu detaļu: krustojumā ir vai nu stop zīme, vai dodiet ceļu zīme.
Sima ar kolēģiem cilvēcisko dezinformācijas avotu nomainīja pret MI. 331 pieaugušais amerikānis noskatījās klipu un pēc 24 stundām izlasīja ChatGPT uzrakstītu 21 teikuma kopsavilkumu. Pusei teksta zīme atbilda video, otrai pusei tā bija apmainīta. Apmaiņu veica paši pētnieki, vārdus aizņemoties no cita ChatGPT atbildes, lai kļūda izskatītos dabiska. Pētījums mēra, ko šāda kļūda nodara, nevis cik bieži modeļi tādu pieļauj. Pēc tam sekoja 12 jautājumi par ainu.
Pēc precīza kopsavilkuma zīmi pareizi nosauca 83,6 %. Skatītāji, kas kopsavilkumu nelasīja vispār, atbild pareizi apmēram 80 % gadījumu, kā liecina tas pats atkārtojums, tātad precīzs teksts atmiņu gandrīz nekustina. Pēc maldinošā to izdarīja tikai 44,8 %. Viss pārējais saglabājās. Uz pārējiem vienpadsmit jautājumiem cilvēki vidēji atbildēja pareizi 91,4 % gadījumu. Kopsavilkums sabojāja tieši to detaļu, kurā kļūdījās.
Atzīme „MI” nepalīdzēja
Teksts vienmēr bija viens un tas pats, bet vieniem teica, ka to uzrakstījis MI transkripcijas pakalpojums, citiem — ka profesionāls cilvēks transkriptors. Varētu gaidīt, ka mašīnas rakstītu tekstu cilvēki lasīs uzmanīgāk. Nelasīja. Starp tiem, kas maldinošo kopsavilkumu saņēma ar atzīmi „MI”, zīmi pareizi nosauca 46,3 %; ar atzīmi „cilvēks” — 43,4 %, un šī starpība ir nejaušības robežās. Uzticēšanās MI nelīdzēja. Arī biežs lietojums ne. Parādījās tikai viena atšķirība, gandrīz smieklīga: tas pats teksts dalībniekiem šķita skaidrāks, ja viņi domāja, ka to rakstījis cilvēks.
Kas lasa mašīnas atstāstu, sāk atcerēties mašīnas versiju.
Tas ir neērti gan regulētājiem, gan izstrādātājiem. Gandrīz katras drošas MI vadlīnijas balstās uz principu „cilvēks kontroles lokā”: mašīna sagatavo melnrakstu, cilvēks pārbauda un labo. Šis pētījums pārbaudi nemodelēja: dalībniekiem neprasīja salīdzināt kopsavilkumu ar klipu, viņi to vienkārši izlasīja un atbildēja no atmiņas. Autoru secinājums ir piesardzīgs: tā vietā, lai izlabotu MI kļūdu, cilvēka atmiņa var pielāgoties tai, un pārbaude ar īstiem recenzentiem vēl ir priekšā.
Policists, kas pārvērtās par vardi
- gada sākumā Hēberas pilsētā Jūtā izgaismojās kāds gadījums. Policijas ziņojuma melnrakstā bija teikts, ka policists pārvērties par vardi : fonā skanēja filma „Princese un varde”, un programma filmu noturēja par notikumu daļu. Seržants Riks Kīls teica, ka tieši tad nodaļa iemācījās šādus ziņojumus labot. Rīku tā paturēja. Kīls saka, ka tas viņam ietaupa sešas līdz astoņas stundas nedēļā.
Programma ir Draft One, ko izstrādājis Taser ražotājs Axon, un tā raksta melnrakstu pēc ķermeņa kameras audio. Axon palīdzības lapā standarta melnraksts norādīts 300 līdz 500 vārdu garumā, tāpēc arī pētnieku uzvednē bija 300 vārdu. Tajā pašā lapā teikts, ka policistam tekstu jāpārskata un jālabo rūpīgi.
Vardi pamanītu jebkurš. Apmainīta zīme, palaists garām sitiens vai lieks garāmgājējs izskatās ticami, un Simas pētījums rada bažas, ka policists, kas šādu tekstu izlasa, vēlāk var to atcerēties kā savu atmiņu. Tomēr tas joprojām ir laboratorijas rezultāts. 2025. gada oktobrī Kalifornija pieņēma SB 524, kas pieprasa policijai atzīmēt ar MI rakstītus ziņojumus un saglabāt pirmo melnrakstu. Digitālo tiesību organizācija EFF norādīja , ka Draft One pēc konstrukcijas neveido labojumu žurnālu, kas rādītu, kuras daļas uzrakstījusi mašīna un kuras policists.
„Mani uztrauc, ka policijas nodaļas varētu izmantot video apkopošanas tehnoloģijas bez rūpīgas testēšanas,” saka Eigere.
Ko pētījums vēl neparāda
Autori paši uzskaita ierobežojumus. Bija tikai divi klipi, abi vienkārši un spēles renderēti, viena uzvedne un divdesmit kopsavilkumu. Otrās daļas teksts izvēlēts no vairākiem mēģinājumiem un viegli labots ar roku. Pārbaudīts tika tikai viens kļūdas veids — zīme — un tiešsaistes aptaujas mierā, nevis pēc īsta izsaukuma. Īstus ķermeņa kameru kadrus neizmantoja, jo tie var būt skarbi. Šie kadri kopā ar īstiem policijas ziņojumiem nāks nākamie.
Kopsavilkums pastāv tāpēc, lai neviens nebūtu spiests skatīties visu ierakstu vēlreiz, un tieši tāpēc gandrīz neviens to nesalīdzina ar oriģinālu. Ja policists pēc pusgada liecinās tiesā, ko viņš atcerēsies: krustojumu vai melnrakstu, ko kādreiz izlasīja un izlaboja?
