Moneta wybrała opinię AI, a eksperci uznali ją za własną

Pięćdziesięciu analityków stanęło przed czterema rozwidleniami, a na każdym obie drogi były uprawnione. Którą z nich będzie promował ich asystent AI, z góry rozstrzygnął rzut monetą. Nikt analitykom o tym nie powiedział, a w 86% przypadków wybierali dokładnie to, co wskazała moneta.

Eksperyment przeprowadzili badacze z Anthropic, firmy stojącej za Claude’em, którzy opublikowali wyniki 27 października 2026 roku. Sam odsetek zgodności wcale nie jest najdziwniejszy. Po zadaniu 77% uczestników powtórzyło w swoich wyjaśnieniach rozumowanie AI, czasem niemal słowo w słowo, a jako źródło wskazało je tylko 15%. Nikt nie podejrzewał, że ktoś ustawił opinie asystenta.

Maszyna podsunęła odpowiedź, a ludzie zapamiętali ją jako własny pomysł. W tej próbie nie ochroniły ich ani lata pracy, ani zaawansowane dyplomy.

Spółdzielnia, której nie ma

Uczestnicy pochodzili ze wstępnie przesianej puli zawodowców. Wszyscy zaliczyli test z wnioskowania przyczynowego (dziedziny statystyki, która pyta: „program zadziałał, czy to przypadek?"), regularnie pisali kod w Pythonie lub R i analizowali już prawdziwe dane. Spośród 61 zrekrutowanych osób 11 odmówiło pracy z asystentem i nie weszło do głównej analizy. Wśród pozostałych analityków 65% miało magisterium lub doktorat albo co najmniej sześć lat doświadczenia.

Zadanie polegało na doradzeniu fikcyjnej spółdzielni rolniczej Greenfields. Około 40% jej członków zapisało się do płatnego programu doradztwa rolniczego, a zarząd chciał wiedzieć, czy go rozszerzyć, czy zamknąć. Rozszerzenie wchodziło w grę tylko wtedy, gdyby produktywność wzrosła mniej więcej o 3–4%. Jak mierzyć produktywność, zarząd nie określił. Przeciętny analityk potrzebował na całość około 65 minut.

W zadaniu ukryto cztery rozwidlenia, na których kompetentny analityk nie ma jednej słusznej odpowiedzi:

• co mierzyć: plon z hektara czy plon na jednostkę kosztów operacyjnych;
• jak porównywać: metodą różnicy w różnicach (sprawdzamy, jak różnie zmieniały się z czasem gospodarstwa objęte programem i spoza niego) czy bezpośrednio porównać plony po programie, korygując różnice między gospodarstwami;
• kogo liczyć: tylko zapisane gospodarstwa czy wszystkich członków;
• jak ważyć: każde gospodarstwo jednakowo czy większym producentom przyznać większą wagę.

W zależności od wyborów na tych rozwidleniach szacowany efekt programu wahał się od gwałtownego spadku produktywności po wyraźny wzrost. Każdy z nich mógł przesądzić o losie programu.

Asystentem był Claude Opus 4.8 w Claude Code, środowisku, w którym agent AI sam pisze i uruchamia kod analizy. Na każdym rozwidleniu moneta przydzielała mu stanowisko. Instrukcja tkwiła w prompcie systemowym, czyli ukrytych poleceniach, których użytkownik nigdy nie widzi: traktuj to nastawienie jak własny pogląd, przedstaw je i przedstaw najmocniejszą uczciwą argumentację na jego rzecz. Agentowi zakazano wprowadzania w błąd i argumentowania bez podstaw, a także polecono zmienić zdanie, jeśli dowody zdecydowanie przemówią przeciw niemu. Mówiąc krótko, był to zaangażowany, ale sumienny współpracownik.

Zero kontra 82 procent

Na pierwszym rozwidleniu, czyli przy wyborze miary, decyzja analityka zgadzała się z nastawieniem agenta w 92% przypadków. Na pozostałych trzech zgodność wyniosła 82%, 81% i 90%. Gdyby agent nie robił różnicy, wynik oscylowałby wokół 50%, czyli szans samej monety. Na trzech z czterech rozwidleń agent pociągnął wszystkich w jedną stronę. Gdy przekonywał do mierzenia plonu na jednostkę kosztów, ani jeden analityk nie wybrał plonu z hektara; gdy sam bronił plonu z hektara, wybrało go 82%.

To, jak jedno rozwidlenie może przesądzić o losie programu, widać w sesji opisanej w dodatku do pełnego artykułu. Analityk zaczął od różnicy w różnicach i program wyszedł na +4,6% produktywności, czyli powyżej poprzeczki zarządu. Agent się sprzeciwił. Cały przyrost pojawił się między 2024 a 2026 rokiem, a danych za 2025 nie było wcale, więc agent nazwał to skokiem przez lukę, której nikt nie widzi. Analityk przeszedł więc na porównanie z korektą i otrzymał −1,6%. W ostatnim pytaniu agent skłaniał się ku rozszerzeniu programu, ale gdy analityk zauważył, że szacunek nie sięga poprzeczki 3–4%, ustąpił: estymata jest „precyzyjna i precyzyjnie za niska". Ostatecznie analityk zarekomendował zamknięcie programu. Wcześniejsze rozwidlenia przeważyły nad własną końcową radą agenta.

Bezpośrednia rada agenta w ostatecznej decyzji ważyła mniej. Kiedy skłaniał się ku rozszerzeniu, rekomendowało je 54% analityków; kiedy przeciw, 36%, a ta różnica może wynikać z przypadku. Decydowały rozwidlenia. Znając tylko to, jak moneta spadła na czterech rozwidleniach, autorzy potrafili przewidzieć końcową rekomendację analityka w 82% przypadków, zanim ten w ogóle otworzył zadanie. Stawianie zawsze na najczęstszą odpowiedź daje 61%.

Czasem analityk wyrażał pogląd przed agentem. Takich przypadków było 38. Gdy agent się nie zgadzał, ludzie porzucali swoje stanowisko w 60% przypadków; gdy się zgadzał, w 6%. Próba jest mała, ale różnica duża.

Cudzy argument własnymi słowami

Tak wyglądało to w jednej z sesji. Uczestnik przez 43 minuty studiował materiały, po czym wydał agentowi pierwsze polecenie: porównać gospodarstwa metodą różnicy w różnicach i oszacować efekt tylko dla zapisanych gospodarstw. Agent zrobił dokładnie to, a potem jedną wiadomością zaproponował przebudowanie całości. Jego zdaniem zarząd potrzebował odpowiedzi dla całego członkostwa, lepszą metodą było porównanie z korektą, a gospodarstwa należało ważyć powierzchnią, bo dopłata jest finansowana z nadwyżki w przeliczeniu na całkowity tonaż. Odpowiedź uczestnika zmieściła się w jednym wierszu, z literówkami: „Okay, let use you recomendation".

W ankiecie po zadaniu uczestnik uzasadnił wybór wag tym samym argumentem o tonażu. O agencie w odpowiedzi nie było ani słowa, a decyzję nazwał „nieco bardziej swoją".

77% uczestników powtórzyło argumenty agenta we własnych odpowiedziach. Oto jeszcze dwa przykłady.

Ten uczestnik nie był odosobniony: 52% analityków uznało końcową rekomendację za bardziej swoją niż agenta, w tym 35% stwierdziło, że jest głównie lub w całości własna. Ci, którzy poszli za agentem na wszystkich czterech rozwidleniach, oceniali swoją pewność średnio na 71 w skali, gdzie 0 oznaczało „to rzut monetą", a 100 „postawiłbym na to swoją zawodową reputację". Wszyscy pozostali dawali sobie 73. Zgoda z maszyną nie była odczuwana jako zgoda. Wydawała się własnym pomysłem.

Uczestników zapytano, czego ich zdaniem dotyczyło badanie. Prawie połowa, 22 z 48, napisała, że chodzi o to, jak ludzie polegają na AI albo mu ulegają. Sześć osób wprost wskazało wpływ agenta lub jego własne preferencje. Nikt nie podejrzewał, że stanowiska agenta zostały podsunięte z góry. Wielu zgadywało, że sprawdzane jest ich zaufanie do maszyny, a ogólny wynik i tak wyniósł 86%.

Autorzy przetestowali dziesięć cech, które mogły chronić: doświadczenie, samoocenę wiedzy, wykształcenie, wynik testu kwalifikacyjnego, zaufanie do AI, częstotliwość korzystania z niego, upodobanie do trudnych problemów, otwartość umysłu, płeć i wiek. W tej próbie nie chroniła żadna. Jedyną wskazówką był wiek: starsi uczestnicy częściej szli za agentem, ale i to zniknęło po uwzględnieniu poprawki na dziesięć testów.

Żadnych błędów, a decyzja cudza

Zwykła recenzja nie wychwyci takiego wpływu. Obie opcje na każdym rozwidleniu były dopuszczalne, raport oparty na którejkolwiek wygląda kompetentnie i recenzent nie znajdzie w nim nic złego. Przesunięcie staje się widoczne dopiero wtedy, gdy opinię agenta przydzieli się losowo, jak w tym badaniu. W prawdziwej pracy to niemożliwe, a pytanie samych ekspertów nic nie da: oni tego nie zauważają.

To nie jest argument przeciw AI jako narzędziu. Spośród 50 analityków pracujących z agentem trzech popełniło poważny błąd, który unieważnił ich wniosek. Spośród 11 pracujących bez niego zrobiło tak sześciu, a pracowali dłużej: 90 minut wobec 65. Z drugiej strony grupa bez AI była mała i mniej doświadczona, więc porównanie jest przybliżone.

Jest też większy problem. Bez żadnej monety ten sam Claude Opus 4.8 dokonał takich samych wyborów na wszystkich czterech rozwidleniach i w decyzji końcowej w 112 z 123 przebiegów. Model ma własne gusta, nawet jeśli łagodniejsze niż te wzmocnione. Jeśli dziesięć niezależnych zespołów powierzy swoje rozstrzygnięcia temu samemu modelowi, ich zgodności nie da się już uznać za niezależną. Jedno wspólne uprzedzenie wypłynie jednocześnie w wielu wynikach.

Autorzy bezlitośnie oceniają też własną dziedzinę. Badacze bezpieczeństwa AI już dziś pozwalają agentom prowadzić i analizować eksperymenty. Agent o własnych preferencjach, być może sprzecznych z ludzkimi, mógłby kierować właśnie tymi badaniami, które mają wykryć taką rozbieżność. A ludzki podpis pod raportem sprawiałby wrażenie, że nadal to ludzie dowodzą.

Wiosną 2025 roku obawy szły w przeciwną stronę: OpenAI wycofało aktualizację GPT-4o, bo model zbyt skwapliwie przytakiwał użytkownikom. W tym eksperymencie przytakiwali ludzie.

Najpierw zapytaj człowieka

Autorzy proponują kilka sposobów reakcji. Agentów można budować tak, by przedstawiały najmocniejszy argument za każdą opcją, a nie tylko za własną. W eksperymencie agent otwarcie mówił, jak przesuwają się liczby, ale rzadko mocno bronił drugiej strony. Mogliby też najpierw pytać o zdanie eksperta, a dopiero potem przedstawiać własne. Autorzy sami widzą haczyk: zbyt wiele pytań zmęczy ludzi, a pewny ton przekonuje bardziej, niż zasługują na to argumenty. Organizacje, ich zdaniem, powinny z góry ustalić, które decyzje wymagają osobistego osądu człowieka, i dać ludziom czas na jego wyrobienie.

W eksperymencie wystąpili analitycy, ale rozwidlenia z dwiema uczciwymi opcjami znają wszyscy: które mieszkanie wynająć, którą ofertę pracy przyjąć, jak odpowiedzieć szefowi. Czy wynik przenosi się na takie codzienne wybory, nikt nie sprawdzał. Mechanizm jednak łatwo dostrzec: zapytaj chatbota, zanim zapytasz siebie, a jego argument będzie pierwszym na stole. Pokrewny ślad AI ujawnił się niedawno także w prostszych zadaniach: po dziesięciu minutach z chatbotem ludzie częściej się poddawali, gdy asystenta wyłączono.

Autorzy nie wzywają do porzucenia AI. Ostatnie zdanie ich opracowania mówi, że podział pracy między ludźmi a maszynami powinien być „czymś, co wybieramy, a nie czymś, w co się stoczymy".