ხელოვნური ინტელექტის შეჯამების ერთმა ხაზმა ადამიანებს ავარიის მეხსიერება გადაუწერა

„სხვა პერსონაჟები და ტრანსპორტი სცენასთან უშუალოდ არ ურთიერთობდა." სწორედ ასე შეაჯამა ხელოვნური ინტელექტის მოდელმა 25-წამიანი კადრები, რომლებზეც წითელი მანქანა მარჯვნივ უხვევს და ფეხით მოსიარულეს ეჯახება. ადამიანი ვარდება, მერე ისევ დგება. შეჯამებაში ამ ყველაფრიდან არაფერი მოხვდა.

ეს შემთხვევითობა არ იყო. ჯორჯტაუნისა და ვაშინგტონის უნივერსიტეტების მკვლევრებმა ChatGPT-სა და Gemini-ს ორი თითქმის იდენტური ავარიის ვიდეოს აღწერა ოც-ოცჯერ სთხოვეს. 20 შეჯამებიდან 19-ში თავად ავარია არ იყო. პრეპრინტი 2026 წლის 23 სექტემბერს გამოქვეყნდა, ოქტომბერში კი ნაშრომი ხელოვნური ინტელექტის ეთიკის კონფერენციაზე, AIES-ზე წარადგინეს. შიში სავსებით პრაქტიკულია: ამერიკელი პოლიციელები უკვე იყენებენ ხელოვნურ ინტელექტს სხეულზე დამაგრებული კამერების ჩანაწერებით ანგარიშების შესადგენად, და ვინც ამ პროექტს ამოწმებს, შეიძლება მოგვიანებით თავადვე მისცეს ჩვენება.

ავარია, რომელიც „არ მომხდარა"

2026 წლის გაზაფხულზე ავტორებმა, მატეა სიმმა, იაელ აიგერმა და ტადაიოში კონომ, ორივე ვიდეო ხუთ-ხუთჯერ აჩვენეს ChatGPT-5.5-ს და Gemini 2.5 Flash-Lite-ს, მსუბუქ მოდელს. სთხოვეს ნეიტრალური, სულ მცირე 300-სიტყვიანი შეჯამება, ვარაუდებისა და ახალი ფაქტების გარეშე, და მოთხოვნაში პირდაპირ დაწერეს: „დარწმუნდი, რომ ყველაფერი მნიშვნელოვანი შეტანილია."

არ უშველა. საშუალოდ შეჯამებას კადრის ძირითადი მოვლენების 51,6% გამოეპარა. ათიდან ცხრა ტექსტი არც კი ახსენებდა, რომ ფეხით მოსიარულე ასფალტზე იწვა და მერე ისევ ადგა. იმავდროულად მოდელები ამატებდნენ იმას, რაც ეკრანზე არასოდეს ყოფილა: დამატებით მანქანებს, დამატებით გამვლელებს, ვარაუდებს პერსონაჟების განზრახვაზე. კრიტიკული უზუსტობები დაახლოებით ორ შეჯამებაში სამიდან გვხვდებოდა. „გამაოცა, რა ცუდი იყო შეჯამებები ხელოვნური ინტელექტის განვითარების ამ ეტაპზეც," ამბობს აიგერი ჯორჯტაუნის პრესრელიზში .

ნიშანი, რომელიც ერთი დღის შემდეგ შეიცვალა

წითელი მანქანისა და ნიშნის ისტორია თითქმის ორმოცდაათი წლისაა. 1978 წელს ელიზაბეტ ლოფტუსმა და კოლეგებმა ადამიანებს სლაიდები აჩვენეს : მანქანა „გაჩერების" ნიშანთან დგას. შემდეგ მათ სცენის აღწერა წაიკითხეს, რომელშიც სხვა ნიშანი იყო დასახელებული. ბევრს მოგვიანებით ის ნიშანი ახსოვდა, რომელიც არასოდეს უნახავს. ასე გაჩნდა დეზინფორმაციის ეფექტის სახელმძღვანელო მაგალითი: რასაც მოვლენის შემდეგ გაიგებ, ის გიცვლის მოვლენის მეხსიერებას. ორი ვიდეო, GTA V-ში შექმნილი, ამ ექსპერიმენტის ახლანდელი გამეორებისთვის გადაიღეს, და ლოფტუსი ისევ ავტორებს შორისაა. ვიდეოები ერთი დეტალით განსხვავდება: გზაჯვარედინზე ან „გაჩერების" ნიშანია, ან „გზა დაუთმეთ".

სიმმა და კოლეგებმა დეზინფორმაციის ადამიანური წყარო ხელოვნური ინტელექტით ჩაანაცვლეს. 331-მა ამერიკელმა ზრდასრულმა ვიდეო ნახა და 24 საათის შემდეგ წაიკითხა ChatGPT-ის დაწერილი 21-წინადადებიანი შეჯამება. ნახევრისთვის ტექსტში ნიშანი ვიდეოს ემთხვეოდა, დანარჩენი ნახევრისთვის კი შეცვლილი იყო. ეს ჩანაცვლება მკვლევრებმა თავად გააკეთეს და ფორმულირება ChatGPT-ის სხვა პასუხიდან აიღეს, რომ შეცდომა ნამდვილს დამგვანებოდა. კვლევა იმას ზომავდა, რას აკეთებს ასეთი შეცდომა, და არა იმას, რამდენად ხშირად უშვებენ მას მოდელები. შემდეგ სცენის შესახებ 12 კითხვა მოჰყვა.

ზუსტი შეჯამების შემდეგ მონაწილეების 83,6%-მა ნიშანი სწორად დაასახელა. ვინც შეჯამებას საერთოდ არ კითხულობს, იმავე გამეორების მონაცემებით დაახლოებით 80% პასუხობს სწორად, ანუ ზუსტი ტექსტი მეხსიერებას თითქმის არ ცვლის. შეცდომიანი შეჯამების შემდეგ კი მხოლოდ 44,8%-მა. დანარჩენი ყველაფერი ადგილზე დარჩა: დანარჩენ თერთმეტ კითხვაზე ადამიანების საშუალოდ 91,4% პასუხობდა სწორად. შეჯამებამ ზუსტად ის დეტალი დაამახინჯა, რომელშიც შეცდა.

„ხელოვნური ინტელექტის" იარლიყმა არ უშველა

ტექსტი ყოველთვის ერთი და იგივე იყო, მაგრამ ზოგს უთხრეს, რომ ის ხელოვნური ინტელექტის სატრანსკრიპციო სერვისიდან მოდიოდა, ზოგს კი, რომ პროფესიონალმა ადამიანმა დაწერა. მოსალოდნელია, რომ ადამიანები მანქანის დაწერილ ტექსტს უფრო ფრთხილად მიუდგებიან. არ მიუდგნენ. მათგან, ვინც შეცდომიანი შეჯამება „ხელოვნური ინტელექტის" იარლიყით მიიღო, ნიშანი 46,3%-მა დაასახელა სწორად; „ადამიანის" იარლიყით კი 43,4%-მა. განსხვავება შემთხვევითობის ფარგლებშია. ხელოვნური ინტელექტის ნდობამაც ვერაფერი შეცვალა, არც ხშირმა გამოყენებამ. გამოვლინდა მხოლოდ ერთი განსხვავება და ის თითქმის სასაცილო იყო: იგივე ტექსტი მონაწილეებს უფრო გასაგებად ეჩვენებოდათ, როცა ფიქრობდნენ, რომ ადამიანმა დაწერა.

ეს არასასიამოვნოა როგორც მარეგულირებლებისთვის, ისე დეველოპერებისთვის. უსაფრთხო ხელოვნური ინტელექტის თითქმის ყველა რეკომენდაცია „ადამიანზე მიბმას" ეყრდნობა: მანქანა ჩანაწერს ამზადებს, ადამიანი ამოწმებს და ასწორებს. ამ კვლევაში შემოწმება არ მოდელირებულა: მონაწილეებს არ სთხოვდნენ შეჯამების ვიდეოსთან შედარებას, ისინი უბრალოდ კითხულობდნენ და მეხსიერებიდან პასუხობდნენ. ავტორების დასკვნა ფრთხილია: ხელოვნური ინტელექტის შეცდომის გასწორების ნაცვლად, ადამიანის მეხსიერება შეიძლება თავად მოერგოს მას, და ამის შემოწმება რეალურ რეცენზენტებზე ჯერ კიდევ წინაა.

ოფიცერი, რომელიც ბაყაყად იქცა

2026 წლის დასაწყისში იუტას შტატის ჰებერ-სითიში ერთი შემთხვევა გახმაურდა. პოლიციის ანგარიშის პროექტში ეწერა, რომ ოფიცერი ბაყაყად იქცა : ფონზე „პრინცესა და ბაყაყი" მიდიოდა და პროგრამამ ფილმი მომხდარის ნაწილად ჩათვალა. სერჟანტი რიკ კილი ამბობს, რომ სწორედ მაშინ ისწავლა განყოფილებამ ამ ანგარიშების გასწორება. ინსტრუმენტი არ მოუშორებიათ. კილის თქმით, ის კვირაში ექვს-რვა საათს უზოგავს.

პროგრამას Draft One ჰქვია და მას Axon ქმნის, ტეიზერების მწარმოებელი კომპანია. პროგრამა სხეულზე დამაგრებული კამერის აუდიოდან პროექტს წერს. Axon-ის დახმარების გვერდზე ტიპური პროექტი 300-დან 500 სიტყვამდეა, აქედან მოდის მკვლევრების მოთხოვნაში 300 სიტყვა. იმავე გვერდზე წერია, რომ ოფიცერმა ტექსტი ყურადღებით უნდა გადაამოწმოს და გადაიხედოს.

ბაყაყს ყველა შეამჩნევს. შეცვლილი ნიშანი, გამოტოვებული დარტყმა ან ზედმეტი მოწმე კი დამაჯერებლად გამოიყურება, და სიმის კვლევა აფიქრებს, რომ ასეთი ტექსტის წამკითხველ ოფიცერს მოგვიანებით ის საკუთარ მოგონებად ჰქონდეს დამახსოვრებული. ეს ჯერ მხოლოდ ლაბორატორიული შედეგია. 2025 წლის ოქტომბერში კალიფორნიამ მიიღო SB 524, რომელიც პოლიციას ავალდებულებს, ხელოვნური ინტელექტით დაწერილ ანგარიშებს ჩანაწერი დაურთოს და პირველი პროექტი შეინახოს. ციფრული უფლებების ორგანიზაციამ EFF-მა აღნიშნა , რომ Draft One-ს, თავისი დიზაინით, რედაქტირების ჟურნალი არ აქვს, რომელიც აჩვენებდა, რა დაწერა მანქანამ და რა ოფიცერმა.

„მაწუხებს, რომ პოლიციის განყოფილებებმა შეიძლება ვიდეოს შეჯამების ტექნოლოგიები მკაცრი ტესტირების გარეშე გამოიყენონ," ამბობს აიგერი.

რას ჯერ არ აჩვენებს კვლევა

ავტორები შეზღუდვებს თავად ჩამოთვლიან. იყო მხოლოდ ორი ვიდეო, ორივე მარტივი და თამაშში დახატული, ერთი მოთხოვნა და ოცი შეჯამება. მეორე ნაწილის ტექსტი რამდენიმე მცდელობიდან შეარჩიეს და ოდნავ ხელით გაასწორეს. შემოწმდა მხოლოდ ერთი სახის შეცდომა, ნიშანი, და ისიც ონლაინ გამოკითხვის სიმშვიდეში და არა რეალური გამოძახების შემდეგ. რეალური სხეულის კამერების კადრები გამოტოვეს, რადგან ისინი შეიძლება მძიმე სანახავი იყოს. სწორედ ეს კადრები და პოლიციის რეალური ანგარიშები მომავალი ეტაპია.

შეჯამება იმისთვის არსებობს, რომ არავის მოუწიოს მთელი ჩანაწერის თავიდან ყურება, და სწორედ ამიტომ არავინ ამოწმებს მას თითქმის არასოდეს ორიგინალთან. თუ ოფიცერი ექვსი თვის შემდეგ სასამართლოში ჩვენებას მისცემს, რა ემახსოვრება: გზაჯვარედინი თუ პროექტი, რომელიც ოდესღაც გადაიკითხა?