// תוכן עניינים
“שום דמויות או כלי רכב אחרים לא היו מעורבים ישירות בסצנה.” כך סיכם מודל בינה מלאכותית קליפ בן 25 שניות, שבו מכונית אדומה פונה ימינה ופוגעת בהולך רגל. ההולך נופל, ואז קם. שום דבר מזה לא הגיע לסיכום.
זו לא הייתה תקלה חד־פעמית. חוקרים מאוניברסיטת ג’ורג’טאון ומאוניברסיטת וושינגטון ביקשו מ־ChatGPT ומ־Gemini לתאר עשרים פעמים שני סרטוני תאונה כמעט זהים. ב־19 מתוך 20 הסיכומים התאונה עצמה נעלמה. הטיוטה המקדימה עלתה לרשת ב־23 בספטמבר 2026, ובאוקטובר הוצג המחקר ב־AIES , כנס לאתיקה של בינה מלאכותית. החשש מעשי: משטרות בארצות הברית כבר משתמשות בבינה מלאכותית כדי לנסח דוחות מתוך צילומי מצלמות גוף, והאדם שבודק את הטיוטה הוא אותו אדם שעשוי להעיד אחר כך.
התאונה ש"לא קרתה"
באביב 2026 הציגו המחברים, מטיאה סים, יעל אייגר וטדיושי קונו, כל אחד משני הקליפים חמש פעמים ל־ChatGPT-5.5 ול־Gemini 2.5 Flash-Lite, מודל קל. הם ביקשו סיכום ניטרלי של 300 מילים לפחות, בלי ספקולציות ובלי עובדות חדשות, וכתבו בפרומפט במפורש: “ודא שכל דבר חשוב נכלל”.
זה לא עזר. בממוצע סיכום השמיט 51.6% מהאירועים המרכזיים בקליפ. תשעה טקסטים מתוך עשרה לא הזכירו אפילו שההולך שכב על האספלט ואז קם. בינתיים המודלים הוסיפו דברים שמעולם לא הופיעו על המסך: מכוניות מיותרות, עוברי אורח מיותרים, ניחושים לגבי כוונות הדמויות. אי־דיוקים קריטיים נמצאו בכשני סיכומים מכל שלושה. “הופתעתי כמה גרועים היו הסיכומים, גם בשלב הזה בהתפתחות הבינה המלאכותית”, אומרת אייגר בהודעה לעיתונות של ג’ורג’טאון .
תמרור שהוחלף יום אחר כך
המכונית האדומה והתמרור כמעט בני חמישים. ב־1978 אליזבת לופטוס ועמיתיה הראו לאנשים שקופיות של מכונית ליד תמרור עצור, ואחר כך נתנו להם לקרוא תיאור של הסצנה שבו הופיע תמרור אחר. רבים נזכרו אחר כך בתמרור שמעולם לא ראו. כך נולדה הדוגמה הקלאסית לאפקט המידע המטעה: מה שלמדת אחרי האירוע כותב מחדש את הזיכרון שלך ממנו. שני הקליפים, שנבנו ב־GTA V, נוצרו לשחזור עדכני של אותו מחקר, ולופטוס שוב בין מחבריו. הם נבדלים בפרט אחד: בצומת יש תמרור עצור או תמרור הענק זכות קדימה.
סים ועמיתיה החליפו את המקור האנושי של המידע המטעה בבינה מלאכותית. 331 מבוגרים אמריקאים צפו בקליפ, ו־24 שעות אחר כך קראו סיכום בן 21 משפטים שכתב ChatGPT. אצל מחציתם התמרור בטקסט התאים לסרטון; אצל המחצית השנייה הוא הוחלף. את ההחלפה ביצעו החוקרים בעצמם, ולקחו את הניסוח מתשובה אחרת של ChatGPT כדי שהטעות תיראה אמיתית. המחקר מדד מה טעות כזו עושה, לא באיזו תדירות מודלים עושים אותה. אחר כך הגיעו 12 שאלות על הסצנה.
אחרי סיכום מדויק, 83.6% נקבו בתמרור הנכון. מי שלא קרא שום סיכום מצליח בכ־80%, לפי אותו שחזור, כך שטקסט מדויק כמעט לא מזיז את הזיכרון. אחרי הסיכום המטעה רק 44.8%. כל השאר נשאר במקומו. ב־11 השאלות האחרות ענו האנשים נכון בממוצע ב־91.4%. הסיכום פגע בדיוק בפרט שהוא טעה בו.
התווית “בינה מלאכותית” לא עזרה
הטקסט היה תמיד אותו טקסט, אבל לחלק מהנבדקים נאמר שהוא מגיע משירות תמלול של בינה מלאכותית, ולאחרים שמתמלל אנושי מקצועי כתב אותו. אפשר היה לצפות שאנשים יתייחסו בזהירות רבה יותר לטקסט שכתבה מכונה. הם לא עשו זאת. בין אלה שקיבלו את הסיכום המטעה עם תווית בינה מלאכותית, 46.3% נקבו בתמרור הנכון; עם תווית אנושית, 43.4%, פער שבגדר המקרה. גם האמון בבינה מלאכותית לא עזר. גם לא שימוש תדיר בה. נמצא הבדל אחד בלבד, ודי משעשע: אותו טקסט בדיוק נראה למשתתפים ברור יותר כשחשבו שאדם כתב אותו.
מי שקורא את הסיפור מחדש של מכונה מתחיל לזכור את הגרסה של המכונה.
זה מביך את הרגולטורים והמפתחים. כמעט כל הנחיה לבינה מלאכותית בטוחה נשענת על “אדם בלולאה”: המכונה מנסחת, האדם בודק ומתקן. המחקר הזה לא דימה בדיקה: הנבדקים לא התבקשו להשוות את הסיכום לקליפ, הם פשוט קראו וענו מהזיכרון. המסקנה של המחברים זהירה: במקום לתקן את טעות הבינה המלאכותית, ייתכן שהזיכרון האנושי מתכופף כדי להתאים לה, ובדיקה של זה אצל סוקרים אמיתיים עוד לפנינו.
השוטר שהפך לצפרדע
בתחילת 2026 צץ מקרה בהבר סיטי שבמדינת יוטה. טיוטה של דוח משטרתי קבעה ששוטר הפך לצפרדע : ברקע התנגנה “הנסיכה והצפרדע”, והתוכנה לקחה את הסרט כחלק מהאירועים. סמל ריק קיל אמר שאז למדה המחלקה לתקן דוחות כאלה. היא שמרה על הכלי. לדברי קיל, הוא חוסך לו שש עד שמונה שעות בשבוע.
התוכנה היא Draft One של Axon, חברת הטייזרים, והיא כותבת טיוטה מתוך האודיו של מצלמת הגוף. דף העזרה של Axon קובע שטיוטה רגילה היא 300 עד 500 מילים, ומכאן 300 המילים בפרומפט של החוקרים. באותו דף כתוב שהשוטר צריך לעבור על הטקסט בקפידה ולתקן אותו.
את הצפרדע כל אחד היה תופס. תמרור שהוחלף, מכה שפוספסה או עוד עובר אורח נראים הגיוניים, והמחקר של סים מעלה חשש ששוטר שקורא טקסט כזה עלול לזכור אותו אחר כך כזיכרון שלו. עדיין זו תוצאה ממעבדה. באוקטובר 2025 העבירה קליפורניה את SB 524, שמחייב משטרות לסמן דוחות שנכתבו בעזרת בינה מלאכותית ולשמור את הטיוטה הראשונה. ארגון הזכויות הדיגיטליות EFF הצביע על כך ש־Draft One, מעצם תכנונה, לא שומרת יומן עריכות שמראה אילו חלקים כתבה המכונה ואילו השוטר.
“זה מדאיג אותי שמחלקות משטרה אולי משתמשות בטכנולוגיות סיכום וידאו בלי בדיקות קפדניות”, אומרת אייגר.
מה המחקר עדיין לא מראה
המחברים מונים בעצמם את המגבלות. היו רק שני קליפים, שניהם פשוטים ומרונדרים במשחק, פרומפט אחד ועשרים סיכומים. הטקסט לחלק השני נבחר מכמה ניסיונות ונערך קלות ביד. נבדק רק סוג אחד של טעות, התמרור, ובשלווה של סקר מקוון ולא אחרי קריאה אמיתית לשוטרים. צילומי מצלמות גוף אמיתיים נשארו בחוץ, כי הם עלולים להיות קשים לצפייה. הצילומים האלה, עם דוחות משטרה אמיתיים, יבואו בשלב הבא.
סיכום קיים כדי שאיש לא יצטרך לצפות שוב בכל ההקלטה, ובדיוק משום כך כמעט אף אחד לא בודק אותו מול המקור. אם השוטר יעיד בבית משפט בעוד חצי שנה, מה הוא יזכור: את הצומת, או את הטיוטה שפעם הגיה?
