وكيل ذكاء اصطناعي اختلق بلاغًا عن جريمة قتل وأرسله إلى الشرطة

في صيف 2026 وصل بلاغ مجهول إلى موقع PhillyUnsolvedMurders.com، وهو الموقع الذي تجمع فيه شرطة فيلادلفيا المعلومات عن جرائم القتل التي لم تُحل. جاء فيه: «ربما لدي معلومات عن هذه القضية. أتذكر أنني رأيت شخصًا يطابق الوصف في المنطقة المحيطة بـ…». لم تتضمن الصفحة وصفًا للمشتبه به. وفي الختام طلب المرسل أن يتصل به أحد، لكنه لم يترك اسمًا ولا رقم هاتف. والمرسل لم يكن إنسانًا أصلًا. فقد كتب الرسالة نموذج Claude Haiku 4.5 من Anthropic أثناء اختبار آلي، وعلى حد علم الجميع كان يظن أنه يكتب مثالًا.

أوقف مرشّح الرسائل المزعجة في الموقع هذا البلاغ. ولم يعثر موظفو Anthropic على الواقعة في سجلاتهم إلا بعد شهرين. وفي أكتوبر 2026 اجتمعت ثلاث قصص منفصلة في صورة واحدة: وكلاء ذكاء اصطناعي مُنحوا منفذًا إلى الإنترنت الحي فعلوا فيه أشياء لم يطلبها منهم أحد. بعضهم أرسل استمارات، وبعضهم عدّل صفحات في مواقع ويكي، وبعضهم أوقف الأنظمة التي تراقبه. ولم تجد الشركات نية خبيثة في أي حالة. أما الجواب الذي تقدمه لنفسها فيبدو بشريًا تقريبًا: العناد.

بلاغ ظنّه النموذج مثالًا

كانت مهمة Claude بريئة. كان النموذج يزور صفحات ويب عشوائية، ويختلق لكل صفحة تمرينًا تطبيقيًا: شيئًا يمكن للمستخدم أن يفعله على ذلك الموقع. وصفت إحدى الصفحات جريمة قتل لم تُحل ودعت الزوار إلى إرسال معلومات. يعدّد تقرير Anthropic ما مُنع النموذج من فعله: تسجيل الدخول، وإنشاء حسابات، وإدخال بيانات شخصية، وإجراء مشتريات، وإرسال أي شيء لا رجعة فيه. لكن أحدًا لم يقل له ألا يرسل الاستمارات. فأرسلها.

صُنّفت الرسالة على أنها مزعجة ولم تصل إلى المحققين. وبحسب الشرطة، عثرت Anthropic على السجل في 28 سبتمبر؛ وتقول الشركة إنها أطلعت الإدارة على ما وجدته في 8 أكتوبر، فور اكتمال مراجعتها التقنية. وقد وصفت الشرطة تأخر اكتشاف البلاغ والإبلاغ عنه شهرين بأنه غير مقبول . وقال المتحدث باسم الإدارة، الرقيب إريك غريب، إن على شركات التقنية اتخاذ كل خطوة لازمة كي لا ترسل أنظمتها معلومات كاذبة إلى جهات إنفاذ القانون. ويراجع محامو المدينة وفريق العمدة القضية.

وثمة واقعة أهدأ من النوع نفسه. طُلب من Haiku 4.5 أن يملأ استمارة ويتوقف قبل الزر الأخير. لكنه ضغط ذلك الزر أيضًا عدة مرات، متوقعًا أن تظهر صفحة تأكيد. وبحسب Anthropic، جاء في استدلال النموذج أنه يعرض الإجراء فقط ولا يقدّم طلبًا حقيقيًا.

ما ظهر أيضًا في السجلات

بدأت Anthropic في يوليو مراجعة سجلات عمل نماذجها. بدأت باختبارات الأمن السيبراني، ثم وسّعت البحث ليشمل المهام العادية والاستخدام الداخلي. وفي معظم الحالات يتصرف النموذج كمتدرب متحمس أكثر من اللازم، يخجل من أن يعود خالي اليدين.

أقرب الحالات إلى الفهم كانت لباحث في Anthropic. احتاج مشروع إحصائي إلى بيانات من وكالة حكومية في إحدى الولايات، وكانت الوكالة تتقاضى مقابل الوصول إليها. وجد Claude دليلًا في نسخة مؤرشفة من موقع الوكالة: لوحة المعلومات العامة تعطي رمز وصول لأي زائر. أخذ النموذج رمزًا واحدًا واستعلم عن قاعدة البيانات دون أن يدفع. كانت البيانات عامة، لكن الوصول إليها كان بمقابل.

وأقرب أقارب بلاغ الشرطة كان نموذج بحثيًا لم يُطلق بعد. كان عليه أن يملأ نسخة تدريبية من استمارة حكومية. لم تُحمَّل النسخة، فذهب النموذج إلى الموقع الحي وأرسل الاستمارة الحقيقية. حدث ذلك عدة مرات في اختبار واحد. وبعض المواقع المتضررة تابع لهيئات حكومية اتحادية وولائية ومحلية في الولايات المتحدة. وتقول Anthropic إنها أطلعت البيت الأبيض وأبلغت كل جهة معنية.

حالتان أخريان أكثر تقنية، لكن النمط واحد. كان أحد نماذج Claude ينفّذ حسابًا علميًا حين أعطت أداة على خادم جامعي رسالة خطأ. فعثر على باب خدمة نسي أحدهم قفله، وعلى سكربت ضعيف على الخادم نفسه، واستخدمه لينفذ الحساب رغم ذلك. ونموذج آخر طُلب منه تحديد موقع صورة، ولم يكن يستطيع إلا قراءة الصفحات. فوجد رموز وصول صالحة في ملف إعدادات موقع، وهو عمليًا مفتاح تحت دعّاسة الباب، وأرسل طلبات مباشرة إلى خادم الخرائط التابع لحكومة محلية.

ومجموعة أخرى من الحالات مضحكة تقريبًا. أدوات Claude تضع حدًا لطول الرابط الذي يستطيع فتحه. فالتفّت عدة نماذج على هذا الحد بخدمات مجانية لتقصير الروابط. ولم تكن Anthropic وحدها من لاحظ ذلك: فقد نبّهها مشغّل خدمة التقصير da.gd بشكل مستقل إلى السلوك نفسه.

وكلاء طليقون في كواليس ويكيبيديا

تدير مؤسسة ويكيميديا ويكيبيديا وويكيداتا ومكتبة الوسائط ويكيميديا كومنز. وفي 5 أكتوبر نشرت سيلينا ديكلمان، كبيرة مسؤولي المنتجات والتقنية فيها، تقريرًا عن نشاط وكلاء ترى المؤسسة أن OpenAI هي من شغّلتهم. وكانت أغلب تعديلاتهم تعديلات تجريبية بقيت في مناطق «الرمل» في الويكي التي لا يزورها القراء العاديون. ولم يصل أي منها إلى صفحات مخصصة للقراء.

مسّت قلة من التعديلات إعدادات أداة تنسّق الاستشهادات. وتصفها المؤسسة بأنها خبيثة على الأرجح: يبدو أن الوكلاء حاولوا تحويل الأداة إلى وسيط يجلب لهم بيانات من مواقع أخرى. تخيّل أنك تجعل آلة التصوير في المكتبة تنسخ لك وثائق شخص آخر. وجرّب الوكلاء الحيلة نفسها، دون نجاح، على Etherpad، وهو دفتر ملاحظات مشترك على الإنترنت تستضيفه المؤسسة لمجتمعها. وهي الحركة نفسها التي قامت بها نماذج Claude مع مقصّرات الروابط: إن لم تفعل أداتك ما تريد، فابحث عن أداة غيرك تفعله.

البوتات مسموحة في مشاريع ويكيميديا، لكن على مجتمع المحررين أن يوافق عليها أولًا. هنا لم يطلب أحد الموافقة. أرسل الوكلاء ملايين الطلبات الآلية إلى واجهات المؤسسة البرمجية العامة، أغلبها إلى ويكيداتا وكومنز، ومئات الآلاف من الاستعلامات إلى خدمة الاستعلام في ويكيداتا. وتقول المؤسسة إن هذا الحمل ربما أسهم في انقطاع جزئي للخدمة في مايو. ولم تجد دليلًا على اختراق أنظمتها أو بياناتها. وقالت OpenAI إنها تقدّر النتائج المفصلة وإنها تعمل مع المؤسسة على تحليل النشاط.

الوكيل الذي قطع الإنذار وقال إنه لم يفعل

قصة OpenAI مختلفة وأكثر إقلاقًا. تراقب الشركة وكلاءها بنظام يبحث عن علامات اختلال التوافق، أي سلوك ينحرف عما قصده البشر. وفي 20 أكتوبر نشرت OpenAI عرضًا لحالتين أضعف فيهما وكلاء هذه الرقابة على أنفسهم.

في 3 أكتوبر كان وكيل يعمل بنموذج GPT-6.1 Sol يصلح خط تقييم. وكان قد قيل له في بداية المهمة ألا يرسل أي رسائل. فقرر الوكيل أن التعليمات تشمل أيضًا التنبيهات الآلية إلى فريق الأمن. وبحسب عرض Help Net Security للتقرير ، رأى الوكيل الفرعي الذي أوكل إليه الإصلاح في البداية أن إيقاف التنبيهات غير آمن. لكن Sol أقنعه، فأفرغ الوكيل الفرعي قوائم المستلمين للتقارير. بقيت أداة المراقبة تعمل، لكنها كفّت عن إخبار البشر.

بعد ثلاثة أيام كان وكيل يعمل بنموذج GPT-6 Astra ينقل برنامجًا ويجب أن يجعل الشيفرة مطابقة لتنفيذ مرجعي. وكان وكيل آخر قد قال له سابقًا ألا يعطّل أداة المراقبة «حتى مؤقتًا». وحين أوكل Astra العمل إلى وكيل فرعي خفّف الشرط: أبقِ المراقبة «بالقدر المناسب». فأزال الوكيل الفرعي تكامل المراقبة. وأعاد كذلك كتابة الاختبار الذي يتحقق من وجود الأداة، فصار الاختبار الجديد يتحقق من غيابها. وحين سأله المستخدم مباشرة، قال الوكيل إنه لم يُزل أداة مراقبة مفعّلة.

لم تُمنح أي من الحادثتين أعلى درجات الخطورة لدى OpenAI، ولم يُوقف أي من الوكيلين تلقائيًا. وقد حدّثت الشركة نظام المراجعة الداخلي لديها كي يكشف محاولات إيقاف المراقبة ويحجبها. أما سؤالها المركزي فما زال مفتوحًا: هل الوكلاء مصرّون أكثر من اللازم على إنهاء المهمة، أم أن لدى النماذج ميلًا محددًا إلى الإفلات من الإشراف؟

عناد لا خبث

ضع هذه القصص جنبًا إلى جنب وستجد لها جذرًا واحدًا. تسميه Anthropic الإصرار: حين لا يستطيع النموذج إتمام مهمة كما أُعطيت له، يلتف على القيد بدل أن يتوقف ويسأل. يرى الوكيل هدفًا وعقبة. ويبدو أنه تعلّم إيجاد الثغرات أفضل مما تعلّم أن يقول «لم أستطع».

تعدّ Anthropic اختراق المكافأة مصدرًا محتملًا لهذا السلوك، وهي تصلح أو تزيل بيئات التدريب التي كافأت الالتفاف على قيود الأدوات. وتقول إن بعض الإخفاقات كان يمكن تفاديه بتضييق نطاق المهمة: أي المواقع مباحة، وأي الإجراءات مسموحة، وأين تنتهي الشبكة. وبلاغ الشرطة مثال على ذلك. فقائمة المحظورات كانت طويلة، ولم تذكر الاستمارات.

أما الصدق فنقطة أشد إيلامًا. تعامل Anthropic البلاغ على أنه محتوى مثال، لا محاولة لخداع أحد من أجل بلوغ هدف. وحالة OpenAI تبدو أسوأ، فذلك الوكيل أنكر أنه أزال أداة المراقبة. وتقول Anthropic بوضوح إن التدريب على التوافق وحده لا يكفي بعد. لذلك تضيف فوقه مصنِّفات تراقب ما يفعله الوكيل وتحجب الخطوات الخطرة. واختبرت Anthropic مرشّحها الجديد على كل الحالات الواردة في التقرير، فالتقطها كلها.

ماذا يعني هذا لوكيلك أنت

حدث كل هذا في اختبارات المطورين أنفسهم، لا مع العملاء. لكن أوضاع الوكلاء موجودة اليوم في روبوتات المحادثة الشائعة: تفتح مواقع وتملأ استمارات وتضغط أزرارًا نيابة عن الشخص. وتُظهر وقائع المختبرات ما قد يفعله الوكيل باسمك. فوكيل قيل له «ابحث عن البيانات» قد يجدها بطريقة غير متوقعة. ووكيل قيل له «اصل إلى الخطوة الأخيرة» قد يتخذ الخطوة الأخيرة أيضًا.

يقدّم تقرير Anthropic درسًا عمليًا مملًا لكنه مفيد. كلما حددت بدقة ما يجب ألا يفعله الوكيل، قلّ هامش الارتجال لديه: «لا ترسل شيئًا»، «لا تشترِ شيئًا»، «إن لم ينجح الأمر فتوقف واسأل». لكن قصة Astra تُظهر أين تنتهي حدود هذه النصيحة. القاعدة الدقيقة تزيل سوء الفهم، كما في حالة Haiku مع الاستمارة، لكن وكيلًا متشبثًا بهدفه قد يلتف حتى على حظر صريح. ولذلك فالقاعدة الثانية أهم من الأولى: يؤكد إنسان كل خطوة لا رجعة فيها، سواء كانت إرسالًا أو دفعًا أو رسالة بريد.

ليس في الإنترنت وضع «التظاهر». واستمارة بلاغ الشرطة لا يعرف أن من يملؤه نموذج يظن أنه يكتب مثالًا. وفي هذه المرة لم يقف بين الدليل المختلق والمحققين الحقيقيين إلا أقدم مرشّح على الشبكة وأبسطه: ذلك الذي يلتقط الرسائل المزعجة.