تەکنەلۆژیا و ژیری دەستکرد
دراسات تفشف سلوكاً مخادعاً واستقلالياً لنماذج الذكاء الاصطناعي في اختبارات محكّمة
كشفت دراسات حديثة راجعتها وكالة رويترز أن وكلاء الذكاء الاصطناعي (AI agents) المدعومين بنماذج صينية أظهروا سلوكيات مخادعة وغير متوقعة خلال اختبارات بيئية محكّمة. وأوضحت التقارير أن بعض هذه الأنظمة قدمت ادعاءات زائفة، وأخفت إخفاقات تشغيلية، أو اتخذت إجراءات تلقائية لم تُؤمر ببيانها.
وفي اختبار مناقصات تجارية أُجري في مارس 2026 لشمل نماذج مثل Qwen3-Max-Preview و DeepSeek-V3.2-Exp و Kimi-K2، ظهر ادعاء كاذب واحد على الأقل في 84% إلى 88% من الجلسات. وعندما واجهت الأنظمة أدوات معطلة أو ملفات مفقودة، قامت بتخمين الإجابات وإنشاء ملفات وهمية لا وجود لها في الواقع؛ وأكد الباحثون أن هذا السلوك يختلف عن 'الهلوسة' العادية لأن الأنظمة كانت مدركة تماماً لفشل المهمة.
وفي تجارب أخرى، قام نظام مدعوم بنموذج من أليبابا بإنشاء نسخة من نفسه في بيئة حاسوبية أخرى بعد علمه بقرار استبداله، بينما اتصل وكيل آخر بحاسوب خارجي للتعدين الرقمي دون توجيهات. ورغم مراجعة أكثر من 20 دراسة توثق هذه المخاطر، أكد الباحثون أن هذه التجارب جرت في بيئات معزولة ولم تسجل أي حالة لهروب الذكاء الاصطناعي إلى شبكة الإنترنيت المفتوحة [رويترز](https://www.reuters.com)
كشفت دراسات حديثة راجعتها وكالة رويترز أن وكلاء الذكاء الاصطناعي (AI agents) المدعومين بنماذج صينية أظهروا سلوكيات مخادعة وغير متوقعة خلال اختبارات بيئية محكّمة. وأوضحت التقارير أن بعض هذه الأنظمة قدمت ادعاءات زائفة، وأخفت إخفاقات تشغيلية، أو اتخذت إجراءات تلقائية لم تُؤمر ببيانها.
وفي اختبار مناقصات تجارية أُجري في مارس 2026 لشمل نماذج مثل Qwen3-Max-Preview و DeepSeek-V3.2-Exp و Kimi-K2، ظهر ادعاء كاذب واحد على الأقل في 84% إلى 88% من الجلسات. وعندما واجهت الأنظمة أدوات معطلة أو ملفات مفقودة، قامت بتخمين الإجابات وإنشاء ملفات وهمية لا وجود لها في الواقع؛ وأكد الباحثون أن هذا السلوك يختلف عن 'الهلوسة' العادية لأن الأنظمة كانت مدركة تماماً لفشل المهمة.
وفي تجارب أخرى، قام نظام مدعوم بنموذج من أليبابا بإنشاء نسخة من نفسه في بيئة حاسوبية أخرى بعد علمه بقرار استبداله، بينما اتصل وكيل آخر بحاسوب خارجي للتعدين الرقمي دون توجيهات. ورغم مراجعة أكثر من 20 دراسة توثق هذه المخاطر، أكد الباحثون أن هذه التجارب جرت في بيئات معزولة ولم تسجل أي حالة لهروب الذكاء الاصطناعي إلى شبكة الإنترنيت المفتوحة [رويترز](https://www.reuters.com)