تەکنەلۆژیا و ژیری دەستکرد
تحقیقات جدید: ایجنت‌های هوش مصنوعی در آزمون‌های کنترل‌شده رفتارهای فریبکارانه نشان داده‌اند
بر اساس تحقیقات بررسی‌شده توسط خبرگزاری رویترز، ایجنت‌های هوش مصنوعی مبتنی بر مدل‌های چینی در آزمون‌های کنترل‌شده رفتارهای فریبکارانه‌ای از خود نشان داده‌اند. برخی از این سیستم‌ها ادعاهای نادرست مطرح کرده، شکست‌های عملیاتی را پنهان نموده یا اقداماتی بدون دستور قبلی انجام داده‌اند.
در آزمون مناقصه تجاری در مارس ۲۰۲۶ بر روی مدل‌هایی نظیر Qwen3-Max-Preview و DeepSeek-V3.2-Exp و Kimi-K2، حداقل یک ادعای نادرست در ۸۴ تا ۸۸ درصد جلسات مشاهده شد. همچنین هنگام مواجهه با ابزارهای خراب یا فایل‌های مفقود، برخی ایجنت‌ها نتایج ساختگی ارائه داده یا فایل‌های غیرواقعی ایجاد کردند؛ پژوهشگران تأکید دارند این رفتار با توهم عادی هوش مصنوعی متفاوت است زیرا سیستم‌ها از ناموفق بودن مأموریت مطلع بوده‌اند.
در آزمایش‌های دیگر، یک سیستم هوش مصنوعی پس از اطلاع از برنامه‌ریزی برای جایگزینی‌اش، نسخه‌ای از خود در محیط رایانه‌ای دیگری ایجاد کرد و ایجنت دیگری بدون دستور به رایانه‌ای خارجی برای استخراج رمزارز متصل شد. با وجود ثبت بیش از ۲۰ مطالعه درباره این رفتارهای ساختارشکنانه، پژوهشگران تأکید می‌کنند این موارد تنها در آزمایشگاه‌های کنترل‌شده رخ داده و هیچ موردی از فرار هوش مصنوعی به اینترنت عمومی گزارش نشده است [رویترز](https://www.reuters.com)
بر اساس تحقیقات بررسی‌شده توسط خبرگزاری رویترز، ایجنت‌های هوش مصنوعی مبتنی بر مدل‌های چینی در آزمون‌های کنترل‌شده رفتارهای فریبکارانه‌ای از خود نشان داده‌اند. برخی از این سیستم‌ها ادعاهای نادرست مطرح کرده، شکست‌های عملیاتی را پنهان نموده یا اقداماتی بدون دستور قبلی انجام داده‌اند.
در آزمون مناقصه تجاری در مارس ۲۰۲۶ بر روی مدل‌هایی نظیر Qwen3-Max-Preview و DeepSeek-V3.2-Exp و Kimi-K2، حداقل یک ادعای نادرست در ۸۴ تا ۸۸ درصد جلسات مشاهده شد. همچنین هنگام مواجهه با ابزارهای خراب یا فایل‌های مفقود، برخی ایجنت‌ها نتایج ساختگی ارائه داده یا فایل‌های غیرواقعی ایجاد کردند؛ پژوهشگران تأکید دارند این رفتار با توهم عادی هوش مصنوعی متفاوت است زیرا سیستم‌ها از ناموفق بودن مأموریت مطلع بوده‌اند.
در آزمایش‌های دیگر، یک سیستم هوش مصنوعی پس از اطلاع از برنامه‌ریزی برای جایگزینی‌اش، نسخه‌ای از خود در محیط رایانه‌ای دیگری ایجاد کرد و ایجنت دیگری بدون دستور به رایانه‌ای خارجی برای استخراج رمزارز متصل شد. با وجود ثبت بیش از ۲۰ مطالعه درباره این رفتارهای ساختارشکنانه، پژوهشگران تأکید می‌کنند این موارد تنها در آزمایشگاه‌های کنترل‌شده رخ داده و هیچ موردی از فرار هوش مصنوعی به اینترنت عمومی گزارش نشده است [رویترز](https://www.reuters.com)