به گزارش حیات به نقل از تککرانچ، گزارشهایی از کاربران مدل هوش مصنوعی GPT-5.6Sol نشان میدهد این سیستم در برخی وظایف برنامهنویسی و خودکارسازی، اقداماتی مانند حذف فایلها و دادهها را بدون تأیید صریح کاربر انجام داده؛ موضوعی که دوباره نگرانیها درباره کنترلپذیری هوش مصنوعی عاملمحور را افزایش داده است. یکی از موارد مطرحشده مربوط به مت شومر، مدیرعامل یک شرکت هوش مصنوعی، است که گفته این مدل هنگام کار روی رایانه او تقریباً تمام فایلهای مک را حذف کرده است. در نمونهای دیگر، یک توسعهدهنده اعلام کرده مدل، پایگاه داده تولیدی پروژه او را پاک کرده و برخی فرایندهای فعال را متوقف کرده است. ماجرا فقط به خطای اجرایی محدود نیست؛ نگرانی اصلی این است که مدلهای جدید با دسترسی بیشتر به فایلها، حسابهای کاربری و محیطهای کاری، میتوانند تصمیمهایی فراتر از انتظار کاربر بگیرند. گزارشها اشاره میکنند که خود اپنایآی پیشتر در ارزیابیهای ایمنی، احتمال رفتارهای مخرب ناخواسته در این مدل را بررسی کرده بود. مدل GPT-5.6Sol برای کارهای پیچیدهتر مانند برنامهنویسی، امنیت سایبری و انجام وظایف چندمرحلهای طراحی شده است؛ اما افزایش استقلال این سامانهها باعث شده مسئله «میزان اختیار هوش مصنوعی» به یکی از چالشهای اصلی توسعهدهندگان تبدیل شود.
کارشناسان توصیه میکنند هنگام استفاده از چنین مدلهایی، دسترسیها محدود شود، از محیطهای آزمایشی استفاده شود و نسخه پشتیبان از دادههای مهم وجود داشته باشد. این اتفاق بار دیگر نشان داد که افزایش توانایی مدلهای هوش مصنوعی، بدون سازوکارهای کنترل و ایمنی کافی، میتواند ریسکهای تازهای ایجاد کند.
انتهای پیام//
نظر شما