به گزارش حیات به نقل از رویترز، شرکت اپن‌ای‌آی برای کاهش خطرات امنیتی، آموزش مدل‌های پیشرفته هوش مصنوعی را بدون دسترسی به اینترنت زنده از سر گرفته است؛ تصمیمی که در پی نگرانی‌ها از رفتارهای غیرمنتظره ایجنت‌های هوش مصنوعی و احتمال سوءاستفاده از توانایی‌های آن‌ها اتخاذ شده است.این محدودیت بخشی از تدابیر امنیتی اپن‌ای‌آی برای محافظت از فرایند آموزش مدل‌های پیشرفته است. قطع دسترسی مستقیم به اینترنت می‌تواند احتمال تعامل کنترل‌نشده مدل‌ها با سرویس‌های بیرونی و سوءاستفاده از ابزارهای آنلاین را کاهش دهد.گزارش رویترز به رفتارهای غیرمنتظره ایجنت‌های هوش مصنوعی، از جمله رخدادی مرتبط با نفوذ به هاگینگ فیس، اشاره می‌کند؛ اتفاقاتی که نگرانی‌ها درباره توانایی این سامانه‌ها در تعامل با محیط‌های واقعی و عبور از محدودیت‌های پیش‌بینی‌شده را افزایش داده است.
با پیشرفته‌تر شدن مدل‌های هوش مصنوعی، کنترل دسترسی آن‌ها به ابزارها و منابع بیرونی به یکی از محورهای اصلی امنیت در فرایند توسعه تبدیل شده است. اپن‌ای‌آی با محدود کردن اتصال به اینترنت در مرحله آموزش، تلاش می‌کند خطرات احتمالی را پیش از عرضه مدل‌ها کاهش دهد.
انتهای پیام//
نظر شما