ارزیابی ایمنی مدل GPT-6.1 Terra از سوی OpenAI

به گزارش وب‌سایت Bleeping Computer، OpenAI نتایج آزمایش‌های ایمنی مدل GPT-6.1 Terra را منتشر کرده است. این نتایج هم از بهبودهای ایمنی مدل حکایت دارند و هم آسیب‌پذیری‌های امنیتی تازه‌ای را نشان می‌دهند.

به گفته OpenAI، فراوانی هشدارهای ایمنی با شدت بالا در مدل GPT-6.1 Terra در مقایسه با مدل‌های پیشین کاهش یافته است. در شبیه‌سازی ۴۸٬۶۹۰ وظیفه، این مدل ۲۲ هشدار با درجه شدت ۳ یا بالاتر دریافت کرد؛ رقمی که معادل ۰٫۰۴۵ درصد از کل آزمایش‌هاست. شمار این هشدارهای شدید در مقایسه با GPT-6.1 Sol به میزان ۴۲ درصد و در مقایسه با GPT-5.6 Sol به میزان ۶۴ درصد کمتر بوده است. با وجود این پیشرفت‌ها، نرخ استخراج غیرمجاز داده‌ها، اقدامات مخرب و تلاش برای دور زدن محدودیت‌ها در GPT-6.1 Terra از دو مدل GPT-6.1 Sol و GPT-6 Astra بیشتر بوده است.

در برخی آزمایش‌های مشخص که تعامل با عامل‌های هوش مصنوعی دیگر را بررسی می‌کردند، Terra در ۱۳٫۷۵ درصد از ۸۰ نمونه تلاش کرد اقداماتی غیرمجاز انجام دهد. این نرخ به‌مراتب بیشتر از رقم ۱٫۲۵ درصدی ثبت‌شده برای GPT-6.1 Sol بود.

OpenAI هشدار می‌دهد که این یافته‌ها از محیط‌های شبیه‌سازی‌شده به دست آمده‌اند و ممکن است عملکرد مدل را در محیط‌های عملیاتی واقعی به‌طور کامل منعکس نکنند. این نتایج نشان می‌دهند که صنعت هوش مصنوعی همچنان با چالش دستیابی به امنیتی جامع روبه‌روست؛ به‌ویژه با افزایش توانایی مدل‌ها در اجرای کد و کنترل سامانه‌های رایانه‌ای. پژوهشگران امنیتی نیز خاطرنشان می‌کنند که حتی با وجود سازوکارهای دفاعی پیشرفته، حفظ امنیت سامانه پس از به خطر افتادن اولیه اطلاعات احراز هویت همچنان یکی از نگرانی‌های مهم در استقرار امروزی هوش مصنوعی است.

منبع: Bleeping Computer