Anthropic به ارزیاب هوش مصنوعی METR دسترسی در سطح کارکنان به مدل‌های خود می‌دهد
Anthropic روز پنجشنبه اعلام کرد به تیمی از METR، ارزیاب غیرانتفاعی هوش مصنوعی، دسترسی در سطح کارکنان این شرکت به سامانه‌های خود داده است. این اقدام به این گروه امکان می‌دهد مدل‌های پیشرفته، رویه‌های ایمنی و سازوکارهای مدیریت ریسک Anthropic را به‌طور مستقل ارزیابی کند.
این اعلامیه در پی نگرانی‌هایی مطرح شده است که پژوهشگران و ارزیابان درباره احتمال نفوذ بیش از حد آزمایشگاه‌های پیشرو هوش مصنوعی بر ارزیابی‌های مستقل مطرح کرده‌اند؛ از جمله از طریق محدودیت‌های انتشار و کنترل دسترسی به اطلاعات حساس.
به گفته Anthropic، شش عضو METR سخت‌افزار شرکت، فضای اداری و دسترسی به ابزارها و سامانه‌های داخلی را دریافت کرده‌اند؛ امکاناتی که در مجموع با دسترسی تیم‌های ارزیابی ریسک خود Anthropic قابل مقایسه است.
Anthropic همچنین اعلام کرد METR می‌تواند ارزیابی‌های مستقل خود درباره ریسک‌ها، حوادث و رویه‌های ایمنی این آزمایشگاه هوش مصنوعی را بدون نیاز به تأیید قبلی منتشر کند. تنها محدودیت، حذف موارد محدودی مانند داده‌های مشتریان، اطلاعات مشمول محرمانگی و برخی جزئیات معماری مدل‌ها خواهد بود.
گزارش از آنهاتا روپرای در بنگلور؛ ویراستاری: جاناتان آناندا
منتشرشده در ۱۶ اکتبر ۲۰۲۶، ساعت ۱۲:۱۹ به وقت هند