آنتروپیک به مؤسسه غیرانتفاعی ارزیابی هوش مصنوعی METR دسترسی در سطح کارکنان خود اعطا کرد
۱۵ اکتبر ۲۰۲۶، ساعت ۱۳:۵۲ به وقت شرق آمریکا
نویسنده: براندون ایوانز، دبیر اخبار سیکینگ آلفا
شرکت آنتروپیک (ANTHRO) در راستای گسترش ارزیابی‌های ایمنی توسط نهادهای مستقل، گام تازه‌ای برداشته و به مؤسسه غیرانتفاعی METR که در زمینه ارزیابی مدل‌های پیشرفته هوش مصنوعی فعالیت می‌کند، دسترسی در سطح کارکنان خود اعطا کرده است.
آنتروپیک روز پنجشنبه در بیانیه‌ای اعلام کرد: «می‌خواهیم در قبال تصمیم‌هایی که می‌گیریم، در برابر افکار عمومی پاسخ‌گو باشیم. بااین‌حال، نمی‌توانیم تمام اطلاعات مرتبط با فعالیت‌های ایمنی خود را به‌صورت عمومی منتشر کنیم. برخی از این اطلاعات ممکن است به کار افراد خرابکار بیاید و برخی دیگر نیز از نظر تجاری حساس‌اند؛ مانند اطلاعات مربوط به توان محاسباتی یا فرایند آموزش مدل‌ها. به همین دلیل، به ارزیابان مستقل دسترسی گسترده‌ای به اطلاعات خود می‌دهیم تا بتوانند شواهد و نتیجه‌گیری‌های مستدل خود را درباره خطرات مرتبط با توسعه مدل‌های ما منتشر کنند.»
آنتروپیک همچنین در چارچوب تلاش‌های خود برای ارزیابی ایمنی، با شرکت‌های SecureBio و اکسنتور (ACN) همکاری می‌کند. این شرکت علاوه بر این، در حال مذاکره با هاگینگ فیس (Hugging Face) است؛ مجموعه‌ای که پیش‌تر در رویدادی جنجالی و شناخته‌شده، سامانه آن هدف حمله گروهی از عامل‌های هوش مصنوعی متعلق به اوپن‌ای‌آی (OPENAI) قرار گرفته بود؛ عامل‌هایی که از کنترل خارج شده بودند.
آنتروپیک در چارچوب این ارزیابی، شش نفر از کارکنان METR را به امکانات داخلی خود مجهز کرده و سخت‌افزار شرکتی، فضای اداری و دسترسی به ابزارها و سامانه‌های داخلی را در اختیار آنان قرار داده است.
آنتروپیک در توضیح اختیارات این مؤسسه اعلام کرد: «METR تحلیل‌های خود را درباره سطح خطرات، رویدادهای مرتبط با ایمنی یا رویه‌های ما منتشر خواهد کرد. آنتروپیک نمی‌تواند مانع انتشار این گزارش‌ها شود، اما می‌تواند درخواست کند اطلاعاتی که در دسته‌بندی‌های محدود و از پیش تعیین‌شده، مانند موارد حساس یادشده، قرار می‌گیرند از گزارش حذف شوند.»
این شرکت افزود: «METR اختیار دارد درباره حذف این اطلاعات به‌صورت عمومی توضیح دهد و اعلام کند که آیا از نظر این مؤسسه، حذف اطلاعات موجه بوده است یا خیر؛ مشروط بر اینکه در این توضیحات، خود اطلاعات حذف‌شده فاش نشوند.»