دسترسی کارکنان METR به سامانه‌های داخلی آنتروپیک برای ارزیابی مستقل هوش مصنوعی
آنتروپیک در ۱۵ اکتبر ۲۰۲۶ اعلام کرد که فرایند پذیرش و همکاری با شش نفر از کارکنان مؤسسه غیرانتفاعی «ارزیابی مدل و پژوهش تهدیدها» (METR) را آغاز کرده است. این افراد به ابزارها و سامانه‌های داخلی شرکت دسترسی دارند؛ دسترسی‌ای که تقریباً با سطح دسترسی تیم‌های ارزیابی ریسک آنتروپیک برابری می‌کند. آنتروپیک روز بعد توضیح داد که تصمیم نهایی درباره اینکه کدام اطلاعات مشمول دسته‌بندی‌های حذف اطلاعات می‌شوند، با خود این شرکت است؛ بااین‌حال، METR می‌تواند اظهارات مشخصی درباره میزان دسترسی و اطلاعاتی که دریافت کرده است، منتشر کند. اعلامیه آنتروپیک این همکاری را در سطح سوم از چارچوب سه‌سطحی ارزیابان قرار می‌دهد.
دسترسی METR شامل چه مواردی است؟
به گفته آنتروپیک، این تیم شش‌نفره از تجهیزات رایانه‌ای شرکت و فضای اداری آن استفاده می‌کند و به سامانه‌های داخلی نیز دسترسی‌ای مشابه کارکنان دارد. فعالیت اعضای تیم تابع توافق‌نامه‌های الزام‌آور است. سایر کارکنان METR، از جمله پژوهشگرانی که در پروژه‌های جداگانه با آنتروپیک همکاری می‌کنند، از فعالیت‌های این تیم جدا نگه داشته می‌شوند.
بنابراین، این ترتیبات به یک تیم مشخص محدود است و به معنای اعطای چنین دسترسی‌ای به کل مؤسسه METR نیست. آنتروپیک می‌گوید هدف از فعالیت این ارزیابان، بررسی خطرات مدل‌های پیشرفته هوش مصنوعی و ارزیابی شیوه‌های ایمنی این شرکت است.
تفاوت سه سطح ارزیابی در آنتروپیک
چارچوب آنتروپیک برای هر یک از سه سطح، شرایط متفاوتی در زمینه دسترسی به اطلاعات و انتشار یافته‌ها تعیین می‌کند. همکاری با METR در سطح سوم قرار دارد.
| سطح | محدوده دسترسی | شرایط انتشار |
|---|---|---|
| سطح اول | بررسی‌های محدود و مشخص درباره خطرات؛ آنتروپیک تعیین می‌کند چه میزان دسترسی در اختیار ارزیابان قرار گیرد. | ارزیابان پیش از انتشار یافته‌های خود باید تأیید آنتروپیک را دریافت کنند. |
| سطح دوم | دسترسی به اطلاعاتی بیشتر از سطح اول. | ارزیابان می‌توانند بدون دریافت تأیید قبلی، یافته‌های خود را منتشر کنند؛ مشروط بر اینکه موارد مشخصی از اطلاعات حذف شوند. آن‌ها همچنین می‌توانند دیدگاه خود را درباره موجه بودن این حذف‌ها بیان کنند. |
| سطح سوم (METR) | دسترسی به ابزارها و سامانه‌های داخلی در سطحی مشابه کارکنان، تقریباً هم‌تراز با تیم‌های ارزیابی ریسک آنتروپیک. | حقوق انتشار مشابه سطح دوم است. |
چه کسی درباره اطلاعات قابل انتشار METR تصمیم می‌گیرد؟
آنتروپیک می‌گوید نمی‌تواند انتشار مطالب METR را وتو کند، اما می‌تواند حذف اطلاعات متعلق به دسته‌های ازپیش‌تعیین‌شده را الزامی کند. این شرکت همچنین تأکید کرده است که تصمیم نهایی درباره اینکه اطلاعات در کدام‌یک از این دسته‌ها قرار می‌گیرند، با آنتروپیک است. در مقابل، METR اجازه دارد اظهارات مشخصی درباره سطح دسترسی و اطلاعات دریافتی خود منتشر کند.
آنتروپیک اطلاعات مشتریان، اطلاعات مشمول محرمانگی رابطه وکیل و موکل و اطلاعات مربوط به معماری مدل را نمونه‌هایی از مواردی معرفی کرده است که ممکن است از انتشار آن‌ها جلوگیری شود. به گفته شرکت، اطلاعات معماری مدل در صورت برخورداری از اهمیت و ارتباط بسیار زیاد با موضوع بررسی، ممکن است در اختیار ارزیابان قرار گیرد؛ این کار معمولاً به تأیید صریح داخلی نیاز دارد. بنابراین، این توافق امکان انتشار یافته‌ها را فراهم می‌کند، اما آنتروپیک همچنان در تعیین اطلاعاتی که می‌توان منتشر کرد، نقش دارد.
بحث درباره استقلال METR پیشینه‌ای طولانی‌تر دارد. نئوتئو پیش‌تر پرسش‌های مطرح‌شده درباره ارتباط METR با آنتروپیک و برنامه نظارتی این شرکت را بررسی کرده بود. آنتروپیک در اعلامیه خود می‌گوید ارزیابان باید در ارزیابی مدل‌های پیشرفته هوش مصنوعی تخصص داشته باشند، از شرکتی که آن را ارزیابی می‌کنند مستقل باشند ــ از جمله اینکه هیچ سهمی در آن نداشته باشند و از نظر مالی یا عملیاتی به آن وابسته نباشند ــ و از دسترسی و آزادی کافی برای انتشار مشاهدات خود برخوردار باشند.
آنتروپیک چه همکاری‌های دیگری در زمینه ارزیابی دنبال می‌کند؟
آنتروپیک می‌گوید شرکت SecureBio در حال بررسی فصل مربوط به سلاح‌های شیمیایی و زیستی در گزارش ریسک اوت ۲۰۲۶ این شرکت است. SecureBio پیش‌تر بررسی آزمایشی گزارش قبلی را تکمیل و نتایج آن را منتشر کرده بود. آنتروپیک همچنین اعلام کرده است که با شرکت Accenture و مؤسسه Faculty برای شکل‌دهی به همکاری‌ای در زمینه ارزیابی مدل‌ها و آزمون تهاجمی سامانه‌ها (ردتیمینگ)، ارزیابی هم‌راستایی، آزمایش سازوکارهای حفاظتی و تقویت توانمندی‌ها همکاری می‌کند.
آنتروپیک همچنین می‌گوید گفت‌وگوهای اولیه‌ای را با سازمان‌های دیگری، از جمله Hugging Face، آغاز کرده است.