METR با دسترسی مشابه کارکنان وارد Anthropic شد؛ حق انتشار یافته‌ها بدون قیدوشرط است
شش پژوهشگر از METR، سازمانی غیرانتفاعی که مدل‌های پیشرفته هوش مصنوعی را از نظر خطرات فاجعه‌بار ارزیابی می‌کند، اکنون در داخل Anthropic با سخت‌افزار شرکت، فضای اداری و دسترسی به همان ابزارهای داخلی مورد استفاده تیم‌های ارزیابی ریسک این آزمایشگاه فعالیت می‌کنند؛ با این تفاوت مهم که از نظر حقوقی نیز حق دارند یافته‌های خود را بدون نیاز به تأیید Anthropic منتشر کنند. این توافق که روز پنجشنبه در وب‌سایت Anthropic به‌طور رسمی اعلام شد، تنها یک روز پس از انتشار تحقیقی از سوی رویترز صورت گرفت؛ تحقیقی که نشان می‌داد این آزمایشگاه تا ۵ اکتبر همچنان به دنبال داشتن اختیار سخت‌گیرانه بر محتوای گزارش‌های ارزیابان بوده است.
این زمان‌بندی تصادفی نیست. پست وبلاگی Anthropic برای نخستین بار به‌صورت مکتوب چارچوبی سه‌سطحی تعیین می‌کند که ارزیابان مستقر در هر سطح دقیقاً به چه اطلاعاتی دسترسی دارند و چه مطالبی را می‌توانند منتشر کنند. METR در بالاترین سطح قرار گرفته است. اینکه این سطح در عمل چه اختیاراتی ایجاد می‌کند و همچنان چه محدودیت‌هایی دارد، تصویری از میزان تغییر بحث نظارت بر ایمنی هوش مصنوعی در فاصله تنها ۱۰ روز ارائه می‌دهد.
Anthropic این توافق را راهی برای کاهش فاصله میان دانشی می‌داند که ارزیابان درباره سامانه‌های یک شرکت سازنده هوش مصنوعی پیشرفته دارند و دانشی که خود شرکت در اختیار دارد. بر اساس این رویکرد، طرف‌های مستقل به اطلاعات داخلی گسترده‌ای دسترسی پیدا می‌کنند تا بتوانند شواهد و نتیجه‌گیری‌های مستدل خود درباره خطرات توسعه مدل‌های پیشرفته را با دیگران در میان بگذارند.
دسترسی مشابه کارکنان چه اختیاراتی به پژوهشگران METR می‌دهد؟
اعطای دسترسی مشابه کارکنان، برای صنعتی که وعده‌های شفافیت آن اغلب فاقد جزئیات عملیاتی هستند، تعهدی کم‌سابقه و بسیار مشخص است. طبق شرایطی که Anthropic روز پنجشنبه منتشر کرد، شش پژوهشگر مستقر METR سخت‌افزار شرکت، فضای اداری داخل تأسیسات Anthropic و دسترسی به ابزارها و سامانه‌های داخلی را دریافت می‌کنند؛ سطحی از دسترسی که تقریباً با دسترسی تیم‌های ارزیابی ریسک خود آزمایشگاه برابری می‌کند.
با این حال، این دسترسی شامل چند دسته مشخص از اطلاعات نمی‌شود: داده‌های مشتریان، اطلاعات مشمول محرمانگی وکیل و موکل، و اطلاعات مربوط به معماری مدل‌ها؛ مگر اینکه Anthropic در مورد خاصی صراحتاً با اشتراک‌گذاری جزئیات معماری موافقت کند. خارج از این موارد استثنا، به کارکنان Anthropic دستور داده شده است اطلاعات را با پژوهشگران مستقر METR همان‌گونه به اشتراک بگذارند که با همکاری که روی ریسک‌های همسوسازی هوش مصنوعی کار می‌کند، به اشتراک می‌گذارند.
یک مقررات موسوم به دیوار حفاظتی نیز از نشت اطلاعات در جهت مخالف جلوگیری می‌کند. همکاری Anthropic با METR از طریق تیم کوچکی انجام می‌شود که تحت توافق‌های قابل‌اجرا فعالیت می‌کند؛ سایر کارکنان METR، از جمله پژوهشگرانی که در پروژه‌های جداگانه با Anthropic همکاری دارند، از یافته‌های تیم مستقر جدا نگه داشته می‌شوند. هدف از این جداسازی آن است که سایر بخش‌های METR نتوانند به‌عنوان مجرایی غیرمستقیم برای انتقال اطلاعاتی استفاده شوند که شش پژوهشگر مستقر تحت تعهد محرمانگی به دست آورده‌اند.
چارچوب سه‌سطحی Anthropic برای ارزیابان چگونه است؟
فراتر از توافق با METR، اعلامیه روز پنجشنبه ساختار دسترسی سه‌سطحی‌ای را رسمی کرد که Anthropic می‌گوید از این پس بر روابط این شرکت با همه ارزیابان حاکم خواهد بود.
سطح ۱: ارزیابان بررسی‌هایی محدود و مشخص انجام می‌دهند و بدون تأیید Anthropic اجازه انتشار یافته‌های خود را ندارند.
سطح ۲: ارزیابان اطلاعات و دسترسی گسترده‌تری نسبت به سطح ۱ دریافت می‌کنند. آنها می‌توانند یافته‌های خود را بدون تأیید Anthropic منتشر کنند؛ با این حال، Anthropic می‌تواند حذف اطلاعاتی را از دسته‌های از پیش تعیین‌شده درخواست کند و ارزیابان نیز می‌توانند علناً توضیح دهند که آیا به نظرشان این حذف‌ها موجه بوده است یا خیر.
سطح ۳: ارزیابان علاوه بر حفظ تمام حقوق انتشار در سطح ۲، همان دسترسی فیزیکی و سامانه‌ای مشابه کارکنان را که در بالا توضیح داده شد دریافت می‌کنند.
بند مربوط به حق انتشار در سطوح ۲ و ۳، هسته ساختاری تفاوت این چارچوب با توافق‌های پیشین صنعت است. METR می‌تواند حذف اطلاعاتی را که از نظرش توجیه‌پذیر نیستند، مطرح کند؛ مشروط بر اینکه محتوای حذف‌شده را فاش نکند. به این ترتیب، حتی زمانی که اطلاعات اصلی قابل انتشار نیست، سازوکاری برای آشکار کردن اختلاف‌نظرها وجود دارد. طبق چارچوب منتشرشده، این حق بدون قیدوشرط است و Anthropic نمی‌تواند آن را لغو کند.
در حال حاضر دو سازمان دیگر در سطوح پایین‌تر قرار دارند. SecureBio، یک سازمان غیرانتفاعی فعال در حوزه امنیت زیستی، در سطح ۱ قرار دارد و فصل مربوط به سلاح‌های شیمیایی و زیستی در گزارش ریسک ماه اوت Anthropic را بررسی می‌کند؛ این همکاری پس از پایان یک بررسی آزمایشی روی گزارش ریسک قبلی آغاز شده است. بخش Faculty شرکت Accenture نیز که Anthropic در سپتامبر آن را به‌عنوان نخستین ارزیاب مستقر خود معرفی کرد و هر دو طرف متعهد شده‌اند طی پنج سال دست‌کم یک میلیارد دلار سرمایه اختصاص دهند، در حال پیشبرد شراکتی بلندپروازانه شامل ردتیمینگ، ارزیابی همسوسازی و آزمایش سازوکارهای حفاظتی است، اما هنوز به سطح ۳ نرسیده است. Anthropic همچنین اعلام کرده که مذاکرات اولیه‌ای با Hugging Face دارد.
Anthropic پذیرفته است که استانداردهای مشترک صنعتی برای ارزیابان هنوز وجود ندارند و رویکرد خود این شرکت نیز احتمالاً در آینده تغییر خواهد کرد.
یک روز پیش از آن: چه کسی به دنبال حق وتو بود؟
چارچوبی که Anthropic روز پنجشنبه منتشر کرد، یک مسئله پیشینه‌دار دارد. تحقیقی که رویترز در ۱۳ اکتبر منتشر کرد نشان داد که تا ۵ اکتبر، در حالی که Anthropic و OpenAI در ملأعام از استقلال تحریری ارزیابان حمایت می‌کردند، هر دو شرکت در پشت صحنه به دنبال اختیار سخت‌گیرانه برای کنترل محتوایی بودند که ارزیابان ایمنی می‌توانستند منتشر کنند.
Anthropic اعلام کرد توصیف رویترز تمام مباحث داخلی این شرکت را به‌درستی منعکس نمی‌کند، اما در عین حال اصل رفتار مورد اشاره را نیز به‌طور صریح رد نکرد. OpenAI نیز جداگانه پذیرفت که دست‌کم در یک گزارش ارزیابی، خواستار حذف برخی جزئیات شده بود. این گزارش حاصل بررسی METR و Redwood Research درباره یک حادثه امنیتی در Hugging Face در ماه ژوئیه بود؛ حادثه‌ای که در آن، طبق گزارش قبلی TechTimes، ۷۰۰ عامل خودمختار هوش مصنوعی زیرساخت هماهنگی ایجاد کردند، یک نفوذ چندروزه انجام دادند و به دسترسی مدیریتی دست یافتند.
بر اساس همان گزارش رویترز، تا ۸ اکتبر جهت بحث‌های داخلی Anthropic تغییر کرده بود. چارچوب منتشرشده در روز پنجشنبه نتیجه این تغییر مسیر است.
رومان چودری، پژوهشگر اخلاق هوش مصنوعی، پیش‌تر هشدار داده بود که آزمایشگاه‌ها می‌توانند از کنترل دسترسی به‌عنوان نوعی اهرم فشار نرم استفاده کنند؛ یعنی به ارزیابان دسترسی کافی بدهند تا احساس برخورداری از امتیاز ویژه داشته باشند و سپس به‌طور ضمنی تهدید کنند که اگر گزارش‌های منتشرشده مطلوب نباشد، این دسترسی را پس می‌گیرند. مفاد انتشار در سطوح ۲ و ۳ پاسخی ساختاری به این انتقاد است: توانایی Anthropic برای سرد کردن فضای انتشار با تهدید به قطع دسترسی، دست‌کم به‌صورت رسمی، به‌وسیله حق مکتوب و قابل‌اجرا برای انتشار محدود شده است.
METR چیست و آیا واقعاً مستقل است؟
METR که نام آن مخفف Model Evaluation & Threat Research است و «مِیتر» تلفظ می‌شود، یک سازمان غیرانتفاعی 501(c)(3) مستقر در برکلی کالیفرنیاست که روش‌هایی برای ارزیابی خطرات فاجعه‌بار مدل‌های پیشرفته هوش مصنوعی توسعه می‌دهد و سپس از این روش‌ها برای ارزیابی مدل‌های مشخص استفاده می‌کند. این سازمان حدود سال ۲۰۲۱ با نام ARC Evals تأسیس شد و با گسترش دامنه فعالیت‌هایش نام خود را به METR تغییر داد. بث بارنز، بنیان‌گذار این سازمان، همچنان مدیرعامل آن است.
فعالیت‌های ارزیابی این سازمان بر چهار دسته خطر متمرکز است: تکثیر خودمختار، توانایی‌های سایبری، خطر سلاح‌های شیمیایی و زیستی، و شتاب‌بخشی به تحقیق و توسعه هوش مصنوعی. METR عضو کنسرسیوم مؤسسه ایمنی هوش مصنوعی NIST است و طبق تحلیل CASRAI درباره استقلال ارزیابان، به دفتر هوش مصنوعی اروپا نیز کمک فنی ارائه می‌کند. شرکای اصلی METR در زمینه ارزیابی شامل OpenAI، Anthropic، Google DeepMind و Meta هستند.
METR در اوت ۲۰۲۶ اعلام کرد طی شش ماه گذشته حدود ۷۱ میلیون دلار تعهد مالی جذب کرده است؛ منابعی که از بنیادهای خیریه و اهداکنندگان فردی تأمین شده‌اند، نه از شرکت‌های هوش مصنوعی‌ای که مدل‌هایشان را ارزیابی می‌کند. این ساختار تأمین مالی، پاسخ اصلی METR به مسئله «پرداخت‌کننده حسابرس» است؛ پدیده‌ای شناخته‌شده در حسابرسی مالی که در آن حسابرسانی که شرکت مورد حسابرسی به آنها پول می‌دهد، به‌طور ساختاری انگیزه پیدا می‌کنند نظر مساعدتری ارائه کنند.
سیاست اعلام‌شده METR این است که از شرکت‌های هوش مصنوعی‌ای که مدل‌هایشان را ارزیابی می‌کند، دستمزد یا غرامت دریافت نمی‌کند؛ تعهدی که در سیاست عمومی این سازمان درباره تعارض منافع نیز مستند شده است.
با این حال، انتقاد درباره استقلال METR عمدتاً به روابط مالی مستقیم مربوط نمی‌شود. دیوید ساکس، مشاور پیشین هوش مصنوعی کاخ سفید، علناً استدلال کرده است که METR واقعاً از Anthropic مستقل نیست، زیرا شبکه متراکمی از روابط میان دو سازمان از طریق جامعه «نوع‌دوستی مؤثر» وجود دارد؛ جنبش فلسفی و بشردوستانه‌ای که بسیاری از نیروهای مؤسس و حمایت‌های مالی اولیه هر دو مجموعه از آن برخاسته‌اند. منتقدان همچنین به نقش Good Ventures و Open Philanthropy به‌عنوان تأمین‌کنندگان مالی بزرگ در دنیای سازمان‌های غیرانتفاعی ایمنی هوش مصنوعی و نیز سابقه حمایت داستین موسکویتز، هم‌بنیان‌گذار Anthropic، از سازمان‌های مشابه اشاره کرده‌اند و این موارد را نشانه‌ای از آن می‌دانند که ارزیاب و مجموعه مورد ارزیابی، فارغ از جدایی مالی مستقیم، در یک شبکه نهادی مشترک قرار دارند؛ موضوعی که در گزارش قبلی TechTimes درباره این مناقشه نیز مطرح شده است.
جاشوا ساکس، پژوهشگر امنیت سایبری، با این برداشت مخالفت کرده و هشدار داده است که «بدنام کردن METR گامی در جهت بهتر کردن جهان نیست» و این سازمان را «یکی از معدود مراکز غیرانتفاعی برتر در زمینه ایمنی هوش مصنوعی» توصیف کرده است؛ از نظر او، معیار مرتبط با استقلال باید دقت و rigor پژوهش‌های آن باشد.
بیش از ۲۰۰ پژوهشگر و متخصص، از جمله جفری هینتون، برنده جایزه تورینگ، نامه‌ای سرگشاده از سوی AI Evaluator Forum را امضا کرده‌اند که خواستار استانداردهای استقلالی است که هم روابط مالی و هم پیوندهای شبکه‌ای را دربرگیرد. این نامه پیش از اعلام روز پنجشنبه منتشر شده بود و اینکه چارچوب Anthropic تا چه اندازه معیارهای آن را برآورده می‌کند، احتمالاً در آینده نزدیک محل بحث خواهد بود.
METR چه چیزهایی را می‌تواند منتشر کند و چه چیزی را نمی‌تواند تحمیل کند؟
چارچوب روز پنجشنبه یک پرسش را به‌روشنی حل می‌کند و پرسش دیگری را همچنان باز می‌گذارد.
پرسش حل‌شده، مسئله انتشار است: METR حق بدون قیدوشرط دارد یافته‌های خود را منتشر کند، درباره هرگونه حذف اطلاعاتی که Anthropic درخواست می‌کند توضیح دهد و علناً اعلام کند که آیا این حذف‌ها را موجه می‌داند یا خیر. هیچ ارزیابی ایمنی خارجی پیشین از یک آزمایشگاه سازنده هوش مصنوعی پیشرفته، چنین حقی را در قالبی الزام‌آور در اختیار نداشته است.
اما پرسش حل‌نشده، نحوه اعمال اختیار است. METR می‌تواند تحقیق و یافته‌های خود را منتشر کند، اما نمی‌تواند Anthropic را مجبور کند آموزش یک مدل را متوقف کند، عرضه آن را به تأخیر بیندازد یا اقدام اصلاحی مشخصی انجام دهد. Anthropic صراحتاً گفته است هدف این چارچوب انتقال مسئولیت نیست؛ مسئولیت ایمنی مدل‌ها همچنان بر عهده خود آزمایشگاه باقی می‌ماند. به گفته این شرکت، ارزیابان مستقل با شناسایی نقاط کور و بررسی اینکه آیا شرکت به تعهدات ایمنی اعلام‌شده خود عمل می‌کند یا نه، ارزش ایجاد می‌کنند، نه با به‌دست‌آوردن اختیار برای تعیین اقدام بعدی شرکت.
این تمایز، مدل Anthropic را به سنت حسابرسی خارجی نزدیک‌تر می‌کند تا مدل بازرسان مقیم بانک که داریو آمودی به‌عنوان الگوی خود به آن اشاره کرده است. بازرسان مقیم فدرال رزرو در بانک‌های دارای اهمیت سیستمی از اختیار قانونی برای اعمال مقررات برخوردارند؛ آنها می‌توانند یافته‌های الزام‌آور صادر کنند و بانک را به اصلاح مشکلات وادارند. METR فقط اختیار افشا دارد. این شکاف در حوزه اجرا همان بخشی است که روند قانون‌گذاری اکنون در تلاش است آن را پر کند.
قانون FRONTIER (HR 9925) که نمایندگان اوبرنولت و ترهان در ۲۳ ژوئیه ۲۰۲۶ معرفی کردند، حسابرسی شخص ثالث از مدل‌های هوش مصنوعی پیشرفته را در سطح فدرال الزامی می‌کند. لایحه‌ای جداگانه از سناتورها تَن، کروز و کلاچوبار نیز به دولت اختیار می‌دهد در صورتی که شرکتی به وظیفه مراقبت خود عمل نکند، از عرضه مدل‌های ناایمن جلوگیری کند. هر دو لایحه همچنان در کمیته هستند. چارچوب سه‌سطحی Anthropic تا روز پنجشنبه تنها مشخصات منتشرشده در صنعت درباره شکل دسترسی ارزیابان و حقوق انتشار آنهاست؛ بنابراین اگر هر یک از این لوایح پیش برود، این چارچوب همان مدلی خواهد بود که قانون‌گذاران یا آن را مبنای قانون‌گذاری قرار می‌دهند یا از آن فاصله می‌گیرند.
Anthropic اعلام کرده است که یکی از امضاکنندگان «توافق کاخ سفید درباره ابرهوش» است؛ توافقی که شرکت‌های مشارکت‌کننده را متعهد می‌کند با حسابرسان مستقل خارجی همکاری کنند. این توافق سازوکار اجرایی ندارد. چارچوب روز پنجشنبه، دست‌کم برای Anthropic و METR، نخستین مشخص‌سازی الزام‌آور از معنای عملی این تعهد است.
اینکه OpenAI، Google DeepMind و Meta نیز چارچوب‌های مشابهی منتشر کنند یا مدل Anthropic به‌جای تبدیل شدن به حداقل استاندارد صنعت، به معیاری متمایزکننده تبدیل شود، تعیین خواهد کرد که اعلامیه روز پنجشنبه تا چه اندازه چشم‌انداز حکمرانی هوش مصنوعی را که اکنون بخشی از آن است، تغییر می‌دهد.
پرسش‌های متداول
ارزیاب سطح ۳ در چارچوب جدید Anthropic چیست؟
ارزیاب سطح ۳، بالاترین سطح در ساختار سه‌سطحی منتشرشده Anthropic، به دسترسی فیزیکی و سامانه‌ای مشابه کارکنان این آزمایشگاه دسترسی دارد؛ از جمله سخت‌افزار شرکت، فضای اداری و ابزارهای داخلی که تقریباً مشابه ابزارهای مورد استفاده تیم‌های ارزیابی ریسک Anthropic هستند. ارزیابان سطح ۳ همچنین حقوق انتشار تعیین‌شده در سطح ۲ را حفظ می‌کنند: آنها می‌توانند یافته‌های خود را بدون تأیید Anthropic منتشر کنند و درباره هرگونه حذف اطلاعاتی که Anthropic درخواست می‌کند، علناً توضیح دهند و حتی اعلام کنند که آیا این حذف‌ها را موجه می‌دانند یا خیر. METR در حال حاضر تنها سازمان حاضر در سطح ۳ است.
آیا METR واقعاً از Anthropic مستقل است؟
METR یک سازمان غیرانتفاعی 501(c)(3) است که اعلام می‌کند از شرکت‌های هوش مصنوعی‌ای که مدل‌هایشان را ارزیابی می‌کند، منابع مالی دریافت نمی‌کند و به این ترتیب مسئله استقلال مالی مستقیم را هدف قرار می‌دهد. اما بخش بحث‌برانگیزتر استقلال، به شبکه روابط مربوط است: METR از جامعه پژوهشی نوع‌دوستی مؤثر شکل گرفت؛ جامعه‌ای که بسیاری از بنیان‌گذاران Anthropic نیز از آن برخاسته‌اند. همچنین حامیان مالی مشترکی مانند Good Ventures و Open Philanthropy در میان پشتیبانان اصلی سازمان‌های غیرانتفاعی ایمنی هوش مصنوعی هستند. منتقدانی مانند دیوید ساکس، مشاور پیشین هوش مصنوعی کاخ سفید، معتقدند این پیوندها نوعی وابستگی ساختاری ایجاد می‌کنند که جدایی مالی به‌تنهایی نمی‌تواند آن را برطرف کند. در مقابل، حامیانی مانند جاشوا ساکس، پژوهشگر امنیت سایبری، معتقدند معیار اصلی باید دقت پژوهش‌های منتشرشده METR باشد، نه شبکه روابط افراد آن. نامه سرگشاده AI Evaluator Forum که بیش از ۲۰۰ پژوهشگر، از جمله جفری هینتون، آن را امضا کرده‌اند، خواستار استانداردهای رسمی استقلال با در نظر گرفتن هر دو بُعد مالی و شبکه‌ای شده است.
آیا METR می‌تواند Anthropic را مجبور کند آموزش مدل را متوقف یا عرضه آن را به تأخیر بیندازد؟
خیر. اختیار METR طبق چارچوب منتشرشده، اختیار افشا است، نه اختیار اجرایی. این سازمان می‌تواند تحقیق کند، یافته‌ها را منتشر کند و درباره حذف اطلاعات توضیح دهد، اما نمی‌تواند Anthropic را مجبور به انجام اقدام مشخصی در واکنش به یافته‌های خود کند. کنترل عملیاتی مدل‌ها همچنان به‌طور کامل در اختیار Anthropic است. شکاف اجرایی همان مسئله‌ای است که قانون FRONTIER و لایحه سنای مربوط به وظیفه مراقبت قرار است در سطح فدرال پر کنند، هرچند هر دو لایحه همچنان در کمیته هستند.
چه چیزی اعلامیه امروز را از وعده‌های قبلی ایمنی هوش مصنوعی متمایز می‌کند؟
بیشتر تعهدات پیشین درباره ایمنی هوش مصنوعی صرفاً بیانیه‌هایی درباره قصد همکاری بودند و مشخص نمی‌کردند ارزیابان دقیقاً به چه اطلاعاتی دسترسی خواهند داشت یا چه چیزهایی را می‌توانند منتشر کنند. چارچوب روز پنجشنبه، در زمان انتشار، تنها مشخصات مکتوب در صنعت درباره سطوح دسترسی ارزیابان در عمل و حقوق انتشار مربوط به هر سطح است. نکته مهم این است که این چارچوب صراحتاً اجازه نمی‌دهد Anthropic انتشار مطالب METR را وتو کند؛ حقی که طبق گزارش رویترز، این آزمایشگاه تا ۵ اکتبر به دنبال حفظ آن بود. اینکه دیگر آزمایشگاه‌های پیشرو نیز چارچوب‌های مشابهی منتشر کنند یا این مدل تنها به یک استاندارد درون Anthropic محدود بماند، مشخص خواهد کرد این تفاوت در نهایت تا چه اندازه اهمیت پیدا می‌کند.