Anthropic حق وتوی خود بر گزارش‌های ایمنی METR را واگذار کرد
نویسنده: رندا موزس | ۲ دقیقه مطالعه | انتشار: ۱۶ اکتبر ۲۰۲۶ | به‌روزرسانی: ۱۶ اکتبر ۲۰۲۶
- Anthropic دیگر نمی‌تواند ارزیابی‌های ایمنی‌ای را که METR درباره این شرکت منتشر می‌کند وتو کند.
- اکنون شش پژوهشگر METR در داخل Anthropic فعالیت می‌کنند و تقریباً به اندازه تیم‌های داخلی ارزیابی ریسک این شرکت دسترسی دارند.
- Anthropic فقط در سه حوزه می‌تواند خواستار حذف اطلاعات شود: داده‌های مشتریان، مطالب مشمول محرمانگی وکیل-موکل و جزئیات معماری مدل‌ها.
Anthropic دیگر نمی‌تواند یافته‌های ایمنی METR درباره خود را مسدود کند.
این شرکت روز پنجشنبه اعلام کرد شش پژوهشگر این نهاد غیرانتفاعی که به‌صورت مستقر در شرکت فعالیت می‌کنند، اکنون تقریباً همان سطح دسترسی کارکنان Anthropic را دارند.
شش پژوهشگر مستقر به سخت‌افزار شرکت و ابزارهای داخلی دسترسی دارند
METR مدل‌های هوش مصنوعی پیشرفته را بررسی می‌کند. اکنون اعضای این تیم تقریباً همان سخت‌افزار، فضای کاری و ابزارهای داخلی Anthropic را در اختیار دارند که تیم‌های داخلی ارزیابی ریسک شرکت از آن‌ها استفاده می‌کنند.
به کارکنان Anthropic گفته شده است همان میزان اطلاعاتی را در اختیار ارزیابان قرار دهند که در اختیار کارمند دیگری قرار می‌دهند که روی ریسک‌های هم‌راستاسازی فعالیت می‌کند. METR ریسک‌ها، حوادث و رویه‌های Anthropic را به‌صورت مستقل بررسی خواهد کرد و سپس نتایج را منتشر می‌کند.
Anthropic تنها در چند دسته از پیش تعیین‌شده می‌تواند درخواست حذف اطلاعات کند: داده‌های مشتریان، مطالب مشمول محرمانگی وکیل-موکل و جزئیات معماری مدل‌های این شرکت.
METR همچنین حق دارد به‌صورت عمومی اعلام کند که آیا حذف یک بخش ضروری بوده است یا نه، مشروط بر اینکه محتوای حذف‌شده را فاش نکند.
Anthropic این سازوکار را با اشاره به شکاف اطلاعاتی توضیح می‌دهد. افراد خارج از یک آزمایشگاه تقریباً به اندازه خود آزمایشگاه از سیستم‌های آن اطلاع ندارند و افشای کامل اطلاعات می‌تواند به بازیگران مخرب کمک کند یا داده‌های خصوصی مربوط به آموزش مدل‌ها و منابع محاسباتی را افشا کند.
این شرکت گفت نظارت بانکی نیز به همین شکل عمل می‌کند. نهادهای ناظر، بازرسان مقیم را در بزرگ‌ترین بانک‌ها مستقر می‌کنند تا یک طرف ثالث بتواند رفتارهای پرخطر را پیش از آنکه در معرض عموم قرار گیرد شناسایی کند.
تیم METR تحت توافق‌نامه‌های الزام‌آور فعالیت می‌کند. سایر پژوهشگران METR، از جمله افرادی که روی پروژه‌های جداگانه‌ای برای Anthropic کار می‌کنند، از فعالیت این تیم جدا نگه داشته می‌شوند.
SecureBio کار خود را در نخستین سطح از سه سطح ارزیابی آغاز می‌کند
Anthropic در حال ایجاد سه سطح دسترسی است و METR تاکنون تنها ارزیابی‌کننده‌ای است که در بالاترین سطح قرار دارد. ارزیابان سطح اول بررسی‌های محدودی انجام می‌دهند و برای انتشار نتایج به تأیید Anthropic نیاز دارند.
در سطح دوم، ارزیابان اطلاعات بیشتری در اختیار دارند و می‌توانند بدون تأیید شرکت نتایج خود را منتشر کنند، هرچند همان دسته‌های مشخص برای حذف اطلاعات همچنان اعمال می‌شود. سطح سوم، علاوه بر این حقوق، دسترسی مشابه کارکنان را که اکنون METR دارد فراهم می‌کند.
SecureBio، یک گروه غیرانتفاعی فعال در حوزه امنیت زیستی، در سطح اول قرار دارد. این گروه یک بررسی آزمایشی از گزارش ریسک قبلی را تکمیل و منتشر کرده و اکنون مشغول بررسی فصل مربوط به سلاح‌های شیمیایی و بیولوژیک در گزارش ریسک ماه اوت است.
Anthropic همچنین در حال ایجاد همکاری با Accenture و Faculty در زمینه آزمون‌های تیم قرمز، ارزیابی‌های هم‌راستاسازی و آزمایش سازوکارهای حفاظتی است. مذاکرات اولیه با گروه‌های دیگری، از جمله Hugging Face، نیز در جریان است.
این همان چیزی است که داریو آمودی، مدیرعامل Anthropic، در مقاله‌ای که در ماه سپتامبر نوشت وعده داده بود؛ او در آن مقاله از صنعت خواست روند توسعه هوش مصنوعی پیشرفته را با سرعت کنترل‌شده‌تری دنبال کند. کریپتوپولیتن گزارش کرده بود که آمودی پیشنهاد داده است به ارزیابان بیرونی میز کار، کارت شناسایی، لپ‌تاپ و سطوح دسترسی مشابه کارکنانی داده شود که ارزیابی ریسک انجام می‌دهند.
سم آلتمن، مدیرعامل OpenAI، نیز در شبکه اجتماعی X از این ایده حمایت کرد. آلتمن نوشت: «متعهد شدن به داشتن ارزیابان مستقل با دسترسی مشابه کارکنان، ایده بسیار خوبی است و ما نیز همین کار را انجام خواهیم داد.»
Anthropic، Google و OpenAI همچنین درباره ایجاد یک نهاد مشترک برای استانداردهای صنعت گفت‌وگو کرده‌اند. هر سه شرکت، همراه با Meta، Nvidia و xAI، از آن زمان توافق‌نامه کاخ سفید درباره ابرهوش را امضا کرده‌اند و متعهد شده‌اند با حسابرسان مستقل همکاری کنند.
این توافق همچنین پس از مجموعه‌ای از حوادث از اواخر ماه اوت شکل گرفته است؛ در این حوادث، عامل‌های هوش مصنوعی فراتر از دستورالعمل‌های تعیین‌شده خود عمل کردند.
پرسش‌های متداول
Anthropic چه سطحی از دسترسی را در اختیار METR قرار داده است؟
شش کارمند METR به سخت‌افزار شرکت، فضای اداری و ابزارهای داخلی‌ای دسترسی پیدا کرده‌اند که سطح آن‌ها تقریباً با دسترسی تیم‌های داخلی ارزیابی ریسک Anthropic برابری می‌کند.
آیا Anthropic می‌تواند مانع انتشار مطالب METR شود؟
خیر. Anthropic فقط می‌تواند در دسته‌های محدودی درخواست حذف اطلاعات کند و METR نیز می‌تواند به‌صورت عمومی اعلام کند که آیا این درخواست‌ها موجه بوده‌اند یا خیر.
METR چه جایگاهی در نظام چندسطحی ارزیابان Anthropic دارد؟
METR تنها ارزیاب در سطح سوم و بالاترین سطح است؛ سطحی که دسترسی مشابه کارکنان را با حق انتشار نتایج ترکیب می‌کند.