آنتروپیک به شش ارزیاب METR دسترسی در سطح کارکنان داد؛ محدودیت‌های این همکاری چیست؟

نظارت بر ایمنی هوش مصنوعی

نویسنده: تیم OpenTools | ۱۵ اکتبر ۲۰۲۶

شش ارزیاب مؤسسه METR اکنون در داخل شرکت آنتروپیک فعالیت می‌کنند و به امکانات و اطلاعاتی در سطح تیم‌های ارزیابی ریسک این شرکت دسترسی دارند. آن‌ها همچنین از حق انتشار مستقل یافته‌های خود برخوردارند. اگرچه دامنه این همکاری به‌طور غیرمعمولی گسترده است، محدودیت‌های دسترسی و ماهیت داوطلبانه آن همچنان اهمیت زیادی دارد.

شش ارزیاب METR اکنون به امکاناتی مشابه تیم‌های ارزیابی ریسک آنتروپیک دسترسی دارند

آنتروپیک اعلام کرده است که شش نفر از کارکنان مؤسسه غیرانتفاعی ارزیابی هوش مصنوعی METR را در مجموعه خود مستقر کرده و تجهیزات رایانه‌ای سازمانی، فضای اداری و دسترسی به ابزارها و سامانه‌های داخلی را در اختیار آن‌ها گذاشته است. سطح این دسترسی تقریباً با امکاناتی برابری می‌کند که تیم‌های ارزیابی ریسک خود آنتروپیک در اختیار دارند. این همکاری که جزئیات آن در اطلاعیه ۱۵ اکتبر آنتروپیک منتشر شده، از آن جهت قابل توجه است که شرکت به‌روشنی مشخص کرده چه افرادی در مجموعه مستقر شده‌اند، به چه امکانات عملیاتی دسترسی دارند و مجاز به انتشار چه اطلاعاتی هستند.

بااین‌حال، این دسترسی نامحدود نیست. آنتروپیک اطلاعات مشتریان، مطالب مشمول محرمانگی ارتباطات وکیل و موکل و اطلاعات مربوط به معماری مدل‌های هوش مصنوعی را از دامنه معمول اطلاعات قابل اشتراک خارج کرده است. به گفته شرکت، اطلاعات معماری مدل‌ها تنها زمانی در اختیار ارزیابان قرار می‌گیرد که ارتباط بسیار مهمی با موضوع بررسی داشته باشد و ارائه آن نیز مستلزم دریافت مجوز صریح از مراجع داخلی شرکت است. تیم METR همچنین تحت قراردادهای الزام‌آور فعالیت می‌کند و سایر کارکنان این مؤسسه از اطلاعات و فعالیت‌های تیم مستقر در آنتروپیک جدا نگه داشته می‌شوند.

بنابراین، منظور از «دسترسی مشابه کارکنان» این است که یک تیم کوچک بیرونی می‌تواند از نزدیک با بخش‌های مسئول ایمنی آنتروپیک همکاری کند. این توافق به معنای دسترسی نامحدود به تمام سامانه‌ها، اطلاعات مشتریان یا اسرار فنی مدل‌ها نیست و METR را نیز به بخشی از کارکنان آنتروپیک یا یک نهاد نظارتی رسمی تبدیل نمی‌کند.

METR بدون حق وتوی آنتروپیک می‌تواند یافته‌هایش را منتشر کند، اما حذف محدود اطلاعات حساس مجاز است

مهم‌ترین بخش این توافق به اختیار انتشار گزارش‌ها مربوط می‌شود. آنتروپیک می‌گوید METR می‌تواند تحلیل‌های خود درباره سطح ریسک‌های شرکت، رویدادهای مرتبط با ایمنی و شیوه‌های کاری آن را منتشر کند و آنتروپیک حق جلوگیری از انتشار این گزارش‌ها را ندارد. بااین‌حال، شرکت می‌تواند در مواردی که اطلاعات در دسته‌های حساس از پیش تعیین‌شده قرار می‌گیرند، حذف یا پوشاندن آن بخش‌ها را درخواست کند. METR نیز مجاز است درباره ماهیت این حذف‌ها به‌صورت عمومی توضیح دهد و اعلام کند که آیا آن‌ها را موجه می‌داند یا خیر؛ مشروط بر اینکه اطلاعات حفاظت‌شده را افشا نکند.

این سازوکار از گزارش‌های حسابرسی متعارفی که انتشار آن‌ها به تأیید شرکت وابسته است، استقلال بیشتری دارد؛ زیرا تصمیم نهایی درباره انتشار گزارش در اختیار ارزیاب باقی می‌ماند. درعین‌حال، با افشای عمومی کاملاً آزاد تفاوت دارد، چون آنتروپیک همچنان دسته‌های اطلاعات حفاظت‌شده را تعیین می‌کند و کنترل سامانه‌هایی را که در اختیار ارزیابان قرار می‌دهد، حفظ کرده است.

مؤسسه METR نیز در بیانیه خود درباره رویکرد ارزیابی ریسک صریحاً به همین وابستگی اشاره کرده است. به گفته این مؤسسه، در همکاری‌های داوطلبانه ممکن است ارزیابان برای دسترسی به اطلاعات و انتشار یافته‌هایشان همچنان به شرکت‌ها وابسته باشند. خودداری شرکت از ارائه برخی اطلاعات یا حذف بخش‌هایی از گزارش نیز می‌تواند بر شواهدی که در نهایت در اختیار عموم قرار می‌گیرد، تأثیر بگذارد. بنابراین، مخاطبان باید در گزارش‌های آینده به محدوده بررسی، محدودیت‌های دسترسی و سوابق حذف اطلاعات توجه کنند و صرفاً به عنوان «ارزیاب مستقل» برای اطمینان از اعتبار گزارش‌ها بسنده نکنند.

آنتروپیک سه سطح دسترسی تعریف کرده و METR نخستین شریک معرفی‌شده در سطح سوم است

چارچوب همکاری آنتروپیک با ارزیابان مستقل شامل سه سطح است. سطح اول به بررسی‌هایی با دامنه محدود اختصاص دارد که در آن شرکت نوع و میزان دسترسی را تعیین می‌کند و انتشار گزارش نیز به تأیید آن وابسته است. در سطح دوم، دامنه دسترسی گسترش می‌یابد و ارزیاب می‌تواند یافته‌های خود را مستقلاً منتشر کند، هرچند شرکت همچنان حق درخواست حذف محدود اطلاعات حساس را دارد. سطح سوم علاوه بر حفظ حقوق انتشار مشابه سطح دوم، دسترسی عملیاتی در حد کارکنان شرکت را نیز فراهم می‌کند؛ امکانی که اکنون در اختیار METR قرار گرفته است.

مؤسسه SecureBio در حال حاضر در سطح اول قرار دارد و مشغول بررسی فعالیت‌های آنتروپیک در زمینه خطرات مرتبط با سلاح‌های شیمیایی و بیولوژیکی است. آنتروپیک همچنین از شرکت‌های Accenture و Faculty به‌عنوان شرکای خود در ارزیابی مدل‌ها، آزمون‌های خصمانه برای شناسایی آسیب‌پذیری‌ها، سنجش همسویی مدل‌ها با اهداف و ارزش‌های موردنظر و آزمایش سازوکارهای حفاظتی نام برده است. بااین‌حال، این شرکت اعلام نکرده که این شرکا نیز به دسترسی سطح سوم METR دست یافته‌اند. آنتروپیک همچنین به گفت‌وگوهای اولیه با Hugging Face اشاره کرده است.

وجود این سطوح مشخص، امکان مقایسه همکاری‌های آینده را فراهم می‌کند. صرف معرفی یک سازمان به‌عنوان شریک ارزیابی اطلاعات چندانی درباره کیفیت و استقلال نظارت ارائه نمی‌دهد. پرسش‌های اساسی این است که آیا ارزیابان می‌توانند شواهد مورد بررسی را خود انتخاب کنند، با کارکنان گفت‌وگو داشته باشند، به سامانه‌های داخلی دسترسی پیدا کنند و نتیجه‌گیری‌هایشان را بدون تأیید شرکت منتشر کنند یا خیر. آنتروپیک می‌گوید امیدوار است به‌مرور چند ارزیاب دیگر را نیز به سطح سوم منتقل کند، اما تاکنون هیچ جدول زمانی یا معیار مشخص و عمومی برای پذیرش در این سطح اعلام نشده است.

ارزش واقعی این همکاری را گزارش‌های آینده مشخص می‌کنند، نه صرف اعلام دسترسی

مؤسسه METR در پیشنهاد ۱۴ اکتبر خود نوع بررسی‌هایی را که قصد انجام آن‌ها را دارد، تشریح کرده است. این بررسی‌ها شامل مطالعه همسویی داخلی مدل‌ها، میزان کنترل بر آن‌ها و شتاب‌گیری تحقیق و توسعه هوش مصنوعی است و قرار است با استفاده از مصاحبه‌ها، مجموعه‌داده‌های داخلی و سامانه‌های شرکت انجام شود. METR همچنین تأکید کرده که دانش علمی در این حوزه هنوز به اندازه‌ای پیشرفت نکرده است که بتوان با اطمینان بالا بی‌خطر بودن روند توسعه هوش مصنوعی را تضمین کرد. به گفته این مؤسسه، چنین ارزیابی‌هایی جایگزین ممیزی‌های امنیتی یا بررسی میزان رعایت الزامات قانونی و مقرراتی نیستند.

این نکات نشان می‌دهند که از توافق جدید در شرایط فعلی چه نتایجی می‌توان گرفت و چه ادعاهایی هنوز قابل اثبات نیستند. آنتروپیک سازوکاری برای انجام ارزیابی‌های عمیق‌تر معرفی کرده، اما هنوز هیچ گزارش ارزیابی جدیدی از METR بر اساس مدل استقرار ارزیابان در داخل شرکت منتشر نشده است. بنابراین، این توافق به‌خودی‌خود ثابت نمی‌کند که تدابیر حفاظتی آنتروپیک مؤثرند، هیچ حادثه‌ای رخ نداده یا این شرکت الزامات یک استاندارد ایمنی الزام‌آور را رعایت می‌کند.

پس از انتشار گزارش‌ها، شواهد مهم شامل دوره زمانی بررسی‌شده، تیم‌ها و سامانه‌های مشمول ارزیابی، درخواست‌های دسترسی ردشده، اطلاعات حذف‌شده و میزان توانایی METR در راستی‌آزمایی اطلاعات ارائه‌شده از سوی شرکت خواهد بود. فهرست ارزیابی‌های ریسک METR شامل گزارش‌های همکاری‌های پیشین این مؤسسه است و می‌تواند مبنایی برای سنجش این موضوع باشد که آیا دسترسی گسترده‌تر و حضور مستقیم ارزیابان در شرکت واقعاً به انتشار شواهد عمومی عمیق‌تر و معنادارتری منجر می‌شود یا خیر.

ارزیابی مستقل و داوطلبانه از داخل شرکت، سطح نظارت را ارتقا می‌دهد اما جایگزین نظارت رسمی نیست

این همکاری برای رفع یک مشکل واقعی در دسترسی به اطلاعات طراحی شده است. توسعه‌دهندگان مدل‌های پیشرفته هوش مصنوعی به شواهد محرمانه‌ای درباره فرایند آموزش مدل‌ها، تدابیر حفاظتی و حوادث داخلی دسترسی دارند که پژوهشگران بیرونی نمی‌توانند صرفاً با استفاده از نسخه‌های عمومی مدل‌ها آن‌ها را بازسازی یا به‌طور مستقل بررسی کنند. فراهم کردن دسترسی امن برای یک نهاد ارزیاب می‌تواند این شکاف اطلاعاتی را کاهش دهد و هم‌زمان از داده‌های مشتریان و اطلاعات حساس امنیتی محافظت کند.

اعتبار این سازوکار به عملکرد مستمر طرفین بستگی خواهد داشت. METR باید به اطلاعات کافی برای به چالش کشیدن توضیحات شرکت دسترسی داشته باشد، فرصت لازم برای انجام تحقیقات را پیدا کند و از آزادی کافی برای انتشار یافته‌های نامطلوب برای شرکت و محدودیت‌های مهم بررسی‌های خود برخوردار باشد. آنتروپیک نیز باید موارد حذف اطلاعات را به‌صورت دقیق و محدود مستند کند و از این همکاری به‌عنوان جایگزینی برای گزارش‌دهی الزامی طبق قانون، دسترسی نهادهای ناظر یا بررسی‌های امنیتی مستقل استفاده نکند.

برای شرکت‌هایی که قصد مقایسه برنامه‌های ارزیابی مستقل را دارند، معیارهای عملی روشن است: باید مشخص کنند چه افراد یا سازمان‌هایی به اطلاعات دسترسی دارند، سطح دسترسی آن‌ها را به‌صورت عمومی اعلام کنند، موارد استثنا و محدودیت‌ها را تعریف کنند، اختیار انتشار گزارش را در دست ارزیاب نگه دارند، حذف اطلاعات حساس را شفاف‌سازی کنند و شواهد کافی منتشر کنند تا افراد بیرون از شرکت نیز بتوانند اعتبار نتیجه‌گیری‌ها را بسنجند. شرایط جدید آنتروپیک را می‌توان بر اساس همین معیارها ارزیابی کرد. بااین‌حال، این یافته‌های حاصل از اجرای توافق خواهند بود که نشان می‌دهند ساختار طراحی‌شده در عمل تا چه اندازه کارآمد است. انتشار اطلاعیه‌های مرتبط و تحلیل‌های بیشتر را می‌توان در صفحه اختصاصی آنتروپیک در OpenTools دنبال کرد.

تصویر: تصویر اصلی منتشرشده از سوی آنتروپیک برای اطلاعیه ۱۵ اکتبر این شرکت درباره ارزیابان مستقل. OpenTools نسخه JPEG منتشرشده توسط منبع اصلی را بدون هیچ‌گونه تغییر با استفاده از هوش مصنوعی مولد یا افزایش مصنوعی وضوح بازنشر کرده است.