اکنون شش نفر از کارکنان METR در آنتروپیک مستقرند؛ این شرکت حق وتوی مطالب منتشرشده آن‌ها را ندارد
| شین اس. الیسون
شش نفر از کارکنان METR، مؤسسه‌ای غیرانتفاعی که مدل‌های پیشرفته هوش مصنوعی را ارزیابی می‌کند، اکنون به تجهیزات سازمانی، فضای اداری و ابزارها و سامانه‌های داخلی شرکت آنتروپیک دسترسی دارند. آنتروپیک نیز حق ندارد انتشار مطالب آن‌ها درباره این شرکت را وتو کند. آنتروپیک در به‌روزرسانی‌ای که ۱۵ اکتبر منتشر کرد، اعلام کرد سطح دسترسی این افراد «تقریباً با سطح دسترسی تیم‌های ارزیابی ریسک خودمان برابری می‌کند».
محدودیت این آزادی، الزام به حذف برخی اطلاعات است، نه لزوم تأیید محتوا پیش از انتشار. آنتروپیک می‌گوید: «این شرکت نمی‌تواند انتشار مطالب را وتو کند، اما می‌تواند از آن‌ها بخواهد اطلاعاتی را که در دسته‌های محدود و از پیش تعیین‌شده قرار می‌گیرند، حذف کنند.» این دسته‌ها شامل اطلاعات مربوط به مشتریان، اطلاعات محرمانه مشمول امتیاز محرمانگی رابطه وکیل و موکل، و اطلاعات مربوط به معماری مدل‌های آنتروپیک است. METR آزاد است علناً اعلام کند که بخشی از اطلاعات را حذف کرده و آیا این حذف را موجه می‌داند یا نه؛ مشروط بر آنکه محتوای حذف‌شده را فاش نکند.
آنتروپیک از الگوی بازرسان بانکی استفاده می‌کند
آنتروپیک برای توضیح این شیوه همکاری به نظارت بر بانک‌ها اشاره می‌کند. این شرکت می‌گوید: «بانک‌ها درباره وضعیت ریسک خود اطلاعات بیشتری از افراد بیرونی دارند؛ به همین دلیل، نهادهای ناظر، بازرسان مستقر را برای فعالیت در بزرگ‌ترین بانک‌ها منصوب می‌کنند.» البته آنتروپیک می‌پذیرد که این قیاس «کاملاً دقیق نیست».
قرار است در محیط کاری شرکت، با این شش نفر مانند همکاران عادی رفتار شود. آنتروپیک می‌گوید کارکنانش تشویق می‌شوند اطلاعات را با آن‌ها به همان شکلی به اشتراک بگذارند که با یکی از همکاران خود در حوزه ریسک هم‌راستاسازی هوش مصنوعی در میان می‌گذارند؛ البته اطلاعات خارج از دسته‌های مستثناشده. اعضای این تیم نیز بر اساس «توافق‌نامه‌های لازم‌الاجرا» فعالیت می‌کنند و از سایر بخش‌های METR جدا نگه داشته می‌شوند؛ حتی از پژوهشگران این مؤسسه که در پروژه‌های دیگری با آنتروپیک همکاری دارند.
این جداسازی عمدی است. آنتروپیک تأکید می‌کند که ارزیابی به شیوه استقرار ارزیابان در شرکت، «راهی برای دسترسی سازمان‌های دیگر به اطلاعات ما یا مشتریان و شرکایمان نیست».
سه سطح دسترسی تعیین می‌کند چه کسی بدون اجازه قبلی گزارش منتشر کند
آنتروپیک چارچوبی سه‌سطحی برای دسترسی ارزیابان تشریح کرده که هنوز در حال توسعه است. در سطح نخست، ارزیاب بررسی‌های محدود و مشخصی درباره ریسک انجام می‌دهد. آنتروپیک تعیین می‌کند که او به چه اطلاعاتی دسترسی داشته باشد و پیش از انتشار، یافته‌هایش را تأیید می‌کند. در سطح دوم، ارزیاب به اطلاعات بیشتری دسترسی دارد و می‌تواند بدون تأیید قبلی گزارش منتشر کند؛ البته مشروط به رعایت محدودیت‌های مربوط به حذف دسته‌های مشخصی از اطلاعات. ارزیاب همچنین می‌تواند علناً درباره ضرورت یا موجه بودن این حذف‌ها بحث کند.
METR در سطح سوم قرار دارد؛ سطحی که دسترسی مشابه کارکنان شرکت را با حق انتشار مستقل گزارش‌ها در سطح دوم ترکیب می‌کند. آنتروپیک می‌گوید امیدوار است در آینده چندین مؤسسه ارزیابی به این سطح برسند. این شرکت برای هر مؤسسه چهار ویژگی در نظر گرفته است: تخصص کافی، از جمله شناخت پدیده تظاهر به هم‌راستایی؛ استقلال، بدون داشتن سهام یا وابستگی مالی و عملیاتی؛ دسترسی کافی برای بررسی چگونگی آموزش مدل‌ها و عملکرد سازوکارهای حفاظتی؛ و آزادی انتشار یافته‌ها.
METR پیش از این نیز گزارش‌های ریسک آنتروپیک را بررسی می‌کرد
آنتروپیک می‌گوید طی یک سال گذشته در چندین بررسی گزارش‌های ریسک خود با METR همکاری کرده است؛ بنابراین، اصل همکاری تازه نیست، بلکه شرایط آن تغییر کرده است. آنتروپیک در اعلام همکاری پولی خود با شرکت اکسنتور برای ارزیابی مستقر در شرکت در ۱۸ سپتامبر، تنها گفته بود که با METR درباره اجرای آزمایشی بخش‌هایی از این روش، با تأمین مالی خود ارزیابان، گفت‌وگو می‌کند. این شرکت همچنین وعده داده بود طی هفته‌های بعد نام ارزیابان دیگری را اعلام کند.
وضعیت سایر سازمان‌های موردنظر نیز مشخص‌تر شده است. مؤسسه SecureBio در حال بررسی فصل مربوط به سلاح‌های شیمیایی و زیستی در گزارش ریسک ماه اوت آنتروپیک است. این مؤسسه پیش‌تر بررسی آزمایشی گزارش قبلی را تکمیل و نتایج آن را منتشر کرده بود. این حوزه همان بخشی از ریسک‌هاست که آنتروپیک در ماه سپتامبر محدودیت‌های زیستی کلود را برای گروه‌های تأییدشده کاهش داد. اکسنتور و شرکت Faculty هنوز در حال فراهم کردن مقدمات همکاری گسترده‌تر هستند و همکاری آن‌ها آغاز نشده است. آنتروپیک همچنین اعلام کرده که گفت‌وگوهای اولیه‌ای با سازمان Hugging Face دارد.
آنتروپیک درباره این همکاری فقط می‌گوید که آغاز شده است؛ این شرکت تاریخ دقیق شروع، مدت همکاری و مبلغ پرداختی را اعلام نکرده است. METR نیز تاکنون هیچ گزارشی از این همکاری منتشر نکرده، بنابراین هنوز یافته‌ای وجود ندارد که بتوان آن را ارزیابی کرد. در عوض، آنتروپیک دیگر شرکت‌های این صنعت را به چالش می‌کشد و می‌گوید: «ما به‌صورت داوطلبانه ارزیابان را در شرکت‌های خود مستقر می‌کنیم و معتقدیم همه شرکت‌های فعال در حوزه هوش مصنوعی پیشرفته باید همین کار را انجام دهند.»
نخستین آزمون واقعی بندی که حق وتوی انتشار را از آنتروپیک سلب می‌کند، زمانی خواهد بود که METR گزارشی منتشر کند که آنتروپیک ترجیح می‌دهد آن را نخواند.