آنتروپیک دسترسی یک نهاد غیرانتفاعی به سامانه‌های هوش مصنوعی خود را برای ارزیابی فراهم کرد
آنتروپیک دسترسی شش نفر از کارکنان مؤسسه غیرانتفاعی METR را که مدل‌های پیشرفته هوش مصنوعی را ارزیابی می‌کند، به ابزارها و سامانه‌های داخلی خود گسترش داده است. این ابزارها مشابه امکاناتی هستند که تیم‌های ارزیابی ریسک آنتروپیک از آن‌ها استفاده می‌کنند. آنتروپیک در اعلام این خبر گفت که این پژوهشگران به سخت‌افزار شرکت نیز دسترسی پیدا کرده‌اند و فضایی در دفاتر آن در اختیارشان قرار گرفته است.
این توافق، ارزیابان بیرونی را بیش از گذشته به فعالیت‌های داخلی آنتروپیک در زمینه ایمنی نزدیک می‌کند. کارکنان شرکت تشویق شده‌اند اطلاعات خود را با اعضای تیم METR به اشتراک بگذارند؛ درست همان‌طور که با همکارانی که خطرات مرتبط با هم‌راستایی هوش مصنوعی را بررسی می‌کنند، همکاری دارند.
METR می‌تواند ارزیابی‌های خود درباره سطح خطر، حوادث و رویه‌های آنتروپیک را بدون دریافت تأیید شرکت منتشر کند. بااین‌حال، آنتروپیک همچنان می‌تواند حذف بخش‌هایی از اطلاعات مربوط به داده‌های مشتریان، مطالب مشمول محرمانگی رابطه وکیل و موکل و معماری مدل‌ها را الزامی کند. در نهایت، این شرکت تصمیم می‌گیرد کدام اطلاعات در این دسته‌های حفاظت‌شده قرار می‌گیرند.
محدودیت‌های حق انتشار
METR حق دارد برخی اظهارنظرهای عمومی درباره اطلاعات و دسترسی‌ای که دریافت کرده است، منتشر کند. بااین‌حال، شش کارمند مستقر در آنتروپیک تابع توافق‌نامه‌های الزام‌آور هستند و سایر کارکنان METR به فعالیت‌های این تیم مستقر در شرکت دسترسی ندارند.
آنتروپیک برای ارزیابان بیرونی سه سطح دسترسی تعریف کرده است. در سطح نخست، شرکت تعیین می‌کند چه اطلاعاتی در اختیار ارزیابان قرار گیرد و انتشار نتایج نیز به تأیید آن نیاز دارد. در سطح دوم، ارزیابان به اطلاعات گسترده‌تری دسترسی دارند و می‌توانند یافته‌های خود را بدون تأیید قبلی منتشر کنند، هرچند برخی اطلاعات باید حذف شوند. METR در سطح سوم قرار دارد؛ سطحی که دسترسی کارکنان این مؤسسه را به دسترسی کارکنان شرکت نزدیک می‌کند و در عین حال، حقوق انتشار آن‌ها مشابه سطح دوم است.
آنتروپیک حدود یک سال است که با METR در بررسی گزارش‌های ریسک خود همکاری می‌کند. این شرکت همچنین با SecureBio درباره خطرات تسلیحات شیمیایی و زیستی همکاری دارد و در حال توسعه مشارکتی گسترده‌تر در زمینه ارزیابی با Faculty، کسب‌وکار تخصصی هوش مصنوعی شرکت اکسنتور است. سطح دسترسی در هیچ‌یک از این همکاری‌ها به اندازه دسترسی‌ای نیست که METR دریافت کرده است.
گسترش دسترسی METR پس از آن صورت می‌گیرد که آنتروپیک در سپتامبر به تقویت ارزیابی‌های مستقل متعهد شد. بر اساس توافق‌نامه کاخ سفید درباره ابرهوش که شرکت‌ها به‌صورت داوطلبانه به آن پیوسته‌اند، امضاکنندگان متعهد شده‌اند با ارزیابان مستقل بیرونی همکاری کنند تا مشخص شود تدابیر حفاظتی داخلی آن‌ها در حوزه هوش مصنوعی مطابق هدف عمل می‌کند یا خیر.
ارزیابی مستقل چه چیزی را می‌تواند مشخص کند؟
METR پیش‌تر نیز درباره محدودیت‌های ارزیابی داوطلبانه ریسک هشدار داده بود. این مؤسسه در پیشنهادی درباره سازوکارهای احتمالی همکاری با توسعه‌دهندگان هوش مصنوعی اعلام کرد که شرکت‌ها ممکن است درخواست دسترسی به اطلاعات داخلی را رد کنند و در نتیجه، دسترسی ارزیابان بیرونی به اطلاعات از دسترسی کارکنان ارشد بخش ایمنی کمتر باشد. METR همچنین تأکید کرد که این فعالیت‌های پیشنهادی، حسابرسی یا ارزیابی انطباق با الزامات محسوب نمی‌شوند.
این مؤسسه در بیانیه جداگانه خود درباره استقلال اعلام کرد که از توسعه‌دهندگان مدل‌های پیشرفته هوش مصنوعی پول یا کمک مالی دریافت نمی‌کند. بااین‌حال، METR اذعان دارد که حتی بدون رابطه مالی مستقیم، فعالیت‌هایش به تمایل داوطلبانه شرکت‌ها برای فراهم کردن دسترسی و اجازه انتشار اطلاعات وابسته است. این مؤسسه قصد دارد محدودیت‌هایی را که ممکن است بر نحوه تفسیر یافته‌هایش از سوی خوانندگان تأثیر بگذارند، افشا کند.