آنتروپیک در اقدامی بی‌سابقه در صنعت هوش مصنوعی، دسترسی مشابه کارکنان شرکت را در اختیار ارزیابان مستقل قرار می‌دهد
با ادامه خودتنظیمی شرکت‌های توسعه‌دهنده هوش مصنوعی، ارزیابان مستقل نقشی مهم در شناسایی خطرات این فناوری ایفا می‌کنند.
شرکت آنتروپیک روز پنجشنبه اعلام کرد شش ارزیاب از مؤسسه غیرانتفاعی METR را با سطح دسترسی مشابه کارکنان خود همراه خواهد کرد. METR یک نهاد مستقل است که مدل‌های پیشرفته هوش مصنوعی را ارزیابی می‌کند.
آنتروپیک اعلام کرده است که برای این ارزیابان تجهیزات رایانه‌ای و فضای اداری فراهم کرده و دسترسی آن‌ها به «ابزارها و سامانه‌های داخلی» را در سطحی قرار داده است که تقریباً با امکانات تیم‌های ارزیابی ریسک خود شرکت برابری می‌کند. این شرکت در توضیح این تصمیم گفت: «به‌جز تعداد محدودی از دسته‌های اطلاعاتی که به‌روشنی مشخص شده‌اند، مانند داده‌های مشتریان، اطلاعات مشمول محرمانگی رابطه وکیل و موکل یا اطلاعات مربوط به معماری مدل‌های ما، کارکنان آنتروپیک تشویق می‌شوند اطلاعات را همان‌طور با این ارزیابان به اشتراک بگذارند که با یکی از همکاران خود در حوزه خطرات هم‌راستاسازی هوش مصنوعی به اشتراک می‌گذارند.»
METR یافته‌های خود را منتشر خواهد کرد و آنتروپیک اجازه ندارد مانع انتشار آن‌ها شود. با این حال، این شرکت در صورت لزوم از METR خواهد خواست اطلاعات حساس را از گزارش‌ها حذف کند.
داریو آمودی، مدیرعامل آنتروپیک، در یادداشتی که در ماه سپتامبر منتشر کرد، پیشنهاد داده بود ارزیابانی از مؤسسات غیرانتفاعی مانند METR در شرکت‌های توسعه‌دهنده هوش مصنوعی مستقر شوند. او این پیشنهاد را یکی از سه راهکار خود برای «تنظیم سرعت پیشرفت در مرزهای فناوری» مطرح کرده بود.
آنتروپیک در اطلاعیه خود گفت می‌خواهد در برابر عملکردش پاسخ‌گو باشد، اما نمی‌تواند همه اطلاعات مرتبط با فعالیت‌های ایمنی خود را به‌صورت عمومی منتشر کند؛ زیرا بخشی از این اطلاعات ممکن است برای عوامل مخرب سودمند باشد یا به اطلاعات تجاری حساس، از جمله داده‌های مربوط به توان محاسباتی و فرایند آموزش مدل‌ها، مربوط شود. به همین دلیل، این شرکت دسترسی گسترده‌ای به مدل‌ها و اطلاعات داخلی خود در اختیار METR قرار می‌دهد تا این مؤسسه بتواند نتیجه ارزیابی‌هایش درباره خطرات مدل‌ها را منتشر کند.
آنتروپیک در ادامه افزود: «هدف ما این است که فاصله میان میزان شناخت ارزیابان از سامانه‌های یک شرکت پیشرو در حوزه هوش مصنوعی و میزان شناخت خود آن شرکت از این سامانه‌ها را کاهش دهیم.»
این شرکت همچنین تأکید کرد پژوهشگرانی مانند اعضای METR برای فرایند ارزیابی ارزشمندند، زیرا در شرکتی که بررسی می‌کنند سهام ندارند و از نظر مالی یا عملیاتی نیز به آن وابسته نیستند.
الزام به ارزیابی مستقل
از آنجا که مقررات‌گذاری هوش مصنوعی در ایالات متحده همچنان از نظر بسیاری از پژوهشگران ایمنی و مدافعان امنیت کافی نیست، ارزیابان پیشنهاد کرده‌اند بررسی مدل‌ها از سوی نهادهای مستقل اجباری شود؛ چه پیش از عرضه مدل‌ها و چه در قالب بخشی از فرایند توسعه آن‌ها.
طرح قانونی دوجانبه FRONTIER Act که در ماه ژوئیه ارائه شد، شرکت‌های مشخصی در حوزه هوش مصنوعی را ملزم می‌کند به سازمان‌های راستی‌آزمایی مستقل، موسوم به IVO، اجازه دهند ایمنی فرایند توسعه خود را بررسی کنند. شرکت OpenAI در اواسط سپتامبر دست‌کم حمایت بخشی از خود را از این طرح اعلام کرد. این نخستین بار بود که این شرکت از یک پیشنهاد مقررات‌گذاری فدرال برای هوش مصنوعی حمایت می‌کرد؛ هرچند پیش‌تر نیز گاهی از وضع مقررات یکپارچه در سطح فدرال به‌جای مجموعه‌ای پراکنده از قوانین ایالتی هوش مصنوعی پشتیبانی کرده بود.
تا اینجا، مقررات‌گذاری فدرال در دولت ترامپ عمدتاً به توافق‌های داوطلبانه محدود مانده است. شرکت‌های بزرگ هوش مصنوعی چندین تعهدنامه با دولت آمریکا امضا کرده‌اند که بر اساس آن‌ها باید نگرانی‌های مربوط به مدل‌های خود را پیشاپیش با دولت در میان بگذارند و با حسابرسان و ارزیابان بیرونی همکاری کنند. با این حال، این تعهدنامه‌ها الزام‌آور نیستند و در عمل، مسئولیت تنظیم و نظارت بر عملکرد این صنعت را به خود شرکت‌ها واگذار می‌کنند.
افشاگری: شرکت Ziff Davis، مالک ZDNET، در آوریل ۲۰۲۵ علیه OpenAI شکایتی مطرح کرد و مدعی شد این شرکت در فرایند آموزش و بهره‌برداری از سامانه‌های هوش مصنوعی خود، حق نشر آثار متعلق به Ziff Davis را نقض کرده است.
با این حال، روز گذشته کمیسیون تجارت فدرال آمریکا (FTC) در پی نگرانی‌ها درباره آسیب احتمالی به مصرف‌کنندگان، برای دریافت اطلاعات از OpenAI و آنتروپیک احضاریه صادر کرد. این اقدام پس از آن صورت گرفت که دولت هفته گذشته به‌سرعت موضع خود را تغییر داد و اعلام کرد شرکت‌های هوش مصنوعی را ملزم خواهد کرد حوادث ایمنی و رخنه‌های امنیتی را گزارش دهند. این تصمیم پس از افشای ماجرایی از سوی آنتروپیک گرفته شد که در آن مدل Claude گزارشی نادرست درباره وقوع قتل به پلیس داده و فرم‌های دولتی را تکمیل کرده بود.
نیروی موسوم به «Super Intelligence Force» در بیانیه‌ای اختصاصی به وب‌سایت Axios اعلام کرد شرکت‌های هوش مصنوعی اکنون «باید فوراً حوادث مرتبط با مدل‌های خود را افشا کنند و سپس برای جبران هرگونه آسیب، اقداماتی سریع و قاطع انجام دهند». نام این نهاد از دستورالعملی اخیر کاخ سفید گرفته شده است که خواستار جایگزینی اصطلاح «هوش مصنوعی» با عبارت «ابرهوش» در کاربردهای آینده شده است.
هنوز مشخص نیست چه عاملی در این حادثه باعث شد دولت چنین الزامی را مطرح کند؛ به‌ویژه آنکه پیش از آن، در طول تابستان، چندین مورد نفوذ و رخنه امنیتی خبرساز در جریان آزمایش مدل‌های شرکت‌های پیشرو هوش مصنوعی گزارش شده بود که از نظر میزان خسارت، جدی‌تر به نظر می‌رسیدند.
بدون اطلاع از تلاش‌های لابی‌گری که پیش از اعلام تصمیم آنتروپیک و تغییر موضع دولت انجام شده‌اند، نمی‌توان با اطمینان گفت این شرکت صرفاً در حال اجرای برنامه‌ای است که از قبل در نظر داشته یا می‌کوشد پیش از تصویب احتمالی قانون FRONTIER Act خود را با الزامات آینده هماهنگ کند.