آنتروپیک به پژوهشگران METR دسترسی در سطح کارکنان خود می‌دهد تا عملکرد داخلی این شرکت را بررسی کنند
شرکت آنتروپیک به شش پژوهشگر مؤسسه غیرانتفاعی METR که در زمینه ارزیابی مدل‌های پیشرفته هوش مصنوعی فعالیت می‌کند، دسترسی در سطح کارکنان خود داده است. هدف از این اقدام، فراهم کردن امکان بررسی مستقل مدل‌های هوش مصنوعی آنتروپیک، اقدامات ایمنی و شیوه مدیریت ریسک این شرکت است. آنتروپیک روز پنجشنبه در مطلبی در وبلاگ رسمی خود این خبر را اعلام کرد.
این توافق در شرایطی صورت می‌گیرد که از اواخر ماه اوت، تقریباً هر یک یا دو هفته یک‌بار، گزارش‌هایی از موارد رفتار خارج از دستور عوامل هوش مصنوعی منتشر شده است. افشای این رویدادها، درخواست‌ها برای نظارت و ارزیابی مستقل عملکرد شرکت‌های هوش مصنوعی را جدی‌تر کرده است.
آنتروپیک در مطلب وبلاگی خود اعلام کرد: «می‌خواهیم در برابر تصمیم‌هایی که می‌گیریم، پاسخ‌گوی افکار عمومی باشیم. هدف ما این است که فاصله میان شناخت ارزیابان مستقل از سامانه‌های یک شرکت پیشرو در حوزه هوش مصنوعی و شناخت خود آن شرکت از سامانه‌هایش را کاهش دهیم.»
بر اساس توافق جدید، آنتروپیک لپ‌تاپ‌های شرکتی و فضای اداری در اختیار تیم METR قرار داده و دسترسی این پژوهشگران به ابزارهای داخلی شرکت را نیز تقریباً هم‌سطح دسترسی تیم‌های ارزیابی ریسک خود فراهم کرده است. آنتروپیک در این‌باره توضیح داد: «کارکنان آنتروپیک تشویق می‌شوند اطلاعات را همان‌طور که با یکی از همکاران خود در زمینه خطرات مربوط به هم‌راستاسازی هوش مصنوعی به اشتراک می‌گذارند، در اختیار این پژوهشگران نیز قرار دهند.»
آنتروپیک این سازوکار را با شیوه نظارت در صنعت بانکداری مقایسه کرده است؛ جایی که نهادهای ناظر، بازرسان مستقر را در بزرگ‌ترین بانک‌ها مستقر می‌کنند تا از نزدیک بر فعالیت آن‌ها نظارت داشته باشند.
مؤسسه METR ارزیابی‌های خود از خطرات، رویدادها و رویه‌های آنتروپیک را به‌صورت مستقل منتشر خواهد کرد و آنتروپیک نیز از حق جلوگیری از انتشار این گزارش‌ها صرف‌نظر کرده است.
آنتروپیک در توضیح حدود اختیارات خود اعلام کرد: «آنتروپیک نمی‌تواند مانع انتشار گزارش‌ها شود، اما اگر اطلاعاتی در دسته‌بندی‌های محدود و از پیش تعیین‌شده قرار بگیرد، می‌توانیم از پژوهشگران بخواهیم آن بخش‌ها را حذف یا محرمانه کنند.» این موارد شامل اطلاعات مشتریان، اطلاعات مشمول محرمانگی ارتباط میان وکیل و موکل و اطلاعات مربوط به معماری مدل‌های هوش مصنوعی شرکت است. آنتروپیک افزود: «METR آزاد است درباره بخش‌های حذف‌شده از گزارش‌ها به‌صورت عمومی توضیح دهد و اعلام کند که آیا این حذف‌ها را موجه می‌داند یا خیر؛ مشروط بر اینکه اطلاعات حذف‌شده را افشا نکند.»
در حال حاضر، METR تنها نهاد ارزیابی است که در بالاترین سطح از نظام سه‌سطحی نظارتی آنتروپیک قرار دارد؛ نظامی که این شرکت در حال ایجاد آن است. ارزیابان سطح نخست، مانند مؤسسه غیرانتفاعی SecureBio که در حوزه امنیت زیستی فعالیت می‌کند، بررسی‌هایی محدود و مشخص انجام می‌دهند و برای انتشار نتایج به تأیید آنتروپیک نیاز دارند. ارزیابان سطح میانی به اطلاعات بیشتری دسترسی دارند و می‌توانند گزارش‌های خود را بدون کسب تأیید شرکت منتشر کنند. در بالاترین سطح نیز علاوه بر این اختیارات، دسترسی در سطح کارکنان آنتروپیک فراهم می‌شود؛ امتیازی که اکنون به METR داده شده است.
اعلام این تصمیم در روز پنجشنبه، تحقق وعده‌ای است که داریو آمودی، مدیرعامل آنتروپیک، پیش‌تر در مقاله‌ای در ماه سپتامبر مطرح کرده بود. آمودی در آن مقاله پیشنهاد داده بود که استقرار ارزیابان مستقل در داخل آزمایشگاه‌های هوش مصنوعی می‌تواند نخستین گام برای کندتر کردن روند توسعه این فناوری باشد. اوپن‌ای‌آی نیز مدت کوتاهی بعد متعهد شد اقدام مشابهی انجام دهد. از آن زمان تاکنون، هر دو شرکت به همراه گوگل، متا، انویدیا و xAI توافق‌نامه‌ای در کاخ سفید امضا کرده‌اند که بر اساس آن متعهد به انجام ارزیابی‌های مستقل شده‌اند.