آنتروپیک برای ارزیابی سیستم‌های هوش مصنوعی خود، دسترسی در سطح کارکنان به پژوهشگران METR داد
بر اساس توافق جدید، یک نهاد ارزیاب مستقل به اطلاعات و ابزارهایی دسترسی پیدا می‌کند که در اختیار تیم‌های داخلی ارزیابی ریسک آنتروپیک قرار دارد. در مقابل، اختیار این شرکت برای حذف بخش‌هایی از گزارش‌ها محدود خواهد بود و نمی‌تواند مانع انتشار آن‌ها شود.
شرکت آنتروپیک روز پنجشنبه اعلام کرد که شش پژوهشگر از مؤسسه غیرانتفاعی METR، که در زمینه آزمایش و ارزیابی مدل‌های پیشرفته هوش مصنوعی فعالیت می‌کند، به‌طور مستقل مدل‌ها، اقدامات ایمنی و شیوه‌های مدیریت ریسک این شرکت را بررسی خواهند کرد. این تصمیم در شرایطی اعلام شده که از اواخر اوت، تقریباً هر یک تا دو هفته یک‌بار گزارش‌هایی درباره عامل‌های هوش مصنوعی منتشر شده است که برخلاف دستورالعمل‌های تعیین‌شده برای آن‌ها عمل کرده‌اند. چنین اتفاقاتی درخواست‌ها برای نظارت و ارزیابی مستقل شرکت‌های هوش مصنوعی را افزایش داده است.
به گزارش تک‌کرانچ، آنتروپیک هدف از این همکاری را افزایش پاسخ‌گویی عمومی درباره تصمیمات خود عنوان کرده است.
«ما می‌خواهیم در برابر تصمیم‌هایی که می‌گیریم، به‌صورت علنی پاسخ‌گو باشیم.»
— آنتروپیک
«هدف ما این است که فاصله میان شناخت ارزیابان از سیستم‌های یک شرکت پیشرو در حوزه هوش مصنوعی و شناخت خود آن شرکت از سیستم‌هایش را کاهش دهیم.»
— آنتروپیک
اعضای تیم METR لپ‌تاپ‌های سازمانی ارائه‌شده از سوی آنتروپیک و فضای کاری در اختیار دارند و می‌توانند از ابزارهای داخلی این شرکت استفاده کنند. سطح دسترسی آن‌ها تقریباً مشابه دسترسی تیم‌های ارزیابی ریسک خود آنتروپیک است. به گفته این شرکت، کارکنان تشویق شده‌اند اطلاعات موردنیاز پژوهشگران را همان‌طور در اختیارشان بگذارند که با یکی از همکاران خود در زمینه خطرات مرتبط با هم‌راستاسازی هوش مصنوعی به اشتراک می‌گذارند.
«کارکنان آنتروپیک تشویق شده‌اند اطلاعات را همان‌گونه با این پژوهشگران به اشتراک بگذارند که با یکی دیگر از کارکنان شرکت در حوزه خطرات هم‌راستاسازی هوش مصنوعی همکاری می‌کنند.»
— آنتروپیک
آنتروپیک این شیوه همکاری را با سازوکاری مقایسه کرده است که در آن نهادهای نظارتی، بازرسان مستقر خود را در بزرگ‌ترین بانک‌ها مستقر می‌کنند. بر اساس این توافق، METR ارزیابی‌های خود را درباره خطرات، رویدادها و رویه‌های آنتروپیک منتشر خواهد کرد و آنتروپیک از حق جلوگیری از انتشار این گزارش‌ها صرف‌نظر کرده است. بااین‌حال، شرکت می‌تواند درخواست حذف اطلاعاتی را مطرح کند که در دسته‌بندی‌های محدود و از پیش تعیین‌شده قرار می‌گیرند؛ از جمله داده‌های مشتریان، اطلاعات مشمول محرمانگی ارتباطات وکیل و موکل و اطلاعات مربوط به معماری مدل‌های هوش مصنوعی این شرکت.
«آنتروپیک نمی‌تواند مانع انتشار گزارش‌ها شود، اما اگر اطلاعاتی در دسته‌بندی‌های محدود و از پیش تعریف‌شده قرار بگیرند، می‌توانیم از پژوهشگران بخواهیم آن اطلاعات را از گزارش حذف کنند.»
— آنتروپیک
«METR آزاد است درباره بخش‌هایی که به درخواست ما از گزارش حذف شده‌اند، به‌صورت عمومی توضیح دهد و اعلام کند که آیا به نظر این مؤسسه، حذف آن اطلاعات موجه بوده است یا خیر؛ مشروط بر اینکه محتوای اطلاعات حذف‌شده را فاش نکند.»
— آنتروپیک
METR تاکنون تنها نهاد ارزیابی است که در بالاترین سطح از نظام سه‌سطحی موردنظر آنتروپیک قرار گرفته است. این شرکت در حال طراحی سازوکاری است که سطح دسترسی و اختیارات نهادهای ارزیاب را بر اساس سه رده مشخص می‌کند. ارزیابان سطح نخست، مانند مؤسسه غیرانتفاعی SecureBio که در حوزه امنیت زیستی فعالیت دارد، بررسی‌های محدود و مشخصی انجام می‌دهند و برای انتشار نتایج خود به تأیید آنتروپیک نیاز دارند. ارزیابان سطح دوم به اطلاعات بیشتری دسترسی پیدا می‌کنند و می‌توانند نتایج بررسی‌های خود را بدون دریافت مجوز منتشر کنند. در بالاترین سطح نیز علاوه بر این اختیارات، دسترسی مشابه کارکنان داخلی شرکت فراهم می‌شود؛ امتیازی که اکنون در اختیار METR قرار گرفته است.
اعلام این تصمیم در روز پنجشنبه، تحقق وعده‌ای است که داریو آمودی، مدیرعامل آنتروپیک، در مقاله‌ای در ماه سپتامبر مطرح کرده بود. او پیشنهاد داده بود که ارزیابان مستقل و خارج از شرکت‌ها در آزمایشگاه‌های هوش مصنوعی مستقر شوند و این اقدام را نخستین گام برای کند کردن روند توسعه این فناوری دانسته بود. شرکت OpenAI نیز اندکی پس از آن متعهد شد اقدام مشابهی انجام دهد. از آن زمان، آنتروپیک و OpenAI به همراه گوگل، متا، انویدیا و xAI توافق‌نامه‌ای را در کاخ سفید امضا کرده‌اند که بر اساس آن متعهد به پذیرش ارزیابی مستقل شده‌اند.