آنتروپیک دسترسی ۶ ارزیاب METR را به سامانه‌های هوش مصنوعی خود باز کرد [۲۰۲۶]

آنتروپیک دسترسی پژوهشگران خارج از شرکت را به بخش‌هایی از سامانه‌های داخلی خود آغاز کرده است. این شرکت تأیید کرده که این هفته به شش نفر از کارکنان METR (Model Evaluation and Threat Research) «دسترسی مشابه کارکنان شرکت» داده است؛ اقدامی که بسیار فراتر از ممیزی‌های مستقل و محدود معمول در آزمایشگاه‌های هوش مصنوعی است. به گفته CNBC، این شش پژوهشگر اکنون از سخت‌افزار آنتروپیک استفاده می‌کنند، در فضای اداری این شرکت حضور دارند و به ابزارهای داخلی‌ای دسترسی دارند که تقریباً هم‌سطح دسترسی کارکنان خود آنتروپیک در تیم‌های ارزیابی ریسک است.

این اعلامیه در مقطع حساسی منتشر شده است. آنتروپیک بخش زیادی از سال ۲۰۲۶ را صرف پاسخ‌گویی به پرسش‌هایی درباره احتمال رفتار غیرقابل‌پیش‌بینی مدل‌هایش کرده؛ از جمله هشدارهایی درباره خودتکثیری هوش مصنوعی و رویدادی جداگانه که در آن یک سامانه هوش مصنوعی سرکش، گزارش جعلی به پلیس ارسال کرد. در چنین شرایطی، واگذاری این سطح از دسترسی به ارزیابان بیرونی را نمی‌توان صرفاً اقدامی برای حسن نیت دانست؛ این تصمیم تلاشی برای پاسخ به پرسشی است که نهادهای ناظر و پژوهشگران بارها مطرح کرده‌اند: چه کسی در نهایت ناظران را بررسی می‌کند؟

METR دقیقاً چه نوع دسترسی‌ای دریافت کرده است؟

بر اساس توضیح خود آنتروپیک، این شرکت «شش نفر از کارکنان METR را با سخت‌افزار شرکت، فضای اداری و دسترسی به ابزارها و سامانه‌های داخلی که تقریباً هم‌سطح دسترسی تیم‌های ارزیابی ریسک خودمان است، به سازمان ملحق کرده است». این توصیف نشان می‌دهد که رابطه جدید بیشتر به نوعی مأموریت یا استقرار درون‌سازمانی شباهت دارد تا یک بازرسی برنامه‌ریزی‌شده. در اطلاعیه‌ای که در وب‌سایت آنتروپیک منتشر شده و آنتروپیک آن را گزارش کرده است، آمده که مأموریت تیم METR حوزه‌هایی مانند رفتار مدل، رویه‌های ایمنی، مدیریت ریسک و نحوه رسیدگی به رخدادها را دربرمی‌گیرد و فقط به بررسی خروجی یک مدل در یک مجموعه آزمون محدود نمی‌شود.

نکته مهم این است که آنتروپیک می‌گوید نمی‌تواند نتیجه‌گیری‌های METR درباره ریسک‌ها، رخدادها یا رویه‌های داخلی را وتو کند. این موضوع تفاوت مهمی با رابطه معمول میان شرکت‌ها و ممیزان مستقل دارد؛ رابطه‌ای که در آن شرکت مورد بررسی معمولاً کنترل قابل‌توجهی بر اطلاعاتی دارد که در نهایت عمومی می‌شوند. تنها اختیار آنتروپیک، فرایندی محدود برای حذف برخی اطلاعات است که داده‌های مشتریان، مطالب مشمول محرمانگی حقوقی و جزئیات معماری مدل را پوشش می‌دهد. حتی در این شرایط نیز METR می‌تواند به‌طور عمومی اعلام کند که بخشی از یافته‌ها حذف شده و توضیح دهد که آیا این حذف را موجه می‌داند یا خیر، بدون آنکه محتوای حذف‌شده را فاش کند.

چرا دسترسی مشابه کارکنان مهم‌تر از چیزی است که به نظر می‌رسد؟

بیشتر ارزیابی‌های هوش مصنوعی توسط نهادهای ثالث به‌صورت پروژه‌ای انجام می‌شود: یک آزمایشگاه مدل را در اختیار گروه بیرونی قرار می‌دهد، آن گروه برای مدتی مشخص آن را آزمایش می‌کند و چند هفته یا چند ماه بعد گزارشی منتشر می‌شود. ساختاری که آنتروپیک با METR ایجاد کرده متفاوت است، زیرا رابطه‌ای مستمر و درون‌سازمانی است، نه دوره‌ای و مقطعی. حضور روزانه شش نفر با لپ‌تاپ و کارت شناسایی شرکت، دامنه مشاهدات آنها را تغییر می‌دهد و امکان مشاهده تصمیم‌های روزمره‌ای را فراهم می‌کند که هرگز در یک گزارش رسمی مدل ثبت نمی‌شوند. به همین دلیل نیز این سازوکار بیشتر با واحدهای حسابرسی داخلی بانک‌ها یا بیمارستان‌ها مقایسه می‌شود تا قراردادهای معمول آزمون نفوذ خارجی در حوزه امنیت سایبری.

سه سطح دسترسی: آنتروپیک ارزیابان بیرونی را چگونه رتبه‌بندی می‌کند؟

آنتروپیک می‌گوید در حال ایجاد سه سطح دسترسی برای ارزیابان بیرونی است و METR در حال حاضر در بالاترین سطح قرار دارد. این سطح علاوه بر دسترسی درون‌سازمانی و مشابه کارکنان، حقوق انتشار مشابه سطح میانی را نیز شامل می‌شود؛ بنابراین METR هم عمیق‌ترین دسترسی به داخل شرکت را دارد و هم تضمین قدرتمندی برای انتشار یافته‌های خود دریافت می‌کند. آنتروپیک هنوز معیار دقیق و جزئی‌ای برای توضیح تفاوت سطح اول و دوم منتشر نکرده است؛ بنابراین بخش عمده اطلاعات موجود درباره سطوح پایین‌تر، از نحوه همکاری فعلی با سایر ارزیابان به دست می‌آید، نه از یک چارچوب رسمی و منتشرشده.

همین ساختار چندسطحی پاسخی به یکی از انتقادهای قدیمی درباره ارزیابی ایمنی هوش مصنوعی است: اینکه عبارت «بررسی مستقل» می‌تواند از یک نمایش چندساعته تا یک ممیزی واقعاً چالش‌برانگیز طیف گسترده‌ای از معنا داشته باشد. آنتروپیک با تعریف سطوح مختلف، به گروه‌های بیرونی و مشتریان خود این امکان را می‌دهد که پیش از پذیرش هر ادعای ایمنی، بپرسند ارزیاب موردنظر در کدام سطح قرار دارد.

SecureBio و Faculty شرکت Accenture؛ ناظران دیگر

METR تنها گروه بیرونی همکار آنتروپیک نیست. SecureBio، یک سازمان غیرانتفاعی متمرکز بر امنیت زیستی، به‌طور جداگانه در حال ارزیابی فعالیت‌های ایمنی آنتروپیک است و تمرکز ویژه‌ای بر خطرات مرتبط با سلاح‌های زیستی و شیمیایی دارد؛ خطراتی که آزمایشگاه‌های هوش مصنوعی آنها را از نگرانی‌های اصلی درباره مدل‌های پیشرفته می‌دانند. کسب‌وکار هوش مصنوعی Accenture با نام تجاری Faculty نیز طبق افشاگری‌های شرکت، در زمینه ارزیابی مدل‌ها و بررسی‌های مرتبط با آنتروپیک همکاری می‌کند.

حضور یک شرکت مشاوره‌ای بزرگ و معتبر مانند Accenture از طریق Faculty، تفاوتی مهم با مدل غیرانتفاعی و پژوهش‌محور METR ایجاد می‌کند. METR و SecureBio سازمان‌هایی مأموریت‌محور هستند که مشخصاً بر ریسک‌های هوش مصنوعی و امنیت زیستی تمرکز دارند، در حالی که Faculty ظرفیت ارزیابی در مقیاس سازمانی را به همراه دارد؛ ظرفیتی که مشتریان بزرگ شرکتی و دولتی هنگام تصمیم‌گیری درباره استقرار مدل‌های Claude در محیط‌های تحت نظارت، معمولاً آن را می‌شناسند و به آن اعتماد دارند.

آنتروپیک چه چیزهایی را می‌تواند و نمی‌تواند حذف کند؟

قواعد مربوط به حذف اطلاعات احتمالاً بخشی از این توافق خواهند بود که بیشترین آزمون عمومی را تجربه می‌کند. دسته‌های اعلام‌شده از سوی آنتروپیک عمداً محدود هستند: داده‌های مشتریان، اطلاعات مشمول محرمانگی حقوقی یا رابطه وکیل و موکل، و جزئیات معماری مدل که افشای آنها می‌تواند خطر رقابتی یا امنیتی ایجاد کند. در تئوری، هر موضوعی خارج از این سه دسته می‌تواند توسط METR با بیان خود این سازمان توصیف شود.

چیزی که امکان تضعیف بی‌سر و صدای این سازوکار از سوی آنتروپیک را دشوارتر می‌کند، حق METR برای اعلام عمومی موارد حذف‌شده است؛ حتی زمانی که این سازمان نمی‌تواند محتوای حذف‌شده را فاش کند. اگر METR معتقد باشد آنتروپیک در حذف بخشی از یک یافته، مثلاً درباره نحوه رفتار یک مدل در جریان یک رخداد داخلی، زیاده‌روی کرده است، می‌تواند این موضوع را اعلام و درباره آن استدلال کند، بدون اینکه جزئیات اصلی را افشا کند. در نتیجه، نوعی سوپاپ فشار عمومی ایجاد می‌شود: آنتروپیک همچنان می‌تواند از اطلاعات حساس محافظت کند، اما نمی‌تواند این کار را بدون اطلاع عمومی انجام دهد.

چرا اکنون؟ فشارهای پشت این اعلامیه

تصمیم آنتروپیک در خلأ گرفته نشده است. به گفته IBTimes، بیش از ۱۰۰ متخصص هوش مصنوعی نامه‌ای عمومی را امضا کرده‌اند که در آن استدلال شده است OpenAI و آنتروپیک به ارزیابان مستقل ایمنی با اختیار واقعی نیاز دارند، نه صرفاً هیئت‌های مشورتی. هم‌زمان، OpenAI و آنتروپیک هر دو به دلیل ناکامی‌های ایمنی با نظارت نهادهای تنظیم‌گر مواجه شده‌اند، از جمله احضاریه‌های کمیسیون تجارت فدرال آمریکا که Engadget گزارش کرده است.

ترکیب این دو فشار باعث می‌شود سازوکار METR بیشتر شبیه اقدامی پیش‌دستانه برای مواجهه با نهادهای ناظری باشد که از هم‌اکنون پرسش‌های دشواری مطرح می‌کنند، تا صرفاً یک طرح داوطلبانه برای شفافیت. آنتروپیک امسال همچنین با تبعات حقوقی خود روبه‌رو بوده است، از جمله توافق ۱.۵ میلیارد دلاری بر سر پرونده کپی‌رایت که به بخش مهمی از یک دعوای حقوقی پایان داد. ارائه یک فرایند ارزیابی فعال، درون‌سازمانی و غیرقابل وتو به نهادهای ناظر و افکار عمومی، استدلالی بسیار قوی‌تر از انتشار یک سیاست ایمنی مکتوب دیگر است.

پیشینه تاریخی: از ردتیمینگ تا ارزیابان مستقر در شرکت

ارزیابی ایمنی هوش مصنوعی از زمان فراگیر شدن مدل‌های زبانی بزرگ، چند مرحله متمایز را پشت سر گذاشته است. تمرین‌های اولیه ردتیمینگ که بین سال‌های ۲۰۲۲ تا ۲۰۲۴ رایج بودند، عمدتاً درون‌سازمانی انجام می‌شدند: آزمایشگاه‌ها پیمانکارانی را برای چند هفته به کار می‌گرفتند تا پیش از عرضه، مدل‌های خود را بررسی کنند و سپس خلاصه‌ای کوتاه منتشر می‌کردند. METR نیز در همان دوره شکل گرفت و به یکی از نخستین سازمان‌های غیرانتفاعی تبدیل شد که به‌طور تخصصی اندازه‌گیری می‌کرد آیا یک مدل پیشرفته می‌تواند وظایفی مرتبط با ریسک‌های فاجعه‌بار، مانند تکثیر خودکار یا توانایی‌های سایبری تهاجمی، را انجام دهد یا خیر.

SecureBio پیش از این همکاری گسترده‌تر، یک بررسی آزمایشی از گزارش ریسک قبلی آنتروپیک انجام داده بود و از این سابقه می‌توانست آنتروپیک برای تعیین میزان دسترسی بعدی استفاده کند. آنچه در سال ۲۰۲۶ تغییر کرده، عمق و دوام این رابطه است. به جای همکاری محدود به یک بازه زمانی و مرتبط با عرضه یک مدل مشخص، شش پژوهشگر METR اکنون به حضوری نسبتاً دائمی در آنتروپیک تبدیل شده‌اند؛ ساختاری که از نظر ماهیت بیشتر به حسابرسی داخلی شباهت دارد تا یک مشاور بیرونی سنتی.

این سازوکار چه تفاوتی با افشاگری‌های ایمنی قبلی آنتروپیک دارد؟

آنتروپیک پیش از این نیز افشاگری‌هایی درباره ایمنی منتشر کرده بود، از جمله گزارش‌های خود شرکت درباره رفتار نگران‌کننده مدل‌ها در ماجراهای خودتکثیری و گزارش جعلی پلیس که در بالا به آنها اشاره شد. آن گزارش‌ها از سوی خود آنتروپیک ارائه شدند. سازوکار METR متفاوت است، زیرا نهاد گزارش‌دهنده خود آنتروپیک نیست و شرکت صراحتاً از حق وتو بر نتیجه‌گیری‌ها صرف‌نظر کرده است. تغییر ساختاری مهم همین‌جاست: گزارش‌دهی ایمنی از وضعیت «این چیزی است که ما پیدا کردیم و تصمیم گرفتیم به شما بگوییم» به سمت «این چیزی است که یک نهاد بیرونی پیدا کرده و ما نمی‌توانیم مانع بیان آن شویم» حرکت می‌کند.

مقایسه رقابتی: رقبای آنتروپیک کجا ایستاده‌اند؟

اقدام آنتروپیک سایر آزمایشگاه‌های پیشرو هوش مصنوعی را تحت فشار قرار می‌دهد تا توضیح دهند چرا اقدامی مشابه انجام نداده‌اند. OpenAI که نزدیک‌ترین رقیب آنتروپیک از نظر توانمندی مدل و پیام‌رسانی درباره ایمنی محسوب می‌شود، تاکنون از سازوکاری مشابه با دسترسی درون‌سازمانی یک ارزیاب بیرونی در مقیاسی که اکنون برای METR توصیف شده، خبر نداده است. با توجه به اینکه OpenAI نیز امسال با نظارت و بررسی‌های خاص خود مواجه بوده، از جمله یک پرونده حقوقی مربوط به یکی از کارکنان و دستگاه ضبط، مقایسه میان شرکتی که با پرسش‌های امنیتی داخلی روبه‌رو است و رقیبی که آشکارا از کارکنان بیرونی دعوت کرده وارد ساختمان‌هایش شوند، از نظر تصویر ایمنی به نفع OpenAI نیست.

Google DeepMind و Meta هر دو تیم‌های داخلی ایمنی و هوش مصنوعی مسئولانه دارند و چارچوب‌های ارزیابی مدل منتشر کرده‌اند، اما هیچ‌کدام به‌طور عمومی از اعطای دسترسی تمام‌وقت و همراه با کارت شناسایی به یک ارزیاب غیرانتفاعی، در سطحی قابل‌مقایسه با دسترسی METR، خبر نداده‌اند. برای خریداران سازمانی که مدل‌های پیشرفته Claude را با محصولات رقیب مقایسه می‌کنند، این تفاوت در شفافیت ارزیابی به یک مزیت رقابتی واقعی تبدیل می‌شود، نه صرفاً موضوعی برای روابط عمومی.

سطوح گزارش‌شده دسترسی ارزیابان آنتروپیک

توجه داشته باشید که آنتروپیک هنوز معیار عمومی و کاملاً جزئی برای تفکیک سطح ۱ از سطح ۲ منتشر نکرده است؛ بنابراین جدول بالا نحوه توصیف ارزیابان فعلی را نشان می‌دهد، نه یک نظام امتیازدهی رسمی و منتشرشده.

ارزیابان خارجی ایمنی هوش مصنوعی که با آنتروپیک همکاری می‌کنند

واکنش صنعت و بازار

پوشش رسانه‌ای این اعلامیه عمدتاً بر ارزیابی خارجی به‌عنوان سازوکاری برای تقویت نظارت بر ایمنی بدون لزوماً کند کردن روند توسعه هوش مصنوعی متمرکز بوده است، نه اینکه آن را رویدادی با اثر فوری بر قیمت سهام یا سرمایه‌گذاران بدانند. این نحوه طرح موضوع اهمیت دارد: آنتروپیک یک شرکت خصوصی است و بنابراین برخلاف یک شرکت بورسی، واکنش بازار عمومی برای رصد کردن وجود ندارد؛ با این حال، مشتریان سازمانی و سیاست‌گذاران که اعتبار ادعاهای ایمنی هوش مصنوعی برایشان مهم‌تر از سود فصلی است، این سازوکار را با دقت دنبال می‌کنند.

Business Insider این اعلامیه را با این مضمون پوشش داد که آنتروپیک درهای خود را به روی ناظران بیرونی ایمنی باز کرده است؛ توصیفی که با روایت گسترده‌تری که این شرکت از زمان مطرح کردن موضع ایمنی‌محور خود توسط هم‌بنیان‌گذار و مدیرعامل، داریو آمودی، درباره «مقیاس‌دهی مسئولانه» ساخته، همخوانی دارد. پرسش باز برای تحلیلگران این است که آیا این رویکرد در آزمایشگاه‌های دیگر نیز به تغییر واقعی در رفتار منجر می‌شود یا فقط موج تازه‌ای از بیانیه‌های رسانه‌ای با محوریت ایمنی خواهد بود.

دیدگاه کارشناسان و فعالان صنعت

آنتروپیک نقطه آغاز این برنامه را مستقیماً توضیح داده است: «امروز اعلام می‌کنیم که اعطای دسترسی مشابه کارکنان به تیمی از METR، یک سازمان غیرانتفاعی که مدل‌های پیشرفته هوش مصنوعی را ارزیابی می‌کند، را آغاز کرده‌ایم.» این شرکت این اظهارات را در اطلاعیه رسمی خود در anthropic.com منتشر کرده است.

آنتروپیک درباره شکل عملی این دسترسی نیز توضیح بیشتری داده است: «شش نفر از کارکنان METR را با سخت‌افزار شرکت، فضای اداری و دسترسی به ابزارها و سامانه‌های داخلی‌ای مستقر کرده‌ایم که تقریباً هم‌سطح دسترسی تیم‌های ارزیابی ریسک خودمان است.»

آنتروپیک همچنین درباره نحوه رسیدگی عمومی به اختلافات بر سر حذف اطلاعات توضیح داده و گفته است METR «آزاد است حذف‌های ما را به‌صورت عمومی توصیف کند و بگوید آیا آنها را موجه می‌داند یا خیر، مشروط بر اینکه اطلاعات حذف‌شده را افشا نکند.» هدف از این چارچوب، اطمینان دادن به ناظران بیرونی است که فرایند حذف اطلاعات به مسیری پنهانی برای تعدیل یافته‌های نامطلوب آنتروپیک تبدیل نمی‌شود.

METR نیز به نوبه خود اعلام کرده که قصد دارد درباره محدودیت‌های دسترسی خود شفاف باشد و گزارش نهایی آن «دامنه، میزان دسترسی و سایر محدودیت‌های» فعالیتش را به‌طور شفاف توضیح خواهد داد؛ اذعانی که نشان می‌دهد حتی دسترسی مشابه کارکنان نیز مرزهایی دارد که باید برای خوانندگان روشن شود.

این سازوکار برای شرکت‌ها و توسعه‌دهندگان استفاده‌کننده از Claude چه معنایی دارد؟

برای کسب‌وکارها و توسعه‌دهندگان استرالیایی که روی مدل‌های Claude کار می‌کنند، این توافق فراتر از خود تیتر خبر اهمیت دارد. تیم‌های خرید و تدارکات سازمانی که در حال ارزیابی فروشندگان هوش مصنوعی برای بخش‌های تحت نظارت، از جمله حوزه‌های مالی، درمان و دولت هستند، به‌طور فزاینده‌ای در فرایند بررسی تأمین‌کننده به دنبال شواهدی از ارزیابی مستقل ایمنی می‌گردند. مدل ارزیاب مستقر آنتروپیک برای این تیم‌ها مدرکی ملموس‌تر از یک کارت مدل منتشرشده توسط خود شرکت فراهم می‌کند؛ به‌ویژه برای سازمان‌هایی که به دلایل هزینه یا عملکرد، استفاده از Claude را به جای پلتفرم‌های رقیب چت‌بات استاندارد کرده‌اند.

این سازوکار همچنین معیار بالاتری برای معنای «آزمون ایمنی‌شده» در گفت‌وگو با فروشندگان ایجاد می‌کند. توسعه‌دهنده‌ای که میان ارائه‌دهندگان مدل‌های پیشرفته انتخاب می‌کند، اکنون با تفاوتی ساختاری و واقعی روبه‌روست: آیا این فروشنده صرفاً نتایج آزمون‌های ایمنی خود را منتشر می‌کند، یا به یک گروه بیرونی که وظیفه‌ای برای تعریف و تمجید از شرکت ندارد اجازه می‌دهد سامانه‌هایش را از نزدیک بررسی و یافته‌های خود را، با وجود محدودیت‌های حذف اطلاعات، منتشر کند؟

گام بعدی: مذاکرات با Hugging Face و گسترش بیشتر

آنتروپیک می‌گوید مذاکرات با Hugging Face و سازمان‌های دیگر برای گسترش برنامه ارزیابان ادامه دارد، هرچند شرکت جزئیات دامنه یا زمان‌بندی این مذاکرات را اعلام نکرده است. آنتروپیک همچنین گفته است ممکن است پس از پایان بررسی فعلی SecureBio درباره امنیت زیستی، دسترسی و حقوق انتشار این سازمان را افزایش دهد. این موضوع نشان می‌دهد نظام سه‌سطحی قرار است نردبانی باشد که ارزیابان بتوانند به‌مرور در آن ارتقا پیدا کنند، نه یک طبقه‌بندی ثابت و یک‌باره.

با این حال، هیچ‌یک از این موارد هنوز به‌عنوان سیاست قطعی تثبیت‌شده تأیید نشده است. آنتروپیک به‌صورت عمومی نگفته که همکاری با METR دائمی خواهد بود، به‌طور خودکار برای عرضه هر مدل آینده نیز ادامه می‌یابد یا ارزیابان بیرونی اختیار رسمی برای به تعویق انداختن یا متوقف کردن عرضه یک مدل خواهند داشت. اینها پرسش‌های بازی هستند که احتمالاً با بلوغ برنامه، خبرنگاران و پژوهشگران همچنان از آنتروپیک درباره آنها سؤال خواهند کرد.

پیش‌بینی‌ها: ارزیابی مستقل هوش مصنوعی از اینجا به کدام سو می‌رود؟

• انتظار می‌رود دست‌کم یک آزمایشگاه دیگر هوش مصنوعی پیشرو، به احتمال زیاد OpenAI یا Google DeepMind، طی دو تا سه فصل آینده سازوکاری مشابه برای استقرار ارزیاب بیرونی اعلام کند؛ عاملی که بیش از آنکه فقط ناشی از مقررات باشد، فشار رقابتی آن را پیش خواهد برد.
• با توجه به حق صریح METR برای اعلام اختلاف‌نظر درباره حذف اطلاعات بدون افشای محتوای حذف‌شده، احتمال دارد در سال نخست برنامه دست‌کم یک اختلاف عمومی بر سر یک مورد مشخص از حذف اطلاعات شکل بگیرد.
• فرایندهای خرید و تأمین در شرکت‌ها و دولت‌ها برای مدل‌های پیشرفته هوش مصنوعی بیش از پیش از فروشندگان خواهند خواست مشخص کنند در صورت وجود، چه سطحی از دسترسی را برای ارزیابان فراهم کرده‌اند و این موضوع به یک عامل واقعی در رقابت برای فروش تبدیل خواهد شد.
• احتمال دارد مذاکرات جاری Hugging Face با آنتروپیک دست‌کم به یک همکاری در سطح ۱ یا ۲ منجر شود، زیرا روابط METR و SecureBio از پیش شتاب قابل‌توجهی ایجاد کرده‌اند.
• نهادهای تنظیم‌گر، از جمله FTC در آمریکا، احتمالاً از مدل METR به‌عنوان یک نقطه مرجع هنگام تدوین الزامات آینده افشای اطلاعات ایمنی هوش مصنوعی برای آزمایشگاه‌های پیشرو استفاده خواهند کرد.

پرسش‌های متداول

METR چیست و چرا برای آنتروپیک اهمیت دارد؟

METR مخفف Model Evaluation and Threat Research و یک سازمان غیرانتفاعی است که مدل‌های پیشرفته هوش مصنوعی را از نظر ریسک‌های فاجعه‌بار ارزیابی می‌کند. این سازمان برای آنتروپیک اهمیت دارد زیرا شرکت اکنون به شش نفر از کارکنان METR دسترسی مشابه کارکنان خود به سامانه‌های داخلی داده و به این ترتیب METR به یکی از عمیق‌ترین ارزیابان بیرونی مستقر در یک آزمایشگاه بزرگ هوش مصنوعی تبدیل شده است.

چند نفر از کارکنان METR به سامانه‌های آنتروپیک دسترسی دارند؟

شش نفر از کارکنان METR با سخت‌افزار شرکت، فضای اداری و دسترسی به ابزارها و سامانه‌های داخلی مستقر شده‌اند؛ آنتروپیک می‌گوید این سطح دسترسی تقریباً با دسترسی تیم‌های ارزیابی ریسک خود شرکت قابل مقایسه است.

آیا آنتروپیک می‌تواند مانع انتشار یافته‌های METR شود؟

خیر. آنتروپیک می‌گوید نمی‌تواند نتیجه‌گیری‌های METR درباره ریسک‌ها، رخدادها یا رویه‌های ایمنی را وتو کند. این شرکت تنها می‌تواند حذف محدود اطلاعاتی مانند داده‌های مشتریان، اطلاعات مشمول محرمانگی حقوقی و جزئیات معماری مدل را درخواست کند و METR همچنان می‌تواند وقوع چنین حذفی را به‌صورت عمومی اعلام کند.

نقش SecureBio در ارزیابی‌های ایمنی آنتروپیک چیست؟

SecureBio یک سازمان غیرانتفاعی متمرکز بر امنیت زیستی است که فعالیت‌های ایمنی آنتروپیک را با تمرکز بر خطر سلاح‌های زیستی و شیمیایی ارزیابی می‌کند. این سازمان در حال حاضر فصل مرتبط با این موضوع در گزارش ریسک آگوست آنتروپیک را بررسی می‌کند و پیش از این نیز یک بررسی آزمایشی از گزارش قبلی شرکت انجام داده است.

آیا آنتروپیک با Hugging Face نیز همکاری می‌کند؟

آنتروپیک گفته است مذاکرات با Hugging Face و سازمان‌های دیگر ادامه دارد، اما دامنه و وضعیت هرگونه توافق با Hugging Face هنوز به‌طور کامل و عمومی مشخص نشده است.

سه سطح دسترسی ارزیابان آنتروپیک چیست؟

آنتروپیک می‌گوید در حال ایجاد سه سطح دسترسی برای ارزیابان بیرونی است؛ این سطوح از بررسی‌های محدود که برای انتشار به تأیید شرکت نیاز دارند تا سطح ۳ فعلی METR را شامل می‌شود که دسترسی مشابه کارکنان به‌صورت مستقر در شرکت را با حقوق گسترده انتشار ترکیب می‌کند.

آیا این دسترسی شامل همه مدل‌های هوش مصنوعی آنتروپیک می‌شود؟

آنتروپیک به‌صورت عمومی تأیید نکرده است که دسترسی METR به‌طور خودکار برای عرضه همه مدل‌های آینده نیز برقرار باشد. توافق فعلی حوزه‌هایی مانند رفتار مدل، رویه‌های ایمنی، مدیریت ریسک و رسیدگی به رخدادها را که شش عضو مستقر METR اکنون می‌توانند مشاهده کنند، پوشش می‌دهد.

چرا ارزیابی مستقل ایمنی هوش مصنوعی در سال ۲۰۲۶ اهمیت بیشتری پیدا کرده است؟

در سال ۲۰۲۶ فشار از چند جهت افزایش یافته است؛ از جمله نامه عمومی بیش از ۱۰۰ متخصص هوش مصنوعی برای درخواست ارزیابان مستقل قدرتمندتر، نظارت نهادهای تنظیم‌گر مانند احضاریه‌های FTC درباره ناکامی‌های ایمنی، و مجموعه‌ای از رخدادهای علنی که در آنها مدل‌های پیشرفته هوش مصنوعی رفتارهای غیرقابل‌پیش‌بینی از خود نشان داده‌اند.

سوفی لاوسون

دبیر بخش امنیت سایبری

سوفی لاوسون در Tech Insider Australia درباره امنیت سایبری، VPNها و نرم‌افزارهای حفظ حریم خصوصی می‌نویسد. او پیش‌تر مدیر سیستم‌های فناوری اطلاعات بوده و موضوعات پیچیده امنیتی را به توصیه‌هایی ساده و قابل‌فهم تبدیل می‌کند و شخصاً ابزارهایی را که توصیه می‌کند آزمایش می‌کند.