آنتروپیک برای تقویت ایمنی هوش مصنوعی، دسترسی در سطح کارکنان خود را به نهاد ارزیاب مستقل METR اعطا کرد
نویسنده: آدیتیا سونی | رویترز | ۱۵ اکتبر ۲۰۲۶
۱۵ اکتبر (رویترز) ـ شرکت آنتروپیک دسترسی مؤسسه غیرانتفاعی METR به سامانه‌های داخلی خود را تا سطح دسترسی کارکنان شرکت گسترش داده و هم‌زمان در حال مذاکره با نهادهای دیگری، از جمله هاگینگ فیس، است. این اقدام در شرایطی صورت می‌گیرد که شرکت‌های فعال در حوزه هوش مصنوعی، ارزیابی‌های مستقل بیرونی را راهی برای پیشبرد ایمن این فناوری، بدون کند کردن روند توسعه آن، معرفی می‌کنند.
آنتروپیک، توسعه‌دهنده مدل‌های هوش مصنوعی کلود، روز پنجشنبه در یک پست وبلاگی اعلام کرد که برای ارزیابی مدل‌های خود با مؤسسه غیرانتفاعی SecureBio، فعال در حوزه امنیت زیستی، و همچنین Faculty، کسب‌وکار هوش مصنوعی شرکت مشاوره‌ای اکسنچر، همکاری می‌کند.
رویترز اوایل این هفته در گزارشی اختصاصی فاش کرد که آنتروپیک و اوپن‌ای‌آی خواستار کنترل قابل‌توجهی بر اطلاعاتی شده‌اند که ارزیابان مستقل اجازه انتشار آن‌ها را دارند. نگرانی این شرکت‌ها آن است که انتشار نتایج ارزیابی‌ها به افشای اسرار تجاری منجر شود.
با این حال، فردی آگاه از موضوع به رویترز گفت که مذاکرات با آنتروپیک اخیراً تغییر کرده و این شرکت در جریان گفت‌وگوها انعطاف‌پذیری بیشتری از خود نشان داده است.
یکی دیگر از افراد مطلع از این مذاکرات به رویترز گفت که یکی از مهم‌ترین اختلافات میان ارزیابان مستقل و آزمایشگاه‌های هوش مصنوعی به اطلاعاتی مربوط می‌شود که شرکت‌ها ممکن است آن‌ها را دارایی فکری بسیار ارزشمند خود بدانند، اما همان اطلاعات برای سنجش خطرات مدل‌ها نیز اهمیت داشته باشند. همین تعارض بر سر دسترسی به اطلاعات و حذف بخش‌هایی از گزارش‌ها اختلاف‌نظر ایجاد می‌کند.
کارشناسان همچنین درباره استقلال ارزیابان ابراز نگرانی کرده‌اند، زیرا این آنتروپیک و اوپن‌ای‌آی هستند که تصمیم می‌گیرند چه کسانی اجازه بررسی مدل‌هایشان را داشته باشند.
نتیجه این مذاکرات می‌تواند در تعیین شیوه نظارت و بررسی این فناوری در سراسر جهان نقش مهمی داشته باشد؛ فناوری‌ای که حتی برخی از سازندگان آن هشدار داده‌اند ممکن است سرعت پیشرفتش از توانایی بشر برای مدیریت آن فراتر برود.
جزئیات همکاری آنتروپیک با METR
آنتروپیک روز پنجشنبه اعلام کرد که شش نفر از کارکنان مؤسسه METR، مخفف «ارزیابی مدل و پژوهش درباره تهدیدها»، به تجهیزات سخت‌افزاری شرکت، فضای اداری و سامانه‌های داخلی آن دسترسی دارند. سطح این دسترسی تقریباً معادل دسترسی تیم‌های ارزیابی ریسک خود آنتروپیک است. با این حال، داده‌های مشتریان، اطلاعات مشمول محرمانگی قانونی و جزئیات معماری مدل‌ها همچنان از دسترس این ارزیابان خارج خواهد بود.
به گفته آنتروپیک، این شرکت حق ندارد مانع انتشار یافته‌های METR درباره خطرات، حوادث و رویه‌های کاری شود، اما می‌تواند درخواست حذف بخش‌های مشخص و محدودی از اطلاعات را مطرح کند. METR نیز مجاز است بدون افشای اطلاعات حذف‌شده، ضرورت این حذف‌ها را به‌صورت علنی زیر سؤال ببرد.
مؤسسه METR اعلام کرد: «مطابق با سیاست‌های شفافیت خود، در گزارشمان دامنه فعالیت، میزان دسترسی و دیگر محدودیت‌های کارمان را به‌روشنی و به‌صورت عمومی توضیح خواهیم داد.» این مؤسسه روز چهارشنبه پیشنهاد کرده بود که توسعه‌دهندگان هوش مصنوعی امکان مصاحبه محرمانه با کارکنان، انتشار به‌موقع ارزیابی‌ها و شفاف‌سازی درباره محدودیت‌های دسترسی و بخش‌های حذف‌شده از گزارش‌ها را فراهم کنند.
آنتروپیک اعلام کرد که همکاری‌هایش با دیگر نهادهای ارزیاب هنوز در مراحل ابتدایی قرار دارد و این نهادها در حال حاضر از دسترسی محدودتر و حقوق کمتری برای انتشار نتایج برخوردارند.
این شرکت در حال تدوین چارچوبی با سه سطح دسترسی است. ارزیابان سطح نخست، بررسی‌هایی با دامنه مشخص و محدود انجام می‌دهند و برای انتشار نتایج به تأیید شرکت نیاز دارند. ارزیابان سطح دوم به اطلاعات بیشتری دسترسی خواهند داشت و می‌توانند نتایج خود را بدون دریافت تأیید منتشر کنند؛ البته ممکن است بخش‌هایی از گزارش‌هایشان حذف شود، اما حق دارند این حذف‌ها را به‌صورت علنی به چالش بکشند.
سطح سوم، که در همکاری با METR به کار گرفته شده، دسترسی مشابه کارکنان شرکت را فراهم می‌کند و از نظر حقوق انتشار نتایج، شرایطی مشابه سطح دوم دارد.
مؤسسه SecureBio در سطح نخست این چارچوب قرار دارد و در حال بررسی فصل مربوط به سلاح‌های شیمیایی و زیستی در گزارش ارزیابی ریسک ماه اوت آنتروپیک است. این مؤسسه پیش‌تر نیز یک ارزیابی آزمایشی از گزارش قبلی آنتروپیک منتشر کرده بود. آنتروپیک اعلام کرد پس از پایان بررسی کنونی، امکان گسترش دسترسی SecureBio و افزایش اختیارات آن برای انتشار نتایج را بررسی خواهد کرد.
آنتروپیک همچنین ماه گذشته اعلام کرده بود که در حال برنامه‌ریزی برای همکاری با Faculty است؛ همکاری‌ای که از جمله حوزه‌های آن ارزیابی مدل‌ها، آزمون‌های خصمانه برای شناسایی آسیب‌پذیری‌ها و بررسی این موضوع است که آیا مدل‌ها مطابق با اهداف و رفتارهای مورد انتظار عمل می‌کنند یا خیر.
گزارش: آدیتیا سونی و آنهاتا روپ‌رای در بنگلور | ویرایش: جاناتان آناندا