آنتروپیک برای تقویت ایمنی هوش مصنوعی، دسترسی در سطح کارکنان خود را به مؤسسه مستقل METR اعطا کرد

نوشته آدیتیا سونی

۱۵ اکتبر (رویترز) ـ شرکت آنتروپیک به مؤسسه غیرانتفاعی METR دسترسی به سامانه‌های داخلی خود در سطح کارکنان شرکت اعطا کرده و هم‌زمان با سازمان‌های دیگری از جمله هاگینگ فیس (Hugging Face) در حال مذاکره است. این اقدامات در شرایطی انجام می‌شود که شرکت‌های هوش مصنوعی، ارزیابی مستقل را راهکاری برای توسعه ایمن این فناوری بدون کند کردن روند پیشرفت آن معرفی می‌کنند.

آنتروپیک، توسعه‌دهنده مدل‌های هوش مصنوعی کلود (Claude)، روز پنجشنبه در مطلبی در وبلاگ خود اعلام کرد که برای ارزیابی مدل‌هایش با مؤسسه غیرانتفاعی فعال در حوزه امنیت زیستی SecureBio و شرکت Faculty، زیرمجموعه فعال در حوزه هوش مصنوعی شرکت اکسنچر (Accenture)، نیز همکاری می‌کند.

رویترز اوایل این هفته در گزارشی اختصاصی فاش کرد که آنتروپیک و اوپن‌ای‌آی خواستار کنترل قابل‌توجهی بر محتوایی بوده‌اند که ارزیابان مستقل اجازه انتشار آن را دارند. نگرانی این دو شرکت آن است که انتشار نتایج ارزیابی‌ها به افشای اسرار تجاری آن‌ها منجر شود.

بااین‌حال، یک منبع آگاه به رویترز گفت که مذاکرات با آنتروپیک اخیراً تغییر کرده و این شرکت در گفت‌وگوها انعطاف بیشتری نشان داده است.

یکی دیگر از منابع آشنا با مذاکرات پیشین میان ارزیابان و آزمایشگاه‌های هوش مصنوعی به رویترز گفت که یکی از مهم‌ترین اختلاف‌ها به اطلاعاتی مربوط می‌شود که شرکت‌ها آن‌ها را جزو دارایی‌های فکری حیاتی خود می‌دانند، اما همان اطلاعات ممکن است برای سنجش خطرات یک مدل نیز ضروری باشند. این تعارض به اختلاف‌نظر بر سر انتشار اطلاعات و حذف بخش‌هایی از گزارش‌های ارزیابی منجر می‌شود.

کارشناسان همچنین درباره استقلال ارزیابان ابراز نگرانی کرده‌اند، زیرا این آنتروپیک و اوپن‌ای‌آی هستند که تصمیم می‌گیرند چه کسانی اجازه ارزیابی مدل‌هایشان را داشته باشند.

نتیجه این مذاکرات در تعیین شیوه نظارت جهانی بر فناوری هوش مصنوعی نقش مهمی خواهد داشت؛ فناوری‌ای که حتی برخی از سازندگان آن هشدار می‌دهند ممکن است سرعت پیشرفتش از توانایی بشر برای مدیریت آن فراتر برود.

جزئیات همکاری آنتروپیک با METR

آنتروپیک روز پنجشنبه اعلام کرد که شش نفر از کارکنان مؤسسه METR، مخفف «ارزیابی مدل و پژوهش درباره تهدیدها» (Model Evaluation and Threat Research)، به تجهیزات سخت‌افزاری شرکت، فضای اداری و سامانه‌های داخلی آن دسترسی دارند. سطح این دسترسی تقریباً معادل دسترسی تیم‌های ارزیابی ریسک خود آنتروپیک است. بااین‌حال، داده‌های مشتریان، اطلاعات مشمول محرمانگی حقوقی و جزئیات معماری مدل‌ها همچنان خارج از دسترس این افراد خواهد بود.

آنتروپیک اعلام کرد که حق جلوگیری از انتشار یافته‌های METR درباره خطرات، رخدادها و رویه‌های این شرکت را ندارد، اما می‌تواند درخواست حذف بخش‌های مشخص و محدودی از اطلاعات را مطرح کند. METR نیز مجاز است بدون افشای اطلاعات حذف‌شده، ضرورت این حذفیات را به‌صورت علنی زیر سؤال ببرد.

مؤسسه METR بلافاصله به درخواست رویترز برای اظهارنظر پاسخ نداد. این سازمان روز چهارشنبه پیشنهاد کرده بود که توسعه‌دهندگان هوش مصنوعی امکان مصاحبه محرمانه با کارکنان، انتشار به‌موقع نتایج ارزیابی‌ها و شفاف‌سازی درباره محدودیت‌های دسترسی و اطلاعات حذف‌شده از گزارش‌ها را فراهم کنند.

آنتروپیک اعلام کرد که همکاری‌هایش با سایر ارزیابان هنوز در مراحل اولیه قرار دارد و این سازمان‌ها در مقایسه با METR از دسترسی محدودتر و اختیارات کمتری برای انتشار نتایج برخوردارند.

این شرکت در حال طراحی ساختاری سه‌سطحی برای دسترسی ارزیابان مستقل است. در سطح نخست، ارزیابان بررسی‌هایی با دامنه مشخص و محدود انجام می‌دهند و برای انتشار نتایج به تأیید شرکت نیاز دارند. ارزیابان سطح دوم به اطلاعات بیشتری دسترسی خواهند داشت و می‌توانند یافته‌های خود را بدون کسب مجوز منتشر کنند، هرچند ممکن است لازم باشد بخش‌هایی از اطلاعات حذف شود. در این سطح، ارزیابان حق دارند این حذفیات را به‌صورت علنی به چالش بکشند.

سطح سوم که در همکاری با METR به کار گرفته شده است، دسترسی مشابه کارکنان شرکت را فراهم می‌کند، درحالی‌که حقوق انتشار نتایج در آن مشابه سطح دوم است.

مؤسسه SecureBio در سطح نخست این ساختار قرار دارد و در حال بررسی فصل مربوط به سلاح‌های شیمیایی و بیولوژیکی در گزارش ارزیابی ریسک ماه اوت آنتروپیک است. این مؤسسه پیش‌تر نیز یک ارزیابی آزمایشی از گزارش قبلی آنتروپیک منتشر کرده بود. آنتروپیک اعلام کرد پس از پایان بررسی کنونی، امکان گسترش سطح دسترسی و اختیارات انتشار نتایج SecureBio را بررسی خواهد کرد.

آنتروپیک همچنین ماه گذشته اعلام کرده بود که در حال برنامه‌ریزی برای همکاری با شرکت Faculty در زمینه‌هایی از جمله ارزیابی مدل‌ها، آزمون‌های خصمانه و بررسی میزان انطباق رفتار مدل‌ها با اهداف و عملکرد مورد انتظار آن‌هاست.

گزارش: آدیتیا سونی و آنهاتا روپ‌رای در بنگلور؛ ویراستاری: جاناتان آناندا