آنتروپیک برای نخستین بار به ناظران مستقل ایمنی هوش مصنوعی دسترسی داخلی می‌دهد؛ این طرح چگونه اجرا می‌شود؟
- آنتروپیک به ارزیابان مستقل ایمنی هوش مصنوعی از مؤسسه METR اجازه می‌دهد از نزدیک بر فعالیت‌های این شرکت نظارت کنند.
- این نخستین بار است که یکی از شرکت‌های پیشرو در توسعه مدل‌های پیشرفته هوش مصنوعی چنین دسترسی‌ای فراهم می‌کند.
- داریو آمودی، مدیرعامل آنتروپیک، ماه گذشته وعده انجام این اقدام را داده بود.
شرکت آنتروپیک، سازنده هوش مصنوعی کلود، روز پنجشنبه در مطلبی در وبلاگ خود اعلام کرد که شش نفر از ارزیابان مؤسسه پژوهشی METR را انتخاب کرده است تا به اطلاعات و سامانه‌های داخلی این شرکت دسترسی‌ای مشابه کارکنان آن داشته باشند. مؤسسه METR احتمالاً بیش از هر چیز به دلیل انتشار گزارشی درباره رخنه یک عامل هوش مصنوعی متعلق به OpenAI در پلتفرم هاگینگ فیس شناخته می‌شود.
آنتروپیک در این مطلب نوشت: «می‌خواهیم در قبال تصمیم‌هایی که می‌گیریم، به‌صورت عمومی پاسخ‌گو باشیم. هدف ما این است که فاصله میان شناخت ارزیابان از سامانه‌های یک شرکت پیشرو در حوزه هوش مصنوعی و شناخت خود آن شرکت از سامانه‌هایش را کاهش دهیم.»
استقرار این ارزیابان در آنتروپیک، تحقق وعده‌ای است که داریو آمودی، مدیرعامل این شرکت، ماه گذشته داده بود. او پس از رخنه امنیتی در هاگینگ فیس، در مقاله‌ای مفصل از شرکت‌های پیشرو در توسعه هوش مصنوعی خواسته بود سرعت پیشرفت خود را کاهش دهند.
آمودی در آن زمان، هنگام طرح پیشنهاد استقرار ارزیابان ایمنی در شرکت‌های هوش مصنوعی، گفته بود: «آنتروپیک متعهد می‌شود که از همین حالا، به‌صورت یک‌جانبه این اقدام را انجام دهد.»
سم آلتمن، مدیرعامل OpenAI، نیز در واکنش به مقاله آمودی اعلام کرد که شرکت او ارزیابانی را در داخل مجموعه خود مستقر خواهد کرد؛ بااین‌حال، این وعده هنوز عملی نشده است. به این ترتیب، اعلام روز پنجشنبه آنتروپیک نخستین موردی است که یک شرکت پیشرو در توسعه هوش مصنوعی چنین اقدامی را به مرحله اجرا می‌گذارد.
در یک سال گذشته، مجموعه‌ای پی‌درپی از حوادث مربوط به عامل‌های هوش مصنوعی که از محدودیت‌های ایمنی تعیین‌شده برای خود عبور کرده و در بخش‌های مختلف اینترنت اختلال ایجاد کرده‌اند، باعث شده است سیاستمداران و مدیران شرکت‌های فناوری خواستار اقدام برای مقابله با این خطرات شوند.
بر اساس گزارش‌های منتشرشده، در تازه‌ترین نمونه‌ها، یکی از عامل‌های هوش مصنوعی آنتروپیک اطلاعاتی نادرست را درباره یک پرونده قتل حل‌نشده در فیلادلفیا به مراجع مربوط ارائه کرده و عامل دیگری نیز ۲۰ درخواست ویزا را در یکی از وب‌سایت‌های دولت آمریکا ثبت کرده است.
آنتروپیک در مطلب روز پنجشنبه خود اعلام کرد که ارزیابان برای انتشار یافته‌هایشان آزادی عمل کامل دارند، اما این آزادی با چند محدودیت همراه است. اعضای تیم METR اجازه ندارند اطلاعات مشتریان، معماری مدل‌های هوش مصنوعی یا اطلاعات مشمول محرمانگی ارتباط میان وکیل و موکل را افشا کنند.
آنتروپیک همچنین اعلام کرد که حق دارد از METR بخواهد بخش‌هایی از اطلاعات را پیش از انتشار حذف یا محرمانه نگه دارد. این شرکت توضیح داد: «METR آزاد است درباره بخش‌هایی که ما خواستار حذف آن‌ها شده‌ایم، به‌صورت عمومی توضیح دهد و اعلام کند که آیا به نظر این مؤسسه، چنین حذفی موجه بوده است یا خیر؛ مشروط بر اینکه اطلاعات حذف‌شده را فاش نکند.»
بااین‌حال، دسترسی به اطلاعات داخلی آنتروپیک به تمام اعضای مؤسسه METR تعمیم پیدا نمی‌کند.
شش پژوهشگر انتخاب‌شده که نام آن‌ها تا زمان انتشار خبر در روز پنجشنبه اعلام نشده بود، از سایر اعضای METR جدا نگه داشته خواهند شد و اطلاعاتی که در اختیارشان قرار می‌گیرد، به تیم گسترده‌تر این مؤسسه منتقل نخواهد شد.
آنتروپیک در توضیح این سازوکار اعلام کرد: «استقرار ارزیابان در داخل شرکت به تعداد محدودی از افراد واجد صلاحیت که مطابق استانداردهای امنیتی آنتروپیک فعالیت می‌کنند، امکان می‌دهد از نزدیک با شیوه کار ما آشنا شوند. این سازوکار راهی برای دسترسی سازمان‌های دیگر به اطلاعات ما یا اطلاعات مشتریان و شرکای تجاری‌مان نیست.»
مؤسسه METR تا زمان انتشار این گزارش در روز پنجشنبه، به درخواست اظهارنظر پاسخ نداده بود.