ارزیابان از شناسایی آسیب‌پذیری‌هایی در سامانه نظارتی اوپن‌ای‌آی خبر دادند
۲۲ اکتبر (یو‌پی‌آی) ــ دو سازمان غیرانتفاعی ارزیابی ایمنی اعلام کردند روز پنجشنبه در جریان اجرای آزمایشی سامانه نظارتی اوپن‌ای‌آی، چند «آسیب‌پذیری» شناسایی کرده‌اند. این بررسی آزمایشی با هدف ارزیابی نحوه همکاری آینده این شرکت با سازمان‌های مستقل ایمنی انجام شد.
به گزارش METR و Redwood Research، بررسی آزمایشی سامانه اوپن‌ای‌آی با این هدف انجام شد که مشخص شود این شرکت چگونه می‌تواند دسترسی عمیق به زیرساخت‌های داخلی خود را در اختیار ارزیابان مستقل قرار دهد.
این دو سازمان اعلام کردند که از ۲۱ ژوئیه تا ۱۱ اوت، یک کارمند از هر سازمان به کدهای منبع، مستندات و شماری از کارکنان فنی اوپن‌ای‌آی دسترسی داشتند. کارکنان METR و Redwood هنگام استفاده از دستگاه‌های متعلق به اوپن‌ای‌آی تحت نظارت و همراهی قرار داشتند؛ دستگاه‌هایی که به گفته این سازمان‌ها، «هرگز از محوطه شرکت خارج نشدند».
ارزیابان اعلام کردند چندین «آسیب‌پذیری جدید» کشف کرده‌اند که یکی از آن‌ها می‌توانست به عامل‌های هوش مصنوعی امکان دهد مانع نظارت بر «صدها» اقدام اخیر خود شوند.
پژوهشگران گفتند اوپن‌ای‌آی به آن‌ها اطلاع داده است که آسیب‌پذیری‌های مؤثر بر سازوکارهای حفاظتی مورد استفاده در محیط عملیاتی این شرکت برطرف شده‌اند.
METR و Redwood اعلام کردند گزارش داخلی ۶۱ صفحه‌ای خود را در اختیار اوپن‌ای‌آی قرار داده‌اند و انتظار دارند در آینده جزئیات بیشتری درباره این تمرین‌های ارزیابی منتشر کنند.
سخنگوی اوپن‌ای‌آی در بیانیه‌ای به شبکه سی‌ان‌بی‌سی گفت: «این همکاری بر تعهد دیرینه ما به پیشگامی در روش‌های نوین آزمون مستقل از سوی نهادهای ثالث استوار است. ما از آموخته‌های این تجربه برای تقویت سازوکارهای حفاظتی خود و شکل دادن به همکاری‌های آینده با ارزیابان مستقل استفاده می‌کنیم.»
سم آلتمن، مدیرعامل اوپن‌ای‌آی، ماه گذشته متعهد شد دسترسی به این شرکت را برای ارزیابان مستقل، در حد دسترسی کارکنان، فراهم کند. این وعده پس از پیشنهاد داریو آمودی، مدیرعامل آنتروپیک، مطرح شد؛ پیشنهادی که بخشی از برنامه او برای کند کردن روند توسعه هوش مصنوعی بود.
آنتروپیک از آن زمان توافق‌هایی را با شرکت اکسنتور و همچنین سازمان‌های METR و SecureBio اعلام کرده است.
دونالد ترامپ، رئیس‌جمهور ایالات متحده، از ارزیابی‌های مستقل توسط نهادهای ثالث حمایت کرده و شرکت‌های فعال در حوزه هوش مصنوعی را تشویق کرده است با «یک حسابرس یا ارزیاب مستقل بیرونی همکاری کنند». اوپن‌ای‌آی، آنتروپیک، گوگل، اسپیس‌ایکس و انویدیا ماه گذشته توافق‌نامه‌ای داوطلبانه را امضا کردند که ترامپ در کاخ سفید ارائه کرده بود. گزارش مربوط به امضای این توافق‌نامه