آنتروپیک: سامانه خودکار شناسایی راه‌های دور زدن محدودیت‌های هوش مصنوعی در ۲۳ آزمایش از ۲۴ آزمایش از انسان‌ها پیشی گرفت
۲۳ اکتبر ۲۰۲۶ | شین اس. الیسون
شرکت آنتروپیک اعلام کرده است که سامانه خودکار این شرکت در ۲۴ مقایسه با هدف ارزیابی امکان دور زدن سامانه‌های تشخیص درخواست‌های خطرناک مرتبط با سلاح‌های زیستی، توانسته عملکردی برابر یا بهتر از بهترین نتایج ارائه‌شده توسط انسان‌ها داشته باشد. این سامانه در ۲۳ مقایسه عملکرد بهتری ثبت کرده و در یک مورد نیز با بهترین نتیجه انسانی برابر بوده است.
این نتایج در به‌روزرسانی ۱۹ اکتبر نقشه راه ایمنی آنتروپیک منتشر شده است. به گفته این شرکت، اجرای آزمایش‌های خودکار تنها ۲۴ تا ۴۸ ساعت طول کشیده است؛ در حالی که شرکت‌کنندگان در برنامه‌های مربوط به کشف و گزارش آسیب‌پذیری در ازای دریافت پاداش، چندین هفته یا حتی چند ماه برای انجام بررسی‌های خود فرصت داشته‌اند.
مقایسه عملکرد در هشت پرسش و سه نسل از سامانه‌های طبقه‌بندی
آنتروپیک عملکرد سامانه خودکار خود را با نتایج فعالیت‌های پژوهشگران شرکت‌کننده در برنامه‌های کشف آسیب‌پذیری، طی بازه ۲۰ آوریل تا ۱۱ سپتامبر ۲۰۲۶، مقایسه کرده است. در این آزمایش، هشت پرسش یکسان روی سه نسل از سامانه‌های طبقه‌بندی مورد استفاده در محیط عملیاتی بررسی شدند که در مجموع ۲۴ ترکیب متفاوت از پرسش و سامانه طبقه‌بندی را تشکیل می‌دادند.
این سامانه‌های طبقه‌بندی، ابزارهای حفاظتی هستند که برای شناسایی درخواست‌های خطرناک طراحی شده‌اند. هدف آزمایش، بررسی روش‌های عبور از این سازوکارهای حفاظتی بود؛ بنابراین، نتایج آن را نباید به‌عنوان یک رقابت عمومی برای سنجش تمامی فعالیت‌های امنیت سایبری یا همه جنبه‌های پژوهش انسانی در حوزه ایمنی تلقی کرد.
آنتروپیک در ارزیابی خود به این نتیجه رسیده است که یافته‌های سامانه خودکار، در مجموع، از یافته‌های به‌دست‌آمده در برنامه‌های کشف آسیب‌پذیری مهم‌تر و قابل‌توجه‌تر بوده‌اند. بر همین اساس، این شرکت هدف داخلی خود در زمینه آزمون‌های تهاجمی امنیتی یا «ردتیمینگ» را تکمیل‌شده اعلام کرده است؛ هدفی که پیش‌تر قرار بود تا اول ژانویه ۲۰۲۷ محقق شود.
نتایج منتشرشده محدودتر از یک ادعای کلی درباره ایمنی هوش مصنوعی است
این مقایسه بر اساس ارزیابی خود آنتروپیک انجام شده است. این شرکت هنوز گزارش تکمیلی و مفصل‌تری را که وعده انتشار آن را داده، منتشر نکرده است. ازاین‌رو، اطلاعات مختصر ارائه‌شده در به‌روزرسانی نقشه راه ایمنی، امکان ارزیابی کامل و مستقل روش مورد استفاده را فراهم نمی‌کند.
همچنین، دستیابی به نتایجی هم‌سطح با بهترین عملکردهای انسانی در این پرسش‌ها، به این معنا نیست که تمامی راه‌های ممکن برای دور زدن سازوکارهای حفاظتی شناسایی شده‌اند. آنچه این آزمایش نشان می‌دهد، عملکرد موفق سامانه خودکار در چارچوب مشخصی است که آنتروپیک برای مقایسه انتخاب کرده است.
این پژوهش در کنار دیگر بررسی‌های مربوط به سوءاستفاده از هوش مصنوعی قرار می‌گیرد. رسانه MIXED به‌تازگی یافته‌های آنتروپیک درباره کارزارهای مخربی را بررسی کرده بود که از کنار هم قرار گرفتن درخواست‌های به‌ظاهر عادی و بی‌خطر شکل می‌گیرند. البته این نوع آسیب‌پذیری با دور زدن سامانه‌های طبقه‌بندی خطرات زیستی تفاوت دارد.
در حال حاضر، نتیجه مشخص این پژوهش آن است که به گفته آنتروپیک، جست‌وجوی خودکار راه‌های دور زدن محدودیت‌های ایمنی، با سرعت بیشتری انجام شده و تقریباً در تمامی ترکیب‌های آزمایش‌شده، عملکرد بهتری از معیار مقایسه مبتنی بر نتایج برنامه‌های کشف آسیب‌پذیری داشته است. بااین‌حال، جزئیات بیشتر درباره روش اجرای این آزمایش‌ها هنوز منتشر نشده و قرار است در آینده ارائه شود.