Anthropic ابزار امنیتی مبتنی بر هوش مصنوعی برای کدهای متن‌باز معرفی کرد
Anthropic یک سرویس اختیاری برای یافتن آسیب‌پذیری‌ها در نرم‌افزارهای متن‌باز معرفی کرده است.
Anthropic سرویس OSS Scanner را راه‌اندازی کرده است؛ سرویسی رایگان و اختیاری که با استفاده از قدرتمندترین مدل‌های زبانی این شرکت، از جمله Claude Mythos، پروژه‌های متن‌باز را به‌صورت خودکار برای یافتن آسیب‌پذیری‌های امنیتی بررسی می‌کند. این ابتکار که بر پایه تجربه این شرکت در Project Glasswing توسعه یافته، با هدف کمک به نگه‌دارندگان پروژه‌ها برای برطرف کردن ضعف‌ها پیش از سوءاستفاده مهاجمان ارائه شده است.
فناوری تشخیص آسیب‌پذیری مبتنی بر هوش مصنوعی با سرعت زیادی پیشرفت کرده است. در بنچمارک CyberGym، مدل‌های زبانی بزرگ از شناسایی کمتر از ۲۰ درصد آسیب‌پذیری‌ها در اوایل سال گذشته به بیش از ۸۵ درصد در حال حاضر رسیده‌اند و گزارش‌های باگ با کیفیت بسیار بالاتری تولید می‌کنند. در اسکن‌های اخیر نرم‌افزارهای حیاتی، مدل‌های Anthropic بیش از ۲۹ هزار آسیب‌پذیری احتمالی را شناسایی کردند. با این حال، ظرفیت بررسی انسانی به گلوگاهی در این فرایند تبدیل شد و امکان اولویت‌بندی تنها حدود ۶ هزار مورد از آن‌ها فراهم شد.
با توجه به اینکه اکنون امکان توسعه اکسپلویت‌ها در عرض چند دقیقه وجود دارد، نگه‌دارندگان پروژه‌ها بیش از پیش درخواست ارسال گسترده یافته‌های تأییدنشده را مطرح می‌کنند تا روند اصلاح آسیب‌پذیری‌ها سریع‌تر شود. Anthropic برای پاسخ به این نیاز، دو مسیر ارائه می‌دهد:
افشای هماهنگ آسیب‌پذیری (CVD): برای پروژه‌هایی که منابع کافی برای بررسی گزارش‌ها ندارند، یافته‌ها همچنان به‌صورت دستی بررسی و افشا می‌شوند.
اسکنر سریع OSS: نگه‌دارندگان پروژه‌ها می‌توانند با انتخاب این گزینه، گزارش‌هایی را که به‌طور کامل توسط مدل تولید شده‌اند و بدون بررسی انسانی آماده می‌شوند، فوراً دریافت کنند. این رویکرد خودکار امکان بررسی‌های سریع‌تر و پرتکرارتر را فراهم می‌کند، اما خطر تولید برخی گزارش‌های نادرست را نیز به همراه دارد.
OSS Scanner با الهام از Google OSS-Fuzz، در کنار Claude Security ــ محصول سازمانی Anthropic برای اسکن کد ــ قرار می‌گیرد و قابلیت‌های دفاعی قدرتمند و رایگان را مستقیماً در اختیار جامعه متن‌باز قرار می‌دهد.