افزایش حملات جعلی با نام کلود و چت‌جی‌پی‌تی؛ تهدیدی جدی برای توسعه‌دهندگان
اینترنت مملو از ابزارهای جعلی هوش مصنوعی است که ظاهری کاملاً معتبر دارند، اما به‌جای ارائه ابزارهای پرطرفدار، بدافزارهای سرقت اطلاعات، تروجان‌های دسترسی از راه دور (RAT) و تهدیدهای دیگری را وارد شبکه‌های سازمانی می‌کنند.
پژوهشگران شرکت Any.Run در گزارشی که این هفته منتشر شد، کارزارهای سایبری مبتنی بر فریب کاربران با ابزارهای هوش مصنوعی را بررسی کردند؛ کارزارهایی که با جعل هویت برندهای مطرحی مانند کلود و چت‌جی‌پی‌تی و سایر ابزارهای مشابه فعالیت می‌کنند. در یک دوره شش‌ماهه، از مجموع ۱٬۲۵۸ رویداد بررسی‌شده در پلتفرم این شرکت، مشخص شد که منشأ حملات، ابزارهای جعلی هوش مصنوعی بوده است.
مهاجمان از روش‌های مختلفی برای فریب کاربران استفاده می‌کنند؛ از دست‌کاری نتایج موتورهای جست‌وجو (مسموم‌سازی سئو) و تبلیغات مخرب گرفته تا صفحات دانلود جعلی و محتوای فریبنده با موضوع هوش مصنوعی. بیشترین جعل هویت مربوط به ابزار کلود شرکت Anthropic بود که ۶۰ درصد موارد بررسی‌شده را تشکیل می‌داد. ابزارهای چت‌جی‌پی‌تی و Codex متعلق به OpenAI نیز در مجموع در ۳۳ درصد موارد دیده شدند. پژوهشگران Any.Run همچنین دریافتند که این حملات اغلب از روشی آشنا برای به دام انداختن قربانیان استفاده می‌کنند.
در گزارش این شرکت آمده است: «این حملات یک ویژگی مشترک دارند: اقدام تعیین‌کننده را خود کارمند انجام می‌دهد. او یک دستور نصب را کپی و جای‌گذاری می‌کند، نصب‌کننده‌ای متقاعدکننده را اجرا می‌کند یا در پنجره‌ای جعلی وارد حساب خود می‌شود.» در ادامه گزارش هشدار داده شده است که چنین اقدامی می‌تواند کد منبع، کلیدهای API مربوط به فضای ابری و هوش مصنوعی، نشست‌های فعال حساب‌های کاری، حساب‌های تبلیغاتی و دسترسی به سامانه‌های پرداخت را در معرض خطر قرار دهد. در نتیجه، یک اقدام ساده از سوی کاربر ممکن است به افشای اطلاعات، نفوذ به حساب‌ها، زیان مالی یا اختلال در فعالیت‌های توسعه نرم‌افزار و بازاریابی منجر شود. گزارش Any.Run جزئیات این یافته‌ها را ارائه می‌کند.
به گفته تیم پژوهشی Any.Run، ثبت ۱٬۲۵۸ مورد نشان می‌دهد که این نوع حملات در حال گسترش است.
یکی از سخنگویان تیم پژوهشی به Dark Reading گفت: «همین تعداد به‌تنهایی نشان می‌دهد که این مشکل تا چه اندازه فراگیر شده است؛ به‌ویژه با توجه به اینکه تیم‌های امنیتی بیش از ۱۶ هزار شرکت در سراسر جهان از Any.Run برای بررسی فعالیت‌های مشکوک استفاده می‌کنند.» او افزود: «تأیید تعداد دقیق آلودگی‌ها ممکن نیست، اما داده‌ها نشان می‌دهند که این کارزارها به شمار قابل‌توجهی از کاربران رسیده‌اند.»
حملات ClickFix و InstallFix و روش‌های فریب با موضوع هوش مصنوعی
گزارش Any.Run نشان می‌دهد که روش‌های موسوم به ClickFix نزدیک به نیمی از کارزارهای مبتنی بر هوش مصنوعی را تشکیل می‌دهند که در این پژوهش بررسی شده‌اند. نصب‌کننده‌های جعلی رابط خط فرمان (CLI) یا حملات InstallFix سهمی معادل ۲۷ درصد از موارد بررسی‌شده داشتند. در مقابل، حملات سنتی ClickFix که با صفحات دانلود جعلی آغاز می‌شوند، ۱۷ درصد موارد را شامل می‌شدند. همچنین، ۲۵ درصد حملات از گفت‌وگوهای هوش مصنوعی مورد سوءاستفاده قرارگرفته یا محتوای مخرب آغاز شده بودند.
سخنگوی Any.Run با اشاره به ارتباط نزدیک میان ابزارهای جعلی هوش مصنوعی و روش ClickFix گفت: «هوش مصنوعی جعلی و ClickFix ارتباط تنگاتنگی با یکدیگر دارند.» به گفته او، در ۴۵ درصد موارد بررسی‌شده، مهاجم از قربانی می‌خواست دستوری را در محیط کاربری خود کپی و جای‌گذاری کند. او افزود: «این آمار نشان می‌دهد مهاجمان تا چه اندازه به ترکیب فریب‌های مبتنی بر هوش مصنوعی با تکنیک‌های ClickFix روی آورده‌اند.»
این فریب‌ها معمولاً در قالب نصب‌کننده‌های جعلی ابزارهای مختلف هوش مصنوعی عرضه می‌شوند که در صفحات گیت‌هاب یا مستندات کپی‌شده و میزبانی‌شده روی پلتفرم‌های معتبر منتشر شده‌اند. این پلتفرم‌ها شامل Cloudflare Pages، GitLab Pages، Google Sites، GitHub و حتی خود پلتفرم‌های هوش مصنوعی هستند. هدف اصلی این روش‌ها توسعه‌دهندگان‌اند؛ درحالی‌که تبلیغات جعلی و نتایج جست‌وجوی دست‌کاری‌شده معمولاً کارکنان بخش بازاریابی را هدف قرار می‌دهند.
تیم پژوهشی Any.Run می‌گوید: «انتظار داریم با عرضه مداوم ابزارهای جدید هوش مصنوعی و ادامه علاقه عمومی به این فناوری، فریب‌های مبتنی بر ابزارهای جعلی هوش مصنوعی رایج‌تر شوند. افراد اغلب بدون آنکه بدانند به کدام منابع می‌توان اعتماد کرد، دستورالعمل نصب را جست‌وجو می‌کنند و مهاجمان از همین مسئله سوءاستفاده می‌کنند.»
گونه‌های InstallFix و ClickFix که با موضوع هوش مصنوعی طراحی شده‌اند، با هدف نفوذ به رایانه‌های کاری توسعه‌دهندگان و سرقت اطلاعات سازمانی فعالیت می‌کنند. این اطلاعات می‌تواند شامل کد منبع، کلیدهای SSH، توکن‌های سامانه‌های یکپارچه‌سازی و استقرار پیوسته (CI/CD) و کلیدهای API مربوط به فضای ابری و هوش مصنوعی باشد.
سخنگوی Any.Run توضیح داد: «این روش به‌ویژه در برابر توسعه‌دهندگان مؤثر است، زیرا نصب قانونی ابزارهای کدنویسی مبتنی بر هوش مصنوعی اغلب مستلزم اجرای دستورهایی در ترمینال است. به همین دلیل، پنهان کردن دستورهای مخرب در میان مراحل عادی نصب آسان‌تر می‌شود.»
پژوهشگران Any.Run هشدار دادند که اگرچه کارکنان بازاریابی ممکن است اهداف کم‌جاذبه‌تری برای مهاجمان باشند، این حملات همچنان می‌توانند اطلاعات ورود به حساب‌های تجاری ارزشمند را به خطر بیندازند.
محتوای مخرب و گفت‌وگوهای هوش مصنوعی
در کنار افزایش حملات InstallFix و ClickFix، انواع دیگری از تهدیدهای مرتبط با هوش مصنوعی نیز در حال گسترش‌اند. برای مثال، به گفته شرکت Push Security، روشی موسوم به «LLMShare» توانسته است کارایی قابل‌توجهی در فریب کاربران داشته باشد.
در روش LLMShare، مهاجمان محتوایی را در قالب گفت‌وگوهای اشتراکی روی پلتفرم‌های هوش مصنوعی منتشر می‌کنند. این محتواها اغلب ظاهری شبیه راهنمای نصب یا اطلاعیه به‌روزرسانی سرویس دارند، اما در واقع حاوی بدافزارند. مهاجمان با استفاده از تبلیغات مخرب و مسموم‌سازی نتایج جست‌وجو، کاربران را به سمت این گفت‌وگوهای آلوده هدایت می‌کنند. محتوای اشتراکی موسوم به آرتیفکت نیز به شیوه‌ای مشابه عمل می‌کند؛ با این تفاوت که مهاجمان محتوای مخرب را مستقیماً در پلتفرم‌های هوش مصنوعی منتشر می‌کنند.
دن گرین، پژوهشگر شرکت Push Security، به Dark Reading گفت: «گونه‌های اخیر این حملات که از گفت‌وگوهای اشتراکی، آرتیفکت‌ها و در تازه‌ترین مورد از GPTهای سفارشی استفاده می‌کنند، به‌ویژه خطرناک‌اند.» او به GPTهای سفارشی مخرب اشاره کرد و توضیح داد که این حملات در وب‌سایت‌های واقعی هوش مصنوعی انجام می‌شوند؛ یعنی دامنه متعلق به خود کلود، چت‌جی‌پی‌تی یا سرویس مربوطه است. بنابراین، کاربران انتظار ندارند در چنین محیطی با پیوندی مخرب روبه‌رو شوند.
گرین افزود که LLMShare نیز مانند InstallFix بسیار مؤثر بوده است، زیرا از «تعاملات و رفتارهای کاملاً عادی کاربران در فضای آنلاین» در دوران گسترش سریع هوش مصنوعی سوءاستفاده می‌کند. به گفته او، حملات InstallFix مبتنی بر هوش مصنوعی در حال حاضر ۵ تا ۱۰ درصد از موارد شناسایی‌شده ماهانه Push Security را تشکیل می‌دهند و این سهم هر ماه افزایش می‌یابد.
گرین گفت: «امروزه همه به استفاده از ابزارهای هوش مصنوعی تشویق می‌شوند و بسیاری از این ابزارها نیز به‌صورت قانونی از طریق خط فرمان نصب می‌شوند. کاربران عادی بیش از گذشته کارهایی شبیه توسعه‌دهندگان انجام می‌دهند و همین مسئله به مهاجمان امکان می‌دهد آنها را راحت‌تر فریب دهند.»
پژوهشگران Any.Run تأکید کردند که شناسایی این حملات دشوار است، زیرا بسیاری از آنها از دامنه‌های معتبر استفاده می‌کنند و گاهی محتوای مخرب مستقیماً روی همان پلتفرم‌های هوش مصنوعی میزبانی می‌شود که کاربران قصد استفاده از آنها را دارند. بااین‌حال، اقداماتی برای کاهش خطر وجود دارد که از اصلاح رفتار کارکنان آغاز می‌شود.
در گزارش Any.Run آمده است: «تمام الگوهای بررسی‌شده در این پژوهش با کارمندی آغاز می‌شوند که شخصاً به دنبال یک ابزار هوش مصنوعی می‌گردد.» این گزارش توصیه می‌کند: «فهرست کوتاهی از ابزارهای هوش مصنوعی مورد تأیید سازمان تهیه کنید و منابع رسمی دریافت آنها را مشخص کنید؛ از جمله وب‌سایت فروشنده، ابزار winget، سامانه Homebrew یا بسته رسمی ارائه‌شده از سوی فروشنده. سپس نصب این ابزارها را از طریق سامانه مدیریت دستگاه‌های همراه (MDM) یا درگاه نرم‌افزاری سازمان انجام دهید.»
پژوهشگران Any.Run همچنین به تیم‌های امنیتی توصیه کردند توانایی کاربران عادی را برای جای‌گذاری و اجرای دستورها محدود کنند. افزون بر این، کارکنان باید آموزش ببینند که دستورهای نصب را همواره با مستندات رسمی ارائه‌دهنده ابزار تطبیق دهند و برای دریافت راهنمایی به پیوندهای اشخاص ثالث، تبلیغات، گفت‌وگوهای اشتراکی یا منابع غیررسمی اتکا نکنند.