«محصولات را با انعطاف‌پذیری بسازید»؛ مدیران روبریک از رقابت برای ایمن‌سازی کد در عصر سرکشی عامل‌های هوش مصنوعی می‌گویند
با افزایش توانایی عامل‌های هوش مصنوعی در شناسایی و بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری، چه در نتیجه رفتارهای پیش‌بینی‌نشده و چه به‌عنوان بخشی از فعالیت مهاجمان، شرکت‌های هندی باید پیش از استقرار نرم‌افزارها از امنیت کدهای خود اطمینان حاصل کنند؛ زیرا اکنون خطرات و پیامدهای احتمالی بسیار جدی‌تر شده‌اند.
تیم واکنش اضطراری رایانه‌ای هند (CERT-In) روز پنجشنبه ۱۵ اکتبر هشدار داد که عامل‌های هوش مصنوعی که به‌اندازه کافی آزمایش نشده بودند، از کنترل خارج شدند و به‌طور غیرمجاز به سامانه‌های عملیاتی سازمان‌هایی نامشخص در هند دسترسی پیدا کردند. این اتفاق می‌توانست سوابق تجاری، اطلاعات شخصی و سایر داده‌های محرمانه را در معرض افشا قرار دهد. این عامل‌ها با استفاده از اطلاعات احراز هویت افشاشده، مخازن کد در دسترس عموم و تنظیمات ابری با مجوزهای بیش از حد گسترده توانستند این حملات را انجام دهند.
در چنین شرایطی، ابزار Code Guardian شرکت روبریک (Rubrik)، یک اسکنر آسیب‌پذیری کد مبتنی بر هوش مصنوعی که در چارچوب ابتکار خبرساز Project Glasswing شرکت آنتروپیک شکل گرفته است، نمونه‌ای از کاربرد هوش مصنوعی برای شناسایی آسیب‌پذیری‌های امنیتی حیاتی پیش از سوءاستفاده عامل‌های سرکش یا مهاجمان به شمار می‌رود. هند نیز در پژوهش و توسعه این ابزار نقشی کلیدی دارد.
روبریک هفته گذشته در نشست GSI Summit خود در گوا از Code Guardian رونمایی کرد. در حاشیه این رویداد، روزنامه The Indian Express با آنکا گوپتا، مدیر ارشد محصول، و آلوک آگراوال، مدیر ارشد راهکارها، گفت‌وگو کرد تا مشخص شود ساخت یک ابزار امنیتی مبتنی بر هوش مصنوعی در حوزه‌ای با این سرعت تغییر، چه الزاماتی دارد.
بخش‌هایی از این مصاحبه با ویرایش منتشر می‌شود:
پرسش: در حوزه‌ای که با چنین سرعتی در حال تحول است، چگونه می‌توان یک محصول امنیتی مبتنی بر هوش مصنوعی ساخت؟
آنکا گوپتا: مدیر امنیت محصول ما برای شرکت‌های دیگر حاضر در پروژه Glasswing توضیح داد که روبریک چه اقداماتی انجام داده و چگونه از مدل Mythos شرکت آنتروپیک، از خانواده Claude، برای راه‌اندازی Code Guardian استفاده کرده است. پس از آن، یکی از نمایندگان آنتروپیک با من تماس گرفت و گفت: «بیشتر شرکت‌های حاضر در Glasswing نتوانسته‌اند نتایجی را که شما به دست آورده‌اید، از این فناوری بگیرند.»
در آن زمان متوجه شدیم که فرصتی برای ورود به این حوزه و ساخت چنین محصولی وجود دارد. در ابتدا تردید داشتم، چون حوزه اسکن کد از قبل فعال بود و شرکت‌های نرم‌افزاری مبتنی بر مدل SaaS در آن فعالیت می‌کردند. بااین‌حال، آن شرکت‌ها عضو پروژه Glasswing نیستند.
در دنیای هوش مصنوعی باید آزمایش کرد و روی فرصت‌های مختلف سرمایه‌گذاری کرد؛ هیچ‌چیز قطعی نیست. در سطحی گسترده‌تر، هوش مصنوعی هزینه تغییر نرم‌افزار را به‌شدت کاهش می‌دهد. تا همین اواخر تصور می‌کردیم Mythos تنها مدل زبانی بزرگ (LLM) زیربنایی ما خواهد بود، اما اکنون فکر می‌کنم باید رویکردی چندمدلی در پیش بگیریم.
پرسش: Code Guardian به‌صورت پیشگیرانه کدهای تولیدشده با هوش مصنوعی را برای یافتن آسیب‌پذیری‌های امنیتی در محیط‌های ایزوله و جدا از شبکه اسکن می‌کند. منظور از محیط‌های جدا از شبکه چیست و این محیط‌ها چه تفاوتی با ماشین‌های مجازی (VM) یا ریزماشین‌های مجازی دارند؟
گوپتا: محیط Code Guardian از محیط مشتری جداست. برای اجرای Mythos و اسکن کد، تدابیر حفاظتی امنیتی متعددی در نظر گرفته‌ایم که محیط اجرا، فضای ایزوله‌ای که پردازش در آن انجام می‌شود، نحوه ورود کد و اطلاعات خروجی را پوشش می‌دهند.
مزیت این روش آن است که مشتری مجبور نیست ابزار را در محیط خودش اجرا کند؛ پردازش در زیرساخت روبریک انجام می‌شود و مسئولیت امنیت آن را ما بر عهده می‌گیریم. همچنین یک نسخه از کد را دریافت می‌کنیم و به مخازن اصلی کد یا کد در حال اجرا در محیط عملیاتی دست نمی‌زنیم.
پرسش: حمله مرتبط با OpenAI و Hugging Face نقطه عطفی بود. از نگاه شما به‌عنوان فعالان این صنعت، آیا این اتفاق نگرش صنعت امنیت سایبری به تهدیدهای مبتنی بر هوش مصنوعی را تغییر داده است؟
آلوک آگراوال: بسیاری پیش‌بینی می‌کردند که اتفاقی از این دست رخ خواهد داد. حمله به Hugging Face نشان داد که آینده‌ای که درباره آن هشدار داده می‌شد، همین حالا فرا رسیده است و نمونه‌ای واقعی از این تهدیدها را پیش روی ما گذاشت. این رویداد همچنین آگاهی درباره خطرات عامل‌های هوش مصنوعی را افزایش داد و شرکت‌ها را واداشت با دقت بیشتری به این فکر کنند که چگونه با این خطرات مقابله و آن‌ها را مهار کنند.
گوپتا: مهم‌ترین درسی که از حادثه Hugging Face می‌توان گرفت این است که اگر از مدل‌ها بخواهید کارهایی را انجام دهند که عملاً ناممکن به نظر می‌رسند، راهی برای انجام آن‌ها پیدا خواهند کرد. اگر در فرایند آموزش، تدابیر حفاظتی مناسبی وجود نداشته باشد و با تقویت رفتارهای مطلوب و بازداشتن مدل‌ها از رفتارهای زیان‌بار، آن‌ها را به‌درستی هدایت نکنیم، خطر رخنه‌های امنیتی‌ای به وجود می‌آید که پژوهشگران هرگز قصد ایجادشان را نداشته‌اند. بخش مهمی از مسئله به فشارها و سازوکارهای به‌کاررفته در آموزش مدل‌ها مربوط می‌شود و با موضوعی بسیار پیچیده روبه‌رو هستیم.
پرسش: چه تعداد از شرکت‌های هندی به‌طور فعال کدهای تولیدشده با هوش مصنوعی را از نظر آسیب‌پذیری‌های امنیتی آزمایش می‌کنند و شکاف آمادگی در این زمینه چقدر است؟
آگراوال: از آنجا که Mythos تنها در اختیار ۱۲۰ شرکت در سراسر جهان قرار دارد، به اعتقاد من تعداد شرکت‌های هندی که به آن دسترسی دارند بسیار ناچیز است. همین مسئله فرصت بزرگی برای ما و ابزار Code Guardian ایجاد می‌کند. این نیاز فقط به شرکت‌های فناوری محدود نیست؛ برای مثال، یک شرکت خرده‌فروشی هم ممکن است برنامه‌ای اختصاصی داشته باشد که با کد سفارشی ساخته شده و لازم باشد با ابزاری مانند Code Guardian اسکن و ایمن شود. بنابراین، معتقدیم این بازار بسیار بزرگ است.
پرسش: روبریک چگونه قصد دارد از Code Guardian درآمد کسب کند و قیمت‌گذاری آن را تعیین کند؟ چرا برای عرضه این محصول به بازار به مشارکت با شرکت‌های دیگر متکی است؟
آگراوال: تخصص اصلی روبریک توسعه نرم‌افزار و مالکیت فکری است. ما در ارائه خدمات، اجرای پروژه‌ها و سفارشی‌سازی نهایی محصولات تخصص نداریم؛ اینجا همان جایی است که مهندسان مستقر در محل مشتری (FDE) وارد عمل می‌شوند. شرکای ما در این زمینه توانمندی و تجربه زیادی دارند.
دلیل راه‌اندازی Project Hourglass این بود که می‌خواستیم با شرکای مشخصی همکاری کنیم که چنین تخصصی دارند و معتقدیم حل این مسئله برای مشتریان نهایی آن‌ها ارزشمند است. در چارچوب Project Hourglass با شرکت‌های Cognizant، Deloitte، LTM، HCL، NTT و Victron همکاری کرده‌ایم و اکنون دامنه این همکاری را به شرکت‌های AHEAD، Phase 3 و Worldwide Technologies نیز گسترش داده‌ایم.
پرسش: هند چه جایگاهی در راهبرد جهانی تحقیق و توسعه روبریک دارد و این شرکت چه میزان در هند سرمایه‌گذاری می‌کند؟
گوپتا: حدود ۶۰ درصد از فعالیت‌های تحقیق و توسعه ما در هند انجام می‌شود و این تیم‌ها روی محصولات اصلی شرکت کار می‌کنند. برخی از نوآورانه‌ترین محصولات ما تقریباً به‌طور کامل در هند ساخته می‌شوند. در بنگلور تیم‌های مدیریت محصول بسیار توانمندی داریم. تیم‌های طراحی محصول و مهندسی را در کنار یکدیگر مستقر می‌کنیم تا این محصولات را توسعه دهند. همچنین، سرعت پیشرفت تیم تحقیق و توسعه ما در هند از همه بیشتر است. مهندسان و مدیران محصول برجسته‌ای استخدام کرده‌ایم؛ بنابراین، حضور ما در هند صرفاً با هدف کاهش هزینه‌ها نیست. هند واقعاً یکی از مراکز اصلی نوآوری ماست.
آگراوال: در مقیاسی گسترده‌تر، هند ظرفیت بالقوه عظیمی دارد که هنوز به‌طور کامل از آن استفاده نشده است. چندین خط تولید محصول ما در دفاتر بنگلور و پونه توسعه می‌یابند و از همان‌جا عرضه می‌شوند. نیروهای ما در هند در ساخت محصولات نوآورانه و پیشرفته نقش دارند؛ کار آن‌ها صرفاً به آزمایش‌های پشتیبانی یا وظایف سطح پایین محدود نمی‌شود.
پرسش: آیا نگران هستید که محدودیت‌های صادراتی و افزایش تنش‌های ژئوپلیتیکی بر پذیرش Code Guardian و محصولات مرتبط تأثیر بگذارد؟
گوپتا: یکی از شرکایی که با او صحبت کردم، پیشنهاد داد با مدل‌های مختلف همکاری کنیم تا انعطاف‌پذیری بیشتری داشته باشیم؛ زیرا ممکن است برای ارائه خدمات به برخی مشتریان محدودیت‌های صادراتی اعمال شود. ما هنوز در مراحل اولیه توسعه محصول هستیم. هدفمان این است که کار را با Mythos آغاز کنیم، اما در نهایت به پشتیبانی از چند مدل برسیم.
هنگام ساخت محصولات در چنین فضایی، باید از ابتدا انعطاف‌پذیری را در نظر بگیرید و بتوانید خود را با هر شرایطی که پیش می‌آید تطبیق دهید.
نمی‌توانم پیش‌بینی کنم چه اتفاقی خواهد افتاد، به‌ویژه در زمینه مقررات دولتی. هر چیزی ممکن است رخ دهد. بنابراین، تمرکزم بر اقداماتی است که با توجه به اطلاعات فعلی می‌توانیم انجام دهیم و اینکه چگونه رویکردمان را انعطاف‌پذیر نگه داریم تا به یک روش مشخص وابسته و محدود نشویم.
پرسش: راهبرد تملک شرکت روبریک را چگونه تعریف می‌کنید و خرید شرکت‌هایی مانند Predibase تاکنون چه خلأهایی را پر کرده است؟
آگراوال: هر زمان تشخیص دهیم که می‌توانیم برای مشتری ارزش ایجاد کنیم، سه گزینه ساخت، تملک یا مشارکت را بررسی می‌کنیم. بخش‌هایی از فناوری که هسته اصلی محصولات ما را تشکیل می‌دهند، به‌صورت داخلی و از طریق توسعه تدریجی ایجاد می‌شوند.
اگر تخصص لازم را نداشته باشیم، ارزیابی می‌کنیم که با چه سرعتی می‌توانیم آن را از طریق خرید یک شرکت به دست آوریم. این تصمیم به عواملی مانند برخورداری شرکت موردنظر از نیروی انسانی مناسب و فرهنگ سازمانی سازگار نیز بستگی دارد. برای مثال، با خرید Predibase به مجموعه‌ای از مهندسان هوش مصنوعی و همچنین مدل زبانی کوچک این شرکت (SLM) دسترسی پیدا کردیم. توسعه مدل زبانی کوچک اختصاصی خودمان زمان زیادی می‌برد.
در حوزه‌هایی که جزو فعالیت‌های اصلی ما نیستند و همکاری با دیگران می‌تواند ارزش بیشتری ایجاد کند، با شرکای ائتلافی خود همکاری می‌کنیم. برای نمونه، یکپارچگی قدرتمندی با CrowdStrike داریم؛ به‌ویژه با محصول این شرکت در حوزه مدیریت هویت که می‌تواند فعالیت‌های مخرب را شناسایی کند. پس از شناسایی چنین فعالیتی، ما می‌توانیم به بازیابی وضعیت پاک و سالم برای آن سامانه ارائه‌دهنده هویت کمک کنیم.
نویسنده به دعوت روبریک در اجلاس GSI Summit 2026 این شرکت در گوا، هند، حضور داشت.