نگرانی متخصصان امنیت سایبری در ردیت از طرح هوش مصنوعی آنتروپیک؛ آیا این فناوری آینده این حرفه را تهدید می‌کند؟
نکات کلیدی
- آنتروپیک از طریق برنامه تأیید صلاحیت سایبری (Cyber Verification Program) و طرح مأموریت سایبری (Cyber Mission)، دسترسی به مدل‌های قدرتمند هوش مصنوعی ویژه امنیت سایبری را گسترش داده است.
- برخی متخصصان امنیت نگران‌اند که ابزارهای رایگان هوش مصنوعی، موقعیت‌های شغلی افراد تازه‌کار را تضعیف کنند و وابستگی به ارائه‌دهندگان بزرگ این فناوری را افزایش دهند.
- گروهی دیگر معتقدند هوش مصنوعی می‌تواند وظایف تکراری را حذف کند و به مدافعان سایبری در ایمن‌سازی نرم‌افزارها و زیرساخت‌های حیاتی کمک کند.
- کاربران ردیت، با وجود اختلاف‌نظر درباره میزان خودکارسازی فعالیت‌های امنیت سایبری، عمدتاً بر اهمیت تداوم قضاوت و نظارت انسانی اتفاق‌نظر دارند.
نکات کلیدی توسط nexos.ai تهیه و به تأیید تحریریه سایبرنیوز رسیده است.
متخصصان امنیت سایبری دهه‌ها برای یادگیری روش‌های مقابله با هکرها تلاش کرده‌اند، اما اکنون نگران‌اند که شرکت‌های هوش مصنوعی، دانش و تجربه‌ای را که طی سال‌ها به دست آورده‌اند به ابزارهایی تبدیل کنند که ممکن است روزی جای خودشان را بگیرند.
گسترش دسترسی به پیشرفته‌ترین مدل‌های هوش مصنوعی آنتروپیک در حوزه امنیت سایبری، با استقبال چندانی در جامعه متخصصان این حوزه در ردیت روبه‌رو نشده است. برخی از این متخصصان، پیشرفت هوش مصنوعی را روندی اجتناب‌ناپذیر می‌دانند و معتقدند بهترین واکنش، یادگیری نحوه استفاده از این فناوری است.
در مقابل، گروهی دیگر نگران‌اند که شتاب در به‌کارگیری مدل‌های قدرتمند هوش مصنوعی برای امنیت سایبری، قدرت را در اختیار تعداد محدودی از شرکت‌ها متمرکز کند و هم‌زمان، تخصص انسانی لازم برای نظارت بر سامانه‌هایی را که روزبه‌روز خودکارتر می‌شوند، تضعیف کند.
استفاده از دهه‌ها پژوهش امنیت سایبری برای جایگزینی انسان‌ها
آنتروپیک وعده داده است که با کمک هوش مصنوعی، آسیب‌پذیری‌های کدهای متن‌باز را برطرف کند و امنیت شبکه‌های برق را افزایش دهد. بااین‌حال، به نظر می‌رسد ابتکار تازه این شرکت، جامعه متخصصان امنیت سایبری را که موقعیت حرفه‌ای خود را در خطر می‌بینند، به‌شدت خشمگین کرده است.
یکی از کاربران ردیت در پستی که بحثی میان متخصصان امنیت سایبری به راه انداخت، پرسید: «چرا به‌سادگی آنچه آنتروپیک با حوزه امنیت سایبری انجام می‌دهد را می‌پذیریم؟»
بسیاری از کاربران به‌سرعت به این موضوع اشاره کردند که آنتروپیک با عرضه گسترده ابزارهای رایگان هوش مصنوعی، در حال کاهش ارزش مهارت‌های انسانی در صنعت امنیت سایبری است.
یکی از کاربران با عصبانیت نوشت: «انگار همان روش همیشگی شرکت‌هاست؛ ابتدا چیزی را رایگان عرضه می‌کنند، رقبا را از میدان بیرون می‌رانند، همه را به خود وابسته می‌کنند و بعد قیمت‌ها را بالا می‌برند.» او افزود که احتمال دارد متخصصان امنیت سایبری در نهایت با مدل‌هایی جایگزین شوند که با استفاده از همان دانش و دستاوردهایی آموزش دیده‌اند که جامعه امنیت سایبری دهه‌ها برای ایجاد آن‌ها تلاش کرده است.
پایان فرصت‌های شغلی تازه‌کاران؛ آیا این آخرین نسل از متفکران نقاد خواهد بود؟
نویسنده بحث در ردیت پرسید: «اما واقعاً چرا جامعه ما همچنان این وضعیت را می‌پذیرد؟ چرا در برابر آن مقاومت نمی‌کنیم؟ وقتی شرکت‌ها تصمیم بگیرند دیگر به نیروهای تازه‌کار احتیاجی ندارند، چه کسی نسل بعدی مهندسان امنیت را آموزش خواهد داد؟»
این پرسش مسئله مهمی را مطرح می‌کند: حتی اگر هوش مصنوعی حرفه امنیت سایبری را به‌طور کامل از بین نبرد، ممکن است مسیر پیشرفت شغلی را که به افراد تازه‌وارد امکان ورود به این حوزه را می‌دهد، نابود کند.
یکی دیگر از کاربران معتقد بود حذف موقعیت‌های شغلی سطح مقدماتی، حتی از احتمال جایگزینی متخصصان باتجربه با هوش مصنوعی نیز نگران‌کننده‌تر است.
به باور او، ابزارهای امنیتی به‌ویژه برای انجام کارهای تکراری مفیدند، اما خطر واقعی زمانی آغاز می‌شود که شرکت‌ها خودکارسازی را نه ابزاری برای پشتیبانی از تخصص انسانی، بلکه جایگزینی برای آن بدانند.
اگر شرکت‌ها وظایف روزمره‌ای را که معمولاً به کارکنان تازه‌کار سپرده می‌شود خودکار کنند، ممکن است هم‌زمان محیط آموزشی مهمی را نیز از بین ببرند؛ محیطی که متخصصان آینده در آن یاد می‌گیرند فعالیت‌های مشکوک را شناسایی کنند، رخدادهای امنیتی را بررسی کنند و بفهمند سامانه‌ها چگونه دچار نقص و شکست می‌شوند.
در واکنش به این بحث، کاربر دیگری وضعیت بازار کار امنیت سایبری را حتی در شرایط فعلی نیز برای متقاضیان نامساعد توصیف کرد. به گفته او، چند سال پیش مسئولان استخدام مرتب با پیشنهادهای شغلی به سراغش می‌آمدند و می‌توانست بدون جست‌وجوی فعالانه، شغل خود را تغییر دهد. اما اکنون، با وجود تجربه بیشتر، برای فرصت‌های شغلی متعددی درخواست می‌فرستد و به‌ندرت پاسخی دریافت می‌کند.
«خوش‌شانس هستم که از قبل وارد این صنعت شده‌ام، چون به نظر می‌رسد فرصت‌های شغلی سطح مقدماتی تقریباً به‌طور کامل از بین رفته‌اند.»
یکی از کاربران ردیت
ابزارهای رایگان، اما وابستگی‌های پرهزینه؟
برخی اعضای جامعه امنیت سایبری در ردیت، ابتکار آنتروپیک را بخشی از مشکل بزرگ‌تری می‌دانند که از تمرکز توانمندی‌های هوش مصنوعی در دست چند شرکت قدرتمند ناشی می‌شود. آن‌ها نگران‌اند که صنعت امنیت سایبری به تعداد انگشت‌شماری از ارائه‌دهندگان هوش مصنوعی وابسته شود.
یکی از کاربران معتقد بود صنعت هوش مصنوعی در حال تکرار چندین رفتار نادرست و آشنای شرکت‌های بزرگ است؛ از اقدامات ضدرقابتی و نقض حریم خصوصی گرفته تا خرید شرکت‌های رقیب کوچک‌تر و کنار زدن ابزارهای تخصصی به نفع مدل‌هایی که هر روز کاربردهای عمومی‌تری پیدا می‌کنند.
اما به باور او، مهم‌ترین مسئله این است که شرکت‌های هوش مصنوعی به تضعیف توانایی انسان‌ها برای تفکر انتقادی و زیر سؤال بردن پاسخ‌های فناوری دامن می‌زنند.
«مهم‌ترین چیزی که اکنون در حال جایگزین کردن آن هستند، توانایی انسان برای تفکر انتقادی و پرسشگری است. وقتی این روند فراگیر شود، خروجی بی‌کیفیت هوش مصنوعی به مرجع حقیقت تبدیل خواهد شد.»
به این ترتیب، وابستگی به هوش مصنوعی می‌تواند به چرخه‌ای تبدیل شود که خود را تقویت می‌کند. هرچه افراد وظایف بیشتری را به مدل‌ها واگذار کنند، ممکن است مهارت‌های لازم برای ارزیابی خروجی آن‌ها را بیشتر از دست بدهند و در نتیجه، بیش‌ازپیش به همان سامانه‌هایی وابسته شوند که دیگر نمی‌توانند با اطمینان عملکردشان را ارزیابی کنند.
همین کاربر تأکید کرد که مقاومت در برابر این روند از هم‌اکنون وجود دارد، اما تمایل شدید شرکت‌ها به خودکارسازی، مقابله با آن را دشوار کرده است.
آیا هوش مصنوعی جایگزین امنیت سایبری می‌شود یا فقط ابزارهای بهتری در اختیار متخصصان می‌گذارد؟
البته همه شرکت‌کنندگان در این بحث معتقد نبودند که هوش مصنوعی حرفه امنیت سایبری را تهدید می‌کند. برخی استدلال کردند که این فناوری می‌تواند با کمک به مدافعان سایبری برای رفع ضعف‌های دیرینه نرم‌افزارها و شیوه‌های امنیتی، این حوزه را تقویت کند.
یکی از کاربران نوشت: «نرم‌افزارهای ما آسیب‌پذیری‌های زیادی دارند، شرکت‌های ما از روش‌های نادرست زیادی استفاده می‌کنند و باید ابزارهای بهتری در اختیار کاربرانمان بگذاریم. هوش مصنوعی فقط این مشکلات را آشکار می‌کند و خودش هم بخشی از راه‌حل خواهد بود.»
کاربر دیگری معتقد بود هدف ابتکار آنتروپیک، تقویت امنیت سامانه‌های حیاتی پیش از آن است که قابلیت‌های سایبری قدرتمندتر به‌طور گسترده در دسترس قرار گیرند.
از این دیدگاه، مدافعان سایبری نباید خود ابزارها را دشمن بدانند، بلکه باید از فرصت موجود برای ارتقای امنیت استفاده کنند؛ تا زمانی که هنوز فرصت آماده شدن در برابر تهدیدهای آینده را دارند.
«آن‌ها اصلاً ارزش مهارت‌های ما را پایین نمی‌آورند؛ فقط کارهای اداری و تکراری را حذف می‌کنند. من کاملاً موافقم.»
یکی از کاربران ردیت
به اعتقاد این کاربر، خودکارسازی فعالیت‌های روزمره می‌تواند محدودیت موقعیت‌های شغلی مبتنی بر خواندن گزارش‌های ثبت رویداد و نظارت بر داشبوردها را آشکار کند. در عین حال، با پیشرفته‌تر شدن ابزارهای مجرمان سایبری، فرصت‌های بیشتری برای مهندسان امنیت سایبری ایجاد خواهد شد.
کاربر دیگری افزود: «این اتفاق ارزش حرفه امنیت سایبری را کاهش نمی‌دهد. حتی می‌توان استدلال کرد که اهمیت آن را بیشتر می‌کند، چون مهاجمان به‌زودی از همیشه توانمندتر خواهند شد.»
آیا هوش مصنوعی همچنان به نظارت انسان نیاز دارد؟
بااین‌حال، همه متخصصان امنیت سایبری در ردیت این تصور را که هوش مصنوعی خودمختار می‌تواند جایگزین آن‌ها شود، قبول نداشتند. برخی تأکید کردند که ابزارهای هوش مصنوعی، حتی اگر رایگان باشند، همچنان به مشارکت و نظارت قابل‌توجه انسان نیاز دارند.
البته این به آن معنا نیست که هر محصول جدید هوش مصنوعی باید بدون پرسش و بررسی پذیرفته شود. بعضی کاربران ردیت معتقدند هوش مصنوعی جایگاه واقعی و مفیدی در امنیت سایبری دارد، اما شرکت‌ها بیش‌ازاندازه آن را به‌عنوان راه‌حلی برای همه مشکلات تبلیغ می‌کنند.
تیم‌های امنیت سایبری نباید در رقابت برای خودکارسازی فراموش کنند که توانایی یک ابزار برای انجام کاری مشخص، لزوماً به این معنا نیست که آن ابزار بهترین، ایمن‌ترین یا مقرون‌به‌صرفه‌ترین روش انجام آن کار است.
«هوش مصنوعی حرفه ما را تهدید نمی‌کند. چیزی که مدام مجبوریم با آن سروکله بزنیم و خرابکاری‌هایش را درست کنیم، بدهی فنی و انبوه خروجی‌های بی‌کیفیت است.»
یکی از کاربران ردیت
از اسب تا خودرو؛ پیشرفت فناوری روندی طبیعی است
کسانی که با مقاومت در برابر هوش مصنوعی مخالف‌اند، بار دیگر به استدلال آشنایی درباره ماهیت پیشرفت فناوری اشاره می‌کنند.
یکی از کاربران ردیت نوشت: «پیشرفت همین‌طور اتفاق می‌افتد. وقتی خودروها وارد بازار شدند و ارزش مهارت‌های درشکه‌ران‌ها و نعل‌بندها را پایین آوردند، آن‌ها هم بسیار عصبانی بودند. اما حالا خیابان‌ها پر از درشکه‌ران‌ها و نعل‌بندهای بیکار نیست.»
کاربر دیگری در پاسخ نوشت: «بله، اما گذار از اسب به خودرو طی چندین دهه اتفاق افتاد و به نیروی کار فرصت داد دوباره آموزش ببیند و خود را با شرایط جدید سازگار کند؛ درحالی‌که این گذار به هوش مصنوعی ظرف چند ماه در حال رخ دادن است.»
صنعت امنیت سایبری ممکن است مانند دوره‌های پیشین تحول فناوری، خود را با شرایط تازه وفق دهد. اما این سازگاری خودبه‌خود اتفاق نمی‌افتد و منافع پیشرفت نیز لزوماً به‌طور یکسان میان همه توزیع نمی‌شود.
شرکت‌ها می‌توانند بلافاصله از افزایش بهره‌وری سود ببرند، درحالی‌که کارکنان و مراکز آموزشی باید راهی پیدا کنند تا مسیرهای پیشرفت شغلی را متناسب با انتظاراتی که دائماً تغییر می‌کنند، از نو طراحی کنند.
«احساس می‌کنم جامعه ما در موقعیت ویژه‌ای قرار دارد تا یاد بگیرد، سازگار شود و ویژگی‌هایی را تقویت کند که واقعاً ما را انسان می‌سازند. من در سنین بالاتر در حال تغییر مسیر شغلی و ورود به حوزه فناوری هستم و فکر می‌کنم استفاده از هوش مصنوعی برای مقابله با هوش مصنوعی، عملاً تنها گزینه ماست.»
یکی از کاربران ردیت
یک توسعه‌دهنده ۶۴ ساله که در حوزه امنیت سایبری و انطباق با مقررات فعالیت می‌کند، نوشت: «دوست دارم ببینم شرکت‌های هوش مصنوعی به‌جای آنکه موفقیت خود را صرفاً بر اساس تعداد وظایفی بسنجند که مدل‌هایشان می‌توانند خودکار کنند، در حرفه امنیت سایبری که وارد آن شده‌اند سرمایه‌گذاری می‌کنند؛ از جمله در آموزش عملی و توسعه مهارت‌ها.»
کاربر دیگری نوشت: «فکر نمی‌کنم کسی واقعاً چیزی را پذیرفته باشد. همه ما فقط تلاش می‌کنیم در شرایط فعلی بهترین کاری را که از دستمان برمی‌آید انجام دهیم.»
او افزود: «این حرفه قرار نیست از بین برود؛ فقط باید خودمان را با شرایط جدید سازگار کنیم. ذهنیت رشد و یادگیری را حفظ کنید.»
آنتروپیک چگونه بحث ردیت را به راه انداخت؟
شرکت هوش مصنوعی آنتروپیک به‌تازگی ابتکاری بلندمدت به نام «مأموریت سایبری» (Cyber Mission) راه‌اندازی کرده است. هدف این طرح، ارائه مدل‌های پیشرفته و پیشرو هوش مصنوعی، پژوهش‌های مربوط به تهدیدهای سایبری و پشتیبانی مهندسی برای تأمین امنیت زیرساخت‌های حیاتی و نرم‌افزارهای متن‌باز است.
آنتروپیک پیش‌تر از انتشار عمومی مدل Mythos خودداری کرده و استفاده از آن را در قالب پروژه Glasswing به گروه محدودی از سازمان‌های همکار اختصاص داده بود. اما اکنون به نظر می‌رسد این شرکت قصد دارد امکان استفاده از مدل‌های خود را برای گروه گسترده‌تری از متخصصان و سازمان‌های مدافع امنیت سایبری فراهم کند.
آنتروپیک در اطلاعیه رسمی خود نوشت: «ما پروژه Glasswing را در برنامه توسعه‌یافته تأیید صلاحیت سایبری خود ادغام کرده‌ایم؛ برنامه‌ای که به تعداد بسیار بیشتری از مدافعان سایبری امکان دسترسی به توانمندترین مدل‌های ما را می‌دهد.»
این شرکت در ادامه اعلام کرد: «همچنین از طریق مأموریت سایبری آنتروپیک، نیروهای متخصص مهندسی خود را به کار خواهیم گرفت و ابزارها و منابع مالی لازم را در اختیار کسانی قرار خواهیم داد که برای تأمین امنیت زیرساخت‌های حیاتی و نرم‌افزارهای متن‌باز تلاش می‌کنند.»