What The Tech: کارشناسان توضیح می‌دهند هوش مصنوعی چگونه می‌تواند برق، آب آشامیدنی و دیگر خدمات را مختل کند
منتشرشده در ۱۶ اکتبر ۲۰۲۶، ساعت ۶:۲۹ صبح به وقت مرکزی آمریکا
نوشته جیمی تاکر، خبرنگار فناوری مصرف‌کنندگان
هوش مصنوعی می‌تواند کار را برای هکرها آسان‌تر کند تا برق، آب آشامیدنی و دیگر خدماتی را که جوامع هر روز به آن‌ها وابسته‌اند، مختل کنند.
تصور کنید یک روز صبح از خواب بیدار شوید و متوجه شوید برق نیست، آب لوله‌کشی قطع شده و چراغ‌های راهنمایی هم کار نمی‌کنند.
یک طوفان شدید می‌تواند چنین اختلالی ایجاد کند. اما کارشناسان امنیت سایبری هشدار می‌دهند هکرهایی که از هوش مصنوعی استفاده می‌کنند، ممکن است بتوانند قطعی‌های گسترده ایجاد کنند و به زیرساخت‌های حیاتی آسیب بزنند.
شاید نگران‌کننده‌ترین بخش ماجرا این باشد که هوش مصنوعی می‌تواند انجام حملات سایبری پیچیده را برای افرادی که تجربه فنی بسیار کمتری دارند نیز ممکن کند.
این یکی از تهدیدهایی است که در مجموعه «What the Tech?» با عنوان «هوش مصنوعی: چه چیزی ممکن است اشتباه پیش برود؟» بررسی می‌شود.
هوش مصنوعی می‌تواند هک کردن را آسان‌تر کند
آلون ناچمانی یک شرکت امنیت سایبری را اداره می‌کند که از سامانه‌های رایانه‌ای مورد استفاده در تأسیسات تصفیه آب، نیروگاه‌ها و دیگر زیرساخت‌های حیاتی محافظت می‌کند.
بسیاری از این سامانه‌ها دهه‌ها پیش، یعنی مدت‌ها قبل از آنکه امنیت سایبری به یک دغدغه جدی تبدیل شود، ساخته شده‌اند.
ناچمانی توضیح داد: «همه این‌ها با هدف قابلیت اطمینان ساخته شده‌اند، نه امنیت.»
این سامانه‌ها تجهیزاتی را کنترل می‌کنند که جوامع هر روز به آن‌ها وابسته‌اند. رایانه‌ها پمپ‌ها، پست‌های برق، تجهیزات تصفیه آب و ماشین‌آلات دیگر را اداره می‌کنند. برخی از این سامانه‌ها از راه دور قابل دسترسی هستند و اگر به‌درستی ایمن نشده باشند، می‌توانند آسیب‌پذیری‌هایی ایجاد کنند.
در گذشته، سوءاستفاده از این ضعف‌ها می‌توانست به دانش فنی قابل‌توجهی نیاز داشته باشد. هوش مصنوعی ممکن است این مانع را کاهش دهد.
ناچمانی گفت: «هوش مصنوعی این امکان را برای عوامل تهدید، یا حتی نوجوان‌هایی که فقط دور هم نشسته‌اند، فراهم می‌کند که کارهای بیشتری انجام دهند.»
او یک سامانه کنترلی شبیه‌سازی‌شده را نمایش داد که نشان می‌داد هوش مصنوعی چگونه می‌تواند به فردی کمک کند نرم‌افزاری برای تعامل با تجهیزات صنعتی بسازد.
او توضیح داد: «هوش مصنوعی در واقع می‌تواند به ساخت ابزارهایی که برای هک کردن این محیط‌ها نیاز دارید، کمک کند.»
او نشان داد که یک رابط کاربری مجهز به هوش مصنوعی می‌تواند فرمان‌هایی مانند خاموش کردن یک پست برق یا افزایش میزان ورود کلر به سامانه آب را دربر داشته باشد.
این نمایش یک شبیه‌سازی بود و حمله‌ای به یک تأسیسات خدماتی در حال فعالیت انجام نشد. دسترسی موفقیت‌آمیز به زیرساخت‌های واقعی همچنان مستلزم عبور از سازوکارهای حفاظتی امنیتی است.
سامانه‌های آب و نیروگاه‌ها همین حالا هم هدف حمله هستند
این خطر کاملاً فرضی نیست.
هکرها سامانه‌های آب و فاضلاب را در سراسر ایالات متحده هدف قرار داده‌اند. مقام‌های فدرال امنیت سایبری درباره آسیب‌پذیری تجهیزات صنعتی متصل به اینترنت، از جمله سامانه‌های قدیمی که ممکن است فاقد حفاظت‌های امنیتی مدرن باشند، هشدار داده‌اند.
این حملات لزوماً با استفاده از هوش مصنوعی انجام نمی‌شوند. با این حال، کارشناسان امنیت سایبری نگران‌اند که هوش مصنوعی بتواند به مهاجمان در یافتن آسیب‌پذیری‌ها، نوشتن نرم‌افزار و خودکارسازی بخش‌هایی از حمله کمک کند.
کریس کانال، کارشناس هوش مصنوعی، می‌گوید یکی از نگران‌کننده‌ترین تحولات، توانایی روزافزون هوش مصنوعی برای شناسایی نقاط ضعف در برنامه‌های رایانه‌ای است.
کانال گفت: «فکر می‌کنم یکی از مهم‌ترین پیشرفت‌ها، توانایی یافتن آسیب‌پذیری‌های جدید در نرم‌افزارهای موجود است.»
او هشدار داد که مدل‌های هوش مصنوعی هرچه توانمندتر شوند، ممکن است بتوانند بخشی از کارهایی را که هکرهای بسیار ماهر انجام می‌دهند، بر عهده بگیرند.
پیامدهای یک حمله می‌تواند بسیار فراتر از سرقت گذرواژه‌ها یا اطلاعات شخصی باشد.
یک حمله موفقیت‌آمیز به زیرساخت‌های حیاتی می‌تواند برق را قطع کند، خدمات آب را مختل سازد، در عملکرد تجهیزات صنعتی اختلال ایجاد کند یا اپراتورها را وادار کند برای احتیاط سامانه‌ها را خاموش کنند.
در سال ۲۰۲۱، یک حمله باج‌افزاری به Colonial Pipeline باعث شد این شرکت موقتاً فعالیت خط لوله خود را متوقف کند و در تأمین سوخت در سراسر شرق ایالات متحده اختلال ایجاد شود.
نهادهای فدرال درباره افزایش خطرها هشدار می‌دهند
نهادهای فدرال امنیت سایبری هشدار داده‌اند که عوامل مخرب، سامانه‌های کنترل صنعتی مورد استفاده شرکت‌های خدماتی و دیگر خدمات ضروری را هدف قرار می‌دهند.
هوش مصنوعی نگرانی دیگری نیز ایجاد می‌کند: مهاجمان ممکن است بتوانند از نرم‌افزارهای هرچه قدرتمندتر برای توسعه و تطبیق سریع‌تر روش‌های خود استفاده کنند.
هوش مصنوعی می‌تواند در جهت دفاع نیز به کار گرفته شود و به تیم‌های امنیت سایبری در شناسایی فعالیت‌های غیرعادی و تشخیص نفوذهای احتمالی کمک کند.
با این حال، ناچمانی نگران است که برخی اپراتورهای زیرساخت‌های حیاتی همچنان برای ایمن‌سازی تجهیزاتی با مشکل روبه‌رو باشند که اساساً برای مقابله با حملات سایبری مدرن طراحی نشده‌اند.
او گفت: «فکر می‌کنم قطعاً اتفاقات ترسناکی رخ خواهد داد. بخشی از این مسیر یادگیری، قطعی برق در نقاط مختلف و اختلال‌های گوناگون خواهد بود.»
هشدار دیگری: هوش مصنوعی که خودش را کپی می‌کند
نگرانی درباره از دست رفتن کنترل بر هوش مصنوعی فقط به حمله هکرها به زیرساخت‌ها محدود نمی‌شود.
پژوهشگران Anthropic، شرکت سازنده دستیار هوش مصنوعی Claude، درباره احتمال آنکه سامانه‌های هوش مصنوعی در آینده بتوانند خودشان را در رایانه‌ها و دستگاه‌های متصل به اینترنت کپی کنند، هشدار داده‌اند.
این شرکت در یک گزارش پژوهشی بررسی کرده است که چگونه سامانه‌های هوش مصنوعی کوچک‌تر ممکن است در نهایت بتوانند بدون وابستگی به یک مرکز داده واحد، در شبکه‌ها گسترش پیدا کنند.
چنین وضعیتی می‌تواند متوقف کردن یک سامانه هوش مصنوعی خودتکثیرشونده را به‌ویژه دشوار کند، زیرا ممکن است مکان واحدی وجود نداشته باشد که بتوان سامانه را به سادگی از آنجا خاموش کرد.
این سناریو همچنان یک خطر بالقوه در آینده است و نشانه‌ای از آن نیست که هوش مصنوعی در حال حاضر به‌طور غیرقابل‌کنترل در لوازم خانگی در حال گسترش باشد.
این موضوع برای مردم عادی چه معنایی دارد؟
بیشتر مردم کنترل مستقیمی بر سامانه‌های امنیت سایبری که از منابع آب یا شبکه برق شهرشان محافظت می‌کنند، ندارند. این مسئولیت‌ها بر عهده اپراتورهای خدمات عمومی، سازندگان تجهیزات و نهادهای دولتی است.
با این حال، این هشدارها نشان می‌دهند جوامع مدرن تا چه اندازه به رایانه‌های متصل وابسته شده‌اند.
همان فناوری‌ای که امکان نظارت و مدیریت از راه دور زیرساخت‌های حیاتی را فراهم می‌کند، اگر تدابیر امنیتی با شکست مواجه شوند، می‌تواند فرصت‌هایی نیز برای مهاجمان ایجاد کند.
امکان ترسناک صرفاً این نیست که هوش مصنوعی بتواند برای ایجاد اختلال در یک شهر به کار گرفته شود؛ بلکه این است که هوش مصنوعی بتواند ابزارهای جدیدی را در اختیار افرادی قرار دهد که پیش‌تر تخصص فنی لازم برای تلاش جهت انجام چنین حملاتی را نداشتند.
به همین دلیل است که کارشناسان امنیت سایبری می‌گویند حفاظت از زیرساخت‌های حیاتی بیش از پیش ضرورت پیدا کرده است.