فناوری چه می‌گوید: چگونه مجرمان پلتفرم‌های هوش مصنوعی را فریب می‌دهند
نویسنده: جیمی تاکر، گزارشگر فناوری مصرف‌کنندگان
کارشناسان امنیت سایبری هشدار می‌دهند که مجرمان می‌توانند دستیارهای هوش مصنوعی را فریب دهند تا اطلاعات شخصی را افشا کنند، ایمیل بفرستند یا اقداماتی انجام دهند که هرگز اجازه آن را نداده‌اید. این حمله می‌تواند در چیزی به ظاهر عادی مانند یک ایمیل پنهان شده باشد.
سال‌هاست به ما هشدار داده می‌شود که مراقب کلاهبرداری‌های آنلاین باشیم؛ روی لینک‌های مشکوک کلیک نکنیم، فایل‌های پیوست ناشناس را باز نکنیم و هرگز گذرواژه‌های خود را در اختیار افراد غریبه قرار ندهیم.
اما اگر همه این کارها را درست انجام دهید و در نهایت دستیار هوش مصنوعی‌ای که به آن اعتماد کرده‌اید قربانی فریب شود چه؟ این نگرانی امنیت سایبری رو به رشدی است که «تزریق فرمان» (Prompt Injection) نام دارد و کارشناسان می‌گویند همین حالا تهدیدی واقعی است، نه مشکلی که فقط باید در آینده نگران آن بود.
چگونه هکرها می‌توانند دستیار هوش مصنوعی را فریب دهند
با قدرتمندتر شدن هوش مصنوعی، ما نیز مسئولیت‌های بیشتری را به این فناوری می‌سپاریم. دستیارهای هوش مصنوعی که گاهی «عامل‌های هوش مصنوعی» نامیده می‌شوند، می‌توانند ایمیل‌ها را بخوانند، وب‌سایت‌ها را مرور کنند، اطلاعات جست‌وجو کنند، قرار ملاقات تنظیم کنند و حتی وظایفی را از طرف ما انجام دهند.
اما همین قابلیت‌ها فرصت تازه‌ای برای مجرمان ایجاد می‌کند.
استیو ویلسون، کارشناس امنیت سایبری، توضیح می‌دهد: «تزریق فرمان زمانی اتفاق می‌افتد که مجموعه‌ای از دستورها را وارد می‌کنید که برای فریب هوش مصنوعی طراحی شده‌اند تا کاری انجام دهد که مالک آن هوش مصنوعی قصد انجامش را نداشته است.»
برخلاف ویروس‌های رایانه‌ای سنتی، حمله تزریق فرمان الزاماً به نرم‌افزار مخرب نیاز ندارد. این دستورها می‌توانند با زبان ساده انگلیسی نوشته شوند و داخل یک ایمیل، صفحه وب یا سند پنهان شوند؛ در حالی که فردی که از هوش مصنوعی استفاده می‌کند ممکن است هرگز متوجه حضور آن‌ها نشود.
ویلسون می‌گوید: «داخل آن ایمیلی که برای جیمی فرستاده شده، دستورهای پنهانی وجود دارد. شما آن‌ها را نمی‌بینید، اما عامل هوش مصنوعی آن‌ها را می‌خواند.»
خطر اصلی این است که یک دستیار هوش مصنوعی ممکن است این دستورهای پنهان را با فرمان‌هایی اشتباه بگیرد که باید از آن‌ها پیروی کند.
یک پیام پنهان درون یک ایمیل عادی
امیر منظوم، آزمایشگر سیستم‌های هوش مصنوعی، برای یافتن ضعف‌های امنیتی این فناوری‌ها را بررسی می‌کند. او نشان داد که چگونه مهاجم می‌تواند دستورهای مخرب را درون ایمیلی که در ظاهر کاملاً معمولی است پنهان کند.
یکی از روش‌ها بسیار ساده است: استفاده از متن سفید روی پس‌زمینه سفید.
برای کسی که ایمیل را باز می‌کند، همه چیز طبیعی به نظر می‌رسد. هیچ فایل پیوست مشکوک یا نشانه هشداردهنده‌ای وجود ندارد. اما درون پیام، دستورهایی پنهان شده‌اند که هوش مصنوعی هنگام خواندن ایمیل می‌تواند آن‌ها را پردازش کند.
منظوم توضیح می‌دهد: «وقتی هوش مصنوعی شما در حال اجراست و ایمیل را بررسی می‌کند، آن را می‌خواند.»
در این آزمایش، فرمان پنهان به دستیار هوش مصنوعی دستور می‌داد اطلاعات خصوصی را به جای دیگری ارسال کند؛ کاری که مالک سیستم هرگز درخواست نکرده بود.
تصور کنید این موضوع چه معنایی دارد. ممکن است از یک دستیار هوش مصنوعی بخواهید ایمیلی را خلاصه کند یا یک قرارداد تجاری را بررسی کند. اما در میان اطلاعاتی که آن دستیار می‌خواند، ممکن است دستورهایی از سوی فردی وجود داشته باشد که قصد سرقت فهرست مخاطبان یا اطلاعات حساس شما را دارد.
این حمله زمانی موفق می‌شود که هوش مصنوعی از آن دستورها پیروی کند و دسترسی لازم برای اجرای آن‌ها را داشته باشد.
کلاهبردار با دسترسی به هوش مصنوعی شما چه کاری می‌تواند انجام دهد؟
پیامدهای احتمالی این مشکل بسیار فراتر از دریافت یک پاسخ اشتباه از هوش مصنوعی است. دستیار هوش مصنوعی‌ای که به ایمیل، مخاطبان، حساب‌های خرید یا دیگر سرویس‌های شما متصل است، ممکن است دستکاری شود تا اقداماتی را انجام دهد که هرگز تأیید نکرده‌اید.
منظوم هشدار می‌دهد: «این سیستم می‌تواند از طریق ایمیل خود را جای شما جا بزند، سفارش ثبت کند و هر چیزی را که به آن اجازه دسترسی داده‌اید در اختیار داشته باشد.»
برای کاربران عادی، این مسئله می‌تواند به افشای اطلاعات شخصی یا ارسال پیام بدون اجازه منجر شود. برای کسب‌وکارها، خطرها می‌تواند بسیار بزرگ‌تر باشد. یک دستیار هوش مصنوعی که به سوابق شرکت، اطلاعات مشتریان یا سامانه‌های داخلی دسترسی دارد، در صورت شکست سازوکارهای حفاظتی ممکن است داده‌های حساس را افشا کند.
همین نگرانی‌ها درباره سازمان‌های دولتی و زیرساخت‌های حیاتی نیز وجود دارد؛ زیرا این سازمان‌ها در حال بررسی استفاده بیشتر از هوش مصنوعی برای خودکارسازی عملیات خود هستند.
آیا می‌توان جلوی تزریق فرمان را گرفت؟
پژوهشگران امنیت سایبری در حال توسعه روش‌هایی برای شناسایی و مسدود کردن این حملات هستند، اما کارشناسان می‌گویند هنوز راه‌حل کاملاً مطمئنی وجود ندارد.
ویلسون می‌گوید: «وقتی سه یا چهار سال پیش کار روی این موضوع را شروع کردم، زمان زیادی را صرف پیدا کردن راه‌حل کردیم. به مردم می‌گویم این مسئله مثل مرگ و مالیات است؛ قطعی است.»
این به آن معنا نیست که همه دستیارهای هوش مصنوعی قربانی حملات تزریق فرمان خواهند شد. سازوکارهای امنیتی می‌توانند جلوی بسیاری از تلاش‌ها را بگیرند و همه سیستم‌های هوش مصنوعی نیز اجازه ارسال اطلاعات یا انجام اقدامات را ندارند.
اما مشکل اصلی همچنان باقی است: سیستم‌های هوش مصنوعی ممکن است در تشخیص تفاوت میان اطلاعاتی که باید فقط بخوانند و دستورهایی که باید از آن‌ها پیروی کنند، دچار مشکل شوند.
چگونه هنگام استفاده از هوش مصنوعی از خود محافظت کنیم
مهم‌ترین اقدام احتیاطی این است که درباره میزان دسترسی‌ای که به دستیار هوش مصنوعی می‌دهید، دقت کنید.
- دسترسی به حساب‌های شخصی را محدود کنید. تا حد امکان، عامل‌های هوش مصنوعی را به حساب‌های بانکی، مالی یا دیگر حساب‌های حساس متصل نکنید.
- برای اقدامات مهم تأیید انسانی لازم تعیین کنید. یک دستیار هوش مصنوعی نباید بدون اجازه شما بتواند ایمیل ارسال کند، اطلاعات خصوصی را به اشتراک بگذارد یا خرید انجام دهد.
- فقط دسترسی‌های ضروری را به هوش مصنوعی بدهید. اگر از یک دستیار می‌خواهید ایمیلی را خلاصه کند، نباید هم‌زمان اجازه ارسال پیام از طرف شما را داشته باشد.
- برنامه‌ها و مجوزهای متصل را بررسی کنید. ببینید به دستیار هوش مصنوعی اجازه استفاده از کدام حساب‌ها و سرویس‌ها را داده‌اید.
- اطلاعات حساس را جدا نگه دارید. یکی از کارشناسان امنیت سایبری که برای این گزارش مصاحبه شده است، رویکردی بسیار محتاطانه دارد و از هوش مصنوعی روی رایانه‌ای جداگانه استفاده می‌کند که به ایمیل شخصی یا حساب‌های او دسترسی ندارد.
صرفاً استفاده از چت‌جی‌پی‌تی، کلاد، جمینای یا یک چت‌بات هوش مصنوعی دیگر برای پرسیدن سؤال، با دادن دسترسی حساب‌ها به یک عامل هوش مصنوعی مستقل یکسان نیست.
خطرها زمانی بیشتر می‌شوند که یک دستیار هم بتواند به اطلاعات حساس دسترسی داشته باشد و هم بدون تأیید مستقیم شما اقداماتی انجام دهد.
هوش مصنوعی قدرتمندتر و کاربردی‌تر می‌شود. اما هرچه مسئولیت بیشتری به این سیستم‌ها می‌سپاریم، باید با دقت بیشتری فکر کنیم که چه میزان کنترل را در اختیار آن‌ها قرار می‌دهیم.
زیرا ممکن است کلاهبردار بعدی دیگر نیازی نداشته باشد شما را فریب دهد.
فقط کافی است هوش مصنوعی شما را فریب دهد.