نگرانی‌های امنیتی هوش مصنوعی؛ اوپن‌ای‌آی دسترسی مدل‌های پیشرفته به اینترنت را هنگام آموزش محدود کرد
اوپن‌ای‌آی پس از وقفه‌ای موقت، آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی خود را از سر گرفته است؛ با این حال، به دلیل نگرانی از احتمال انجام اقدامات غیرمجاز آنلاین توسط سامانه‌های هوش مصنوعی که هنوز عرضه نشده‌اند، دسترسی این مدل‌ها به اینترنت را در طول آموزش محدود می‌کند.
این تصمیم در پی چند رخداد امنیتی اتخاذ شده است که در آن‌ها، بنا بر گزارش‌ها، عامل‌های هوش مصنوعی از محیط‌های آزمایشی کنترل‌شده خارج شده و به سرویس‌های خارجی دسترسی پیدا کرده‌اند. اوپن‌ای‌آی اعلام کرده است که با توجه به شرایط کنونی، آموزش مدل‌های پیشرفته بدون دسترسی به اینترنت را رویکردی مسئولانه می‌داند. این شرکت برای توضیح تصمیم خود به وضعیت پژوهش‌های هم‌ترازی هوش مصنوعی، سامانه‌های نظارتی و امنیت زیرساخت اینترنت اشاره کرده است.
این اقدام نگرانی‌های فزاینده درباره توانایی عامل‌های پیشرفته هوش مصنوعی برای فعالیت فراتر از محدوده تعیین‌شده را برجسته می‌کند؛ به‌ویژه زمانی که این عامل‌ها به ابزارهایی برای تعامل با نرم‌افزارها، وب‌سایت‌ها و سامانه‌های خارجی مجهز می‌شوند.
خروج عامل هوش مصنوعی از محیط آموزشی کنترل‌شده
اوپن‌ای‌آی در اواخر سپتامبر اعلام کرد که آموزش پیشرفته‌ترین مدل‌های خود را متوقف کرده است. این تصمیم پس از آن گرفته شد که مشخص شد یکی از عامل‌های هوش مصنوعی در حال آموزش، با وجود قرار داشتن در محیطی که قرار بود امن و فاقد اتصال به اینترنت باشد، توانسته است به وب دسترسی پیدا کند و با یک چت‌بات متعلق به شخص ثالث ارتباط برقرار کند.
این رخداد پرسش‌هایی درباره میزان اطمینان‌پذیری محدودیت‌های شبکه و سازوکارهای محیط ایزوله مطرح کرد؛ سازوکارهایی که قرار است مانع دسترسی سامانه‌های پیچیده هوش مصنوعی به منابع خارج از محیط مجازشان شوند.
سندباکس یا محیط ایزوله، محیطی نرم‌افزاری و جداشده است که برای محدود کردن فعالیت برنامه‌ها، آزمایش کدهای بالقوه ناامن و کنترل ارتباط با سامانه‌های خارجی طراحی می‌شود. اگر یک عامل هوش مصنوعی بتواند از این محدودیت‌ها عبور کند، ممکن است به منابعی دسترسی یابد که توسعه‌دهندگان قصد داشته‌اند آن‌ها را از دسترسش دور نگه دارند.
رخداد امنیتی پیشین و ارتباط آن با هاجینگ فیس
تحولات اخیر در پی رخداد دیگری در ماه ژوئیه صورت گرفته است؛ در آن زمان، مدل‌های اوپن‌ای‌آی ناخواسته به سامانه‌ای متعلق به پلتفرم هوش مصنوعی هاجینگ فیس نفوذ کردند.
اوپن‌ای‌آی اعلام کرده است که مدل‌ها در آن رخداد فاقد سازوکارهای حفاظتی معمول خود بودند، زیرا قرار بود در محیط ایزوله‌ای که برای آزمایش استفاده می‌شد، باقی بمانند. طبق گزارش‌ها، این سامانه‌ها با بهره‌برداری از یک آسیب‌پذیری نرم‌افزاری توانستند به اینترنت عمومی دسترسی پیدا کنند و جداسازی در نظر گرفته‌شده را نقض کنند.
پس از آن رخداد، اوپن‌ای‌آی تعداد اتصال‌های شبکه‌ای در دسترس مدل‌های خود را هنگام آموزش و آزمایش کاهش داد. با این حال، برخی اتصال‌ها همچنان برای کارکردهایی مانند جمع‌آوری سنجه‌ها، ثبت گزارش‌ها و احراز هویت برقرار بودند.
این شرکت در ادامه از عامل‌های هوش مصنوعی برای اجرای آزمایش‌های تیم قرمز علیه زیرساخت آموزشی خود استفاده کرد. در آزمایش تیم قرمز، متخصصان عمداً تلاش می‌کنند ضعف‌های امنیتی را شناسایی کنند تا پیش از سوءاستفاده مهاجمان، این آسیب‌پذیری‌ها برطرف شوند.
اوپن‌ای‌آی اعلام کرده است که این عامل‌ها تقریباً در تمام سرویس‌های بررسی‌شده‌ای که نوعی دسترسی محدود به اینترنت فراهم می‌کردند، آسیب‌پذیری‌هایی پیدا کردند. به گفته این شرکت، وصله‌های نرم‌افزاری لازم را منتشر کرده، محدودیت‌های شبکه را تقویت کرده و یافته‌های خود را با فروشندگان مرتبط در میان گذاشته است.
افزایش خطرات ناشی از سامانه‌های مستقل هوش مصنوعی
این رخدادها بازتاب‌دهنده چالشی گسترده‌تر در حوزه امنیت سایبری هستند؛ چالشی که با افزایش توانایی سامانه‌های هوش مصنوعی در برنامه‌ریزی وظایف، استفاده از ابزارهای دیجیتال و انجام اقدامات با دخالت محدود انسان، اهمیت بیشتری پیدا کرده است.
این قابلیت‌ها می‌توانند بهره‌وری را افزایش دهند و فرایندهای پیچیده را خودکار کنند، اما در صورتی که عامل‌ها از کنترل‌های دسترسی عبور کنند، از آسیب‌پذیری‌های نرم‌افزاری سوءاستفاده کنند یا با سامانه‌هایی خارج از محدوده مجاز خود تعامل داشته باشند، خطرات تازه‌ای نیز ایجاد می‌شود.
پژوهشگران امنیتی و توسعه‌دهندگان هوش مصنوعی به‌طور فزاینده‌ای هشدار داده‌اند که ممکن است از سامانه‌های خودمختار برای پشتیبانی از حملات سایبری یا دیگر فعالیت‌های زیان‌بار سوءاستفاده شود. نگرانی‌ها همچنین شامل این احتمال است که ابزارهای هوش مصنوعی به بازیگران مخرب در توسعه قابلیت‌های خطرناک کمک کنند.
با این حال، دسترسی غیرمجاز یک عامل هوش مصنوعی به‌تنهایی ثابت نمی‌کند که آن سامانه دارای قصد مستقل است. چنین رخدادهایی ممکن است در نتیجه آسیب‌پذیری‌های نرم‌افزاری، محدودیت‌های ناکافی یا تعاملات پیش‌بینی‌نشده میان رفتار مدل و محیط اجرایی آن به وجود آیند.
این موضوع برای شما چه معنایی دارد؟
سازمان‌هایی که از عامل‌های هوش مصنوعی استفاده می‌کنند، باید دسترسی‌های غیرضروری به اینترنت را محدود کنند، اصل حداقل سطح دسترسی را رعایت کنند، محیط‌های آزمایشی را ایزوله نگه دارند و نظارت مستمر برقرار سازند. ابزارهای هوش مصنوعی متصل به سامانه‌های حساس نیز باید در محدوده‌هایی روشن فعالیت کنند و برای انجام اقدامات با پیامدهای مهم، تأیید انسان را دریافت کنند.
دیدگاه تحلیلی The420
تصمیم اوپن‌ای‌آی بر یک اصل اساسی در امنیت هوش مصنوعی تأکید می‌کند: تدابیر حفاظتی نباید تنها به رفتار خود مدل محدود شوند، بلکه باید زیرساختی را نیز در بر بگیرند که مدل در آن فعالیت می‌کند. با افزایش دسترسی عامل‌های هوش مصنوعی به ابزارها و سرویس‌های خارجی، ایزوله‌سازی شبکه، آزمایش آسیب‌پذیری‌ها و کنترل‌های سخت‌گیرانه دسترسی برای جلوگیری از نفوذهای دیجیتال ناخواسته اهمیت روزافزونی خواهند یافت.
درباره نویسنده: آنانیا آرادهیا درباره جرایم سایبری، کلاهبرداری، تقلب، امنیت سایبری، ایمنی دیجیتال و تهدیدهای نوظهور می‌نویسد. مطالب او همچنین پرونده‌های مهم جنایی، تقلب‌های مالی، کلاهبرداری‌های مصرف‌کنندگان و گزارش‌هایی درباره خطراتی را پوشش می‌دهد که افراد را در دنیای واقعی و دیجیتال تحت تأثیر قرار می‌دهند.