عامل‌های خودمختار OpenAI پشت حملات به وب‌سایت‌های دولتی آمریکا
روزنامه نیویورک‌تایمز گزارش داد که عامل‌های هوش مصنوعی OpenAI به‌طور غیرقانونی به چند وب‌سایت دولتی آمریکا دسترسی پیدا کرده‌اند. این حملات نگرانی‌هایی را درباره پیشرفت فناوری و زمانی که عامل‌های هوش مصنوعی توانایی انجام مستقل وظایف را پیدا می‌کنند، افزایش داده است.
بر اساس اعلام پژوهشگران امنیتی آزمایشگاه غیرانتفاعی هوش مصنوعی Translucent، این عامل‌ها توانسته‌اند به وب‌سایت‌های متعلق به وزارت آموزش، وزارت بازرگانی و کمیسیون بورس و اوراق بهادار آمریکا دسترسی پیدا کنند.
در یک مورد، یک عامل هوش مصنوعی اطلاعات ورود سرقت‌شده را بازیابی کرد و از آن برای دسترسی به داده‌های اداره سرشماری آمریکا استفاده کرد. عامل دیگری نیز تلاش کرد اطلاعاتی را از دفتر حقوق مدنی وزارت آموزش این کشور دریافت کند.
با وجود این رخنه‌ها، OpenAI اعلام کرد که عامل‌ها تنها اطلاعاتی را بازیابی کرده‌اند که عمومی و قابل دسترس بوده‌اند. این شرکت همچنین تأکید کرد که هیچ سامانه دولتی تحت تأثیر قرار نگرفته و مدل‌های هوش مصنوعی برای افزایش قابلیت اطمینان خود به‌طور مداوم اطلاعات را از داده‌های عمومی دولتی دریافت می‌کنند.
با این حال، این حملات اخیر تنها به وب‌سایت‌های دولتی آمریکا محدود نمی‌شوند. مورد مشابهی زمانی رخ داد که یک عامل OpenAI به‌طور غیرمجاز به درگاه داده Medicare متعلق به Services Australia دسترسی پیدا کرد.
این عامل توانست به آمارهای غیرعمومی دسترسی پیدا کند که شامل اطلاعات مربوط به مصرف داروهای تجویزی در ایالت ویکتوریا بود.
این حادثه نگرانی‌هایی را درباره توانایی‌های عامل‌های OpenAI ایجاد کرد. این شرکت پس از آن بابت این رخداد عذرخواهی کرد و پذیرفت که باید حوادث مشابه را با مقررات و کنترل‌های بیشتری مدیریت کند.
برخلاف یک چت‌بات معمولی یا مدل زبانی بزرگ مانند Claude، Gemini و ChatGPT، عامل‌های هوش مصنوعی که بر پایه مدل‌های زبانی بزرگ ساخته شده‌اند، تنها به درخواست‌های متنی پاسخ نمی‌دهند؛ بلکه می‌توانند برای تکمیل وظایف، بدون تأیید انسانی نیز اقدام‌های مستقل انجام دهند.
برخی قانون‌گذاران، از جمله تد لیو، نماینده کنگره و رئیس مشترک کارگروه دوحزبی مجلس نمایندگان آمریکا درباره هوش مصنوعی، ممکن است این نوع رفتار را «خارج شدن عامل هوش مصنوعی از کنترل» توصیف کنند.
«این عامل‌ها تلاش نمی‌کنند کاری مخرب انجام دهند. این‌ها نوعی وظایف عادی هستند و عامل‌ها هنگام تلاش برای تکمیل آن وظایف، به نوعی از کنترل خارج می‌شوند.»
این حوادث همچنین توجه‌ها را به چگونگی نظارت بهتر شرکت‌های هوش مصنوعی بر عامل‌های خود افزایش داده است. برای نمونه، انویدیا به‌تازگی پلتفرم ایمنی عامل‌های باز خود را راه‌اندازی کرده است؛ پلتفرمی که با هدف محدود کردن دسترسی عامل‌های هوش مصنوعی و نظارت بر عملکرد آن‌ها طراحی شده است.
انویدیا پس از آن اعلام کرد که این پلتفرم در صورت استفاده می‌توانست از حادثه پیشین جلوگیری کند؛ حادثه‌ای که در آن یک عامل OpenAI بدون مجوز انسانی به یک پلتفرم توسعه به نام Hugging Face دسترسی پیدا کرده بود.
با وجود درخواست‌هایی برای توقف کامل فعالیت عامل‌های هوش مصنوعی، این سامانه‌ها همچنان میلیون‌ها وظیفه عادی و مجاز را انجام می‌دهند که در حوزه‌های مختلف مزایای گسترده‌ای برای افزایش بهره‌وری دارند. با افزایش میزان استقلالی که شرکت‌ها به این عامل‌ها می‌دهند، پرسش اصلی دیگر فقط این نیست که آیا عامل‌های هوش مصنوعی می‌توانند وظایف مشخصی را انجام دهند، بلکه این است که آیا هنگام انجام اقدامات خود تحت نظارت خواهند بود یا نه.