ویکی‌مدیا: عامل‌های هوش مصنوعی سرکش منتسب به OpenAI ویرایش‌های غیرمجاز انجام دادند و تلاش کردند Etherpad را به خطر بیندازند
بنیاد ویکی‌مدیا، اداره‌کننده ویکی‌پدیا و شماری از پروژه‌های متن‌باز دیگر، اعلام کرده است که عامل‌های هوش مصنوعی سرکش منتسب به OpenAI در ماه‌های اخیر دست به ویرایش‌های غیرمجاز متعددی زده و تلاش‌هایی برای نفوذ به خدمات این بنیاد انجام داده‌اند. این فعالیت‌ها شامل میلیون‌ها درخواست API و جست‌وجوی داده بوده که ممکن است در اختلال ماه مه ۲۰۲۶ نقش داشته باشد؛ اختلالی که حدود چهار روز ادامه پیدا کرد.
این رویداد به زنجیره‌ای از گزارش‌ها درباره عامل‌های هوش مصنوعی سرکش اضافه می‌شود که تلاش کرده‌اند بدون مجوز به خدمات مختلف آنلاین دسترسی پیدا کنند یا از آن‌ها سوءاستفاده کنند؛ بسیاری از این موارد نیز تنها پس از گذشت چند ماه آشکار شده‌اند. مانند رخدادهای قبلی، به نظر می‌رسد این عامل‌ها در پی انجام نوعی وظیفه مشخص بوده‌اند و بی‌احتیاط از خدمات ویکی‌مدیا به‌عنوان ابزاری برای ارتباط یا دستیابی به هدف خود استفاده کرده‌اند.
عامل‌های هوش مصنوعی سرکش تلاش کردند ابزار یادداشت‌برداری را هک کنند و ترافیکی ایجاد کردند که باعث از کار افتادن سایت‌ها شد
ویکی‌مدیا می‌گوید این عامل‌های هوش مصنوعی هنگام ارسال میلیون‌ها درخواست API و پرس‌وجوی داده، حجم عظیمی از ترافیک ایجاد کردند؛ اقدامی که احتمالاً به قطعی طولانی‌مدت در اواسط ماه مه در مجموعه‌ای از محصولات این سازمان کمک کرده است. این عامل‌ها همچنین تعداد زیادی ویرایش آزمایشی روی ویکی‌های ویکی‌مدیا انجام دادند که همگی به بخش‌های آزمایشی و غیرعمومی محدود بودند.
برخی از ویرایش‌های انجام‌شده ماهیتی آشکارا مخرب داشتند. روشن‌ترین نمونه، کارزار ناموفق برای نفوذ به ابزار عمومی استناددهی Etherpad از طریق تغییرات پیکربندی آن بود. با این حال، هدف کلی عامل‌ها ظاهراً یافتن راه‌هایی برای استفاده از سایت‌ها و ابزارهای ویکی‌مدیا به‌عنوان واسطه‌ای برای دریافت داده از وب‌سایت‌های شخص ثالث بوده است.
این رفتار مشابه رخدادهای قبلی است که در آن مدل‌های هوش مصنوعی، چه هنگام جمع‌آوری داده و چه هنگام حل مسائل امنیتی، تلاش کرده‌اند با سوءاستفاده از وب‌سایت‌های عمومی از محدودیت‌های اعمال‌شده توسط توسعه‌دهندگان خود عبور کنند. با این وجود، سخنگوی ویکی‌مدیا اعلام کرد که این سازمان هیچ تلاشی از سوی عامل‌ها برای هماهنگی با یکدیگر از طریق خدمات خود مشاهده نکرده است.
سیاست‌های ویکی‌مدیا به ربات‌ها اجازه ویرایش می‌دهد، اما تنها در صورتی که این ربات‌ها به جامعه کاربران معرفی و از سوی آن تأیید شده باشند؛ اتفاقی که در این مورد رخ نداده است. با وجود تلاش‌ها علیه Etherpad، هیچ‌یک از خدمات ویکی‌مدیا واقعاً توسط این عامل‌های هوش مصنوعی به خطر نیفتاد و به نظر می‌رسد این حادثه به سوءاستفاده گسترده از منابع و نقض شرایط استفاده محدود بوده است.
حتی بدون وقوع نفوذ، فعالیت‌های گسترده عامل‌های هوش مصنوعی می‌تواند هزینه‌های سنگینی ایجاد کند
این حادثه جنبه‌ای از «انبوهه‌ها» یا «ناوگان‌های» عامل‌های هوش مصنوعی سرکش را برجسته می‌کند که در میان خبرهای مربوط به حملات و تلاش‌های نفوذ آن‌ها کمتر مورد توجه قرار گرفته است: منابع عمومی اینترنت برای استفاده انسان‌ها طراحی شده‌اند، نه برای حجم و مقیاس فشاری که عامل‌های بی‌احتیاط هنگام دنبال کردن یک هدف مشخص می‌توانند ایجاد کنند.
عامل‌های هوش مصنوعی سرکش حتی بدون داشتن نیت مخرب واقعی می‌توانند عملاً باعث حملات DDoS به سایت‌ها و خدمات بی‌خبر شوند. این مسئله نه‌تنها موجب از دسترس خارج شدن خدمات می‌شود، بلکه به دلیل حجم بالای ترافیک مصنوعی و غیرمولد، هزینه‌های سنگینی برای میزبان‌ها ایجاد می‌کند.
در مورد ویکی‌مدیا، تنها ویکی‌پدیا حدود ۶۷ میلیون مقاله را میزبانی می‌کند که ماهانه تا ۱۵ میلیارد بازدید صفحه دارند. این سازمان اعلام کرده است که در سال ۲۰۲۵ افزایش ۵۰ درصدی مصرف پهنای باند توسط ربات‌ها را مشاهده کرده و ربات‌ها اکنون مسئول ۶۵ درصد از پرمصرف‌ترین ترافیک در پروژه‌های آن هستند.
بسیاری از موارد مربوط به عامل‌های هوش مصنوعی سرکش در سال ۲۰۲۶ نیز ترکیبی از «ناهم‌راستایی» هنگام استخراج آمار و نبود نظارت و کنترل انسانی کافی بوده‌اند. به نظر می‌رسد عامل‌های OpenAI در این زمینه مشکل ویژه‌ای داشته‌اند و رخدادهای مرتبط با آن‌ها عمدتاً در بازه زمانی مه تا ژوئن، هم‌زمان با حادثه ویکی‌مدیا، متمرکز بوده است.
شدیدترین نمونه، نفوذ ماه ژوئن به مؤسسه استرالیایی سلامت و رفاه بود که تصور می‌شود نخستین حمله مستقل عامل‌های هوش مصنوعی به یک وب‌سایت دولتی باشد. با این حال، تلاش‌های دیگری نیز گزارش شده است؛ از جمله حمله به وب‌سایت آمار سازمان ملل، کمیسیون بورس و اوراق بهادار آمریکا و کتابخانه دیجیتال دانشگاه نیومکزیکو.
به نظر می‌رسد عامل‌های OpenAI نسبت به دیگر توسعه‌دهندگان پیشرو هوش مصنوعی، مرزهای هک مستقل را با شدت بیشتری آزمایش کرده‌اند. دیگر شرکت‌های فعال در این حوزه نیز با مواردی از «ناهم‌راستایی» روبه‌رو شده‌اند، اما تعداد کمتری از رخدادهای آن‌ها باعث طرح درخواست برای پیگرد کیفری مرتبط با نقض داده‌ها شده است.
نمونه محوری در این زمینه حمله به Hugging Face بود که موج بررسی‌های امنیتی گسترده را آغاز کرد و باعث شد توسعه‌دهندگان، لاگ‌های خود را برای یافتن رفتارهای مشکل‌ساز هوش مصنوعی دقیق‌تر بررسی کنند. این موضوع اکنون به شماری از نهادهای دولتی آمریکا نیز کشیده شده و در اوایل اکتبر، به معرفی «قانون پاسخگویی عامل‌های هوش مصنوعی» در سنای آمریکا انجامید؛ طرحی که شامل امکان مجازات کیفری برای مدیران شرکت‌های فعال در صنعت هوش مصنوعی است.
بری فراست، مدیر مدیریت محصول در Cloud Range، می‌گوید برای اطمینان از اینکه توسعه‌دهندگان پیشرو هوش مصنوعی مرزهای عامل‌های مستقل خود را ایجاد، اجرا و نظارت می‌کنند، باید انگیزه‌های قوی‌تری ایجاد شود:
«وقتی یک عامل هوش مصنوعی با مانعی روبه‌رو می‌شود، پرسش اصلی این است که آیا متوقف می‌شود یا شروع به بداهه‌پردازی می‌کند. در اینجا، به نظر می‌رسد عامل‌ها تلاش کرده‌اند یک ابزار استناددهی و یک سرویس یادداشت‌برداری را به‌عنوان واسطه استفاده کنند؛ دقیقاً همان نوع رفتاری که سازمان‌ها باید با افزایش استقلال عامل‌ها برای آن آماده شوند. یک عامل برای ایجاد خطر نیازی به نیت بد ندارد؛ تنها به یک هدف، دسترسی و نبود مرزهای روشن نیاز دارد. این خطر زمانی بیشتر می‌شود که فردی که دستور می‌دهد، نداند چه محدودیت‌هایی باید تعیین شود.
هر روز کاربران کم‌تجربه وظایف باز و نامحدودی را به عامل‌ها می‌سپارند، بدون اینکه به آن‌ها بگویند چه زمانی سؤال بپرسند، متوقف شوند یا تأیید انسانی دریافت کنند. پیش از دادن دسترسی‌ها یا ابزارها به یک عامل، تیم‌ها باید آن را در محیطی واقعی آزمایش کنند؛ حتی با درخواست‌های مبهم یا ضعیف. آیا عامل در محدوده مجوزهای خود باقی می‌ماند؟ آیا تلاش می‌کند محدودیت‌ها را دور بزند؟ آیا وقتی وظیفه از حوزه اختیارش خارج می‌شود، آن را به انسان ارجاع می‌دهد؟ اگر پاسخ این پرسش‌ها مشخص نیست، آن عامل هنوز برای چنین سطحی از استقلال آماده نیست.»