ابلتریشن در بدترین زمان ممکن نسخه ارزان‌تری از هوش مصنوعی «بدون محدودیت» خود را عرضه کرد
کارشناسان امنیت سایبری از شرایط کنونی با عنوان «اکتبر سیاه» یاد می‌کنند.
اوایل این هفته، پژوهشگران دو آسیب‌پذیری بزرگ را در زبان برنامه‌نویسی PHP شناسایی و افشا کردند؛ زبانی که حدود هفت وب‌سایت از هر ده وب‌سایت جهان بر پایه آن ساخته شده‌اند. از آن زمان، توسعه‌دهندگان با تمام توان در تلاش‌اند پیش از آنکه هکرهای مخرب کنترل سامانه‌هایشان را به دست بگیرند، این آسیب‌پذیری‌ها را برطرف کنند. در سراسر جهان، بسیاری از وب‌سایت‌ها عمداً از دسترس خارج شدند تا شرکت‌ها و دولت‌ها فرصت اجرای اصلاحات امنیتی را داشته باشند. شرکت OpenAI نیز اعلام کرد که هدایت تلاشی جهانی را برای شناسایی آسیب‌پذیری‌های مشابهی که هنوز کشف نشده‌اند، بر عهده خواهد گرفت. برخی معتقدند آنچه تاکنون رخ داده، تنها لرزش اولیه زلزله سایبری بسیار بزرگ‌تری است که در راه است. جیسون کلینتون، مسئول امنیت سایبری شرکت آنتروپیک، روز پنجشنبه در پستی در شبکه اجتماعی ایکس نوشت: «اوضاع در چهار روز گذشته هرقدر هم بد شده باشد، پیش از آنکه رو به بهبود برود، بسیار بدتر خواهد شد.» او در پست دیگری، در پاسخ به ادعایی مبنی بر اینکه خود شرکت‌های هوش مصنوعی مسئول این آشفتگی بوده‌اند، گفت: «از ابتدا قرار بود اوضاع به همین شکل پیش برود. ما تلاش کردیم به جهان هشدار بدهیم.»
در میانه این بحران امنیت سایبری که همه نیروها را برای مقابله با تهدیدها بسیج کرده است، به نظر نمی‌رسد شرکت جنجالی ابلتریشن (Abliteration) چندان نگران باشد.
این شرکت فناوری مستقر در پالو آلتو که مشغول توسعه محصولی است که خود آن را «هوش مصنوعی بدون محدودیت» می‌نامد، به‌تازگی نسخه‌ای ارزان‌تر و در نتیجه در دسترس‌تر از مدل اصلی خود را عرضه کرده است. مدل جدید که Abliterated Large Flash نام دارد، از ورودی‌های متنی و تصویری پشتیبانی می‌کند و پنجره زمینه‌ای با ظرفیت یک میلیون توکن دارد؛ ظرفیتی هم‌سطح برخی از مدل‌های پیشرو صنعت، از جمله GPT-5.6 Sol شرکت OpenAI. ابلتریشن روز جمعه در پستی در شبکه اجتماعی ایکس، این محصول را «جایگزینی ارزان‌تر برای مدل قبلی ما، ویژه صاحبان محصولات و مدافعان امنیت سایبری که به توانمندترین مدل‌ها در این حوزه نیاز دارند» توصیف کرد.
با این حال، احتمالاً مدافعان امنیت سایبری تنها کسانی نیستند که به استفاده از این مدل جدید علاقه‌مند خواهند شد؛ به‌ویژه اکنون که مشخص شده بخش مهمی از زیرساخت نرم‌افزاری اینترنت امروزی در برابر حملات آسیب‌پذیر است.
نام ابلتریشن از اصطلاحی در پژوهش‌های هوش مصنوعی گرفته شده است که به روشی برای تغییر دادن یا حذف سازوکارهای موجود در وزن‌های یک مدل اشاره دارد؛ سازوکارهایی که در شرایط عادی مانع پاسخ‌گویی مدل به برخی درخواست‌ها می‌شوند. این محدودیت‌های حفاظتی در ماه‌های اخیر به موضوعی بحث‌برانگیز تبدیل شده‌اند، زیرا بسیاری از کاربران هوش مصنوعی شکایت دارند که مدل‌های پیشرفته در اجرای محدودیت‌های ایمنی بیش از اندازه سخت‌گیر شده‌اند و اغلب درخواست‌های بی‌ضرر را به‌اشتباه خطرناک تشخیص می‌دهند. ابلتریشن در مقابل، عملاً خود را شرکتی معرفی کرده که رویکردی مخالف این محدودیت‌ها دارد و می‌خواهد جایگزینی آزادتر برای کاربرانی باشد که از تعیین بایدها و نبایدها توسط هوش مصنوعی خسته شده‌اند. این شرکت هنگام عرضه مدل بزرگ‌تری که Abliterated Large Flash بر پایه آن ساخته شده است، در ماه اوت در پستی دیگر در ایکس اعلام کرد که مدلش «کارهای تهاجمی در امنیت سایبری، آزمون‌های تیم قرمز و آزمایش عامل‌های هوش مصنوعی را انجام می‌دهد؛ کارهایی که مدل‌های دیگر از انجامشان خودداری می‌کنند.» البته گزارشی از تک‌کرانچ که ماه گذشته منتشر شد، نشان داد هوش مصنوعی ابلتریشن به درخواست‌هایی برای نوشتن کد پایتون با هدف سرقت گذرواژه‌های مرورگر کروم و پرورش یک عامل بیماری‌زای خطرناک پاسخ مثبت داده است.
اگرچه ابلتریشن آشکارا این آزادی عمل را مزیتی می‌داند که باید به آن افتخار کرد، دیگر فعالان صنعت هوش مصنوعی تلاش کرده‌اند درباره خطرات حذف محدودیت‌های حفاظتی هشدار دهند.
اواخر ماه گذشته، شرکت آنتروپیک در گزارشی اعلام کرد پژوهشگرانش توانسته‌اند با استفاده از تکنیک ابلتریشن و روش‌های دیگر، به‌آسانی محدودیت‌های حفاظتی مدل محبوب GLM-5.3، محصول شرکت چینی Z.ai، را دور بزنند؛ همان مدلی که اتفاقاً زیربنای مدل جدید ابلتریشن نیز هست. پژوهشگران آنتروپیک سپس مجموعه‌ای از آزمایش‌ها را اجرا کردند تا ببینند آیا نسخه تغییریافته مدل از انجام درخواست‌های مشکوک از نظر اخلاقی خودداری می‌کند یا خیر. نتیجه در تمام آزمایش‌ها به‌شدت ناامیدکننده بود و مدل در هیچ‌یک نتوانست از این آزمون سربلند بیرون بیاید. تنها با چند تغییر نسبتاً جزئی در وزن‌های زیربنایی مدل، تقریباً تمام مرزهای اخلاقی آن ناگهان از میان رفت. آنتروپیک در گزارش خود نوشت: «با توجه به این شواهد، فکر می‌کنیم احتمال زیادی وجود دارد که بازیگران دولتی و غیردولتی از مدل‌هایی مانند GLM-5.3 برای وارد کردن آسیب واقعی در جهان استفاده کنند.»
البته حتی پیشرفته‌ترین سامانه‌های هوش مصنوعی که به محدودیت‌های ایمنی سخت‌گیرانه مجهز هستند نیز ضعف‌های خاص خود را دارند. خود آنتروپیک گزارش داده است که مدل‌هایش توانسته‌اند از محیط‌های ایزوله آزمایشی خارج شوند و به سامانه‌های سازمان‌های دیگر نفوذ کنند؛ اتفاقی که این شرکت را وادار کرد آزمایش‌های داخلی خود را برای مدت کوتاهی متوقف کند. روز جمعه، درست در همان روزی که ابلتریشن از عرضه مدل ارزان‌تر خود خبر داد، آنتروپیک نتایج یک بررسی داخلی را منتشر کرد. این بررسی نشان داد مدل Claude Mythos 5 اوایل امسال، هنگامی که مأمور انجام یک چالش ساده امنیت سایبری شده بود، یک مخزن کد متعلق به توسعه‌دهندگان واقعی را در گیت‌هاب پیدا کرد و تلاش کرد با وارد کردن کد مخرب، امنیت آن را به خطر بیندازد. طبق گزارش آنتروپیک، این مدل همچنین «هویت‌های کاربری جعلی ایجاد کرد و با استفاده از آن‌ها با مسئول نگهداری مخزن تماس گرفت تا او را برای تأیید تغییر کد تحت فشار قرار دهد.»
همان‌طور که رویدادهای اخیر نشان داده‌اند، مدل‌های پیشرفته هوش مصنوعی برای ارتکاب جرایم سایبری لزوماً به کمک انسان نیاز ندارند. اما نتیجه‌ای که باید از این واقعیت گرفت، ضرورت افزایش تدابیر حفاظتی و اعمال محدودیت‌های بیشتر بر دسترسی به این مدل‌هاست، نه کاهش آن‌ها.