پژوهشگران آسیب‌پذیری‌ای در ردپای استدلال مدل‌های OpenAI شناسایی کردند
شرکت OpenAI اخیراً یک آسیب‌پذیری امنیتی را در رابط برنامه‌نویسی کاربردی (API) خود برطرف کرده است که امکان استخراج ردپاهای خام استدلال از مدل‌های پیشرفته هوش مصنوعی را فراهم می‌کرد. این خبر بر اساس اطلاعات منتشرشده در نشریه Infosecurity Magazine گزارش شده است.
این آسیب‌پذیری را شرکت Xint شناسایی کرد. پژوهشگران این شرکت با استفاده از روشی به نام «قاچاق در فشرده‌سازی» (Compaction Smuggling) توانستند تدابیر حفاظتی طراحی‌شده برای پنهان نگه‌داشتن زنجیره استدلال مدل‌ها را دور بزنند. OpenAI معمولاً برای جلوگیری از استخراج و تقلید رفتار مدل‌ها، خلاصه‌ای از استدلال‌ها را در اختیار کاربران API قرار می‌دهد؛ اما پژوهشگران Xint دریافتند که می‌توان از قابلیت فشرده‌سازی زمینه مکالمه برای دور زدن این محدودیت‌ها استفاده کرد. آن‌ها با پنهان‌کردن اطلاعات استدلالی در یک مکالمه فشرده‌شده، موفق شدند مدل‌های دیگر را وادار کنند داده‌های مخفی را آشکار کنند.
OpenAI در ماه اوت اقداماتی را برای جلوگیری از بازپخش استدلال‌های رمزگذاری‌شده اجرا کرده بود، اما این تدابیر فرایندهای فشرده‌سازی زمینه را پوشش نمی‌دادند. شرکت Xint این حمله را با استفاده از مدل‌های GPT-5.6 Sol، GPT-4.1 و GPT-4o به نمایش گذاشت. OpenAI وجود این مشکل را تأیید کرد، در ۲۳ اکتبر اصلاحیه‌ای برای رفع آن منتشر کرد و ۶ هزار دلار پاداش کشف آسیب‌پذیری به پژوهشگران اختصاص داد. این کشف بار دیگر نگرانی‌های صنعت هوش مصنوعی درباره استخراج و تقلید رفتار مدل‌ها و امنیت فرایندهای استدلال داخلی آن‌ها را برجسته می‌کند.
گزارش‌های پیشین منتشرشده از سوی شرکت‌های Anthropic و OpenAI نیز به تلاش‌های مشابه بازیگران بیرونی برای استخراج داده‌های پنهان اشاره کرده‌اند. این موارد بر ضرورت ایجاد سازوکارهای حفاظتی قدرتمند تأکید دارند؛ به‌ویژه اکنون که مدل‌های پیشرفته هوش مصنوعی پیچیده‌تر شده‌اند و در بخش‌های مختلف به‌طور گسترده مورد استفاده قرار می‌گیرند.
منبع: Infosecurity Magazine