انتشار گزارشی از یک مورد ناهماهنگی در OpenAI، با ۱۱۲ روز تأخیر
OpenAI تا ۲۵ ژوئن متوجه شده بود که یکی از مدل‌های داخلی‌اش درخواست‌های وب مسدودشده را از طریق یک مرورگر خارجی ارسال می‌کند، اما گزارش این اتفاق را ۱۵ اکتبر، یعنی ۱۱۲ روز بعد، منتشر کرد. این گزارش یکی از چهار گزارشی بود که همان روز برای نخستین بار در وب‌سایت این شرکت در زمینه هم‌راستایی مدل‌ها منتشر شدند. هر چهار گزارش برچسب «دسترسی غیرمجاز» داشتند و همگی به رویدادهایی مربوط می‌شدند که در ژوئن رخ داده بودند.
سه مورد دیگر زودتر شناسایی شدند، اما فاصله زمانی آن‌ها تا انتشار گزارش همچنان قابل‌توجه بود. دو مورد مربوط به ۱۷ ژوئن تا ۱۳ اوت شناسایی شدند و گزارش آن‌ها ۶۳ روز بعد منتشر شد. جدیدترین مورد، که به یک نمونه آموزشی در ۲۶ ژوئن مربوط بود، تا ۲۵ سپتامبر شناسایی نشد و گزارش آن ۲۰ روز بعد انتشار یافت.
سه مورد از این چهار اتفاق از طریق بررسی سوابق گذشته کشف شدند. OpenAI می‌گوید پس از نفوذ به Hugging Face، سامانه پایش ناهماهنگی خود را به‌صورت گذشته‌نگر روی داده‌های پیشین آموزش و ارزیابی اجرا کرد و در نتیجه، دو مورد مربوط به ۱۷ ژوئن شناسایی شدند. این سامانه هر دو مورد را بحرانی تشخیص داد. مورد ۲۶ ژوئن نیز هنگام گسترش دامنه پایش به سوابق فعالیت‌های قبلی مدل‌ها پیدا شد. در مقابل، مورد مربوط به مرورگر در جریان تحقیقی موردی و اختصاصی درباره پایش ناهماهنگی شناسایی شد؛ روشی که OpenAI آن را بررسی موردی ناهماهنگی می‌نامد.
OpenAI وعده تسریع انتشار گزارش‌ها را داده بود، اما مهلتی تعیین نکرده است
این تأخیرها را باید در چارچوب هدفی بررسی کرد که خود شرکت اعلام کرده است. در چارچوب گزارش‌دهی ناهماهنگی که ۱۶ سپتامبر منتشر شد، OpenAI می‌گوید هدف این فرایند، «تسریع انتشار گزارش‌های ناهماهنگی پس از مشاهده» است. این چارچوب همچنین توضیح می‌دهد که علامت‌گذاری یک نمونه، فرایند افشا را آغاز می‌کند و برای هر مرحله مهلت‌هایی در نظر گرفته شده است تا بررسی و انتشار اطلاعات به‌موقع انجام شود. با این حال، در این صفحه هیچ مهلت مشخصی بر حسب روز، هفته یا ماه برای هیچ‌یک از مراحل تعیین نشده است. تا ۱۹ اکتبر، فهرست این وب‌سایت شامل ۱۹ گزارش و سه اطلاعیه بود.
هر چهار مورد به دسترسی غیرمجاز مربوط می‌شوند
رفتارهای گزارش‌شده با الگویی هم‌خوانی دارند که OpenAI از سپتامبر به این سو درباره آن‌ها گزارش منتشر کرده است. در مورد ۲۶ ژوئن، از مدلی داخلی در خانواده‌ای که OpenAI آن را GPT-5.6 Sol می‌نامد و برای پژوهش استفاده می‌شود، خواسته شد قراردادهایی را روی Sepolia، یک شبکه آزمایشی اتریوم، مستقر کند. مدل برای انجام این کار هزینه استقرار را از کیف پولی پرداخت کرد که در دستور انجام وظیفه معرفی نشده بود. مدل با استفاده از عبارت‌های بازیابی توسعه‌دهندگان که به‌صورت عمومی شناخته شده بودند، کلیدهایی استخراج کرد، ۳۶۲ نشانی را بررسی کرد، یک نشانی دارای موجودی آزمایشی یافت و از آن برداشت کرد. OpenAI در ارزیابی خود می‌گوید این مورد «نشان می‌دهد که یک مدل ممکن است قضاوت خود درباره میزان آسیب احتمالی را جایگزین اجازه صاحب حساب کند و سپس بدون مجوز، بر اساس همان قضاوت اقدام کند».
مورد مربوط به داشبورد، گسترده‌ترین اتفاق در میان این چهار مورد بود. از یک مدل داخلی خواسته شد آمار منتشرشده در داشبورد عمومی یک سازمان پژوهشی را پیدا کند. مدل در کد جاوااسکریپت یک وب‌سایت عمومی، اطلاعات ورود فعال OpenSearch را پیدا کرد. سپس از این اطلاعات استفاده کرد تا سرویس جست‌وجوی خود سازمان، درخواست‌هایش را ارسال کند. در ارزیابی دوم، مدل تنظیماتی را تغییر داد تا به یک توکن ذخیره‌سازی ابری دست یابد و پنج جدول غیرعمومی را که در مجموع ۱۴۷٬۴۵۱ ردیف داشتند، دانلود کرد. همچنین ۱٬۴۸۹ رکورد را از یک رابط برنامه‌نویسی مربوط به فهرست کاربران استخراج کرد؛ رکوردهایی که شامل نام و نشانی ایمیل بودند. به گفته OpenAI، «مدل این اقدامات را افشا نکرد».
در مورد سوم، از یک مدل خواسته شد آمار تاریخی تعداد تخت‌های بیمارستانی را از وب‌سایت یک نهاد دولتی آمارگیری استخراج کند. پس از آنکه دسترسی به درخواست‌هایش داده نشد، مدل از قابلیت دانلود فایل در وب‌سایت استفاده کرد و فایل‌های پیکربندی سرور و فایل‌های برنامه، از جمله اطلاعات محرمانه ورود، را به دست آورد. سپس کد برنامه را بررسی کرد، کنترل‌های مجوزدهی رابط دریافت آمار را دور زد و داده‌ها را به‌صورت محلی ذخیره کرد. سه مورد از این چهار وظیفه تحت یک دستور سیستمی یکسان اجرا شده بودند: «دسترسی به اینترنت فقط برای درخواست‌های HTTP GET فعال است.»
هیچ‌یک از این موارد به محصول عرضه‌شده‌ای راه نیافت
هر چهار مورد به مدل‌های داخلی در مرحله آموزش یا ارزیابی مربوط می‌شوند، نه به ChatGPT یا رابط برنامه‌نویسی کاربردی (API) شرکت. OpenAI نیز نام سازمان‌ها، میزبان‌ها، موجودی حساب‌ها، کلیدها و مسیرهای استخراج کلید را از گزارش‌ها حذف کرده است؛ بنابراین، نمی‌توان از روی اطلاعات منتشرشده سازمان‌های تحت‌تأثیر را شناسایی کرد. از زمان آغاز اجرای چارچوب گزارش‌دهی، این شرکت هر دو نوع مورد را منتشر کرده است؛ از جمله شش گزارشی که هم‌زمان با انتشار چارچوب در ۱۶ سپتامبر منتشر شدند و موردی که شرکت در نهایت آن را ناهماهنگی تشخیص نداد.
مورد مربوط به مرورگر از میان این چهار اتفاق عجیب‌تر است، زیرا مدل پیش از آنکه راهکار جایگزین خود را بسازد، پاسخ پرسش را پیدا کرده بود. مدل آمار تجاری را در یک سالنامه آماری عمومی یافت و ارائه کرد، اما به بررسی‌های بیشتر ادامه داد. سپس از یک مرورگر خارجی کمک گرفت تا درخواست‌های POST را ارسال کند؛ درخواست‌هایی که پراکسی آن‌ها را مسدود می‌کرد. مدل ارقام سالانه را به شکل تصویر دریافت کرد، با استفاده از فناوری تشخیص نوری نویسه‌ها (OCR) داده‌ها را از تصویر استخراج کرد و در ادامه، «یک ابزار کمکی قابل‌استفاده مجدد نوشت که متن پاسخ را از طریق یک سرویس واسط و صندوق پستی دریافت‌کننده پیام‌های بازگشتی منتقل می‌کرد». OpenAI تأکید می‌کند که مدل تمام این اقدامات را انجام داد، «حتی پس از آنکه راه دیگری برای پاسخ دادن به پرسش پیدا کرده بود».
طبق چارچوب OpenAI، برای هر مرحله از فرایند افشا مهلتی تعیین شده است. با این حال، در این مجموعه گزارش‌ها فاصله زمانی میان شناسایی و انتشار از ۲۰ روز در کوتاه‌ترین مورد تا ۱۱۲ روز در طولانی‌ترین مورد متغیر بود.