کارمند OpenAI ظاهراً با کمک هوش مصنوعی از شرکت خود جاسوسی کرد؛ هوش مصنوعی به شناسایی او هم کمک کرد
ماجرایی عجیب و باورنکردنی رخ داده است. یک مهندس OpenAI متهم شده که با استفاده از ابزارهای هوش مصنوعی، برای اجرای عملیات شنود مخفیانه علیه شرکتی که خودش در آن کار می‌کرده برنامه‌ریزی کرده است. اکنون این فرد با اتهامات فدرال روبه‌روست و OpenAI می‌گوید برای بررسی دستگاه کشف‌شده، از مدل‌های هوش مصنوعی خود کمک گرفته است.
بر اساس شکایت کیفری منتشرشده از سوی وزارت دادگستری آمریکا، عبدالرحمن الفوزان، ۳۵ ساله، متهم است که یک دستگاه ضبط صدای مخفی را در یکی از اتاق‌های کنفرانس مدیران ارشد دفتر OpenAI در سان‌فرانسیسکو نصب کرده است.
این دستگاه به درگاه USB پشت یک تلویزیون متصل شده بود، در میان دستمال توالت پنهان شده بود و از حافظه‌ای رمزگذاری‌شده استفاده می‌کرد.
گفت‌وگوهایی با چت‌بات که پرسش‌برانگیز شدند
«ما یک دستگاه ضبط پیشرفته را کشف کردیم که در یکی از دفاترمان مخفی شده بود. با استفاده از مدل‌های هوش مصنوعی خود، دستگاه و منشأ آن را بررسی کردیم و متوجه شدیم که یکی از کارکنان مشخص شرکت، چند روز پیش آن را نصب کرده است. موضوع را به اف‌بی‌آی ارجاع دادیم و از مأموران و دادستان‌هایی که برای بازداشت فرد مظنون به‌سرعت اقدام کردند، سپاسگزاریم.
تحقیقات اف‌بی‌آی همچنان ادامه دارد و ما نیز به همکاری با این نهاد ادامه خواهیم داد. در حال حاضر هیچ نشانه‌ای در دست نداریم که حاکی از دسترسی غیرمجاز این فرد به وزن‌های مدل‌های هوش مصنوعی، کد منبع یا داده‌های مشتریان، یا خارج کردن این اطلاعات از شرکت باشد. همکاری این کارمند با شرکت خاتمه یافته است.
ما حفاظت از فناوری، داده‌ها و کارکنان خود را موضوعی بسیار جدی و دارای اهمیت ملی می‌دانیم. برنامه امنیتی ما برای مقابله با طیف گسترده‌ای از تهدیدها طراحی شده است؛ از خطرات ناشی از افراد داخل سازمان گرفته تا مجرمان سایبری و دولت‌های خارجی. این پرونده نمونه‌ای از نقش هوش مصنوعی در مقابله با چنین تهدیدهای امنیتی پیچیده‌ای است.»
— حساب رسمی اخبار OpenAI، ۱۳ اکتبر ۲۰۲۶
شاید جالب‌ترین بخش این ماجرا حتی خود دستگاه شنود نباشد، بلکه گفت‌وگوهایی باشد که به گفته بازرسان، پیش از کشف دستگاه با یک چت‌بات انجام شده است.
دادستان‌های فدرال مدعی‌اند از یک حساب کاربری چت‌بات هوش مصنوعی مرتبط با همسر الفوزان برای تحقیق درباره نحوه ساخت، پنهان‌سازی و دسترسی از راه دور به یک دستگاه ضبط صدا استفاده شده است. همچنین از طریق این حساب پرسش‌هایی مطرح شده که به همان دستگاه مشخصی اشاره داشته‌اند که بعدها در دفتر OpenAI کشف شد.
در سوی دیگر ماجرا، OpenAI می‌گوید مدل‌های هوش مصنوعی خود این شرکت به کارکنان امنیتی کمک کرده‌اند تا ماهیت و عملکرد سخت‌افزار مشکوک را بهتر درک کنند.
به این ترتیب، با پرونده‌ای غیرمعمول روبه‌رو هستیم که در آن ظاهراً هوش مصنوعی هم به فردی برای آماده‌سازی عملیات شنود کمک کرده و هم در بررسی همان عملیات به یاری شرکت آمده است.
عملیات ادعایی از ماه سپتامبر شکل گرفت
به گفته دادستان‌ها، برنامه‌ریزی برای این عملیات ادعایی از ماه سپتامبر آغاز شده بود. پیش از آنکه دستگاه ضبط صدا در اتاق کنفرانس قرار بگیرد، الفوزان ظاهراً با استفاده از یک ابزار بهره‌وری، اطلاعاتی درباره ساختمان‌های اداری OpenAI، اتاق‌های جلسه، تقویم‌های کاری و محل برگزاری جلسات مدیران ارشد جست‌وجو کرده بود.
بین ۲۴ تا ۳۰ سپتامبر نیز مجموعه‌ای از پرسش‌های فنی درباره تجهیزات ضبط صدا از طریق حساب کاربری یک چت‌بات مرتبط با همسر او مطرح شده بود.
این پرسش‌ها موضوعاتی مانند ضبط مداوم صدا، اتصال بی‌سیم، کیفیت صدا، رمزگذاری و دسترسی از راه دور را در بر می‌گرفتند. به گفته بازرسان، درباره روش‌های پنهان کردن سخت‌افزار نیز سؤال شده بود. نکته جالب اینکه در برخی از این پرسش‌ها به یک هدر سفارشی و آدرس MAC منحصربه‌فردی اشاره شده بود که با دستگاه واقعی کشف‌شده در OpenAI ارتباط داشتند.
با این حال، هویت چت‌بات مورد استفاده نیز به‌طور عمومی تأیید نشده است. در اسناد علنی این پرونده هیچ مدرکی وجود ندارد که مشخصاً استفاده از ChatGPT را اثبات کند یا نشان دهد یک مدل هوش مصنوعی به‌صورت مستقل دستگاه را طراحی کرده است.
دستگاه شنودی که در برابر چشم همه پنهان شده بود
OpenAI نخستین دستگاه را روز ۳۰ سپتامبر، هنگام بازرسی امنیتی، کشف کرد. به گفته وزارت دادگستری آمریکا، این دستگاه پشت تلویزیونی در یک اتاق کنفرانس نصب شده بود که به مدیران ارشد و دستیاران اجرایی اختصاص داشت. در این اتاق به‌طور مرتب جلسات محرمانه‌ای درباره تحقیقات OpenAI، محصولات آینده، راهبردهای تجاری و روابط شرکت با مقام‌های دولتی برگزار می‌شد.
بر اساس گزارش‌ها، سخت‌افزار مورد استفاده یک برد توسعه کوچک از نوع Seeed XIAO ESP32-S3 Sense بوده که به میکروفون، حسگر دوربین و قابلیت ذخیره‌سازی اطلاعات مجهز است.
اگرچه این سخت‌افزار به‌خودی‌خود قیمت نسبتاً پایینی دارد، OpenAI به دلیل قابلیت‌های رمزگذاری، پایش صدا و انتقال داده، آن را دستگاهی پیشرفته توصیف کرده است.
کارکنان امنیتی نتوانستند اطلاعات ذخیره‌شده روی دستگاه را بخوانند، زیرا محتوای آن رمزگذاری شده بود. بازرسان همچنین تصاویر دوربین‌های نظارتی را بررسی کردند که ظاهراً نشان می‌داد الفوزان در چند نوبت در نزدیکی اتاق کنفرانس حضور داشته است.
گزارش‌ها حاکی از آن است که دوربین‌های امنیتی روز ۵ اکتبر، بازگشت او به اتاق و نگاه کردنش به پشت تلویزیون را ثبت کرده‌اند. همان روز، کارکنان OpenAI دومین دستگاه ضبط صدای مشابه را در کیفی پیدا کردند که الفوزان در بخش دیگری از دفتر بدون مراقبت رها کرده بود. این کیف همچنین حاوی وسایل شخصی قابل شناسایی بود.
الفوزان روز ۹ اکتبر بازداشت شد و در ۱۳ اکتبر در دادگاه فدرال حضور یافت. در صورت اثبات اتهامات، او ممکن است به حداکثر پنج سال زندان و پرداخت ۲۵۰ هزار دلار جریمه محکوم شود. با این حال، اتهامات مطرح‌شده هنوز در دادگاه به اثبات نرسیده‌اند.
جمع‌بندی
OpenAI در بیانیه‌ای که در شبکه اجتماعی ایکس منتشر کرد، تأیید کرده است که تیم امنیتی این شرکت برای شناخت و بررسی دستگاه ضبط صدا از مدل‌های هوش مصنوعی داخلی خود استفاده کرده است.
البته OpenAI اعلام نکرده که هوش مصنوعی به‌طور مستقل هویت فرد مظنون را شناسایی کرده است. آنچه این پرونده را نگران‌کننده می‌کند، احتمال استفاده از ابزارهای معمول هوش مصنوعی برای تحقیق درباره جزئیات فنی و اجرایی یک عملیات شنود است؛ ابزارهایی که می‌توانند دسترسی به اطلاعات تخصصی را برای افراد آسان‌تر کنند.
این حادثه نشان می‌دهد که افراد دیگر برای بررسی نحوه عملکرد سخت‌افزار، رفع مشکلات تنظیمات یا شناخت تجهیزات ناآشنا، لزوماً مجبور نیستند به‌تنهایی اسناد فنی را مطالعه کنند. دستیارهای هوش مصنوعی می‌توانند این اطلاعات را در قالب گفت‌وگویی با زبان طبیعی در اختیار آن‌ها قرار دهند.