چگونه یک مدل OpenAI جاسوس را در مقر این شرکت شناسایی کرد
چت‌جی‌پی‌تی یک جاسوس را در مقر خود OpenAI شناسایی و به دستگیری او کمک کرده است؛ ماجرایی که از یک دستگاه شنود ۲۴ دلاری، ردپای دیجیتال پرس‌وجوهای چت‌بات و یک مدل داخلی OpenAI شکل گرفت و بیشتر به داستان‌های جاسوسی شباهت دارد.
ماجرا از جایی آغاز شد که فردی ناشناس یک دستگاه شنود صوتی را در پشت تلویزیون یکی از اتاق‌های کنفرانس، در حالی که دستگاه در کاغذ توالت پیچیده شده بود، پنهان کرد. این اتاق محل برگزاری جلسات مدیران ارشد و شرکای تجاری OpenAI برای گفت‌وگو درباره اطلاعات اختصاصی و برنامه‌های محرمانه محصولات بود؛ بنابراین دسترسی فرد یا سازمانی دیگر به این اطلاعات می‌توانست مشکل‌ساز باشد.
OpenAI پرونده را به FBI سپرد و هم‌زمان از مدل داخلی خود برای بررسی دستگاه کمک گرفت. کریستوفر ری، رئیس وقت FBI، این پرونده را از مهم‌ترین اولویت‌های این نهاد دانست و گفت هوش مصنوعی اکنون به موضوعی مهم در حوزه امنیت ملی و ریسک‌های مرتبط با آن تبدیل شده است.
کشف دستگاه شنود
در ۳۰ سپتامبر، یک کارمند OpenAI دستگاهی را پیدا کرد که به پشت تلویزیون در اتاق کنفرانس مدیران متصل شده بود. دستگاه ظاهری شبیه یک فلش USB داشت، اما مدارهای غیرمعمولی به آن متصل بود و ساختارش نشان می‌داد با یک وسیله دست‌ساز مواجه‌اند.
تیم امنیتی OpenAI دستگاه را بررسی کرد و از مدل داخلی هوش مصنوعی این شرکت خواست مشخص کند این وسیله چه کاربردی دارد. بررسی‌ها سه ویژگی مهم را آشکار کرد.
نخست، دستگاه از رمزنگاری بسیار سنگینی استفاده می‌کرد که دسترسی به اطلاعات ذخیره‌شده روی آن را تقریباً غیرممکن می‌کرد. دوم، دستگاه برای ضبط مداوم صدا طراحی شده بود و در صورت آغاز صحبت افراد نیز می‌توانست ضبط را فعال کند؛ موضوعی که نشان می‌داد هدف آن احتمالاً شنود گفت‌وگوهای اتاق بوده است. سوم، داده‌های استخراج‌شده از دستگاه نیز برای انتقال به رایانه و مشاهده یا پخش، به‌شدت رمزگذاری شده بودند. در نتیجه، سازوکار انتقال داده آن با دقت طراحی شده بود.
OpenAI با توجه به این ویژگی‌ها به این نتیجه رسید که دستگاه احتمالاً برای جاسوسی از این شرکت ساخته شده است. به همین دلیل، پرونده و اطلاعات به‌دست‌آمده را در اختیار FBI قرار داد و در تحقیقات داخلی خود نیز ادامه داد.
مدل داخلی OpenAI با بررسی طراحی مدار دستگاه توانست آن را تا فردی که احتمال می‌رفت دستگاه را نصب کرده باشد، ردیابی کند و نام یک مظنون را به دست آورد. OpenAI سرنخی از هویت فرد داشت، اما اجازه داد FBI تحقیقات خود را ادامه دهد.
در همین حال، تیم شرکت دوربینی را تقریباً در همان نقطه‌ای که دستگاه USB نصب شده بود قرار داد. هدف این بود که اگر فردی که دستگاه را کار گذاشته بود برای بررسی آن بازگردد، از او در حال ارتکاب جرم فیلم گرفته شود. چند روز بعد، مظنون برگشت و پشت تلویزیون را بررسی کرد و دوربین تصویر او را ثبت کرد.
در همان روز، تیم امنیتی همچنین کیفی را پیدا کرد که مظنون به‌طور تصادفی در اتاق چاپ جا گذاشته بود. داخل کیف دستگاه دومی پیدا شد که شباهت زیادی به دستگاه کشف‌شده پشت تلویزیون داشت. تیم امنیتی کیف را در بخش اشیای گمشده گذاشت، اما دستگاه را برای بررسی نگه داشت.
مظنون پس از متوجه شدن ناپدید شدن کیفش، برای پیدا کردن آن به بخش اشیای گمشده مراجعه کرد و کیف را تحویل گرفت. اما متوجه شد دستگاه دوم از داخل آن برداشته شده و دستگاه پشت تلویزیون نیز دیگر وجود ندارد. او در ادامه سرقت اموال خود را گزارش کرد؛ در حالی که تا آن زمان FBI و تیم OpenAI تحقیقات خود را درباره او پیش برده بودند و روز بعد حکم بازداشتش صادر شد.
پس از بازداشت، مشخص شد مظنون، همسرش و یکی دیگر از اعضای خانواده او بلیت یک‌طرفه‌ای به مقصد عربستان سعودی تهیه کرده بودند. ظاهراً او قصد داشت همراه خانواده‌اش از آمریکا خارج شود و احتمالاً بازنگردد، زیرا تصور می‌کرد شناسایی شده است.
FBI تحقیقات و روند قضایی پرونده را دنبال می‌کند. OpenAI نیز بیانیه‌ای رسمی درباره این حادثه منتشر کرده و تنها تصویری کلی از آنچه رخ داده ارائه داده است، بدون آنکه نامی از فرد دخیل ببرد. در مقابل، بسیاری از رسانه‌های دیگر هویت او را منتشر کرده‌اند.
چه کسی این کار را انجام داد و چرا؟
نام این فرد عبدالرحمن الفوازن اعلام شده است. او ۳۵ ساله و تبعه عربستان سعودی است و از سال ۲۰۲۰ در آمریکا زندگی می‌کند. او بیش از یک سال در تیم محصول OpenAI کار کرده بود و در چندین عرضه محصول این شرکت مشارکت داشت؛ بنابراین به نظر می‌رسید از کارکنان اصلی شرکت باشد و افراد زیادی در داخل شرکت او را می‌شناختند.
سوابق او در لینکدین نشان می‌دهد که روی موضوعاتی مانند عامل‌های هوش مصنوعی نیز کار کرده بود؛ نکته‌ای که در ادامه این ماجرا اهمیت پیدا می‌کند.
حدود شش هفته پیش از کشف دستگاه، عبدالرحمن از یک عامل شخصی داخلی در OpenAI پرسیده بود مدیران ارشد این شرکت معمولاً کجا جلسه برگزار می‌کنند و جلسات مدیران با شرکای تجاری در چه اتاق‌هایی برگزار می‌شود. او حتی درباره اتاق‌های مشخص این جلسات سؤال کرده بود.
این پرس‌وجوها در سیستمی داخلی انجام شده بود که کارکنان OpenAI می‌توانستند به آن دسترسی داشته باشند و فعالیت کاربران در آن قابل مشاهده بود. عبدالرحمن از همین عامل برای پیدا کردن اتاقی استفاده کرده بود که می‌توانست هدف مناسبی برای شنود باشد.
اتاق انتخاب‌شده ظرفیت شش نفر یا بیشتر داشت و جلسات مربوط به پژوهش‌های اختصاصی، طراحی‌ها و عرضه محصولات در آن برگزار می‌شد؛ اطلاعاتی که شرکت نمی‌خواست به بیرون درز کند. مشکل این بود که دسترسی به اتاق محدود بود و رزرو آن فقط برای مدیران و دستیاران آنها امکان‌پذیر بود.
او سپس به فکر راهی افتاد تا بدون ورود مستقیم به اتاق بتواند گفت‌وگوهای آن را بشنود. راه‌حل موردنظرش ساخت یک دستگاه صوتی بود که بتواند مکالمات را ضبط کند. اما او نمی‌دانست چگونه چنین وسیله‌ای بسازد.
در این مرحله، هوش مصنوعی وارد ماجرا شد. عبدالرحمن از حساب یک چت‌بات که متعلق به همسرش بود استفاده کرد و مجموعه‌ای از پرسش‌های بسیار مشخص را مطرح کرد. او توضیح داده بود که می‌خواهد دستگاهی بسازد که به‌طور مداوم صدای محیط را ضبط کند و داده‌های ضبط‌شده را به شکلی رمزگذاری کند که فقط خودش بتواند به آنها دسترسی داشته باشد.
او همچنین می‌خواست اگر شخص دیگری دستگاه را پیدا کرد و توانست داده‌های آن را استخراج کند، اطلاعات همچنان رمزگذاری‌شده باقی بمانند. افزون بر این، دستگاه باید به تلویزیون اتاق متصل می‌شد، اما تلویزیون نباید متوجه ماهیت واقعی آن می‌شد. هدف این بود که تلویزیون دستگاه را صرفاً به‌عنوان وسیله‌ای برای دریافت برق و شارژ ببیند و نتواند بفهمد از آن برای چه کاری استفاده می‌شود.
این رفت‌وبرگشت‌های متنی طی حدود چهار هفته ادامه داشت. از نخستین پرس‌وجو درباره محل جلسات تا طراحی دستگاه، عبدالرحمن ظاهراً از هوش مصنوعی برای برنامه‌ریزی و ساخت وسیله‌ای استفاده کرد که در نهایت همان دستگاه پیچیده‌شده در کاغذ توالت بود.
بررسی‌های محققان نشان داد ساخت دستگاه تنها حدود ۲۴ دلار هزینه داشته است. با این حال، همین دستگاه ارزان‌قیمت به پرونده‌ای منجر شد که برای فرد مظنون، شرکت و کل عملیات جاسوسی دردسر بزرگی ایجاد کرد. در گزارش‌های موجود، حداکثر مجازات اتهام مطرح‌شده برای ضبط گفت‌وگوهای شفاهی پنج سال زندان عنوان شده است.
ردگیری مظنون
در ۲۸ سپتامبر، یعنی دو روز پیش از کشف دستگاه، عبدالرحمن وارد ساختمان مقر OpenAI شد. او به میز کارش رفت و روز کاری خود را ادامه داد، اما بارها به اتاق کنفرانس مدیران نگاه کرد و در اطراف آن منطقه رفت‌وآمد داشت.
او ساعت ۲:۱۸ بعدازظهر وارد ساختمان شد و حدود ساعت ۶:۳۰ عصر آنجا بود. تصاویر دوربین‌های مداربسته بعدها نشان دادند که او در حال بررسی منطقه بوده است. در مقطعی نیز زمانی که ظاهراً یکی از افراد از اتاق خارج شد، او وارد شد و در را باز نگه داشت تا بتواند به داخل دسترسی پیدا کند.
دو روز بعد، در ۳۰ سپتامبر، دستگاه پشت تلویزیون کشف شد. با توجه به تصاویر دوربین مداربسته و رفتار مشکوک فرد در اطراف اتاق، تحقیقات به سمت او هدایت شد و در نهایت بازداشت شد.
نقش مدل داخلی OpenAI
یکی از مهم‌ترین بخش‌های ماجرا این است که مدل داخلی OpenAI چگونه به شناسایی مظنون کمک کرد. این مدل به دستگاه دسترسی پیدا کرد، ساختار آن را بررسی و عملاً آن را مهندسی معکوس کرد. سپس توانست نحوه طراحی دستگاه را مشخص کند.
وقتی این اطلاعات با تصاویر دوربین مداربسته ترکیب شد، محققان توانستند تشخیص دهند چه کسی احتمالاً دستگاه را نصب کرده است. پس از مشخص شدن مظنون، فعالیت‌های او به‌صورت مخفیانه بررسی شد و محققان به گفت‌وگوهای شش هفته قبل او با عامل شخصی داخلی OpenAI رسیدند؛ همان گفت‌وگوهایی که در آنها درباره محل جلسات مهم مدیران و اتاق‌های حاوی اطلاعات حساس پرس‌وجو کرده بود.
محققان همچنین توانستند متوجه شوند او در یک چت‌بات شخصی دیگر نیز گفت‌وگوهایی داشته و از آن برای طراحی دستگاه ۲۴ دلاری استفاده کرده است. بر اساس این تحقیقات، او یا شخص دیگری با کمک اطلاعات تولیدشده توسط هوش مصنوعی دستگاه را ساخته و سپس آن را در پشت تلویزیون نصب کرده بود.
در نتیجه، هوش مصنوعی در هر دو سوی ماجرا قرار گرفت: مظنون از AI برای برنامه‌ریزی، طراحی و اجرای عملیات استفاده کرد و در نهایت همان فناوری در کشف فعالیت او و بازداشتش نقش داشت.
این ماجرا نشان می‌دهد هوش مصنوعی فقط می‌تواند ابزاری برای انجام حملات یا فعالیت‌های مخرب نباشد و در دفاع سایبری نیز کاربرد داشته باشد. در این مورد، ردپای دیجیتال ایجادشده هنگام استفاده از ابزارهای هوش مصنوعی به محققان کمک کرد فعالیت فرد را به اقدامات فیزیکی او مرتبط کنند.
امنیت ملی و آزمایشگاه‌های هوش مصنوعی
یکی از پیامدهای این حادثه، افزایش توجه به این پرسش است که آیا هوش مصنوعی رسماً به موضوعی در حوزه امنیت ملی تبدیل شده است یا نه. پیش‌تر نیز جیکوب کاکسون، پژوهشگر حوزه ایمنی و هم‌ترازی هوش مصنوعی، در یک پادکست گفته بود احتمال حضور جاسوس در آزمایشگاه‌های پیشرو هوش مصنوعی ۹۰ درصد است.
کاکسون پیش‌تر از OpenAI به Anthropic پیوسته و سه هفته بعد آنجا را ترک کرده بود، زیرا به گفته خودش به این شرکت‌ها درباره جدی گرفتن هم‌ترازی مدل‌ها اعتماد نداشت. حالا افشای پرونده عبدالرحمن، که گفته می‌شود بیش از یک سال در OpenAI کار کرده بود، باعث شده آن هشدارها بیش از پیش واقعی به نظر برسند.
برای آزمایشگاه‌هایی مانند Anthropic، Google و دیگر شرکت‌هایی که روی مدل‌های پیشرفته کار می‌کنند، چنین حادثه‌ای یادآور این است که باید احتمال تلاش برای دسترسی به گفت‌وگوها و اطلاعات حساس را جدی بگیرند. مسئله فقط شنود جلسات نیست؛ در سناریوهای جدی‌تر، مهاجم می‌تواند تلاش کند وزن مدل‌ها، طرح‌های فنی یا اطلاعات لازم برای ساخت یک مدل رقیب را خارج کند و این اطلاعات ممکن است در اختیار یک دولت، شرکت یا فرد دیگر قرار گیرد.
بر اساس تحقیقات انجام‌شده، ظاهراً عبدالرحمن نتوانسته چنین اقدامی را انجام دهد و تحقیقات OpenAI نشان می‌دهد احتمال موفقیت او در دسترسی به اطلاعات حساس‌تر بسیار پایین بوده است. با این حال، همین حادثه نشان می‌دهد سازمان‌هایی که مدل‌های پیشرفته در اختیار دارند باید برای چنین تهدیدهایی آماده باشند.
مسئله چهارم، به امنیت خود مدل‌ها مربوط می‌شود. با قدرتمندتر شدن مدل‌های هوش مصنوعی، حفاظت از آنها و ایمن نگه داشتن زیرساخت‌هایشان می‌تواند به یک اولویت ملی تبدیل شود. در حال حاضر، شرکت‌های خصوصی مانند OpenAI و Anthropic بخش زیادی از مسئولیت امنیت خود را از طریق تیم‌های داخلی بر عهده دارند و لزوماً مانند شرکت‌های سهامی عام در برابر عموم سرمایه‌گذاران پاسخ‌گو نیستند.
این وضعیت می‌تواند دولت را به دخالت بیشتر سوق دهد. هم‌زمان، ایده‌هایی درباره حضور طرف‌های خارجی برای ارزیابی و نظارت بر هم‌ترازی مدل‌های هوش مصنوعی مطرح شده است. به این ترتیب، ممکن است نقش نهادهای بیرونی در نظارت بر شرکت‌های خصوصی فعال در حوزه هوش مصنوعی افزایش پیدا کند.
با افزایش توانایی مدل‌ها، این نگرانی نیز وجود دارد که برخی آزمایشگاه‌ها مدل‌های بسیار قدرتمندتری را در اختیار داشته باشند که فعلاً به‌دلیل خطرات احتمالی منتشر نمی‌کنند. اگر چنین مدل‌هایی یا اطلاعات مربوط به آنها به دست رقبای یک کشور، از جمله چین، بیفتد، می‌تواند از منظر امنیتی پیامدهای جدی داشته باشد. از این منظر، آزمایشگاه‌های هوش مصنوعی پیشرفته بیش از گذشته به اهدافی با اهمیت امنیت ملی تبدیل شده‌اند.
مسئله اپل
در همین زمینه، اپل نیز درگیر یک پرونده جداگانه با OpenAI است. اپل از OpenAI شکایت کرده و این شرکت را متهم کرده است که با صدها کارمند اپل تماس گرفته یا تلاش کرده آنها را جذب کند تا به طرح‌ها و معماری دستگاه این شرکت برای یک محصول سخت‌افزاری هوش مصنوعی دسترسی پیدا کند.
با این حال، سطح پیچیدگی حمله‌ای که OpenAI در این پرونده با آن مواجه شده، یعنی یک دستگاه شنود دست‌ساز که در کاغذ توالت پیچیده و به تلویزیون متصل شده بود، نشان نمی‌دهد که OpenAI لزوماً توانایی اجرای عملیات مشابه علیه اپل را داشته باشد.
این پرونده در نهایت داستانی غیرمعمول درباره استفاده دوگانه از هوش مصنوعی است: همان فناوری که می‌تواند برای طراحی و اجرای یک عملیات مخفیانه مورد استفاده قرار گیرد، می‌تواند برای کشف آن عملیات نیز به کار گرفته شود. در این مورد، استفاده از AI در دفاع سایبری به پایان نسبتاً خوبی برای یک ماجرای بالقوه بسیار خطرناک منجر شد.
یکی از نکات مهم این ماجرا، گسترده‌تر شدن ردپای دیجیتال افراد در دنیای امروز است. وقتی با یک چت‌بات گفت‌وگو می‌کنید، ممکن است این تعامل شخصی به نظر برسد، اما فعالیت شما می‌تواند در سامانه‌های شرکت ارائه‌دهنده مدل ثبت شود. در این پرونده، همین ردپا به محققان اجازه داد فعالیت‌های مظنون را به اقدامات فیزیکی او مرتبط کنند.
این الزاماً به معنای بد بودن چنین ردیابی‌ای نیست؛ دست‌کم در این مورد، همین اطلاعات به کشف یک فعالیت مشکوک کمک کرد. در نتیجه، با وجود نگرانی‌هایی درباره حملات سایبری مبتنی بر هوش مصنوعی و عامل‌های هوش مصنوعی که ممکن است از کنترل خارج شوند، همین فناوری‌ها می‌توانند ابزارهای دفاعی قدرتمندی نیز فراهم کنند.
این ماجرا از کیوتو در ژاپن روایت می‌شود؛ جایی که راوی می‌گوید همچنان در آنجا حضور دارد و در کنار ادامه سفر، انتشار قسمت‌های برنامه «In the Loop» را نیز دنبال می‌کند.