پرونده شنود در OpenAI، خطر تهدیدهای داخلی در صنعت هوش مصنوعی را آشکار کرد
نویسندگان: دیوید دی‌مولفتا و جان کراکستون | ۱۴ اکتبر ۲۰۲۶، ساعت ۱۷:۰۲ به وقت شرق آمریکا
پژوهشگران می‌گویند تلاش ادعایی برای ضبط مخفیانه مکالمات نشان می‌دهد شرکت‌های هوش مصنوعی باید کنترل‌های سخت‌گیرانه‌تری بر دسترسی کارکنان به اطلاعات حساس اعمال کنند.
به گفته کارشناسان سیاست‌گذاری، تلاش ادعایی یکی از کارکنان OpenAI برای نصب دستگاه شنود در اتاق جلسات مدیران این شرکت نشان می‌دهد حفاظت از فناوری هوش مصنوعی به مراقبت از کدهای نرم‌افزاری محدود نمی‌شود. توسعه‌دهندگان این فناوری اکنون با این واقعیت روبه‌رو هستند که حتی گفت‌وگوهای روزمره در محیط کار نیز ممکن است جزئیات محرمانه‌ای از برنامه‌های فناورانه آن‌ها را فاش کند.
وزارت دادگستری آمریکا روز سه‌شنبه اعلام کرد عبدالرحمن الفوزان، مهندس ۳۵ ساله OpenAI و تبعه عربستان سعودی، روز ۹ اکتبر بازداشت شده است. اتهام او استفاده یا تلاش برای استفاده از دستگاهی به‌منظور شنود ارتباطات شفاهی است.
کارکنان OpenAI روز ۳۰ سپتامبر دستگاه ضبط صدا را پیدا کردند. این دستگاه در میان دستمال توالت پنهان شده و به پشت یک تلویزیون متصل بود. به گفته وزارت دادگستری، اتاق موردنظر محل برگزاری جلساتی درباره پژوهش‌های اختصاصی شرکت، برنامه‌های توسعه محصولات و تعاملات آن با نهادهای دولتی بوده است.
لیا سیسکیند، مدیر بخش تأثیرگذاری و پژوهشگر هوش مصنوعی در بنیاد دفاع از دموکراسی‌ها، گفت: «وقتی به امنیت هوش مصنوعی فکر می‌کنیم، معمولاً تراشه‌ها، وزن‌های مدل و کدهای نرم‌افزاری به ذهنمان می‌رسند. اما این پرونده یادآوری می‌کند که امنیت این فناوری، اتاق‌هایی را هم در بر می‌گیرد که درباره نقشه راه توسعه آن تصمیم‌گیری می‌شود و افرادی که به این اتاق‌ها رفت‌وآمد دارند. هر کسی که بخواهد از پیشرفته‌ترین فناوری‌های هوش مصنوعی اطلاعات به دست آورد، دلایل کافی برای توجه به همه این بخش‌ها دارد.»
دادستان‌ها مدعی‌اند الفوزان مجوز ورود به اتاق جلسات را نداشته، اما بارها در نزدیکی آن دیده شده است. در شکایت ثبت‌شده از سوی اف‌بی‌آی، دستگاه موردنظر یک تراشه آماده ضبط تصویر و صدا معرفی شده که با قیمت ۱۴ دلار به‌صورت اینترنتی فروخته می‌شود. به گفته مقام‌های قضایی، نیروهای امنیتی دستگاه ضبط مشابه دیگری نیز در کیفی پیدا کرده‌اند که مدارک شناسایی الفوزان در آن قرار داشته است.
هنوز مشخص نیست انگیزه الفوزان چه بوده و آیا اطلاعاتی را ضبط کرده یا در اختیار دیگران گذاشته است. بااین‌حال، او ارتباطاتی با محافل فناوری و سرمایه‌گذاری عربستان سعودی داشته است. روزنامه فایننشال تایمز روز چهارشنبه گزارش داد که الفوزان ماه گذشته، هم‌زمان با سفر عبدالله السواحه، وزیر ارتباطات و فناوری اطلاعات عربستان سعودی، به سان‌فرانسیسکوی کالیفرنیا، مدیریت یک نشست میزگرد را در کنفرانسی با حمایت عربستان بر عهده داشته است. همچنین نام او به‌عنوان شریک سرمایه‌گذاری خطرپذیر در شرکت Raed Ventures مستقر در ریاض ثبت شده بود. اسناد ارائه‌شده به دادگاه نیز نشان می‌دهد او برای روز دوشنبه همین هفته بلیت یک‌طرفه‌ای به مقصد عربستان سعودی رزرو کرده بود.
شرکت OpenAI اعلام کرد این کارمند را اخراج کرده است و هیچ نشانه‌ای در اختیار ندارد که ثابت کند او به‌صورت غیرمجاز به وزن‌های مدل، کد منبع یا داده‌های مشتریان دسترسی پیدا کرده یا این اطلاعات را از شرکت خارج کرده است. این شرکت همچنین اعلام کرد برای بررسی ماهیت دستگاه و شناسایی فردی که آن را نصب کرده، از مدل‌های هوش مصنوعی خود کمک گرفته است.
جم کراپرایون، پژوهشگر ارشد مؤسسه سیاست‌گذاری و راهبرد هوش مصنوعی، معتقد است این اقدام در مقایسه با تهدیدهایی که بیش از همه او را نگران می‌کنند، محدود به نظر می‌رسد.
او گفت: «به نظر می‌رسد با عملیاتی نسبتاً ابتدایی روبه‌رو بوده‌ایم. هنوز نمی‌دانیم انگیزه این فرد چه بوده یا آیا با گروه سازمان‌یافته‌ای ارتباط داشته است. اما بر اساس گزارش‌های منتشرشده، این اقدام به دارایی‌هایی که بیش از همه نگران امنیت آن‌ها هستم، یعنی وزن‌های مدل و دانش الگوریتمی بنیادین پشت مدل‌های پیشرفته هوش مصنوعی، دسترسی پیدا نکرده است.»
وزن‌های مدل به پارامترهای عددی گفته می‌شود که یک مدل هوش مصنوعی در جریان آموزش یاد می‌گیرد و نحوه پردازش اطلاعات و تولید پاسخ‌های آن را تعیین می‌کنند. سرقت این وزن‌ها می‌تواند به مهاجم امکان دهد نسخه کاملی از یک مدل هوش مصنوعی، مانند GPT-6 Astra، را روی سرورهای خودش اجرا کند.
کراپرایون افزود: «ضبط گفت‌وگوهای مدیران ممکن است برخی اطلاعات کلی درباره الگوریتم‌ها را آشکار کند، اما این شیوه نفوذ چیزی نیست که بیش از همه نگرانش باشم. مسئله مهم‌تر این است که یک عامل حرفه‌ای‌تر و مجهزتر چه کارهایی می‌تواند انجام دهد.»
پژوهشی که مؤسسه رند در سال ۲۰۲۴ منتشر کرد، ۳۸ روش متفاوت برای هدف قرار دادن وزن‌های مدل از سوی مهاجمان شناسایی کرده است. این پژوهش به توسعه‌دهندگان توصیه می‌کند دسترسی به این وزن‌ها را به افراد محدودی اختصاص دهند، نسخه‌های آن‌ها را در سامانه‌های تحت نظارت نگهداری کنند و برنامه‌هایی برای مقابله با تهدیدهای داخلی ایجاد کنند. در این مطالعه، طیفی از تهدیدها، از مجرمان فرصت‌طلب گرفته تا عملیات دولتی برخوردار از منابع مالی گسترده، بررسی شده است.
شرکت آنتروپیک نیز در به‌روزرسانی ماه فوریه سیاست توسعه مسئولانه خود به دشواری این مسئله اذعان کرده است. این شرکت با استناد به پژوهش رند اعلام کرد دستیابی به بالاترین سطح استاندارد امنیتی، یعنی توانایی دفاع در برابر عملیات دارای بالاترین اولویت از سوی توانمندترین مهاجمان، هنوز امکان‌پذیر نیست و احتمالاً به همکاری نهادهای فعال در حوزه امنیت ملی نیاز خواهد داشت.
کراپرایون گفت: «خود شرکت‌ها و تحلیلگران مستقل پذیرفته‌اند که توسعه‌دهندگان هوش مصنوعی هنوز از سطح آمادگی امنیتی لازم برای محافظت از این دارایی‌ها در برابر مهاجمانی مصمم و برخوردار از منابع گسترده برخوردار نیستند.»
این نخستین بار در ماه‌های اخیر نیست که OpenAI با پرونده‌ای مرتبط با سرقت اسرار تجاری روبه‌رو می‌شود. این شرکت همچنین از ارائه سند جدیدی در جریان اختلاف حقوقی خود با اپل خبر داده که در آن ادعا شده یکی از کارکنان سابق OpenAI، پس از ترک این شرکت و پیوستن به اپل، بیش از ۱۰۰ فایل مربوط به یکی از محصولات معرفی‌نشده OpenAI را به حساب ایمیل شخصی خود فرستاده و آن محصول را به مدیران ارشد اپل ارائه کرده است.
سیسکیند معتقد است شرکت‌ها باید ضمن ادامه جذب استعدادهای متخصص از کشورهای دیگر، بر این موضوع تمرکز کنند که کارکنان به چه اطلاعاتی دسترسی دارند و چگونه از این دسترسی استفاده می‌کنند.
او گفت: «بخش مهمی از برتری آمریکا در رقابت هوش مصنوعی، توانایی ما در جذب بهترین استعدادهای جهان است. بااین‌حال، باید این واقعیت را نیز در نظر بگیریم که اطلاعات مربوط به تمام مراحل توسعه هوش مصنوعی، هدفی ارزشمند برای جاسوسی محسوب می‌شوند.»
سیسکیند افزود: «این دو هدف با یکدیگر تعارضی ندارند، به شرط آنکه امنیت را بر پایه کنترل دسترسی طراحی کنیم، نه صرفاً بر اساس اینکه افراد اهل کدام کشور هستند. باید کنترل‌های محکمی وجود داشته باشد که مشخص کند چه کسانی اجازه دسترسی به سامانه‌های حساس را دارند و پس از ورود به این سامانه‌ها چه اقداماتی انجام می‌دهند. نظارت واقعی بر این فعالیت‌ها نیز ضروری است.»