اوپن‌ای‌آی مدعی است مدل هوش مصنوعی به حل یک تهدید داخلی کمک کرده است
گفته می‌شود یکی از مهندسان اوپن‌ای‌آی یک دستگاه ضبط صوتی را در اتاق کنفرانس مدیران در یکی از دفاتر این سازمان در سان‌فرانسیسکو مخفی کرده است.
عبدالرحمن الفوازن، ۳۵ ساله، ظاهراً برای چندین هفته از یک «عامل بهره‌وری» و یک چت‌بات هوش مصنوعی پرس‌وجو کرده تا یک عملیات نظارتی را برنامه‌ریزی کند. او همچنین از یک ابزار داخلی اوپن‌ای‌آی برای پرسیدن درباره جلساتی که در اتاق کنفرانس برگزار می‌شد استفاده کرده و سپس با حساب چت‌بات همسرش، پرسش‌های فنی درباره نصب مخفیانه دستگاه‌های ضبط صوت مطرح کرده است.
این شرکت در پستی در شبکه‌های اجتماعی اعلام کرد که از مدل‌های خودش استفاده کرده تا «دستگاه و منشأ آن را شناسایی کند» و افزود: «این پرونده نمونه‌ای از این است که هوش مصنوعی چگونه می‌تواند به مقابله با تهدیدهای امنیتی پیچیده کمک کند.» با این حال، برخی درباره صحت این ادعا تردید دارند.
تردید درباره این ادعا
جان بروگمن، مدیر ارشد امنیت اطلاعات مجازی (vCISO) در CBTS، می‌گوید: «برداشت من از منظر امنیت سایبری این است که با یک نمونه کلاسیک از ریسک داخلی مواجهیم. ادعای اوپن‌ای‌آی مبنی بر اینکه مدل‌های هوش مصنوعی خودش در کشف این پرونده نقش اساسی داشته‌اند، برای من چندان باورپذیر نیست. احساس من این است که اوپن‌ای‌آی با یک مشکل مربوط به یکی از کارکنانش مواجه شده و حالا می‌خواهد ماجرا را طوری روایت کند که مدل خودش باهوش‌تر و نه خطرناک به نظر برسد.»
بروگمن توضیح می‌دهد: «با توجه به شواهدی که در اختیار دارم، می‌بینم یک ابزار داخلی بهره‌وری ثبت کرده که این کارمند به دنبال مکان و ظرفیت اتاق‌های جلسه و تقویم مدیران بوده است و در یک حساب جداگانه چت‌بات که به او مرتبط بوده نیز درخواست‌هایی درباره نحوه ساخت، نصب و رمزگذاری یک دستگاه ضبط مخفی ثبت شده است. اینجا با مدلی مواجه نیستیم که با استدلال خودش به یک مظنون رسیده باشد؛ بلکه با مهاجمی نه‌چندان باهوش روبه‌رو هستیم که از ابزارهای داخلی برای کار گذاشتن یک دستگاه شنود استفاده کرده است. مدل متوجه نشد که او چنین پرسش‌هایی را مطرح می‌کند و هشدار صادر نکرد. این بازرسی معمول امنیت فیزیکی بود که دستگاه را پیدا کرد. بخش دشوار، پیدا کردن دستگاه بود، اما این کار را یک تیم انسانی با بررسی محل انجام داد، نه یک مدل هوش مصنوعی. نقش هوش مصنوعی این بود که به درک و تحلیل مجموعه داده‌های موجود کمک کند. اگر او با تلفن همراهش درباره ساخت یک دستگاه شنود سؤال کرده بود، تنها سابقه جست‌وجوی او در تقویم‌های داخلی باقی می‌ماند که به‌اندازه کافی محکوم‌کننده نبود.»
الفوازن در تیم محصول شرکت فعالیت می‌کرد و در ژوئیه ۲۰۲۵ به اوپن‌ای‌آی پیوسته بود.
بروگمن می‌گوید: «چیزی که برای من سؤال‌برانگیز است این است که شکاف امنیتی کجا بوده است؟ الفوازن حدود یک سال در اوپن‌ای‌آی کار کرده بود؛ او نیروی تازه‌واردی نبود که مجوزهای دسترسی بیش از حد داشته باشد. او کارمندی باسابقه بود که حضور روزمره‌اش در ساختمان و استفاده معمولش از سیستم‌ها، از جمله جست‌وجوهای تقویم، هیچ هشداری ایجاد نکرد. چیزی که شاید می‌توانست هشدار ایجاد کند، موج فعالیتی بود که تقریباً یک هفته پیش از پیدا شدن دستگاه رخ داد. شناسایی چنین الگویی برای یک برنامه مدیریت ریسک داخلی بسیار دشوارتر از این است که صرفاً بگوییم «نیروی جدید را علامت‌گذاری کن». تشخیص چنین موجی از فعالیت مستلزم آن است که بتوان انحراف رفتار از الگوی معمول را مشاهده کرد. بنابراین، شناسایی آن ممکن است، اما این اتفاق در این پرونده رخ نداد.»
جمع‌بندی
بروگمن ادامه می‌دهد: «جمع‌بندی من این نیست که «آیا هوش مصنوعی ما می‌توانست این مورد را شناسایی کند؟» یا اینکه «آیا باید عاملی بسازم که هر روز گزارش‌های تقویم ما را بررسی کند؟» مسئله اصلی این است که آیا داده لازم برای شناسایی چنین فعالیتی را در اختیار داریم؟ همچنین، آیا کسی وجود دارد که پیش از آنکه تیم امنیت فیزیکی در بازرسی‌های هفتگی این مشکل را پیدا کند، داده‌ها یا هشدارها را بررسی کند؟»
او اضافه می‌کند: «پرس‌وجوهای داخلی درباره اتاق‌های جلسه و تقویم مدیران از سوی فردی که دستیار اجرایی نیست، همان سیگنالی است که باید برای آن هشدار تعریف شود. همچنین باید امیدوار باشید فرد داخلی آن‌قدر ناآگاه باشد که از یک ابزار داخلی بپرسد چگونه یک دستگاه شنود بسازد. توانایی مرتبط‌کردن این اطلاعات به یک مدل پیشگامانه نیاز ندارد؛ بلکه لازم است از قبل تصمیم بگیرید که چنین همبستگی رفتاری میان سیستم‌های مختلف ارزش ایجاد و پشتیبانی دارد. برای بررسی هشدارها نیز به حضور انسان در چرخه نیاز خواهید داشت. اگر شرکتی سالانه چندین میلیارد دلار درآمد دارد و مالک مالکیت فکری ارزشمندی است، احتمالاً سرمایه‌گذاری روی یک برنامه واقعی مدیریت ریسک داخلی ارزشمند خواهد بود.»