اخبار پرریسک: ماجرای جاسوسی ناشیانه در اوپن‌ای‌آی
خبرنامه هفتگی «کسب‌وکار به‌شدت پرریسک» را تام اورن می‌نویسد و پاتریک گری و امبرلی جک آن را ویرایش می‌کنند. حامی مالی این شماره شرکت Sondera است.
برای شنیدن گفت‌وگوی پادکستی درباره این خبرنامه، عبارت «Risky Business News» را در برنامه پادکست خود جست‌وجو کنید یا از طریق این خوراک RSS مشترک شوید.
یک کارمند سعودی شرکت اوپن‌ای‌آی در ارتباط با نصب مخفیانه دستگاه ضبط صدا در اتاق جلسات مدیران یکی از دفاتر این شرکت در سان‌فرانسیسکو بازداشت و متهم شده است. اما این ماجرا واقعاً عجیب است؛ عجیب و باورنکردنی!
وزارت دادگستری آمریکا ادعا می‌کند عبدالرحمان الفوزان دستگاه ضبط را با اتصال آن به درگاه USB تلویزیون، در اتاق جلسات پنهان کرده بود. به گفته این وزارتخانه، در این اتاق درباره اطلاعات فنی، تجاری و راهبردی «بسیار محرمانه» گفت‌وگو می‌شد.
موضوع جدی است، اما شیوه‌ای که الفوزان ظاهراً برای آغاز فعالیت جاسوسی خود انتخاب کرده، به‌شکلی باورنکردنی ناشیانه و حتی خنده‌دار است.
بر اساس شکایت کیفری، وسیله جاسوسی یک برد توسعه میکروکنترلر کوچک از برند SEEED بوده که به دوربین، میکروفون و اتصال وای‌فای مجهز است و قیمت خرده‌فروشی آن ۱۳٫۹۰ دلار آمریکا است. اوپن‌ای‌آی این وسیله را بررسی کرده و به این ارزیابی رسیده است که احتمالاً برای رمزگذاری داده‌ها و جلوگیری از تحلیل‌های جرم‌شناختی دیجیتال، تغییراتی در آن ایجاد شده بود. از همه جالب‌تر اینکه دستگاه در میان «دستمال توالت» پنهان شده بود.
در اسناد قضایی جداگانه، وزارت دادگستری ادعا می‌کند که الفوزان در روزهای پیش از نصب دستگاه، با استفاده از حساب شخصی همسرش در چت‌جی‌پی‌تی، درباره ساخت وسیله‌ای برای ضبط پیوسته صدا تحقیق کرده بود. از جمله پرسش‌های او درباره رمزگذاری فایل‌های ضبط‌شده و تنظیم دستگاه برای کارکرد صرفاً با برق USB بود. الفوزان همچنین از حساب شخصی خودش در چت‌جی‌پی‌تی استفاده کرده بود تا بهترین اتاق‌های جلسات اوپن‌ای‌آی را برای هدف قرار دادن شناسایی کند.
فوزان همچنین کیفی حاوی دستگاه ضبط دیگری را بدون مراقبت در اتاق چاپگرهای اوپن‌ای‌آی رها کرده بود. اما تا آن زمان، شرکت از فعالیت‌های او مطلع شده بود و پس از بازرسی کیف، دستگاه را پیدا و ضبط کرد. در همان کیف رهاشده، وسایل شخصی الفوزان، از جمله کیف پول و کارت شناسایی او نیز وجود داشت. واقعاً هوشمندانه!
فوزان چند روز پیش از آنکه قرار باشد برای استفاده از دو ماه مرخصی والدین به ریاض سفر کند، بازداشت شد. وزارت دادگستری آمریکا مدعی است که او ارتباطات گسترده‌ای با عربستان سعودی دارد.
بر اساس اسنادی که به دادگاه ارائه شده‌اند، الفوزان از طریق واتس‌اپ با یکی از اعضای خاندان سلطنتی عربستان «به‌طور مکرر در ارتباط» بوده است. این فرد او را تشویق کرده بود به طرحی در حوزه هوش مصنوعی بپیوندد که در عربستان در حال راه‌اندازی بود. او در پیامی نوشته بود: «عربستان بیش از آمریکا به تو نیاز دارد!»
به نظر می‌رسد دولت عربستان نیز به این فرد علاقه‌مند است. پس از بازداشت الفوزان، هزینه بلیت بازگشت همسر و فرزند او به عربستان را پرداخت کرد.
با در نظر گرفتن همه این موارد، بعید می‌دانیم این ماجرا نمونه‌ای از جاسوسی تحت حمایت دولت باشد؛ دست‌کم نه به معنای متعارف آن. به نظر ما، الفوزان احتمالاً می‌خواسته با به‌دست آوردن غیرقانونی اطلاعات تجاری حساس، شانس استخدام خود را در کشورش افزایش دهد. طبیعتاً دوستش در خاندان سلطنتی نیز اگر او با کیفی پر از فایل‌های ضبط‌شده جلسات اوپن‌ای‌آی به عربستان بازمی‌گشت، تحت تأثیر قرار می‌گرفت. به این ترتیب، همه برنده می‌شدند!
با اینکه این حادثه نشانه‌های معمول یک عملیات جاسوسی دولتی را ندارد، مطمئنیم که سازمان‌های اطلاعاتی در حال هدف گرفتن آزمایشگاه‌های پیشرو هوش مصنوعی هستند. بیش از سه سال پیش، درباره تلاش آژانس امنیت ملی آمریکا برای حفظ برتری این کشور در حوزه هوش مصنوعی نوشتیم. اکنون بیش از هر زمان دیگری روشن است که فناوری هوش مصنوعی به یکی از محورهای رقابت ژئوپلیتیکی تبدیل شده است.
متأسفانه، انگیزه شرکت‌ها برای سرعت بخشیدن به توسعه محصولات و پیشی گرفتن از رقبا، با ایجاد امنیت قدرتمند سازگار نیست. تاکنون شاهد مجموعه‌ای از حوادث امنیتی شرم‌آور در حوزه هوش مصنوعی بوده‌ایم؛ حوادثی که در آن‌ها مدل‌های آزمایشگاه‌های پیشرو با موفقیت وارد عملیات هک بیش‌ازحد جاه‌طلبانه شده‌اند. از نظر ما، این اتفاقات پیامد مستقیم فرهنگی است که سرعت را بر امنیت مقدم می‌داند.
کاهش تهدیدهای داخلی و خطر جاسوسی در سطح دولتی کار دشواری است. برای نمونه، سازمان‌های اطلاعاتی از فرایندهای طولانی و گسترده بررسی پیشینه کارکنان، کنترل‌های سخت‌گیرانه دسترسی، پایش رفتار و صرف سال‌ها زمان برای ایجاد فرهنگ امنیتی نیرومند استفاده می‌کنند.
شاید مقایسه یک شرکت پیشرو هوش مصنوعی با یک سازمان اطلاعاتی اغراق‌آمیز به نظر برسد، اما واقعیت این است که این آزمایشگاه‌ها از اهداف اولویت‌دار جاسوسی دولتی هستند. با این حال، بعید می‌دانیم بتوان برنامه‌های قدرتمند مقابله با تهدیدهای داخلی را با سرعتی که شرکت‌های هوش مصنوعی در پیش گرفته‌اند، به‌طور کامل سازگار کرد.
برای خود آزمایشگاه‌ها، این حادثه باید زنگ خطری باشد تا امنیت عملیاتی خود را بهبود دهند. اگر فردی ناشی مانند الفوزان توانسته است دستگاه شنود را وارد اتاق جلسات کند، یک عامل حرفه‌ای و پیچیده‌تر چه کارهایی می‌تواند انجام دهد؟ چنین جاسوسانی دوربین‌های آماده بازار را در دستمال توالت نمی‌پیچند. آن‌ها ممکن است از راه دور تلویزیون هوشمند اتاق جلسات را به خطر بیندازند؛ روشی که شناسایی آن بسیار دشوارتر خواهد بود.
بنابراین، هرچند بعید است آزمایشگاه‌های پیشرو هوش مصنوعی کنترل‌هایی در سطح سازمان‌های اطلاعاتی برای مقابله با تهدیدهای داخلی اجرا کنند، باید برای محافظت از ارزشمندترین دارایی‌های خود تلاش بسیار بیشتری به خرج دهند.
مراقب باشید، مجرمان سایبری! هوش مصنوعی شغل شما را هم تهدید می‌کند
شرکت امنیتی NorForge گزارشی منتشر کرده است که در آن توضیح می‌دهد گروه‌های مختلف تهدید چگونه از عامل خودکار آزمون نفوذ Cairn برای ارتکاب جرایم سایبری با انگیزه مالی استفاده می‌کنند. نکته مهم این است که آن‌ها واقعاً از این کار پول درمی‌آورند.
این وضعیت با برخی دیگر از ماجراجویی‌های مبتنی بر هوش مصنوعی که در ماه‌های اخیر درباره‌شان نوشته‌ایم، تفاوت چشمگیری دارد. در آن نمونه‌ها، مهاجمان با کمک هوش مصنوعی موفق به هک کردن سامانه‌ها شده بودند، اما در کسب درآمد از دسترسی به‌دست‌آمده تقریباً ناتوان بودند.
Cairn پروژه‌ای متن‌باز است که توسعه‌دهندگانش آن را «موتور جست‌وجوی فضای حالت با کاربرد عمومی مبتنی بر هوش مصنوعی» توصیف می‌کنند. این ابزار با دریافت یک نقطه شروع و یک هدف، تلاش می‌کند مسیری برای رسیدن از نقطه الف به نقطه ب پیدا کند. برای مثال، Cairn برای آزمون نفوذ مناسب است؛ زیرا هم نقطه شروع مشخصی مانند یک نشانی IP یا یک سامانه وجود دارد و هم معیار موفقیت روشن است، مانند دستیابی به یک پوسته خط فرمان. مستندات پروژه می‌گوید این ابزار برای پژوهش درباره آسیب‌پذیری‌ها و اثبات‌های ریاضی نیز عملکرد خوبی دارد.
Cairn تنها چارچوبی نیست که برای هک مخرب با هوش مصنوعی به کار گرفته می‌شود، اما اغلب آن را با یک رابط کاربری تحت وب و بدون ایمن‌سازی مناسب پیکربندی می‌کنند؛ در نتیجه، ابزارهایی مانند Shodan می‌توانند آن را شناسایی کنند. شرکت NorForge توانست حدود ۲۰ پنل Cairn را پیدا کند که برای اجرای کارزارهای هک مخرب مورد استفاده قرار می‌گرفتند.
بزرگ‌ترین عملیات شناسایی‌شده از سوی NorForge، خوشه‌ای متشکل از ۱۴ داشبورد Cairn با رابط چینی بود که بیش از ۱۱۰۰ پروژه حمله را اجرا می‌کردند. این خوشه عمدتاً بخش‌های خرده‌فروشی و عمده‌فروشی آمریکا، ژاپن و استرالیا را هدف قرار داده بود و ظاهراً قصد داشت دسترسی پایدار به زیرساخت‌های پرداخت تجارت الکترونیکی به دست آورد. به این ترتیب، حملات مبتنی بر هوش مصنوعی راهی برای دستیابی به اطلاعات کارت‌های اعتباری و جزئیات پرداخت فراهم می‌کنند.
خوشه دوم که رابط انگلیسی داشت، فعالیت کمتری انجام می‌داد. پنل‌های این مجموعه بر جرایم مرتبط با پرداخت و خدمات مالی متمرکز بودند و هدف مشابهی را دنبال می‌کردند: سرقت اطلاعاتی که بتوان آن‌ها را بلافاصله به پول تبدیل کرد.
خوشه نهایی کوچک‌تر بود و ترکیبی از وب‌سایت‌های تجارت الکترونیکی و پلتفرم‌های تجاری بسیار بزرگ مستقر در آمریکا را هدف قرار می‌داد.
در مجموع، برآورد NorForge این است که حدود ۱۰ درصد از حملاتی که با Cairn مدیریت می‌شدند، موفق بوده‌اند و هر حمله به‌طور متوسط در کمتر از ۲۴ ساعت به پایان می‌رسیده است. شواهدی نیز وجود داشت که نشان می‌داد دو خوشه از مدل‌های DeepSeek استفاده می‌کردند که هزینه اجرای نسبتاً پایینی دارند. اسنور فاگرلند، یکی از نویسندگان گزارش، در گفت‌وگو با رویترز گفت هزینه هر هک موفق را حدود ۵۰ دلار برآورد می‌کند. در نتیجه، هزینه در برابر بازده بسیار پایین است.
برخی از حملات انجام‌شده نیز از نظر فنی چشمگیر بودند. به گزارش رویترز:
در یک مورد، عامل‌های هوش مصنوعی پس از آنکه نتوانستند هیچ نقطه‌ضعفی در برنامه‌ای عمومی و در دسترس یک شرکت بزرگ پیدا کنند، سوابق دیجیتال را به‌دقت بررسی کردند تا زیرساخت‌های مرتبط را شناسایی کنند. آن‌ها یک پنل مدیریتی در دسترس عموم را پیدا کردند، به ضعف ظریفی در شیوه پردازش داده‌ها پی بردند و پس از ساعت‌ها آزمون‌وخطا گزارش دادند که توانسته‌اند از این ضعف بهره‌برداری کنند و سرور را به اجرای فرمان‌های مخرب وادارند.
از نظر ما، نکته مهم این است که مهاجمان هدفی پیدا کرده‌اند که امکان خودکارسازی کل فرایند را برایشان فراهم می‌کند؛ از نفوذ به یک وب‌سایت گرفته تا انتقال رمزارز قربانی به کیف پولی تحت کنترل مهاجم. مجرمان سایبری سنتی باید نگران باشند؛ هوش مصنوعی در راه است تا جای آن‌ها را بگیرد!
سه دلیل برای خوش‌بینی در این هفته
- ایمنی هوش مصنوعی در دستور کار قرار گرفته است: کمیسیون تجارت فدرال آمریکا احضاریه‌هایی برای شرکت‌های پیشرو هوش مصنوعی صادر کرده و از آن‌ها خواسته است اسنادی درباره حوادث امنیتی و رویه‌های ایمنی خود ارائه دهند؛ به گزارش آکسیوس. این اقدام پس از آن صورت می‌گیرد که نیروی ویژه ابرهوش کاخ سفید در اوایل همین ماه شرکت‌ها را ملزم کرد حوادث امنیتی مرتبط با سامانه‌های دولتی را گزارش دهند و برای رفع آن‌ها اقدام کنند؛ تصمیمی که آکسیوس پیش‌تر گزارش کرده بود.
- ضربه‌ای سه‌گانه به اکوسیستم جرایم سایبری چین: همکاری بین‌المللی شامل مایکروسافت، آژانس پلیس ملی ژاپن و سازمان Health-ISAC سه سرویس جرایم سایبری چینی را از کار انداخته است. سرویس‌های CoGUI و Iron Man بسته‌های ابزار فیشینگ می‌فروختند و YAM Store حساب‌های کاربری هک‌شده را عرضه می‌کرد. مایکروسافت می‌گوید این ابزارها از ماه ژانویه تاکنون بیش از یک میلیارد پیام مخرب ارسال کرده‌اند.
- کروم در برابر حملات ClickFix محافظت می‌شود: گوگل از مجموعه‌ای از قابلیت‌های امنیتی بهبودیافته خبر داده است که هشدار درباره وب‌سایت‌های مشکوک، شناسایی بهتر کلاهبرداری‌ها و محافظت در برابر حملات ClickFix را شامل می‌شوند.
اخبار کوتاه
روزهای سخت برای مرکز داده روسی
پهپادهای اوکراینی روز یکشنبه به مرکز داده‌ای متعلق به شرکت VK، غول شبکه‌های اجتماعی روسیه، حمله کردند. VK می‌گوید خدماتش طبق روال معمول در دسترس هستند، اما شرکت پایش اینترنت NetBlocks اعلام کرده است که فعالیت شبکه VK پس از حمله ۴۴ درصد کاهش یافت.
این رویداد در ادامه موضوعی است که هفته گذشته در مقاله خود درباره تأثیر حملات روسیه به مراکز داده اوکراین بررسی کردیم. تلاش روسیه برای ساخت اینترنتی مستقل و ملی، این کشور را در برابر اقدامات تلافی‌جویانه اوکراین آسیب‌پذیرتر می‌کند.
از خبرنامه Risky Bulletin
هکر ۱۰ درصد از گره‌های خروجی تور را تصاحب کرد
یک عامل تهدید ناشناس در اوایل همین ماه بیش از ۳۳۰ سرور تور را هک کرد تا کارزاری گسترده برای شنود ترافیک کاربران این شبکه به راه بیندازد.
مهاجم رله‌های تور را هک کرد، بدافزار لینوکسی Ebury را روی آن‌ها نصب کرد و آن‌ها را به رله‌های خروجی تبدیل کرد. به این ترتیب، می‌توانست اتصال‌های SSH را رهگیری کند و با تنزل امنیت اتصال‌های ایمیل، ترافیک ایمیلی رمزگذاری‌نشده را به سرقت ببرد.
این کارزار هکری سه روز، از ۲ تا ۵ اکتبر، شناسایی نشد تا اینکه یک مهندس سوئیسی آن را کشف کرد و موضوع را به تیم امنیتی تور گزارش داد.
آسیب‌پذیری PwnEscape امکان خروج از محیط KVM را فراهم می‌کند
تیم هسته لینوکس آسیب‌پذیری مهمی را برطرف کرده است که به ماشین‌های مجازی مهمان اجازه می‌داد از ماژول مجازی‌سازی KVM در لینوکس خارج شوند و کد را روی سیستم‌عامل میزبان اجرا کنند.
این باگ با نام PwnEscape و شناسه CVE-2026-99999 شناخته می‌شود. مشکل از آنجا ناشی می‌شود که پشته شبکه لینوکس به ماشین مجازی مهمان اجازه می‌دهد بسته‌های IP را پس از آنکه هسته سیستم‌عامل امن بودنشان را تأیید کرده است، تغییر دهد. در نتیجه، یک مهمان مخرب و ماهر می‌تواند حافظه سیستم میزبان را بخواند و حتی احتمالاً آن را تغییر دهد تا کد اجرا کند.
این آسیب‌پذیری KVM را روی معماری پردازنده‌های x86 تحت تأثیر قرار می‌دهد؛ پیکربندی‌ای که در بیشتر محیط‌های ابری اشتراکی رایج است.
روسیه اعضای گروه هکری DataSuckers را بازداشت کرد
مقام‌های روسیه سه عضو گروه DataSuckers را بازداشت کرده‌اند؛ گروهی که در منطقه اتحاد جماهیر شوروی سابق فعالیت می‌کند و از نظر شیوه هک و اخاذی از طریق داده‌ها، به گروه‌هایی مانند Lapsus و ShinyHunters شباهت دارد.
به گفته مقام‌ها، این گروه در مجموع چهار عضو دارد که در روسیه، بلاروس و قزاقستان پراکنده‌اند. دنیس ای. فریدمن، جوانی ۱۹ساله از شهر بارنائول، روز چهارشنبه در دادگاهی در مسکو حاضر شد و رسماً با اتهامات روبه‌رو شد؛ اما جزئیات دیگری درباره دو مظنون بازداشت‌شده دیگر منتشر نشده است.
گروه DataSuckers فعالیت خود را امسال آغاز کرده و دست‌کم با سه حمله بزرگ مرتبط دانسته شده است: حمله به فروشگاه‌های زنجیره‌ای اوکراینی ATB Market، شرکت گردشگری روسی Tez Tour و زنجیره پیتزافروشی روسی Dodo Pizza.