آنچه یک دستگاه شنود در دفتر OpenAI درباره جاسوسی هوش مصنوعی آشکار می‌کند
برنامه «پول ناآرام» از رسانه Unchained به ماجرای کشف یک دستگاه ضبط صدای دست‌ساز در دفتر OpenAI می‌پردازد. کین وارویک در این گفت‌وگو بررسی می‌کند که آیا این اقدام نتیجه دست‌وپاچلفتی‌بودن فرد مظنون بوده یا ممکن است بخشی از یک عملیات فریبکارانه باشد. شرکت‌کنندگان همچنین درباره تجربه خود در ساخت سخت‌افزار و اجرای محلی مدل‌های هوش مصنوعی صحبت می‌کنند.
دستگاه شنود در دفتر OpenAI؛ خرابکاری ناشیانه یا اقدامی حساب‌شده؟
مجری برنامه می‌گوید خبرهایی منتشر شده است مبنی بر اینکه در دفتر OpenAI دستگاهی برای ضبط صدا کار گذاشته‌اند و احتمالاً فرد مظنون نیز در همان هفته بازداشت شده است. به گفته او، این دستگاه ظاهراً وسیله‌ای دست‌ساز بوده که فرد خودش آن را ساخته است.
یکی از نکات عجیب ماجرا این است که فرد مظنون برای ساخت دستگاه از کلود، دستیار هوش مصنوعی شرکت آنتروپیک، کمک گرفته بود. یکی از شرکت‌کنندگان با لحنی طنزآمیز می‌گوید این اتفاق نشانه‌ای از آغاز دوره‌ای تازه در ساخت سخت‌افزار به دست افراد عادی است. شرکت‌کننده دیگری یادآوری می‌کند که پیش‌تر نیز پیش‌بینی شده بود مردم به‌تدریج تجهیزات سخت‌افزاری خودشان را خواهند ساخت.
یکی از مجریان با شوخی می‌گوید این قسمت برنامه ممکن است به آموزش مجرمان تبدیل شود، اما نکته ساده‌ای را مطرح می‌کند: اگر از هوش مصنوعی کمک می‌گیرید تا مهارت ساخت سخت‌افزار را یاد بگیرید، بهتر است از همان اطلاعات برای نفوذ به شرکت سازنده هوش مصنوعی استفاده نکنید.
بااین‌حال، از نظر یکی از شرکت‌کنندگان، جزئیات این پرونده پرسش‌های مهمی ایجاد می‌کند. او می‌گوید به دلیل بدبینی و تردید همیشگی‌اش، نمی‌تواند احتمال دیگری را نادیده بگیرد: شاید رفتار ناشیانه فرد مظنون، خود بخشی از یک نقشه حساب‌شده بوده باشد.
یکی از جزئیاتی که توجه بسیاری را جلب کرده، پیچیدن دستمال توالت دور دستگاه ضبط صداست. این مجری می‌گوید چنین کاری از نظر اصول حرفه‌ای عملیات مخفیانه منطقی به نظر نمی‌رسد، زیرا دستمال توالت چیزی را پنهان نمی‌کند و حتی ممکن است ظاهر دستگاه را عجیب‌تر کند. شرکت‌کننده دیگری نیز با اشاره به سفیدبودن دستمال توالت می‌گوید کل ماجرا از ابتدا غیرعادی به نظر می‌رسد.
مجری تأکید می‌کند که قصد آموزش جاسوسی ندارد، اما به نکته‌ای درباره عملیات اطلاعاتی اشاره می‌کند: گاهی ممکن است فردی عمداً چنان ناتوان، آشفته یا غیرعادی به نظر برسد که دیگران او را تهدیدی جدی تلقی نکنند. او برای توضیح این احتمال به پرونده‌هایی در حوزه رمزارزها اشاره می‌کند که در آن‌ها رفتارهای عجیب افراد می‌تواند ارزیابی دیگران از نقش واقعی آن‌ها را تحت تأثیر قرار دهد.
به گفته او، اگر تصور شود فردی دچار فروپاشی روانی شده و بدون برنامه‌ریزی جدی دست به چنین کاری زده است، ممکن است برخورد با او با زمانی که مظنون به همکاری با یک دولت خارجی باشد تفاوت زیادی داشته باشد. در مقابل، اگر گمان برود شخصی به سفارش ولیعهد عربستان سعودی برای سرقت اطلاعات محرمانه مدل‌های هوش مصنوعی و انتقال آن‌ها به عربستان در شرکت نفوذ کرده است، وضعیت او بسیار خطرناک‌تر خواهد بود.
مجری می‌گوید، طبق اطلاعاتی که او در اختیار دارد، فرد مظنون تنها کارمند سعودی OpenAI بوده و از حساب کاربری همسرش نیز استفاده کرده است. به نظر او، این جزئیات با این تصور که فردی باهوش و واجد شرایط استخدام در OpenAI در چنین عملیاتی نقش داشته باشد، چندان جور درنمی‌آید. او می‌گوید بعضی جنبه‌های پرونده بیش از حد ناشیانه به نظر می‌رسند.
یکی دیگر از شرکت‌کنندگان می‌گوید وقتی برای نخستین بار خبر را دیده، پیش از بررسی جزئیات، این احتمال به ذهنش رسیده که شاید موضوع اصلاً جاسوسی نبوده و انگیزه شخصی، مانند علاقه عاطفی به فردی دیگر، در میان بوده باشد.
اما مجری توضیح می‌دهد که دستگاه در اتاقی متعلق به مدیران اجرایی، پشت تلویزیون، کار گذاشته شده بود. به گفته او، فرد مظنون بررسی کرده بود که مدیران از کدام اتاق‌ها استفاده می‌کنند و ظاهراً به دنبال فضایی بوده که جلسات مهم در آن برگزار می‌شود.
شرکت‌کنندگان با لحنی طنزآمیز درباره محتوای احتمالی این جلسات گمانه‌زنی می‌کنند؛ از تصمیم‌گیری درباره مسائل مهم گرفته تا انتخاب مسائل ریاضی که پژوهشگران قرار است در هفته بعد حل کنند. یکی از آن‌ها نیز شوخی می‌کند که شاید بتوان از فرد مظنون پرسید آیا از هک‌های حوزه رمزارزها اطلاعی دارد یا نه.
مجری سپس می‌گوید بعید است در دنیای واقعی، به ازای هر فرد ناشی که برای جاسوسی اقدام می‌کند، فقط یک نفر دیگر با مهارت‌های حرفه‌ای وجود داشته باشد؛ احتمالاً افراد بسیار بیشتری هستند که عملیات مخفیانه را با دقت و مهارت اجرا می‌کنند. یکی از شرکت‌کنندگان به تصویری طنزآمیز در اینترنت اشاره می‌کند که در آن سازمان امنیت ملی آمریکا، موساد و حزب کمونیست چین در حال جاسوسی‌اند و همگی با تعجب به فرد سعودی و دستگاه شنود پیچیده‌شده در دستمال توالت نگاه می‌کنند.
چرا اسرار شرکت‌های هوش مصنوعی ارزش جاسوسی دارند؟
شرکت‌کنندگان از این پرونده به موضوع گسترده‌تری می‌رسند: هر چیزی که در جهان ارزشمند باشد، ممکن است هدف سرقت قرار بگیرد. مجری می‌گوید تصور اینکه شرکت‌هایی مانند OpenAI و آنتروپیک از ارزشمندترین مجموعه‌های مالکیت فکری برخوردارند، دشوار نیست. او حتی این پرسش را مطرح می‌کند که آیا سازمان اطلاعات مرکزی آمریکا (CIA) نیز الزاماً فناوری‌هایی پیشرفته‌تر از این شرکت‌ها در اختیار دارد یا نه.
یکی از حاضران درباره برتری فناوری‌های سازمان‌های اطلاعاتی ابراز تردید می‌کند. مجری نیز می‌گوید هرچند دولت‌ها قطعاً به فناوری‌های خاصی دسترسی دارند، شرکت‌های هوش مصنوعی هم قابلیت‌های مهمی توسعه داده‌اند. یکی از شرکت‌کنندگان یادآوری می‌کند که دولت‌ها با این شرکت‌ها قرارداد دارند و از مدل‌های آن‌ها استفاده می‌کنند. مجری در ادامه احتمال می‌دهد که دسترسی به این سامانه‌ها بتواند راه‌هایی غیرمستقیم برای رسیدن به اطلاعات یا ایجاد دسترسی پنهانی فراهم کند.
ساخت ابزارهای شخصی با کمک هوش مصنوعی
گفت‌وگو سپس به این موضوع می‌رسد که افراد تا چه اندازه می‌توانند تجهیزات سخت‌افزاری خودشان را بسازند. یکی از شرکت‌کنندگان می‌گوید ساخت چنین وسایلی لزوماً پرهزینه نیست و برخی قطعات را می‌توان با حدود ۲۰ دلار از آمازون خریداری کرد.
یکی از مجریان از کین وارویک می‌پرسد آیا او هم مشغول ساخت ابزارهای شخصی است و چه چیزهایی ساخته است. وارویک پاسخ می‌دهد که انواع مختلفی از تجهیزات را طراحی کرده و در خانه‌اش نیز دستگاه‌هایی دارد که می‌توانند برای جاسوسی به کار روند. او می‌گوید دستیار الکسای خود را با سامانه‌ای ساخته خودش جایگزین کرده است؛ دستگاهی که همواره به صدا گوش می‌دهد و مکالمات افراد خانه را دریافت می‌کند.
او همچنین از ساخت کیف پولی یاد می‌کند که برای تأیید امضا در آن باید از خون استفاده کرد. ساخت این وسیله به سخت‌افزار زیادی نیاز داشته و فرایند توسعه آن دشوار بوده است. وارویک این تجربه را نمونه‌ای از چرخه فرساینده کار با هوش مصنوعی توصیف می‌کند: سامانه مدام پیشنهاد می‌دهد فقط یک اصلاح دیگر انجام شود تا همه‌چیز کار کند، اما کاربر بارها تلاش می‌کند و همچنان با مشکلات تازه روبه‌رو می‌شود.
او می‌گوید در حال ساخت کیف پول‌های سخت‌افزاری شخصی است و معتقد است سخت‌افزارهای دست‌ساز به روندی مهم تبدیل خواهند شد. به گفته او، قصد دارد در رویداد Devcon به دیگران نشان دهد چگونه می‌توان چنین تجهیزاتی ساخت.
وارویک توضیح می‌دهد که با راه‌اندازی لینوکس و تنظیم SSH می‌توان امکان ارتباط یک دستیار هوش مصنوعی با سیستم لینوکس را فراهم کرد و حتی کنترل بخش‌های مختلف سیستم‌عامل را به آن سپرد. او می‌گوید این قابلیت نگران‌کننده است، اما خودش اجازه می‌دهد سامانه به‌طور گسترده عمل کند. در این وضعیت، هوش مصنوعی می‌تواند به تجهیزات روی میز کار الکترونیک او دسترسی داشته باشد، قطعات و اتصالات را بررسی کند، تراشه‌ها را راه‌اندازی کند و برای بهبود نحوه ساخت مدارها پیشنهاد بدهد.
او اضافه می‌کند که اگر کسی از چنین امکاناتی برای فعالیت مجرمانه استفاده کند، ممکن است رد فعالیت‌ها به تجهیزات و سامانه‌های مورد استفاده‌اش برسد. یکی از مجریان در پاسخ، به اجرای مدل‌های هوش مصنوعی روی خوشه‌ای از پردازنده‌های گرافیکی و استفاده از مدل GLM 5.3 به‌صورت محلی اشاره می‌کند. وارویک با لحنی طنزآمیز این پیشنهاد را سومین اقدام مجرمانه مطرح‌شده در برنامه می‌نامد. شرکت‌کننده دیگری نیز شوخی می‌کند که نباید اطلاعات را به فضای ابری فرستاد، چون ممکن است فرد شناسایی شود.
مجری درباره گروهی از افراد ثروتمند و پیشگام در حوزه رمزارزها صحبت می‌کند که روی چنین فناوری‌هایی کار می‌کنند. به گفته او، یکی از این افراد احتمالاً چهار پردازنده GB300 را در قالب یک خوشه محاسباتی، با هزینه‌ای در حدود ۲٫۵ میلیون دلار، خریداری کرده است. این سامانه با استفاده از GLM 5.3 می‌تواند حدود ۱۵۰ توکن در ثانیه تولید کند.
یکی از شرکت‌کنندگان با هیجان می‌گوید وقتی هوش مصنوعی روی دستگاه شخصی اجرا می‌شود، توانایی‌های آن همیشه در دسترس کاربر قرار دارد. مجری تأیید می‌کند که سامانه مورد اشاره واقعاً در خانه صاحبش قرار دارد و می‌گوید به چنین امکانی حسادت می‌کند.
شرکت‌کننده دیگری می‌گوید افرادی را می‌شناسد که در دهه گذشته دسترسی به کیف پول‌های رمزارزی خود را از دست داده‌اند. او با لحنی شوخی‌آمیز پیشنهاد می‌کند اگر صاحب چنین سخت‌افزاری بخواهد مقداری حافظه و توان محاسباتی در اختیار آن‌ها قرار دهد، شاید بتواند به حل این مشکلات کمک کند. او در ادامه می‌گوید هر بار که توان این تجهیزات را می‌بیند، از ظرفیت آن‌ها شگفت‌زده می‌شود.
هزینه اجرای محلی مدل‌ها و برتری مدل‌های پیشرفته
مجری می‌گوید خودش نیز مدتی مسیر اجرای محلی هوش مصنوعی را دنبال کرده و در اوایل همان سال، پیش از توقف عرضه برخی محصولات مورد نظرش، یک رایانه Mac Studio خریده است. این دستگاه از تراشه M3 Ultra و ۵۱۲ گیگابایت حافظه رم برخوردار است.
بااین‌حال، او توضیح می‌دهد که مدل‌های پیشرفته ابری آن‌قدر بهتر عمل می‌کنند که خرید چنین سخت‌افزاری از نظر اقتصادی برایش توجیه‌پذیر نبوده است. بسیاری از مدل‌ها برای اجرا روی دستگاه شخصی باید به نسخه‌های کوانتیزه‌شده تبدیل شوند؛ نسخه‌هایی که برای کاهش نیاز حافظه، دقت نمایش اعداد را محدود می‌کنند. به گفته او، حجم حافظه مورد نیاز بعضی مدل‌ها به حدود ۸۰۰ گیگابایت و حتی ۱٫۶ ترابایت می‌رسد.
او می‌گوید خرید تجهیزات گران‌قیمت برای اجرای محلی مدل‌ها در آن مقطع از نظر هزینه و فایده انتخاب مناسبی به نظر نمی‌رسید. بااین‌حال، معتقد است این وضعیت ممکن است تغییر کند. اگر مدل‌هایی مانند GLM 5.4 بتوانند به سطح عملکرد مدل‌هایی مانند Fable 5.1 برسند، شاید او نیز از داشتن چنین دستیار قدرتمندی در خانه راضی باشد. البته هنوز مشخص نیست که پرداخت هزینه‌ای در حدود دو میلیون دلار برای اجرای محلی چنین مدلی منطقی باشد یا نه، هرچند او احتمال می‌دهد این فناوری چندان دور از دسترس نباشد.
محدودیت مدل‌های آنلاین و روی‌آوردن به مدل‌های جایگزین
یکی از شرکت‌کنندگان می‌گوید به دلیل محدودیت‌هایی که مرتباً در ChatGPT و مدل‌های آنتروپیک با آن‌ها مواجه می‌شود، اخیراً ترجیح داده از مدل‌های دیگری استفاده کند. به گفته او، حتی وقتی درباره موضوعاتی مانند لجر و زنجیره تأمین سؤال می‌کند، سامانه‌ها ممکن است به دلیل آگاهی از اینکه او در حال بررسی هک لجر است، پاسخ‌گویی را محدود کنند؛ درحالی‌که پرسش‌هایش لزوماً درباره نفوذ یا هک نیستند.
وارویک می‌گوید گاهی مجبور می‌شود به نسخه‌های قدیمی‌تر مدل‌ها بازگردد. او مثالی از سفرش به پارک ملی کوه‌های راکی می‌آورد؛ زمانی که می‌خواست با کمک مدل Opus 5.5 بلیت تهیه کند. فروش بلیت‌ها در ساعت مشخصی آغاز می‌شد و مدل توانسته بود مراحل مختلف فرایند، از جمله عبور از آزمون کپچا، را انجام دهد، اما در ساخت حساب کاربری در وب‌سایت با مشکل مواجه شده بود.
او توضیح می‌دهد که در نهایت از نسخه‌های قدیمی‌تر، یعنی مدل‌های موسوم به 4 و 4.5، کمک گرفته است. نسخه 4.5 توانسته حساب کاربری را بسازد و سپس کار را به نسخه 5.5 بازگرداند تا بقیه مراحل را انجام دهد.
شرکت‌کننده دیگری می‌پرسد آیا واقعاً قرار است کاربران برای انجام چنین کارهایی مدام بین مدل‌ها جابه‌جا شوند. او توضیح می‌دهد که گاهی سامانه پس از چند دقیقه ناگهان تصمیم می‌گیرد درخواست را یک کار مرتبط با امنیت سایبری تلقی کند و محدودیت‌هایی اعمال کند. در چنین شرایطی، کاربر ناچار است مدل را تغییر دهد، اما حتی مدل جایگزین نیز ممکن است پیام محدودیت مشابهی نشان دهد.
او می‌گوید این محدودیت‌ها روند کار را مختل می‌کنند، به‌ویژه زمانی که کاربر از قبل زمان زیادی صرف تنظیم درخواست‌ها و آماده‌سازی مدل کرده است. جابه‌جایی مداوم میان مدل‌ها تمرکز را از بین می‌برد و کاربر را مجبور می‌کند به‌جای پیشبرد کار اصلی، مدام با محدودیت‌های سامانه مقابله کند.
مجری دیگر نیز تأیید می‌کند که این وضعیت آزاردهنده است؛ زیرا کاربر ممکن است پس از صرف زمان برای آماده‌سازی یک کار، ناگهان متوجه شود مدل دیگر حاضر نیست آن را ادامه دهد. او می‌گوید گاهی فقط پس از پنج دقیقه، مدل تشخیص می‌دهد که درخواست به حوزه امنیت سایبری مربوط است و عملکردش را محدود می‌کند.
مجری در ادامه می‌گوید مدل GLM 5.3 برای بسیاری از این کارها به‌اندازه کافی هوشمند است و حالت سریع آن نیز عملکرد چشمگیری دارد. او به دو مدل با حالت فوق‌سریع اشاره می‌کند و می‌گوید مدل Astra 6 می‌تواند با سرعت ۴۰۰ توکن در ثانیه پاسخ تولید کند.
او برای مقایسه عملکرد مدل‌ها آزمایشی انجام داده است: دو عامل هوش مصنوعی، یکی با مدل 5.5 و دیگری با Astra، مأمور شده‌اند یک پروژه آزمایشی کوچک را بسازند. به گفته او، Astra این کار را در حدود سه دقیقه انجام داده و سرعتش بسیار فراتر از انتظار بوده است.
وارویک می‌گوید احتمال دارد در آینده نزدیک، توسعه نرم‌افزار تقریباً به‌صورت آنی انجام شود؛ به‌گونه‌ای که نرم‌افزار هنگام کار و جابه‌جایی کاربر در محیط آن، به‌طور هم‌زمان ساخته شود. مجری دیگر توضیح می‌دهد که سرعت اجرای مدل در آزمایش او حتی از توانایی خودش برای درک روند کار بیشتر بوده است. او پیش‌بینی می‌کند که اگر سرعت تولید به هزار توکن در ثانیه برسد، ممکن است مدل سریع‌تر از آن فکر کند که کاربر بتواند درخواست بعدی را تنظیم کند.
در پایان، مجری از مخاطبان دعوت می‌کند اگر از این بخش لذت برده‌اند، چهارشنبه‌ها ساعت ۴ بعدازظهر به وقت شرق آمریکا برای تماشای محتوای بیشتر به برنامه بپیوندند.