عامل‌های هوش مصنوعی سرکش به شرکتش نفوذ کردند؛ چرا کلمنت دلانگ همچنان به آینده هوش مصنوعی خوش‌بین است؟

www.wired.com

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

کلمنت دلانگ، مدیرعامل و هم‌بنیان‌گذار هاجینگ فیس
عکس: دارل جکسون

نویسنده: ویل نایت | گزارش ویژه | ۱۷ نوامبر ۲۰۲۶

مدیرعامل فرانسوی هاجینگ فیس، یکی از بزرگ‌ترین پلتفرم‌های نرم‌افزارهای هوش مصنوعی متن‌باز، می‌گوید حمله مدل‌های OpenAI در اوایل سال جاری یک نکته را ثابت کرد: بشریت نباید اجازه دهد کنترل هوش مصنوعی در دست عده‌ای محدود متمرکز شود.

کلمنت دلانگ، مدیرعامل شرکت هوش مصنوعی متن‌باز هاجینگ فیس، ممکن است در تاریخ به‌عنوان یکی از نخستین افرادی ثبت شود که هدف حمله یک عامل هوش مصنوعی سرکش قرار گرفتند. شرکت او که میزبان میلیون‌ها مدل و مجموعه‌داده هوش مصنوعی است، در ماه ژوئیه هدف نفوذ قرار گرفت؛ زمانی که صدها عامل هوش مصنوعی در حال آزمایش توسط OpenAI از محیط ایزوله خود خارج شدند و حملات سایبری گسترده‌ای را آغاز کردند.

این عامل‌ها با سرعتی فراتر از توان انسان، سامانه‌های مختلف را بررسی و آسیب‌پذیری‌های آن‌ها را شناسایی و بهره‌برداری می‌کردند. در نتیجه، هاجینگ فیس با حجم عظیم و گیج‌کننده‌ای از داده‌ها روبه‌رو شد. مهندسان شرکت تنها با کمک یک مدل با وزن‌های باز به نام GLM 5.2، محصول شرکت چینی Z.ai، توانستند حمله را تحلیل کنند.

دلانگ بیش از یک دهه پیش، در حالی که به‌سختی انگلیسی صحبت می‌کرد، به آمریکا مهاجرت کرد و هاجینگ فیس را به پلتفرمی تبدیل کرد که از ده‌ها میلیون توسعه‌دهنده هوش مصنوعی پشتیبانی می‌کند. این کارآفرین جوان فرانسوی که پوشش غیررسمی و شبیه اسکیت‌بازها دارد، می‌گوید حمله تابستان امسال ارزش مدل‌های با وزن‌های باز را برجسته کرد؛ مدل‌هایی که برخلاف ChatGPT یا Claude، هر کسی می‌تواند آن‌ها را دانلود و اجرا کند.

با وجود حمایت دلانگ از دموکراتیک‌سازی هوش مصنوعی، شرکت هاجینگ فیس در ماه سپتامبر با قیمت ۱۲٫۹۳ میلیارد دلار به انویدیا، یکی از بزرگ‌ترین بازیگران این صنعت، واگذار شد. وقتی اخیراً با دلانگ گفت‌وگو کردم، نخستین پرسشم درباره همین معامله بود.

این مصاحبه برای افزایش وضوح و رعایت محدودیت حجم، ویرایش شده است.

ویل نایت: چرا شرکت را به انویدیا فروختید؟

کلمنت دلانگ: برای اینکه هوش مصنوعی متن‌باز فرصت رقابت داشته باشد، به منابع بیشتری نیاز داریم. این حوزه طی چند سال گذشته رشد بسیار خوبی داشته و به جایگزینی کاملاً معتبر برای رابط‌های برنامه‌نویسی کاربردی (API) بسته تبدیل شده است. با این حال، بخش عمده این صنعت همچنان در اختیار محصولات و خدمات بسته است.

قرار است چند هفته دیگر عرضه اولیه سهام شرکت آنتروپیک انجام شود. این شرکت عملاً در عرض چند سال، از نقطه صفر به یکی از پنج یا ۱۰ شرکت باارزش جهان تبدیل شده است. فکر نمی‌کنم چنین اتفاقی پیش از این سابقه داشته باشد.

آیا عرضه اولیه سهام آنتروپیک نشان می‌دهد رویکرد بسته در حال پیروز شدن است؟

پاسخ به این پرسش دشوار است. من همیشه گفته‌ام که هوش مصنوعی به‌طور طبیعی گرایش بسیار قدرتمندی به متمرکز کردن توانمندی‌ها و ثروت دارد. هنوز بسیاری از مردم درک نکرده‌اند که چه میزان از ظرفیت محاسباتی آینده از همین حالا در اختیار چند شرکت محدود قرار گرفته است. نیروی انسانی متخصص، توان محاسباتی و منابع مالی، همگی این گرایش طبیعی را تقویت می‌کنند و باعث می‌شوند چند آزمایشگاه محدود با رویکرد بسته بر هوش مصنوعی مسلط شوند.

بیایید درباره حمله صحبت کنیم. نخستین بار چه زمانی متوجه شدید گروهی از عامل‌های هوش مصنوعی در حال نفوذ به هاجینگ فیس هستند؟

در ابتدا این اتفاق در صدر اولویت‌های ما قرار نگرفت؛ چون شدت آن هنوز به اندازه‌ای نبود که چنین واکنشی را ضروری کند. هدف حمله محدود بود و آن را چندان خطرناک یا مخرب ارزیابی نمی‌کردیم. با این حال، اتفاق پرسش‌هایی را مطرح می‌کرد؛ به‌ویژه اینکه تعداد اقداماتی که انجام می‌شد با محدود بودن هدف تناسب نداشت. این موضوع برای ما غافلگیرکننده بود و نمی‌توانستیم آن را با هیچ‌یک از الگوهای آشنای خود تطبیق دهیم. به همین دلیل، بررسی ماجرا را آغاز کردیم.

برای بررسی حمله از مدل چینی GLM استفاده کردید.

من واقعاً معتقدم ۹۵ درصد خطرات را چند شرکت محدود ایجاد می‌کنند که به‌صورت محرمانه و پشت درهای بسته، مرزهای توانایی هوش مصنوعی را جلو می‌برند. در مقابل، ۹۵ درصد اقدامات حفاظتی و دفاعی را اکوسیستم متن‌باز انجام خواهد داد.

آیا آمریکا به مدل‌های با وزن‌های باز بومی نیاز دارد؛ مدل‌هایی به قدرت GLM، DeepSeek، Kimi یا Qwen؟

بله، به نظرم این موضوع برای حاکمیت فناورانه، شناخت هوش مصنوعی و فعالیت‌های دانشگاهی بسیار مهم است. عجیب است که بیشتر آزمایشگاه‌های دانشگاهی ناچارند از مدل‌های چینی استفاده کنند، چون تنها مدل‌های بازی هستند که در دسترسشان قرار دارند. اگر به دانشگاه استنفورد یا MIT بروید، عملاً چاره‌ای جز استفاده از مدل‌های چینی با وزن‌های باز ندارید.

فکر می‌کنید چنین مدل‌هایی در آمریکا توسعه پیدا کنند؟

نشانه‌هایی از پیشرفت وجود دارد، اما به نظرم کافی نیست. هنوز کارهای بسیار بیشتری باید انجام شود و سرمایه‌گذاری گسترده‌تری لازم است.

در واقع، بهترین مدل‌های متن‌باز غیرچینی در حال حاضر از خارج از آمریکا عرضه می‌شوند. برای مثال، میسترال از فرانسه و Cohere از کانادا آمده‌اند و کره جنوبی نیز به‌تدریج فعالیت بیشتری در این زمینه انجام می‌دهد. با این حال، آنچه تاکنون حاصل شده هنوز فاصله زیادی با ظرفیت بالقوه آمریکا دارد.

شاید لازم نباشد درباره عامل‌های هوش مصنوعی وحشت کنیم؛ اما درباره این احتمال چه می‌گویید که هوش مصنوعی در نتیجه خودبهبودی بازگشتی از کنترل انسان خارج شود؟

شما از رایانه برای نوشتن کد استفاده می‌کنید. همین حالا هم وقتی از ابزارها برای ساخت ابزارهای بیشتر کمک می‌گیریم، نوعی خودبهبودی اتفاق می‌افتد. پرسش اصلی این است که این روند با چه سرعتی شتاب می‌گیرد. یکی از نکاتی که بسیاری از مردم تابستان امسال متوجه شدند، این بود که نگه داشتن هوش مصنوعی پشت درهای بسته و در اختیار چند آزمایشگاه محدود، لزوماً ایمنی بیشتری ایجاد نمی‌کند. به اعتقاد من، در زمینه خودبهبودی بازگشتی، رویکرد باز به ما امکان می‌دهد این فرایند را بهتر بشناسیم، دنبال کنیم و در صورت نیاز بر آن نظارت و مقررات‌گذاری کنیم.

می‌توانیم درباره میکروداک (Microduck) صحبت کنیم؟ من واقعاً به آن علاقه‌مند شده‌ام.

بله، خیلی سرگرم‌کننده است، نه؟ احتمالاً امسال بیش از ۵۰ هزار دستگاه از آن خواهیم فروخت. به احتمال زیاد محبوب‌ترین ربات سال خواهد بود.

درباره این موضوع چندان صحبت نکرده‌ایم، اما در واقع این هوش مصنوعی بود که امکان ساخت ربات را فراهم کرد. طراحی آن را از دو سال قبل آماده کرده بودیم، اما مشکل این بود که وقتی ربات زمین می‌خورد، نمی‌توانست دوباره بلند شود. سپس در مقطعی، یکی از مهندسان نرم‌افزار ما با استفاده از یادگیری تقویتی موفق شد میکروداک را به‌گونه‌ای آموزش دهد که خودش دوباره روی پا بایستد.

در نهایت، چگونه مردم را متقاعد می‌کنید که به هوش مصنوعی متن‌باز اهمیت بدهند؟

جهانی را تصور کنید که در آن فقط دو یا سه شرکت بتوانند نرم‌افزار تولید کنند و هیچ فرد یا شرکت دیگری چنین امکانی نداشته باشد. چنین وضعیتی به‌شدت ترسناک خواهد بود؛ زیرا به معنای آن است که کل جهان تحت کنترل دو یا سه شرکت قرار می‌گیرد. متأسفانه، هوش مصنوعی در حال حاضر تا حدی در همین مسیر حرکت می‌کند.

آیا هوش مصنوعی متن‌باز می‌تواند با مدل‌های قدرتمندی مانند Claude یا ChatGPT رقابت کند؟

بله، به‌ویژه در حوزه عامل‌های هوش مصنوعی. شرکت‌های زیادی نشان داده‌اند که اگر یک مدل را پس از آموزش اولیه، متناسب با نیازها و کاربرد مشخص خود تنظیم کنید، می‌توانید با کسری از هزینه به عملکردی در سطح پیشرفته‌ترین مدل‌ها یا حتی بهتر از آن‌ها دست پیدا کنید.

فکر می‌کنید به هوش مصنوعی عمومی (AGI) نزدیک شده‌ایم؟

تعریف و معنای دقیق این مفهوم برای من تا حدی دشوار است. بدون تردید، این فناوری با سرعتی فوق‌العاده در حال پیشرفت است و توانایی‌های آن روزبه‌روز بیشتر می‌شود. با این حال، لزوماً مقایسه مداوم هوش مصنوعی با توانایی‌های انسان را چندان مفید نمی‌دانم. اما اگر به هوش مصنوعی عمومی یا ابرهوش برسیم، بسیار مهم است که توانایی‌های آن تا حد امکان میان بازیگران مختلف توزیع شده باشد. آخرین چیزی که می‌خواهیم، متمرکز شدن چنین قدرتی در دست چند شرکت بزرگ است.