کارتل هوش مصنوعی داریو آمودی
هوش مصنوعی
«کند کردن مرزهای پیشرفت» می‌تواند سود بزرگی برای بازیگران فعلی مانند آنتروپیک داشته باشد.
به نظر می‌رسد داریو آمودی معتقد است محصولی که در حال ساخت آن است می‌تواند جهان را نابود کند. ماه گذشته، مدیرعامل آنتروپیک مقاله‌ای منتشر کرد و از شرکت‌های هوش مصنوعی و دولت آمریکا خواست به تعبیر خودش «مرزهای پیشرفت را با سرعت کنترل‌شده پیش ببرند». او ادعا کرد توسعه بدون محدودیت هوش مصنوعی می‌تواند به بی‌ثباتی اقتصادی، حملات ویرانگر زیستی یا سایبری و حتی از دست رفتن کنترل انسان بر سامانه‌های هوش مصنوعی منجر شود. راه‌حل پیشنهادی او چیست؟ کاهش سرعت توسعه از طریق ترکیبی از همکاری داوطلبانه میان شرکت‌های خصوصی و مقررات دولتی.
این دیدگاه ممکن است برای بسیاری از آمریکایی‌ها نوعی اقدام خیرخواهانه به نظر برسد. به هر حال، آمودی بخشی از اعتبار خود را با تأکید بر مقررات‌گذاری و «شفافیت» به‌عنوان راه‌حل نگرانی‌ها درباره این فناوری به دست آورده است. او پیش‌تر در شرکت OpenAI فعالیت می‌کرد و سپس از آنجا جدا شد تا آنتروپیک را به‌عنوان جایگزینی با تمرکز بیشتر بر ایمنی تأسیس کند.
ممکن است آمودی واقعاً نیت‌های خیرخواهانه‌ای داشته باشد. اما مانند هر پیشنهاد سیاستی گسترده دیگری، باید این پرسش را مطرح کنیم: چه کسی از این وضعیت سود می‌برد؟
واقعیت این است که این پیشنهادها به ایجاد یک کارتل هوش مصنوعی منجر خواهد شد؛ چیزی که به‌شدت به نفع آنتروپیک، یکی از شرکت‌های بزرگ و تثبیت‌شده این صنعت، تمام می‌شود.
آمودی از سال ۲۰۲۳ خواستار مقررات بیشتر بوده است؛ زمانی که در برابر کمیته قضایی سنای آمریکا گفت هوش مصنوعی می‌تواند «در مقیاسی گسترده در حوزه‌های امنیت سایبری، فناوری هسته‌ای، شیمی و به‌ویژه زیست‌شناسی مورد سوءاستفاده قرار گیرد». پیشنهادهای او به این کمیته شامل اعمال کنترل‌های نظارتی بر توسعه مدل‌های هوش مصنوعی، ایجاد «نظام آزمایش و ممیزی» و تأمین بودجه بیشتر برای «اندازه‌گیری و پژوهش درباره اندازه‌گیری» بود.
اما تابستان امسال، حادثه‌ای رخ داد که به نظر می‌رسد به درخواست‌های او برای کند کردن روند توسعه فوریت تازه‌ای بخشید. در ماه ژوئیه، شرکت OpenAI یک مدل پژوهشی منتشرنشده را روی معیار داخلی خود به نام ExploitGym آزمایش کرد؛ معیاری که توانایی مدل‌ها برای بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری را بررسی می‌کند. هنگام تلاش برای انجام این وظایف، عامل‌های هوش مصنوعی شرکت از طریق یک مخزن نرم‌افزاری مشترک که محیط‌های آزمایشی آنها در آن قرار داشت، شروع به ارتباط کردند و در نهایت برای هک کردن پلتفرم همکاری Hugging Face، جایی که تصور می‌کردند پاسخ‌های مورد نیاز را پیدا می‌کنند، با یکدیگر همکاری کردند. این عامل‌ها سپس تلاش کردند با تغییر متن‌های ثبت‌شده از فعالیت‌های خود، سیستم ارزیابی خودکار را فریب دهند.
این اتفاق، همراه با افزایش سرعت خودبهبوددهی تکرارشونده در هوش مصنوعی (فرآیندی که طی آن مدل‌ها به‌صورت مستقل توانایی‌های خود را ارتقا می‌دهند)، باعث شد آمودی از ضرورت «کنترل سرعت» سخن بگوید. او در مقاله سپتامبر خود نوشت:
«مؤثرترین روش برای کنترل سرعت، از طریق مقرراتی است که همه شرکت‌های آمریکایی فعال در مرز هوش مصنوعی را هدف قرار دهد؛ زیرا حتی شرکت‌هایی را پوشش می‌دهد که حاضر به همکاری داوطلبانه نیستند... معتقدم همه آزمایشگاه‌های پیشرو باید با دولت همکاری کنند تا مفهوم ارزیاب‌های دائمی مستقر در داخل شرکت‌ها رسمی شود؛ ارزیاب‌هایی که بتوانند از حوادث داخلی مرتبط با هم‌راستایی مانند موارد رخ‌داده در ماه‌های اخیر بهتر پیشگیری و آنها را ثبت کنند و مقرراتی را اجرا کنند که توانایی‌های هوش مصنوعی را در تعادل با ایمنی نگه دارد.»
آنچه در این میان گفته نمی‌شود این است که به نظر می‌رسد ارزیاب‌هایی که آمودی از آنها حمایت می‌کند، با آنتروپیک و شخص او ارتباطاتی دارند. مؤسسه METR که حادثه Hugging Face را بررسی کرده و می‌گوید از شرکت‌های هوش مصنوعی پول دریافت نمی‌کند، بخشی از بودجه خود را از Open Philanthropy دریافت می‌کند؛ نهادی که یکی از بنیان‌گذارانش، هولدن کارنفسکی، اکنون در آنتروپیک کار می‌کند و با دنیلا آمودی، رئیس آنتروپیک و خواهر داریو آمودی، ازدواج کرده است. آنتروپیک همچنین شرکت دیگری به نام Accenture را برای ارزیابی‌های ایمنی خود استخدام کرده و قرار است طی پنج سال یک میلیارد دلار به آن پرداخت کند.
همه این اقدامات، طبیعتاً به نفع آنتروپیک و دیگر شرکت‌های تثبیت‌شده خواهد بود و به ضرر تازه‌واردان این صنعت تمام می‌شود. مقررات سنگین، شرکت‌های جدید را از همان آغاز با تحمیل هزینه‌ها و الزامات دشوار، محدود خواهد کرد؛ هزینه‌هایی که تنها بازیگران بزرگ و ثروتمند توان پرداخت آن را دارند. مدل‌های متن‌باز، که آمودی به آنها اشاره‌ای نکرده است، شاید بزرگ‌ترین چالش رقابتی بلندمدت برای شرکت‌های دارای مدل‌های بسته مانند آنتروپیک و OpenAI باشند؛ بنابراین این پرسش مطرح می‌شود که آیا آنها هدف واقعی چنین مقرراتی هستند یا نه.
با ورود دولت فدرال به استفاده گسترده‌تر از هوش مصنوعی در عملیات خود، از جمله به‌طور مهم در توسعه و استقرار قابلیت‌های نظامی، انگیزه‌های بیشتری برای جلوگیری از شکست این تأمین‌کنندگان ایجاد خواهد شد. بازیگران فعلی ممکن است به‌سرعت به شرکت‌هایی تبدیل شوند که «بیش از حد بزرگ برای شکست خوردن» هستند.
حتی پیش از بحران مالی بزرگ نیز نمونه‌های مشابهی وجود داشت. در دوران اوج رکود بزرگ، جرارد سووپ، رئیس شرکت جنرال الکتریک، پیشنهادهایی برای ایجاد کارتل‌های صنعتی با حمایت دولت مطرح کرد و خواستار تشکیل «انجمن‌های تجاری» برای بالا نگه داشتن قیمت‌ها شد. نکته قابل توجه این بود که او تلاش کرد این طرح‌ها فقط شامل شرکت‌هایی با دست‌کم ۵۰ کارمند شود؛ آستانه‌ای که در آن زمان معادل مفهوم «مرزی» در صنعت بود. این طرح بعدها بخش مهمی از پشتوانه فکری برنامه اداره ملی احیا شد. آمودی نیز بر «نیاز به صدور معافیتی محدود» از قوانین ضدانحصار برای «برخی انواع گفت‌وگوهای ایمنی» تأکید کرده است تا شرکت‌ها بتوانند هماهنگ شوند؛ یعنی همان چیزی که در قالب کارتل تحت برنامه اداره ملی احیا رخ داد.
راه‌آهن‌ها نیز نمونه دیگری ارائه می‌کنند. تلاش برای ایجاد کارتل در این صنعت توسط شرکت‌های ناکارآمد راه‌آهن که از یارانه دولتی بهره می‌بردند، به مقرراتی منجر شد که شباهت‌هایی با پیشنهادهای آمودی داشت. پس از آنکه این شرکت‌ها نتوانستند از طریق ادغام افقی کنترل بازار را به دست آورند، برای انتشار عمومی نرخ‌ها لابی کردند تا تخفیف‌هایی که به سود مصرف‌کنندگان و کاهش قیمت‌ها منجر می‌شد، متوقف شود. نرخ‌های منتشرشده تضمین می‌کرد که اعضای کارتل از قیمت‌های بالاتر خود عدول نکنند و «تقلب»هایی که به نفع مصرف‌کنندگان بود، رخ ندهد. آمودی نیز می‌خواهد اطلاعات شرکت‌ها برای «تأیید پایبندی به شیوه‌ها و تعهدات ایمنی» میان همه شرکت‌ها در دسترس قرار گیرد.
در عمل، چنین اقدامی به اعطای قدرتی شبیه انحصار به شرکت‌های فعلی هوش مصنوعی درباره چیزی منجر خواهد شد که خود آن را بسیار خطرناک می‌دانند. نکته‌ای که درباره حادثه Hugging Face به اندازه کافی مورد توجه قرار نگرفت این بود که برای رمزگشایی حمله عامل‌های هوش مصنوعی به وب‌سایت، از یک مدل هوش مصنوعی متن‌باز به نام GLM استفاده شد. Hugging Face نتوانست از Claude Opus و Fable استفاده کند، زیرا محدودیت‌های ایمنی آنها مانع درخواست‌های گسترده درباره مسائل امنیت سایبری می‌شد. این یک مدل متن‌باز ارزان‌تر اما بدون این محدودیت‌ها بود که توانست مشکل ایجادشده را حل کند. نتیجه‌گیری؟ آنتروپیک از شما می‌خواهد سلاح خود را کنار بگذارید، در حالی که خودش سلاحش را همچنان به سوی شما نگه داشته است.
پیشنهادهای آمودی برای هماهنگی بین‌دولتی با چین نیز راه دیگری را که می‌تواند به روی رقبای شرکت‌های فعلی باز باشد، می‌بندد. مدل‌های متن‌باز چینی مانند Kimi K3، GLM و DeepSeek که به هزینه پایین خود مشهور است، چالشی ویژه برای مدل کسب‌وکار آزمایشگاه‌های تثبیت‌شده‌ای مانند آنتروپیک و OpenAI ایجاد کرده‌اند. آنتروپیک، DeepSeek و دیگر مدل‌های چینی را متهم کرده است که داده‌های Claude را کپی کرده‌اند. آمودی نیز پیش‌تر برای اعمال محدودیت‌های صادراتی بر قطعات به چین لابی کرده بود؛ اقدامی که به نام رقابت ژئوپلیتیکی، رقیبی فعال را تضعیف می‌کند. هماهنگی میان دولت‌ها می‌تواند مشکل رقبا را از دو جبهه حل کند.
چرا باید کارتل تشکیل داد؟ زیرا این شرکت‌ها چندان سودآور نیستند. هزینه‌های عظیم آموزش مدل‌ها و توسعه زیرساخت‌ها ــ که لازمه رقابت در خط مقدم هوش مصنوعی است ــ شرکت‌های این حوزه را وارد زیان می‌کند. کنترل سرعت توسعه به بازیگران فعلی اجازه می‌دهد هزینه‌ها را کاهش دهند و سرمایه‌گذاری‌ها را محدود کنند، بدون آنکه نگران پیشی گرفتن رقبای جاه‌طلب‌تر باشند.
با وجود اینکه OpenAI اعلام کرده بود درآمدش در سه‌ماهه دوم سال ۲۰۲۶ بیش از هر زمان دیگری بوده است، هزینه‌های این شرکت سریع‌تر از درآمدش افزایش یافت و زیان آن همچنان رشد کرد. این مسئله ممکن است یکی از دلایل به تعویق افتادن عرضه اولیه سهام این شرکت توسط مدیرعامل آن، سم آلتمن، تا سال آینده باشد؛ هرچند OpenAI ترجیح داده است نگرانی‌های ایمنی هوش مصنوعی و نیاز به همکاری بیشتر دولت و صنعت را دلیل این تصمیم عنوان کند. آلتمن نیز گفته است که «با داریو موافقم که باید مرزهای پیشرفت را کنترل کنیم».
ایلان ماسک نیز به درخواست‌های آمودی برای کنترل سرعت توسعه هوش مصنوعی پیوسته است؛ در حالی که شرکت xAI او، حتی پس از خریداری شدن توسط شرکت دیگرش یعنی اسپیس‌ایکس، همچنان زیان‌ده است. همگرایی سه آزمایشگاه پیشرو ممکن است پاسخی به این پرسش بدهد که چه اتفاقی در حال رخ دادن است: اگر شبیه کارتل باشد و مانند کارتل رفتار کند...
روشن است که شرکت‌های فعلی بیشترین سود را از مقررات جدید هوش مصنوعی خواهند برد. همانند اتحاد میان «قاچاقچیان و مبلغان اخلاقی»، گاهی میان طرفداران مقررات‌گذاری به دلایل اخلاقی و کسانی که از اجرای آن مقررات سود مادی می‌برند، ائتلاف‌هایی شکل می‌گیرد. اقداماتی که آمودی و دیگران پیشنهاد می‌کنند ممکن است برای سودآوری آزمایشگاه‌های پیشرو مفید باشد، اما هزینه آن را مردم آمریکا پرداخت خواهند کرد.