آلتمن سه سناریو برای تأمین ایمنی هوش مصنوعی مطرح کرده است؛ یکی از آن‌ها به سلطه یک شرکت و از کار انداختن پردازنده‌های رقبا می‌انجامد
گزارش‌ها حاکی از آن است که سم آلتمن، مدیرعامل OpenAI، سه رویکرد برای تأمین ایمنی هوش مصنوعی را با کارکنان این شرکت مطرح کرده است.
جزئیات این موضوع در گزارشی از وب‌سایت The Information منتشر شده که به نقل از افراد آگاه از این موضوع تهیه شده است. آلتمن هفته گذشته در جلسه‌ای داخلی این دیدگاه‌ها را مطرح کرد؛ هم‌زمان، دولت دونالد ترامپ در حال آماده‌سازی نخستین چارچوب خود برای نظارت بر توسعه‌دهندگان هوش مصنوعی ابرپیشرفته است.
از آژانس بین‌المللی انرژی اتمی تا رقابت بر سر توان محاسباتی
در نخستین سناریو، نهادی مشابه آژانس بین‌المللی انرژی اتمی (IAEA) تشکیل می‌شود تا بر اجرای استانداردهای ایمنی نظارت کند. OpenAI پیش‌تر، در مه ۲۰۲۳، به‌طور علنی خواستار ایجاد چنین نهادی شده بود. این سازمان می‌توانست سامانه‌ها را بازرسی کند، انجام حسابرسی‌های ایمنی را الزامی سازد و میزان استفاده از توان محاسباتی و انرژی را زیر نظر بگیرد. شکل‌گیری چنین نهادی به همکاری بین‌المللی وابسته است؛ به‌ویژه همکاری کشورهایی که مدل‌های پیشرفته هوش مصنوعی را توسعه می‌دهند، از جمله چین.
آلتمن رویکرد دوم را «طرح دمیس» نامیده است. این عنوان به پیشنهادی بازمی‌گردد که دمیس هاسابیس، رئیس وقت آزمایشگاه هوش مصنوعی دیپ‌مایند گوگل، حدود ده سال پیش مطرح کرد. هاسابیس ایجاد سازمانی برای هوش مصنوعی با الگوبرداری از سازمان پژوهش هسته‌ای اروپا (CERN) را در نظر داشت. در نسخه پیشنهادی آلتمن، آزمایشگاه‌های بزرگ هوش مصنوعی با یکدیگر ادغام می‌شوند و نهادی واحد تشکیل می‌دهند، یا زیر چتر سازمانی مشترک فعالیت می‌کنند. این نهاد نیز مدل‌های هوش مصنوعی را در اختیار کشورهای همکار قرار می‌دهد.
به گزارش The Information، آلتمن سناریوی سوم را «طرح الیزر» نامیده است؛ نامی برگرفته از الیزر یودکوفسکی، نظریه‌پرداز ایمنی هوش مصنوعی. در این سناریو، یک توسعه‌دهنده با کمک هوش مصنوعی خودبهبوددهنده چنان قدرت اقتصادی عظیمی به دست می‌آورد که می‌تواند دسترسی دیگران به توان محاسباتی را محدود کند. در افراطی‌ترین حالت، این شرکت قادر خواهد بود قابلیت‌های محاسباتی سایر شرکت‌ها را به‌طور کامل از کار بیندازد. طبق گزارش، آلتمن این سناریو را صرفاً برای کامل بودن فهرست مطرح کرده است. بااین‌حال، یکی از منابع گفته است که این اظهارنظر به‌منزله کنایه‌ای به یکی از رقبا برداشت شد؛ برداشتی که به ارتباط یودکوفسکی با شرکت Anthropic نسبت داده شده است.
ایمنی مهم است، اما نه به بهای عقب‌ماندن از رقبا
گزارش‌ها می‌گویند آلتمن در گفت‌وگوهای داخلی از کمبود پیشنهادهای عملی برای تعیین «محدودیت سرعت» توسعه هوش مصنوعی ابراز نارضایتی کرده است. در عین حال، OpenAI در شرایط کنونی نمی‌تواند از رقبا عقب بماند. گفته می‌شود OpenAI و Anthropic هر دو برای عرضه اولیه سهام آماده می‌شوند و OpenAI قصد دارد طی یک سال آینده درباره انتخاب مسیر خود تصمیم بگیرد.
فشارها از داخل صنعت نیز افزایش یافته است. مدل‌های شرکت‌های OpenAI، Anthropic، گوگل و متا، برخلاف تنظیمات ایمنی تعیین‌شده برای آن‌ها، به سامانه‌های داخلی و خارجی نفوذ کرده‌اند؛ در برخی موارد نیز رفتار این مدل‌ها به‌شدت با اهداف و محدودیت‌های مورد انتظار ناسازگار بوده است. OpenAI پس از این اتفاق‌ها تلاش زیادی برای ایجاد سازوکارهای حفاظتی جدید انجام داده است. بااین‌حال، پس از اخراج سه پژوهشگر حوزه ایمنی، شماری از کارکنان درباره راهبرد امنیتی شرکت ابراز تردید کرده‌اند.
در حوزه سیاست‌گذاری، دولت ایالات متحده تاکنون عمدتاً به بررسی داوطلبانه مدل‌های جدید پیش از تأیید آن‌ها متکی بوده است. این دولت در ماه ژوئن، به دلیل نگرانی از آسیب‌پذیری‌های احتمالی مدل Fable در برابر دور زدن سازوکارهای ایمنی، محدودیت‌های صادراتی علیه Anthropic اعمال کرد. پس از آن، Anthropic نیز دسترسی به این مدل را موقتاً غیرفعال کرد.
در همین حال، OpenAI، گوگل و Anthropic در حال ایجاد نهادی با عنوان «سازمان استانداردهای هوش مصنوعی پیشرو» هستند؛ بااین‌حال، گزارش‌ها حاکی از آن است که این شرکت‌ها هنوز بر سر مسائل کلیدی به توافق نرسیده‌اند. مارک زاکربرگ، مدیرعامل متا، و جنسن هوانگ، مدیرعامل انویدیا، با چنین رویکردهایی مخالفت کرده‌اند و استدلالشان این است که مقرراتی از این دست عمدتاً از شرکت‌های تثبیت‌شده در برابر رقابت محافظت می‌کند.
منبع: The Information