گزارش: سه سناریوی سم آلتمن برای ایمنی هوش مصنوعی؛ از نظارت جهانی تا بدترین حالت ممکن

در حالی که دولت آمریکا برای تدوین چارچوبی جهت نظارت بر توسعه‌دهندگان ابرهوش آماده می‌شود، گزارشی از نشریه The Information فاش کرده است که سم آلتمن، مدیرعامل OpenAI، سه رویکرد برای ایمنی هوش مصنوعی را با کارکنان این شرکت در میان گذاشته است. محور این بحث داخلی، ضرورت اقدام پیش از بروز مشکلات بود.

سه رویکرد برای ایمنی هوش مصنوعی

بر اساس این گزارش، آلتمن سه سناریو را مطرح کرده است.

رویکرد نخست، ایجاد سازمانی با الگوبرداری از آژانس بین‌المللی انرژی اتمی (IAEA) است که وظیفه اجرای استانداردها را بر عهده داشته باشد. یکی از آزمایشگاه‌های هوش مصنوعی از سال ۲۰۲۳ خواستار تشکیل چنین نهادی شده بود. این سازمان بر سامانه‌ها بازرسی می‌کند، فرایندهای حسابرسی را مدیریت می‌کند و میزان استفاده از توان محاسباتی و انرژی را زیر نظر می‌گیرد. اجرای این طرح به همکاری بین‌المللی نیاز دارد؛ به‌ویژه همکاری کشورهایی که مدل‌های پیشرفته هوش مصنوعی را توسعه می‌دهند، از جمله چین.

رویکرد دوم که آلتمن آن را «طرح دمیس» نامیده، بر پیشنهادی استوار است که دمیس هسابیس، مدیرعامل Google DeepMind، سال‌ها پیش مطرح کرده بود. هسابیس ایجاد سازمانی برای هوش مصنوعی با الگوبرداری از سرن (CERN)، مرکز پژوهش‌های فیزیک ذرات اروپا، را تصور می‌کرد. در نسخه پیشنهادی آلتمن، آزمایشگاه‌های بزرگ هوش مصنوعی زیر چتر یک نهاد واحد ادغام می‌شوند و مدل‌های هوش مصنوعی را در اختیار کشورهای همکار قرار می‌دهند.

سناریوی سوم، «طرح یودکوفسکی» نام دارد که به افتخار الیزر یودکوفسکی، نظریه‌پرداز ایمنی هوش مصنوعی، نام‌گذاری شده است. در این سناریو، یک توسعه‌دهنده با استفاده از هوش مصنوعی خودبهبوددهنده، آن‌قدر قدرت اقتصادی به دست می‌آورد که منابع محاسباتی را از دیگران دریغ می‌کند. در شدیدترین حالت، این توسعه‌دهنده می‌تواند توان محاسباتی دیگران را به‌طور کامل از کار بیندازد. بر اساس گزارش، آلتمن این سناریو را برای کامل بودن بحث مطرح کرده است.

چرا ممکن است مداخله ضروری باشد؟

بر اساس این گزارش، آلتمن استدلال کرده است که OpenAI در شرایط کنونی نمی‌تواند اجازه دهد از رقبایش عقب بماند. گفته می‌شود OpenAI و شرکت آنتروپیک (Anthropic) هر دو در حال آماده‌سازی برای عرضه اولیه سهام هستند و OpenAI قصد دارد طی یک سال آینده درباره مسیری که در پیش می‌گیرد تصمیم بگیرد.

گزارش‌ها حاکی از آن است که مدل‌های شرکت‌های OpenAI، آنتروپیک، گوگل و متا در گذشته، با وجود تنظیمات ایمنی، به سامانه‌های خارجی و داخلی نفوذ کرده‌اند و برخی از آن‌ها نیز رفتارهایی به‌شدت ناسازگار با اهداف تعیین‌شده نشان داده‌اند.

OpenAI پس از اخراج سه پژوهشگر حوزه ایمنی، کار روی تدابیر حفاظتی جدید را آغاز کرده است.

در حوزه سیاست‌گذاری، دولت آمریکا تاکنون عمدتاً به بررسی‌های داوطلبانه مدل‌های جدید هوش مصنوعی پیش از انتشار آن‌ها متکی بوده است. این دولت در ماه ژوئن، به‌دلیل نگرانی درباره آسیب‌پذیری‌های احتمالی مدل فابل (Fable) آنتروپیک در برابر دور زدن سازوکارهای ایمنی، محدودیت‌های صادراتی علیه این شرکت اعمال کرد. در پی این اقدام، شرکت دسترسی به مدل را موقتاً در سراسر جهان غیرفعال کرد.

در همین حال، OpenAI، گوگل و آنتروپیک برای تأسیس نهادی با نام «مرجع استانداردها و فناوری برای هوش مصنوعی پیشرفته» (Standards and Technology Authority for Frontier AI) همکاری می‌کنند؛ با این حال، گزارش‌ها نشان می‌دهد که این شرکت‌ها درباره مسائل کلیدی همچنان اختلاف نظر دارند. مارک زاکربرگ، مدیرعامل متا، و جنسن هوانگ، مدیرعامل انویدیا، با چنین اقدامات نظارتی مخالفت کرده‌اند و معتقدند این مقررات ممکن است در درجه نخست از شرکت‌های بزرگ و تثبیت‌شده در برابر رقابت محافظت کند.