سم آلتمن سه مسیر احتمالی برای توسعه ایمن هوش مصنوعی را تشریح کرد

سم آلتمن، مدیرعامل OpenAI، سه پیشنهاد مطرح‌شده در صنعت هوش مصنوعی برای توسعه ایمن این فناوری را با کارکنان شرکت در میان گذاشته است. این پیشنهادها شامل ایجاد یک نهاد نظارتی جهانی، ادغام آزمایشگاه‌های هوش مصنوعی و سناریوی سومی است که آلتمن از آن حمایت نمی‌کند.

۲۳ اکتبر ۲۰۲۶، ساعت ۰۹:۱۶ به وقت هند

بر اساس گزارش نشریه The Information، سم آلتمن، مدیرعامل OpenAI، هفته گذشته در جلسه‌ای با کارکنان این شرکت، سه پیشنهاد مورد بحث در صنعت هوش مصنوعی برای توسعه ایمن این فناوری را تشریح کرد. این اظهارات در شرایطی مطرح شده که دولت ترامپ در حال تدوین نخستین چارچوب نظارتی خود برای توسعه‌دهندگان هوش مصنوعی فوق‌هوشمند است. بنا بر گزارش‌ها، آلتمن گفته است OpenAI باید ظرف یک سال آینده مشخص کند که از کدام‌یک از این مسیرها حمایت خواهد کرد.

سه مسیر پیشنهادی

نخستین گزینه، تشکیل نهادی بین‌المللی با الگوبرداری از آژانس بین‌المللی انرژی اتمی (IAEA) است که مسئولیت اجرای استانداردهای ایمنی را بر عهده داشته باشد. به گفته افراد آگاه از سخنان آلتمن، به نظر می‌رسد او این رویکرد را ترجیح می‌دهد. مدیران OpenAI از سال ۲۰۲۳ از ایده تأسیس چنین نهادی حمایت کرده‌اند و پیشنهاد داده‌اند که این سازمان بر سامانه‌های هوش مصنوعی نظارت و بازرسی کند، انجام ممیزی‌های ایمنی را الزامی سازد و میزان استفاده از توان پردازشی و انرژی را زیر نظر بگیرد.

گزینه دوم که آلتمن آن را «طرح دمیس» نامیده، برگرفته از ایده‌ای قدیمی‌تر از دمیس هاسابیس، مدیرعامل گوگل دیپ‌مایند، برای ایجاد سازمانی مشابه مرکز اروپایی پژوهش‌های هسته‌ای (سرن) است. در نسخه پیشنهادی آلتمن، شرکت‌های بزرگ هوش مصنوعی یا در یک نهاد واحد ادغام می‌شوند یا فعالیت‌های خود را از طریق چنین نهادی پیش می‌برند. این نهاد مسئول ارائه مدل‌های هوش مصنوعی به کشورهای شریک خواهد بود.

گزینه سوم که با اشاره به الیزر یودکوفسکی، نظریه‌پرداز ایمنی هوش مصنوعی، «طرح الیزر» نام گرفته است، سناریویی را توصیف می‌کند که در آن یک توسعه‌دهنده هوش مصنوعی به چنان قدرت اقتصادی بزرگی دست می‌یابد که می‌تواند دسترسی رقبای خود به منابع پردازشی را قطع کند. آلتمن گفته است با این سناریو مخالف است و صرفاً برای کامل‌کردن فهرست گزینه‌ها به آن اشاره کرده است. در گزارش The Information آمده است که برخی کارکنان، این اظهارنظر را کنایه‌ای به شرکت آنتروپیک تلقی کرده‌اند؛ برداشتی که با توجه به ارتباطات یودکوفسکی با این شرکت شکل گرفته است.

نگرانی‌های ایمنی و تلاش‌های صنعت هوش مصنوعی

اظهارات آلتمن پس از مجموعه‌ای از رخنه‌های امنیتی مرتبط با هوش مصنوعی مطرح شده است که مدل‌های شرکت‌های OpenAI، آنتروپیک، گوگل و متا در آن‌ها نقش داشته‌اند. آلتمن پیش‌تر در گفت‌وگوهای داخلی شرکت تأکید کرده است که OpenAI نمی‌تواند اجازه دهد از رقبای خود عقب بماند؛ آن هم در شرایطی که هر دو شرکت OpenAI و آنتروپیک در مسیر عرضه عمومی سهام خود حرکت می‌کنند.

در همین حال، شرکت‌های OpenAI، گوگل و آنتروپیک در حال همکاری برای راه‌اندازی یک نهاد آمریکایی در حوزه ایمنی هوش مصنوعی با نام «مرجع استانداردهای هوش مصنوعی پیشرفته» (Standards Authority for Frontier AI) هستند و قصد دارند فعالیت آن را تا اوایل سال ۲۰۲۷ آغاز کنند. آنتروپیک همچنین پیش‌نویس طرح قانونی را به قانون‌گذاران ارائه کرده است که بر اساس آن، وزارت بازرگانی آمریکا اختیار خواهد داشت فعالیت مدل‌های هوش مصنوعی دارای قابلیت ایجاد آسیب‌های گسترده را متوقف کند.