سم آلتمن، مدیرعامل OpenAI، سه سناریو برای آینده توسعه هوش مصنوعی ترسیم کرد
بر اساس گزارش‌ها، سم آلتمن سه مسیر احتمالی برای پایان رقابت بر سر ساخت هوش مصنوعی پیشرفته ترسیم کرده است. در یکی از این سناریوها، یک نهاد نظارتی جهانی بر این فناوری نظارت می‌کند؛ در سناریوی دوم، بزرگ‌ترین آزمایشگاه‌های هوش مصنوعی با یکدیگر ادغام می‌شوند؛ و در سناریوی سوم، یک شرکت چنان از رقبای خود پیش می‌افتد که حتی می‌تواند سخت‌افزار آن‌ها را از کار بیندازد.
سناریوی آخر بیشتر به پرده پایانی یک فیلم هیجان‌انگیز علمی‌تخیلی شباهت دارد. آلتمن نیز، به‌درستی، آن را «وحشتناک» توصیف کرده است.
بر اساس گزارش‌هایی که در روزهای ۱۹ و ۲۰ اکتبر ۲۰۲۶ منتشر شدند، این اظهارات در جریان گفت‌وگویی داخلی با کارکنان OpenAI مطرح شده‌اند.
سه مسیر احتمالی
سناریوی نخست، آشناترین گزینه است. آلتمن از ایجاد یک نهاد نظارتی بین‌المللی سخن گفته که الگویی مشابه نهادهای ناظر بر فناوری هسته‌ای داشته باشد و بر توسعه و ایمنی هوش مصنوعی نظارت کند.
سناریوی دوم غیرمعمول‌تر است. آلتمن احتمال ادغام آزمایشگاه‌های پیشرو هوش مصنوعی و تبدیل آن‌ها به یک نهاد واحد را مطرح کرده است.
هدف اصلی از این پیشنهاد، هماهنگی بیشتر است. اگر بازیگران بزرگ این صنعت در قالب یک سازمان فعالیت کنند، می‌توانند استانداردها و رویه‌های ایمنی را با یکدیگر به اشتراک بگذارند، به‌جای آنکه برای عرضه سریع‌تر محصولات از یکدیگر سبقت بگیرند.
سناریوی سوم بیش از دو گزینه دیگر توجه‌ها را جلب کرده است. این سناریو بر مفهومی به نام «خودبهبودی بازگشتی» (Recursive Self-Improvement) متمرکز است که معمولاً با مخفف RSI شناخته می‌شود.
خودبهبودی بازگشتی به سامانه‌ای از هوش مصنوعی اشاره دارد که می‌تواند طراحی خود را بهبود دهد. این بهبود، توانایی سامانه را برای ارتقای خودش افزایش می‌دهد و در نتیجه، سامانه می‌تواند بار دیگر خود را بهتر کند و به همین ترتیب، پیوسته پیشرفته‌تر شود.
از نگاه آلتمن، شرکتی که زودتر از دیگران به این قابلیت دست پیدا کند، ممکن است چنان از رقبا پیش بیفتد که عملاً بر بازار مسلط شود. در افراطی‌ترین شکل این سناریو، آن شرکت حتی می‌تواند عملکرد پردازنده‌های گرافیکی رقبایش را مختل کند. پردازنده‌های گرافیکی یا GPUها تراشه‌های تخصصی‌ای هستند که برای آموزش و اجرای سامانه‌های هوش مصنوعی به کار می‌روند.
آلتمن همین پیامد را «وحشتناک» خوانده است.
موضوعی که آلتمن بارها به آن بازمی‌گردد
این اظهارات داخلی با مواضعی که آلتمن پیش‌تر مطرح کرده بود، هم‌خوانی دارد. او در اواسط سپتامبر ۲۰۲۶، در اظهاراتی عمومی، دو خطر عمده هوش مصنوعی پیشرفته را مشخص کرد: از دست رفتن کنترل انسان بر این سامانه‌ها و تمرکز قدرت در دست شمار اندکی از سازمان‌ها.
آلتمن در ۱۴ سپتامبر ۲۰۲۶ استدلال کرد که نباید اجازه داد هوش مصنوعی به هیچ‌یک از این دو وضعیت منجر شود. او موضع OpenAI را در جبهه منافع بشریت به‌طور کلی تعریف کرد، نه در خدمت منافع یک شرکت یا گروه خاص.
او همچنین خواستار تقویت پروتکل‌های ایمنی و انجام ارزیابی‌های مستقل از سامانه‌های هوش مصنوعی شد. این موضع با دیدگاه داریو آمودی، مدیرعامل Anthropic، هم‌سو بود. آلتمن در سپتامبر ۲۰۲۶ از مقاله آمودی با عنوان «Pace the Frontier» حمایت کرده بود؛ مقاله‌ای که بر ضرورت هماهنگی در اجرای رویه‌های ایمنی و ارزیابی سامانه‌ها در سراسر صنعت تأکید دارد.
نگرانی درباره تمرکز قدرت و ناهماهنگی اهداف هوش مصنوعی با ارزش‌ها و مقاصد انسانی، مدت‌هاست که در مطالب و مواضع عمومی OpenAI نیز مطرح می‌شود.
شماری از چهره‌های حوزه هوش مصنوعی، از جمله ایلان ماسک، نیز استدلال کرده‌اند که باید سرعت پیشرفت این فناوری کاهش یابد تا فرصت کافی برای رسیدگی به مسائل ایمنی و اخلاقی فراهم شود.
این سناریوها چه معنایی دارند؟
هر یک از این گزینه‌ها با مشکلات خاص خود روبه‌رو است. ایجاد یک نهاد نظارتی بین‌المللی مستلزم توافق دولت‌ها بر سر مجموعه‌ای از قواعد برای فناوری‌ای است که بسیاری از کشورها آن را دارایی‌ای راهبردی می‌دانند. ادغام آزمایشگاه‌های پیشرو نیز با ایجاد یک مشکل تازه، مسئله هماهنگی را حل می‌کند: شکل‌گیری سازمانی واحد با قدرتی بسیار گسترده؛ وضعیتی که خود نمونه‌ای از تمرکز قدرت است و آلتمن پیش‌تر نسبت به آن هشدار داده بود.
بااین‌حال، در تفسیر این اظهارات باید احتیاط کرد. این سخنان در یک نشست داخلی مطرح شده‌اند و اطلاعات و مستندات عمومی درباره گفت‌وگوهای داخلی آلتمن همچنان محدود است.
افشا: این مقاله را دیه‌گو آلمادا لوپز ویرایش کرده است. برای کسب اطلاعات بیشتر درباره نحوه تولید و بازبینی محتوا، به سیاست تحریریه مراجعه کنید.