سم آلتمن سه سناریو برای آینده هوش مصنوعی مطرح کرد؛ از نهاد نظارتی جهانی و ادغام آزمایشگاه‌ها تا انحصار خطرناک پردازنده‌های گرافیکی
آشیتا کاشیاپ | تاریخ انتشار: ۲۳ اکتبر ۲۰۲۶، ساعت ۱۲:۰۵ به وقت هند | آخرین به‌روزرسانی: ۲۳ اکتبر ۲۰۲۶، ساعت ۱۲:۰۵ به وقت هند
بر اساس گزارش‌های منتشرشده، سم آلتمن، مدیرعامل OpenAI، سه مسیر احتمالی برای آینده هوش مصنوعی ترسیم کرده است: ایجاد یک نهاد نظارتی جهانی، گردهم‌آوردن آزمایشگاه‌های پیشرو هوش مصنوعی در قالب سازمانی واحد و شکل‌گیری وضعیتی که در آن یک شرکت چنان قدرت پردازشی عظیمی در اختیار بگیرد که رقبا دیگر توان رقابت با آن را نداشته باشند.
طبق این گزارش‌ها، آلتمن سناریوی سوم را «وحشتناک» توصیف کرده است. اظهارات او بازتاب‌دهنده نگرانی‌های فزاینده درباره ایمنی هوش مصنوعی، رقابت در این صنعت، حفظ کنترل انسان بر فناوری و ضرورت تدوین مقررات بین‌المللی هم‌زمان با قدرتمندتر شدن سامانه‌های پیشرفته هوش مصنوعی است.
سم آلتمن سه مسیر احتمالی آینده هوش مصنوعی را تشریح کرد
هوش مصنوعی با سرعت زیادی در حال پیشرفت است، اما پرسش‌های اساسی درباره آینده آن همچنان بی‌پاسخ مانده‌اند. چه کسی باید کنترل این فناوری را در اختیار داشته باشد؟ چگونه می‌توان از ایمن بودن آن اطمینان حاصل کرد؟ هنوز پاسخ روشنی برای این پرسش‌ها وجود ندارد.
سم آلتمن، مدیرعامل OpenAI، سه مسیر احتمالی را برای مرحله بعدی توسعه هوش مصنوعی مطرح کرده است.
به گزارش نشریه The Information، او این دیدگاه‌ها را در اکتبر ۲۰۲۶ با کارکنان OpenAI در میان گذاشته است.
سناریوی نخست، تشکیل نهادی برای نظارت بر هوش مصنوعی پیشرفته است. سناریوی دوم بر همکاری آزمایشگاه‌های برجسته هوش مصنوعی در سراسر جهان تمرکز دارد. در سناریوی سوم، یک شرکت به چنان قدرت و جایگاهی می‌رسد که دیگران توان رقابت با آن را از دست می‌دهند؛ به‌ویژه در زمینه دسترسی به زیرساخت‌ها و توان پردازشی مورد نیاز برای اجرای سامانه‌های هوش مصنوعی.
بر اساس این گزارش، به نظر می‌رسد آلتمن از نظارت بین‌المللی حمایت می‌کند، اما با تسلط انحصاری یک شرکت بر صنعت هوش مصنوعی مخالف است.
همچنین گفته می‌شود او تأکید کرده است که OpenAI باید طی یک سال آینده تصمیم بگیرد از کدام رویکرد حمایت خواهد کرد.
۱. نهاد نظارتی جهانی هوش مصنوعی؛ سازمانی مشابه آژانس بین‌المللی انرژی اتمی
نخستین پیشنهاد، تأسیس نهادی بین‌المللی برای نظارت بر توسعه سامانه‌های پیشرفته هوش مصنوعی است.
این نهاد می‌تواند عملکردی مشابه آژانس بین‌المللی انرژی اتمی (IAEA) داشته باشد؛ سازمانی که استفاده صلح‌آمیز از انرژی هسته‌ای را ترویج می‌کند و مسئولیت اجرای بازرسی‌ها و اقدامات نظارتی و راستی‌آزمایی را بر عهده دارد.
بر اساس این رویکرد، نهاد نظارتی بین‌المللی هوش مصنوعی می‌تواند استانداردهای ایمنی تعیین کند، سامانه‌های قدرتمند هوش مصنوعی را مورد بازرسی قرار دهد، شرکت‌ها را به انجام ممیزی‌های مستقل ملزم کند و بر پایبندی آن‌ها به مقررات توافق‌شده نظارت داشته باشد.
چنین نهادی همچنین می‌تواند از جنبه‌های مختلف به دولت‌ها کمک کند تا خطرات مدل‌های هوش مصنوعی را که روزبه‌روز توانمندتر می‌شوند، ارزیابی کنند.
هدف این است که شرکت‌ها نتوانند بدون در نظر گرفتن تدابیر حفاظتی کافی، سامانه‌های قدرتمند توسعه دهند. در این چارچوب، کشورهای مختلف نیز می‌توانند به‌جای واگذاری کامل مسئولیت نظارت به خود شرکت‌ها، برای تدوین استانداردهای مشترک همکاری کنند.
البته این ایده تازگی ندارد. مدیران OpenAI در یک سند سیاست‌گذاری که سال ۲۰۲۳ منتشر شد، پیشنهاد کرده بودند سازمانی بین‌المللی بر توسعه هوش مصنوعی پیشرفته نظارت کند، سامانه‌ها را بازرسی کند و رعایت الزامات ایمنی را به اجرا بگذارد.
اظهارات اخیر منتسب به آلتمن در شرایطی مطرح شده است که دولت‌ها در حال بررسی راه‌های نظارت بر هوش مصنوعی هستند؛ نظارتی که نه سرعت نوآوری‌های سودمند را کاهش دهد و نه قدرت بیش‌ازحدی در اختیار تعداد محدودی از شرکت‌ها قرار دهد.
بااین‌حال، ایجاد چنین نهادی مستلزم توافق کشورها درباره حدود اختیارات آن، قدرت بازرسی و مقررات مربوط به اجرای تصمیمات و برخورد با تخلفات خواهد بود.
۲. طرح دمیس؛ اگر شرکت‌های بزرگ هوش مصنوعی با یکدیگر همکاری کنند چه می‌شود؟
پیشنهاد دوم که از آن با عنوان «طرح دمیس» یاد شده، برگرفته از ایده‌ای است که با دمیس حسابیس، مدیرعامل گوگل دیپ‌مایند، ارتباط دارد.
این طرح بر ایجاد سازمانی مشترک برای پژوهش در زمینه هوش مصنوعی پیشرفته استوار است؛ سازمانی که می‌توان آن را با سرن (CERN)، مرکز بین‌المللی پژوهش‌های علمی که به تحقیقات فیزیک ذرات شهرت دارد، مقایسه کرد.
در روایتی که از دیدگاه آلتمن گزارش شده، آزمایشگاه‌های پیشرو هوش مصنوعی می‌توانند فعالیت‌های خود را ادغام کنند یا از طریق سازمانی واحد برای توسعه ایمن‌تر سامانه‌های پیشرفته هوش مصنوعی همکاری داشته باشند. کشورهای مشارکت‌کننده نیز می‌توانند به مدل‌هایی که حاصل این تلاش مشترک هستند، دسترسی پیدا کنند.
ایده اصلی این طرح، جایگزین کردن همکاری با رقابت میان شرکت‌هایی است که برای ساخت سامانه‌های هرچه قدرتمندتر هوش مصنوعی تلاش می‌کنند.
همکاری مشترک می‌تواند به پژوهشگران کمک کند یافته‌های مربوط به ایمنی را با یکدیگر به اشتراک بگذارند، آزمایش‌ها را هماهنگ کنند و از تکرار اشتباهات مشابه جلوگیری کنند. این رویکرد همچنین می‌تواند تدوین تدابیر حفاظتی مشترک را آسان‌تر کند.
بااین‌حال، اجرای چنین پیشنهادی با چالش‌های مهمی روبه‌رو خواهد بود. شرکت‌های هوش مصنوعی برای جذب مشتری، سرمایه، نیروی متخصص و منابع پردازشی با یکدیگر رقابت می‌کنند.
ازاین‌رو، ممکن است تمایلی به اشتراک‌گذاری پژوهش‌های ارزشمند خود یا واگذاری کنترل فناوری‌هایشان نداشته باشند.
هنوز مشخص نیست چنین سازمانی چگونه تصمیم‌گیری خواهد کرد، دسترسی به سامانه‌های هوش مصنوعی را چگونه میان اعضا توزیع می‌کند و با چه سازوکاری از برخورد منصفانه با شرکت‌ها و کشورهای کوچک‌تر اطمینان خواهد یافت. همچنین گزارش منتشرشده تأیید نمی‌کند که توافقی برای ادغام شرکت‌ها یا تشکیل سازمان پژوهشی مشترک صورت گرفته باشد.
۳. طرح الیعزر؛ آیا یک شرکت هوش مصنوعی می‌تواند تمام قدرت پردازشی را در اختیار بگیرد؟
سومین سناریو بحث‌برانگیزترین گزینه است. در گزارش از آن با عنوان «طرح الیعزر» یاد شده که اشاره‌ای به الیعزر یودکوفسکی، نظریه‌پرداز حوزه ایمنی هوش مصنوعی، دارد.
در این سناریو، یکی از توسعه‌دهندگان هوش مصنوعی چنان قدرتمند می‌شود که می‌تواند مانع دسترسی سایر توسعه‌دهندگان به منابع پردازشی لازم برای ساخت سامانه‌های پیشرفته هوش مصنوعی شود.
بر اساس گزارش‌ها، آلتمن این وضعیت را چنین توصیف کرده است: شرکتی با تکیه بر قدرت اقتصادی خود می‌تواند رقبا را از دسترسی به منابع پردازشی، از جمله واحدهای پردازش گرافیکی (GPU)، محروم کند. به همین دلیل، او این سناریو را «وحشتناک» خوانده است.
پردازنده‌های گرافیکی تراشه‌های رایانه‌ای تخصصی هستند که به‌طور گسترده برای آموزش و اجرای مدل‌های پیشرفته هوش مصنوعی استفاده می‌شوند.
توسعه سامانه‌های قدرتمند هوش مصنوعی به حجم عظیمی از توان پردازشی، برق، داده و زیرساخت‌های تخصصی نیاز دارد.
اگر یک شرکت بخش قابل‌توجهی از این منابع را در اختیار بگیرد، رقابت برای سایر توسعه‌دهندگان دشوار خواهد شد. در نتیجه، آن شرکت می‌تواند نفوذ زیادی بر نوع فناوری‌های هوش مصنوعی تولیدشده و افرادی که امکان استفاده از آن‌ها را دارند، پیدا کند.
بااین‌حال، نگرانی‌ها به رقابت معمول تجاری محدود نمی‌شود. اگر یک سازمان کنترل سامانه‌های قدرتمند هوش مصنوعی را در دست داشته باشد، ممکن است بر تصمیماتی که بر کسب‌وکارها، دولت‌ها و زندگی روزمره مردم تأثیر می‌گذارند نیز نفوذ چشمگیری پیدا کند.
برای مثال، یودکوفسکی استدلال کرده است که ساخت هوش مصنوعی می‌تواند خطرات بسیار بزرگی برای بشریت به همراه داشته باشد. بااین‌حال، سناریوی مطرح‌شده در گزارش صرفاً مسیری فرضی برای آینده است و به این معنا نیست که در حال حاضر شرکتی توانایی محروم کردن کامل رقبا از منابع پردازشی را دارد.
چرا ایمنی هوش مصنوعی به نگرانی جهانی تبدیل شده است؟
این بحث‌ها در شرایطی مطرح می‌شود که سامانه‌های هوش مصنوعی روزبه‌روز در انجام وظایف پیچیده، برنامه‌نویسی، انجام پژوهش و فعالیت با دخالت کمتر انسان توانمندتر می‌شوند.
چنین پیشرفت‌هایی می‌توانند به بهبود خدمات سلامت، آموزش، پژوهش‌های علمی و بهره‌وری کمک کنند.
درعین‌حال، افزایش توانایی این سامانه‌ها ممکن است خطراتی در زمینه امنیت سایبری، سوءاستفاده از فناوری، تصمیم‌گیری‌های غیرقابل‌اعتماد و از دست رفتن کنترل انسان ایجاد کند.
در سپتامبر ۲۰۲۶، آلتمن در شورای امنیت سازمان ملل متحد (UNSC) سخنرانی کرد و خواستار همکاری بین‌المللی برای تضمین ایمنی هوش مصنوعی شد. او تأکید کرد که دولت‌ها باید از طریق فرایندهای دموکراتیک در تدوین مقررات هوش مصنوعی نقش داشته باشند و استانداردهای مشترکی برای سنجش توانایی سامانه‌ها، ارزیابی خطرات و حفظ نظارت انسانی تدوین کنند.
OpenAI نیز خواستار تدوین استانداردهای مشترک ایمنی و بهبود سازوکار گزارش‌دهی حوادث جدی مرتبط با هوش مصنوعی شده است. در پیشنهادهای سیاست‌گذاری این شرکت تأکید شده که تدابیر حفاظتی داخلی شرکت‌ها باید مکمل نظارت دولت‌ها باشند، نه جایگزین آن.
گفت‌وگوی گزارش‌شده آلتمن درباره سه آینده احتمالی هوش مصنوعی، یکی از چالش‌های اساسی پیش روی صنعت فناوری را برجسته می‌کند: چگونه می‌توان سامانه‌های هوش مصنوعی را قدرتمندتر کرد و درعین‌حال ایمنی و پاسخ‌گویی آن‌ها را حفظ کرد؟
یک نهاد نظارتی بین‌المللی می‌تواند مقررات مشترکی وضع کند، سازمان پژوهشی مشترک می‌تواند همکاری میان فعالان این حوزه را گسترش دهد و شکل‌گیری انحصار تحت کنترل یک شرکت نیز ممکن است اختیار و کنترل این فناوری را در دستان عده‌ای محدود متمرکز کند.