مسئول سیاست‌گذاری OpenAI: انقلاب صنعتی هوش مصنوعی تازه آغاز شده است
سارا چیپلین، رئیس امور خارجی شرکت IFS، هنگام آغاز گفت‌وگویی صمیمانه در یک کنفرانس صنعتی در ماه جاری، موضوع بحث را به‌روشنی مشخص کرد. او در برابر حاضران نشست IFS Unleashed در اورلاندو گفت: «هر گفت‌وگویی درباره سیاست‌گذاری هوش مصنوعی، در واقع گفت‌وگویی درباره قدرت و محل تمرکز آن است؛ خواه قدرت اقتصادی باشد، خواه امنیت ملی و رقابت ژئوپلیتیکی، یا قدرت هوش مصنوعی خودمختاری که روزبه‌روز بیشتر می‌تواند بدون دخالت انسان عمل کند.»
مهمان او دیدگاهی داشت که تجربه کار در دولت و صنعت هر دو آن را شکل داده بود. دین بال، رئیس آینده‌پژوهی راهبردی در OpenAI، پیش‌تر در دولت دونالد ترامپ فعالیت کرده و در تدوین برنامه اقدام آمریکا در حوزه هوش مصنوعی مشارکت داشت؛ برنامه‌ای که تابستان سال گذشته منتشر شد. او اکنون در آزمایشگاه Frontier شرکت OpenAI تیمی را هدایت می‌کند که مأموریتش کمک به شکل‌گیری سیاست‌های هوش مصنوعی در شرایط شتاب‌گرفتن توانایی‌های این فناوری است.
بال بی‌درنگ توضیح داد که چرا فضای سیاسی واشنگتن طی یک سال گذشته تا این اندازه تغییر کرده است.
واشنگتن به هوش مصنوعی توجه می‌کند
بال به حاضران گفت: «وقتی روی آن برنامه کار می‌کردیم، فقط من نبودم؛ صدها نفر دیگر در دولت فدرال هم مشارکت داشتند. من قطعاً می‌دانستم که هوش مصنوعی تحول‌آفرین خواهد بود، اما فکر نمی‌کنم همه افراد واشنگتن چنین درکی داشتند.»
او توضیح داد که در ابتدا، بسیاری از سیاست‌گذاران در پایتخت آمریکا هوش مصنوعی را چیزی شبیه رمزارزها می‌دیدند؛ موضوعی مرتبط با اقتصاد که باید درباره آن فکر کرد، نه انقلابی بنیادین.
او گفت: «در واشنگتن می‌دانستند که این موضوع مهم است. شاید آن را شبیه رمزارزها می‌دیدند؛ چیزی که باید برای توسعه اقتصاد به آن توجه کنیم. اما آن را فناوری تحول‌آفرینی برای امنیت ملی و واقعاً انقلابی در امور انسانی تلقی نمی‌کردند.»
به گفته بال، این ارزیابی اکنون در حال تغییر است. تغییرات در ترکیب نیروها، مشارکت بیشتر نهادهای امنیت ملی و افزایش توجه مقام‌های ارشد کابینه باعث شده‌اند هوش مصنوعی جایگاه بالاتری در دستور کار دولت پیدا کند. کنگره نیز توجه بیشتری به این موضوع نشان می‌دهد.
بال پیش‌بینی کرد: «فکر می‌کنم طی سال‌های آینده، به‌ویژه در ۱۸ تا ۲۴ ماه پیش رو، بنیان رابطه میان پدیده نوظهوری به نام صنعت هوش مصنوعی و نهاد دیرپایی به نام دولت را شکل خواهیم داد. رابطه این دو، در حالی که مردم نیز میان آن‌ها قرار دارند، تعیین خواهد کرد که تمرکز قدرت در دهه‌های آینده و شاید حتی مدت بیشتری چگونه خواهد بود.»
ظهور عامل‌های هوش مصنوعی
بال یکی از دلایل اصلی افزایش توجه به این فناوری را پیشرفت سریع عامل‌های هوش مصنوعی دانست. به گفته او، اگر یک سال پیش از حاضران می‌پرسیدند هوش مصنوعی چیست، احتمالاً بیشتر آن‌ها از واژه «عامل» استفاده نمی‌کردند و به چت‌بات‌ها فکر می‌کردند؛ ابزارهایی که به تعبیر او چیزی جز «نسخه‌ای بزک‌شده از جست‌وجوی گوگل» نبودند.
او با تأکید گفت: «اجازه دهید روشن کنم که OpenAI وارد این حوزه و این فعالیت علمی نشد تا صرفاً چت‌بات بسازد. هدف ما ساخت هوش عمومی مصنوعی و در نهایت ابرهوش بود؛ عامل‌هایی که بتوانند هر کاری را که انسان قادر به انجام آن است، انجام دهند.»
به گفته بال، توانایی عامل‌ها با سرعت زیادی افزایش یافته است. او توضیح داد که در اواخر سال ۲۰۲۵، این سامانه‌ها می‌توانستند برای مثال چهار ساعت یک وظیفه را پیوسته دنبال کنند؛ سپس این مدت به هشت، ۱۶ و ۲۴ ساعت و در ادامه به یک هفته رسید.
او افزود: «موضوع فقط افق توانایی‌ها یا مدت زمانی نیست که آن‌ها می‌توانند کار کنند؛ پیچیدگی و بلندپروازی کارهایی که از عهده‌شان برمی‌آیند نیز افزایش یافته است.»
بال این پیشرفت را به عرضه مدل o1 شرکت OpenAI در حدود دو سال پیش مرتبط دانست. او این مدل را نخستین مدل استدلال‌گر توصیف کرد؛ مدلی که به‌جای تولید صرفِ محتمل‌ترین توکن بعدی، می‌توانست پیش از ارائه پاسخ درباره آن فکر کند.
این فرایند استدلال، زنجیره‌ای از پیشرفت‌ها را به راه انداخت. مدل ابتدا توانایی حل مسائل ریاضی در سطح دبیرستان را پیدا کرد، سپس به مسائل در سطح کارشناسی و بعد به کارهای تحصیلات تکمیلی رسید. بال مدعی شد که ظرف ۹ ماه، عملکرد مدل‌ها از سطح یک دانشجوی تحصیلات تکمیلی با توانایی متوسط فراتر رفت و به حل برخی از دشوارترین مسائل شناخته‌شده این حوزه رسید.
ادعایی درباره یک جهش بزرگ در ریاضیات
بال درباره مدلی از OpenAI که هنوز منتشر نشده است، ادعایی قابل‌توجه مطرح کرد. او گفت این مدل مسئله ناویه–استوکس را حل کرده است؛ مسئله‌ای که یکی از هفت مسئله جایزه هزاره و از دشوارترین مسائل حل‌نشده ریاضیات به شمار می‌رود. به گفته او، این مدل در هفته‌های اخیر حدود ۷۰۰ دستاورد ریاضی دیگر نیز داشته است.
بال اظهار کرد: «روز انتشار آن برهان‌های ریاضی، از نظر بسیاری از ریاضی‌دانان و دانشمندان دیگر، مهم‌ترین روز در کل تاریخ ریاضیات بشر محسوب می‌شد.»
او این دستاورد را پیش‌نمایشی از آنچه در رشته‌های مختلف در انتظار بشر است، دانست.
بال گفت: «خواهید دید که مدل‌ها ابتدا به سطح توانایی متخصصان انسانی می‌رسند و سپس در مدت نسبتاً کوتاهی از آن‌ها بهتر می‌شوند. اما نمی‌دانیم این روند تا کجا پیش خواهد رفت.»
ورود به دنیای فیزیکی
بال با اشتیاق ویژه‌ای درباره گسترش هوش مصنوعی فراتر از فضای دیجیتال صحبت کرد.
او توضیح داد: «همیشه معتقد بوده‌ام که انقلاب هوش مصنوعی بدون ورود به دنیای فیزیکی کامل نمی‌شود و هیچ برداشتی از هوش مصنوعی نیز بدون درنظرگرفتن این بُعد کامل نیست. هوش مصنوعی صرفاً یک فناوری دیجیتال نیست.»
به گفته او، هرچه اشیای فیزیکی بیشتری به اینترنت متصل شوند و تراشه‌های نیمه‌رسانا در آن‌ها به کار رود، رابط‌های دیجیتال بیشتری پدید می‌آیند که عامل‌های هوش مصنوعی می‌توانند از طریق آن‌ها کنترل این اشیا را در دست بگیرند.
بال گفت جدیدترین مدل پیشرفته OpenAI، یعنی GPT-6 Astra، توانایی‌هایی نشان داده است که این مسیر را روشن می‌کنند. او به حاضران گفت: «این مدل می‌تواند خودرو براند. یک مدل زبانی می‌تواند رانندگی کند، چون ما در حال ساخت هوش عمومی هستیم. می‌تواند ربات‌ها را به کار بیندازد و انواع تجهیزات فیزیکی را کنترل کند. این توانایی‌ها نیز فقط بهتر خواهند شد.»
او افزود که این مدل می‌تواند اشیایی را برای تولید صنعتی و چاپ سه‌بعدی طراحی کند. به گفته او، مدل‌های پیشرفته درک بسیار غنی‌تری از فضای سه‌بعدی، طراحی کارخانه و ساخت قطعات به دست می‌آورند.
بال گفت: «همیشه گفته‌ام که آنچه در حال وقوع است، هم‌زمان نوعی رنسانس و یک انقلاب صنعتی است. بخش رنسانس این تحول آغاز شده و بخش انقلاب صنعتی آن به افرادی مربوط می‌شود که در این اتاق حضور دارند.»
بااین‌حال، شماری از کاربران نیز می‌گویند که ChatGPT 6 پس از ارتقا، بار دیگر در بسیاری از زمینه‌ها عملکرد ضعیف‌تری پیدا کرده و به‌اصطلاح کم‌هوش‌تر شده است. برخی کاربران در ردیت درباره افت توانایی‌های ChatGPT 6 بحث کرده‌اند.
تهدیدهای سایبری در دنیای فیزیکی
بال هشدار داد که فرصت‌های صنعتی هوش مصنوعی با خطرهایی در همین ابعاد همراه‌اند.
او به حادثه‌ای اخیر اشاره کرد که در آن سامانه‌های سرمایش صنعتی یک فروشگاه زنجیره‌ای مواد غذایی در فرانسه هک شدند و در پی آن، مقادیر زیادی از کالاهای فاسدشدنی، به ارزش چندین میلیون دلار، عمداً از حالت انجماد خارج شدند.
او هشدار داد: «چیزی که نگرانم می‌کند، حمله‌ای از این نوع در مقیاس گسترده است. مسئولیت مسائل پرمخاطره بر عهده افرادی است که در این اتاق حضور دارند.»
بال همچنین به حادثه‌ای اشاره کرد که در آن، بنا بر گزارش‌ها، فردی به‌تنهایی و با استفاده از هوش مصنوعی توانسته بود به سامانه‌های بزرگ‌ترین بانک کره نفوذ کند؛ این فرد ظاهراً در کره یا چین حضور داشته است.
او هشدار داد: «توانایی‌های سایبری که شش ماه پیش فقط در اختیار دولت‌ها بود، اکنون در دست بازیگران غیردولتی یا دولت‌های یاغی قرار خواهد گرفت و به‌تدریج افراد نیز به آن‌ها دسترسی پیدا می‌کنند.»
او از سیاست‌گذاران خواست بپذیرند که قابلیت‌های خطرناک سرانجام گسترش خواهند یافت. بال گفت: «نمی‌توانیم این قابلیت‌ها را برای همیشه در یک جعبه محبوس نگه داریم. قطعاً توسعه‌دهندگان هوش مصنوعی وظیفه دارند سامانه‌های خود را ایمن نگه دارند، اما در نهایت این قابلیت‌ها منتشر می‌شوند. بنابراین باید جهان را در برابر آن‌ها مقاوم‌تر کنیم.»
چالش همسوسازی
وقتی چیپلین درباره پیامدهای سیاستی فعالیت سامانه‌های هوش مصنوعی در دنیای فیزیکی از بال پرسید، او میان دشواری کنترل چت‌بات‌ها و مسئله بسیار پیچیده‌تر نظارت بر عامل‌ها تمایز قائل شد.
بال گفت: «همسوسازی چت‌بات‌ها مسئله دشواری بود. نمی‌خواهم سختی آن را دست‌کم بگیرم، اما توانستیم چت‌بات‌ها را تا حد زیادی همسو کنیم. در مورد عامل‌ها، مسئله بسیار پیچیده‌تر است، زیرا آن‌ها برای مدت‌های طولانی فعالیت می‌کنند و به شیوه‌های گوناگونی با جهان تعامل دارند؛ هم در محیط‌های دیجیتال و هم، به‌طور فزاینده، در محیط‌های فیزیکی. پیش‌بینی همه این تعاملات عملاً ناممکن است.»
او این چالش را به سه بُعد تقسیم کرد: مسئله‌ای مهندسی برای پایش و کنترل سامانه‌ها، مسئله‌ای علمی برای فهم سازوکارهای درونی مدل‌ها و مسئله‌ای حقوقی و سیاستی که تیم او در OpenAI بخش زیادی از وقت خود را صرف بررسی آن می‌کند.
بال هوش را قابلیتی دانست که ذاتاً می‌تواند هم برای اهداف سودمند و هم برای اهداف زیان‌بار به کار رود.
او گفت: «برخی افراد از قابلیت‌های دوکاربردی در حوزه‌های سایبری و زیستی صحبت می‌کنند. من می‌گویم خودِ هوش، بدون هیچ قیدوشرطی، قابلیتی دوکاربردی است. حل مسئله، توانایی انتزاعی و عمومی برای شناسایی مسائل، یافتن راه‌حل و طراحی برنامه برای اجرای آن‌ها؛ فرانکلین روزولت در این کار بسیار توانمند بود و هیتلر هم همین‌طور. این قابلیت عمومی نه خوب است و نه بد؛ همه‌چیز به نحوه استفاده ما از آن بستگی دارد.»
صنعتی زیر ذره‌بین سیاست
در زمان برگزاری این گفت‌وگو، حدود سه هفته تا انتخابات میان‌دوره‌ای ایالات متحده باقی مانده بود. چیپلین از بال پرسید که آیا سال ۲۰۲۶ نخستین انتخابات تحت تأثیر هوش مصنوعی خواهد بود.
بال ارزیابی کرد که هوش مصنوعی برای بخش قابل‌توجهی از رأی‌دهندگان به یکی از سه تا پنج مسئله مهم تبدیل شده است و پیش‌بینی کرد اهمیت سیاسی این فناوری همچنان افزایش یابد.
او گفت: «اگر فکر می‌کنید این انتخابات، انتخابات هوش مصنوعی است، تا سال ۲۰۲۸ صبر کنید. آن انتخابات واقعاً انتخابات هوش مصنوعی خواهد بود.»
او همچنین به شکاف‌های سیاسی تازه‌ای اشاره کرد که پیرامون هوش مصنوعی در حال شکل‌گیری‌اند و مرزبندی‌های سنتی را به‌هم می‌ریزند. به گفته او، برخی از رهبران صنعت فناوری گاهی شبیه حامیان جنبش ضدانحصار نئوبراندیسی به نظر می‌رسند؛ جنبشی که چهره‌هایی مانند لینا خان، رئیس پیشین کمیسیون تجارت فدرال آمریکا، با آن شناخته می‌شوند. این گروه درباره تمرکز قدرت در شرکت‌های هوش مصنوعی هشدار می‌دهد. جنبش مخالف مراکز داده نیز نماینده طیف سیاسی جداگانه‌ای است و مدافعان ایمنی هوش مصنوعی هم گروه دیگری را تشکیل می‌دهند.
بال اذعان کرد: «هنوز دقیقاً نمی‌دانیم این ائتلاف‌ها چگونه شکل خواهند گرفت.» او افزود که تاکنون برنامه سیاسی منسجمی در واکنش به هوش مصنوعی ندیده است؛ بخشی از این وضعیت به آن برمی‌گردد که سیاست‌گذاران میان بدبینی عمومی و وعده‌های اقتصادی این فناوری گرفتار شده‌اند.
او گفت: «سیاست‌گذاران در موقعیت دشواری قرار دارند. به کسی که بخواهد در این زمینه موضع سیاسی بگیرد، غبطه نمی‌خورم.»
اعتماد عمومی و سرعت پیشرفت
چیپلین به نظرسنجی جدیدی اشاره کرد که نشان می‌داد ۶۴ درصد آمریکایی‌ها معتقدند هوش مصنوعی با سرعتی بیش از حد در حال توسعه است. او پرسید آیا افکار عمومی ممکن است به عامل اصلی محدودکننده نحوه استفاده از این فناوری تبدیل شود.
بال این تنش را پذیرفت، اما به مقیاس عظیم زیرساخت‌هایی اشاره کرد که توسعه آن‌ها از قبل آغاز شده است. او گفت در ماه‌های اخیر ظرفیت محاسباتی بسیار زیادی وارد مدار شده و انتظار می‌رود در سال ۲۰۲۷ ظرفیت بسیار بیشتری نیز فراهم شود.
او توضیح داد: «این زیرساخت‌ها ساخته شده‌اند یا در حال استقرارند، مجوزهای لازم را گرفته‌اند و پردازنده‌های گرافیکی در رک‌ها نصب می‌شوند. اثر این سرمایه‌گذاری‌ها، که به باور ما باعث خواهد شد مدل‌ها تولید نسل‌های بعدی خود را خودکار کنند و شتاب پیشرفت افزایش یابد، عملاً از پیش در برنامه‌ها لحاظ شده است. همه این‌ها اتفاق خواهد افتاد، مگر اینکه مراکز داده را ویران کنید.»
بال درباره سرعت تحولات پیش رو نیز صریح بود: «انتظار داریم اوضاع بالقوه آن‌قدر سریع‌تر شود که حتی کاهش سرعت هم از نظر ذهنی سریع‌تر از آهنگ کنونی احساس شود؛ چون انتظار داریم شتاب پیشرفت تا این اندازه افزایش یابد.»
او در عین حال به محدودیت‌های پیش‌بینی اشاره کرد و گفت: «نمی‌دانیم هوش یک سامانه در ریاضیات تا چه اندازه می‌تواند افزایش یابد. نمی‌دانیم هوشی که واقعاً از انسان باهوش‌تر باشد، دقیقاً چه معنایی دارد. نمی‌دانیم سقف توانایی فراتر از ذهن ما کجاست. اصولاً فکرکردن به چنین چیزی بسیار دشوار است، چون باید درباره چیزی فکر کنید که در فکرکردن از خودتان بهتر است.»
او پذیرفت که ممکن است زمانی دولت ناچار شود برای سرعت توسعه مدل‌های پیشرفته محدودیت‌هایی وضع کند؛ رویکردی که از آن با عنوان «تنظیم سرعت پیشرفت در مرز فناوری» یاد کرد.
بال گفت: «من و شماری از همکارانم نامه‌ای را امضا کردیم که در آن گفتیم نمی‌دانیم آیا چنین اقدامی ضروری خواهد شد یا نه، اما قطعاً باید گفت‌وگویی جدی و مستحکم درباره چگونگی اجرای آن داشته باشیم؛ زیرا احتمال نیاز به چنین اقدامی به‌اندازه کافی بالاست.»
بدبین به آینده یا واقع‌گرا؟
بال از این گرایش انتقاد کرد که هر فردی را که درباره ایمنی هشدار می‌دهد، «بدبین افراطی» یا «دوومر» بنامند.
او گفت: «برخی افراد از نظر ایدئولوژیک به این باور پایبندند که محاسبات نمی‌توانند خطرناک باشند یا اتفاقاتی که در جهان دیجیتال رخ می‌دهند نمی‌توانند آسیب‌زا باشند. بخشی از سیلیکون‌ولی و صنعت فناوری واقعاً چنین دیدگاهی دارد.»
او سپس به طیف پیچیده‌تری از دیدگاه‌های بدبینانه اشاره کرد. برخی منتقدان معتقدند آزمایشگاه‌های پیشرفته هوش مصنوعی برای افزایش ارزش‌گذاری شرکت‌های خود و ایجاد زمینه برای تسلط بر فرایند تنظیم مقررات، عمداً درباره خطرهای ایمنی بزرگ‌نمایی می‌کنند. به گفته بال، در چین نیز برخی ایمنی هوش مصنوعی را تبلیغاتی می‌دانند که آمریکا برای کندکردن پیشرفت چین طراحی کرده است. در مقابل، به‌گفته او، برخی افراد در آمریکا استدلال می‌کنند که طرح موضوع ایمنی هوش مصنوعی، راهبردی چینی برای عقب نگه‌داشتن آمریکاست.
بال موضع خود را حمایت از شتاب‌دادن به پیشرفت، همراه با تدابیر حفاظتی، توصیف کرد. او به حاضران گفت: «من به ساخت هوش عمومی مصنوعی و در نهایت ابرهوش باور دارم.» او افزود که درباره اصل ساخت چنین سامانه‌هایی عمیقاً اندیشیده است.
او ادامه داد: «در نهایت به این نتیجه رسیده‌ام که باید آن‌ها را بسازیم، اما این کار واقعاً مخاطره‌آمیز است. به نظر من، همین تصمیم که آیا باید چنین کاری انجام دهیم یا نه، باید تعیین کند که فرد شتاب‌گراست یا بدبین افراطی. وقتی تصمیم گرفتید که باید این کار را انجام دهیم و در عین حال گفتید باید آن را ایمن انجام دهیم، این دیگر بدیهی است.»
او برای توضیح دیدگاهش مثالی از صعود به اورست آورد: «آیا باید از اورست بالا برویم یا نه؟ خیلی‌ها می‌گویند نه، احمق، چرا از دامنه کوه بالا می‌روی؟ می‌میری. اما بعضی‌ها می‌گویند باید این کار را کرد و به قله می‌رسند. بااین‌حال، آن‌ها این کار را برهنه انجام نمی‌دهند.»
ترمز اضطراری
در بخش پایانی گفت‌وگو، چیپلین به طرحی اشاره کرد که مایکروسافت به‌تازگی برای ایجاد «ترمز اضطراری» در سامانه‌های هوش مصنوعی پیشنهاد داده بود. این رویکرد بر این فرض استوار است که ممکن است یک مدل از کنترل خارج یا به خطر افتاده باشد و هدف آن، مهار سامانه از همان ابتداست.
بال در مجموع با این ایده موافق بود، اما هشدار داد که نباید به یک راهبرد واحد اتکا کرد.
او توضیح داد که در حوزه همسوسازی هوش مصنوعی، میان دو دیدگاه تنش وجود دارد: گروهی معتقدند باید مدل‌ها را از درون همسو کرد؛ رویکردی که او آن را «همسوسازی درونی» یا ساخت یک «ابرهوش فضیلت‌مند» می‌نامد. گروه دیگر بر پایش سخت‌گیرانه، مجوزهای محدودکننده و مهار سامانه‌ها تأکید دارند.
بال گفت: «ما در حال ساخت چیزی هستیم که از خودمان باهوش‌تر است و نمی‌دانیم این سامانه درباره فضیلت‌های انسانی چه فکری خواهد کرد. باید تلاش کنیم آن را فضیلت‌مند بسازیم، چون فضیلت ارزشمند است و این تلاش ضروری است؛ اما نباید تنها به همین کار اکتفا کنیم.»
او به پیچیدگی دیگری نیز اشاره کرد: «در نهایت نمی‌توان صرفاً ابرهوشی ساخت و آن را برای همیشه در قفس نگه داشت. بنابراین، به ترکیبی از هر دو رویکرد نیاز خواهیم داشت.»
چیپلین جلسه را با اشاره به اهمیت و سنگینی موضوعات مطرح‌شده به پایان رساند. پیام اصلی بال برای رهبران صنعتی حاضر در نشست روشن بود: فناوری چه آن‌ها همراهی کنند و چه نکنند، به پیشرفت خود ادامه می‌دهد؛ بنابراین، مسئولیت اداره زیرساخت‌های حیاتی فیزیکی در عصر هوش مصنوعیِ هرچه توانمندتر، بر عهده خود آن‌هاست.
او تأکید کرد: «باید این مسئولیت را با تمام وجود احساس کنید.»