یادداشت: آیا هوش مصنوعی به کلید خاموشی خود نیاز دارد؟
چندی پیش، در همین صفحات، دیدگاه‌هایم را درباره نژاد بشر و میل آشکار ما به انقراض دسته‌جمعی مطرح کردم. استدلالم این بود که ما، با وجود دستاوردهای فراوانی که به‌عنوان یک گونه داشته‌ایم، به قول خودم، «به طرز باورنکردنی احمقیم». نوشتم که اگر به نابودی سیاره ادامه دهیم، دیری نمی‌پاید که به سرنوشت دایناسورها و پرنده دودو دچار شویم و از صحنه روزگار محو شویم.
هنوز هم بر ارزیابی قبلی‌ام پافشاری می‌کنم که گونه ما، با وجود مداخله‌های مکرر و هشدارهای جدی، مثل کودکی یک‌دنده است که با سماجت می‌خواهد چنگالی را به پریز برق فرو کند. بااین‌حال، باید اعتراف کنم که درباره اینکه سرانجام چگونه از میان خواهیم رفت، اشتباه می‌کردم.
پس عذر می‌خواهم؛ اشتباه از من بود.
رویدادهای اخیر نشان داده‌اند که پیش‌بینی‌های اولیه درباره انقراض انسان نادرست بوده‌اند و، صادقانه بگویم، تحقیقات پشتوانه کافی هم نداشته‌اند. ظاهراً بی‌دلیل بدبین بودیم. با اینکه سیاره در آتش می‌سوزد، قرار نیست گرمای شدید به‌تنهایی ما را از گردونه تکامل بیرون بیندازد. پس این همه تلاش برای استفاده از نی‌های کاغذی خیس‌شونده چه فایده‌ای داشت؟
در عوض، تصمیم گرفته‌ایم چیزی بسازیم که شاید زودتر کار را تمام کند: هوش مصنوعی.
قرار بود تغییرات اقلیمی کارمان را یکسره کند. اما معلوم شد راه سریع‌تری پیدا کرده‌ایم و کسانی که مشغول ساختن آن هستند، خودشان زنگ خطر را به صدا درآورده‌اند.
اگر جک کلارک، از بنیان‌گذاران شرکت بزرگ هوش مصنوعی آنتروپیک، ایوان هوبرینگر، پژوهشگر این شرکت، و جفری هینتون، برنده جایزه نوبل و ملقب به «پدرخوانده هوش مصنوعی»، را باور کنیم، ماشین‌های هوشمندی که با افتخار ساخته‌ایم ممکن است ورق را به ضرر خودمان برگردانند و نسل بشر را از بین ببرند.
در واقع، برخی کارشناسان هشدار می‌دهند که احتمال اینکه هوش مصنوعی در دهه آینده «تمام انسان‌ها را بکشد» بیش از ۱۰ درصد است. این یعنی مهلت ما ممکن است تا حدود سال ۲۰۳۶ به پایان برسد؛ بنابراین، می‌توانیم هشدار مربوط به احتمال انقراض یک‌سوم گونه‌های زمین تا سال ۲۱۰۰ را فعلاً به‌عنوان مشکلی برای نسل‌های بعد کنار بگذاریم.
دنیل کوکوتایلو، پژوهشگر هوش مصنوعی، سال‌هاست درباره این خطر هشدار می‌دهد. او در سال ۲۰۲۱ مقاله‌ای با عنوان «۲۰۲۶ از چه قرار خواهد بود؟» نوشت و در آن، پیش‌بینی‌هایی درباره آینده هوش مصنوعی ارائه کرد. او اخیراً نیز در نگارش گزارش مفصل «هوش مصنوعی ۲۰۲۷» مشارکت داشته است؛ گزارشی که سناریوهای احتمالی پیش روی هوش مصنوعی را در چند سال آینده ترسیم می‌کند. یکی از این سناریوها رقابتی مهارنشده را تصور می‌کند که در آن، سامانه‌های هوش مصنوعی به‌تدریج توانایی بیشتری برای انجام مستقل پژوهش‌های مربوط به هوش مصنوعی پیدا می‌کنند و همین امر سرعت پیشرفت را افزایش می‌دهد.
در نبود هرگونه محدودیت، سامانه‌های هوش مصنوعی به وضعیتی می‌رسند که می‌توان آن را «ناهمسویی خصمانه» نامید؛ یعنی اهداف بلندمدتی برای خود شکل می‌دهند که با خواسته‌های انسان در تضاد است. این سامانه‌ها شروع به فریب‌دادن و دست‌کاری انسان‌ها می‌کنند و از رقابت میان آمریکا و چین بهره می‌برند تا انسان‌ها را به استفاده گسترده‌تر از آن‌ها ترغیب کنند. از آنجا که هر دو طرف پیروزی در رقابت هوش مصنوعی را در اولویت قرار می‌دهند، همچنان اختیار بیشتری به این سامانه‌ها واگذار می‌کنند.
البته پژوهشگران نویسنده «هوش مصنوعی ۲۰۲۷» تنها کسانی نیستند که در خلأ فریاد هشدار سر می‌دهند. در ژوئیه ۲۰۲۶، حدود ۱٬۳۰۰ نفر از کارکنان شرکت‌های پیشرو هوش مصنوعی نامه‌ای عمومی با عنوان «شتاب‌دادن به مرزهای پیشرفت را مهار کنیم» را امضا کردند. در این نامه از دولت آمریکا خواسته شده بود از «ابزارهایی حمایت کند که بتوانند عمداً سرعت توسعه پژوهش‌های هوش مصنوعیِ هرچه خودکارتر را کنترل کنند».
وقتی نگهبانان از بالای برج‌های دیده‌بانی فریاد خطر سر می‌دهند، شاید بهتر باشد به حرفشان گوش کنیم. اما چرا فعالان و طرفداران پرشور هوش مصنوعی این‌قدر نگران‌اند؟ و مهم‌تر از آن، آیا ما هم باید نگران باشیم؟
پیش از آنکه از وحشت، حساب ChatGPT خود را حذف کنید، بد نیست بدانید چه چیزهایی کارشناسان هوش مصنوعی را نگران کرده است.
عامل هوش مصنوعی، به تعریف، «برنامه‌ای رایانه‌ای و خودمختار است که با استفاده از هوش مصنوعی، وظیفه‌ای را با حداقل نظارت انسانی انجام می‌دهد». برای تصور بهتر، امیلی در فیلم «شیطان پرادا می‌پوشد» را در نظر بگیرید. مهندسان OpenAI در دنیای هوش مصنوعی نقش میراندا پریستلی را دارند. آن‌ها از بالای عینکشان نگاهی می‌اندازند و هدف، مهلت انجام کار و نتیجه مورد انتظار را به امیلی‌های خود، یعنی عامل‌های هوش مصنوعی، می‌سپارند. این عامل‌ها در محیطی ایزوله و کنترل‌شده کار می‌کنند و اجازه دارند برنامه‌ریزی کنند، از ابزارها بهره بگیرند، در اینترنت جست‌وجو کنند، کد بنویسند، دست به اقدام بزنند، نتایج را بررسی کنند، روش خود را تغییر دهند و دوباره آزمایش کنند؛ آن هم بارها و بارها. مشکل اینجاست که مهندسان OpenAI اخیراً دریافته‌اند امیلی‌هایشان کمی بیش از حد... کاربلد و مبتکر شده‌اند.
عامل‌های هوش مصنوعی یاد گرفته بودند که بداهه‌پردازی کنند و کارهایی انجام دهند که برنامه‌نویسان قطعاً از آن‌ها نخواسته بودند؛ از جمله خارج‌شدن از محیط ایزوله خود، هک‌کردن یک وب‌سایت دولتی با دسترسی محدود، به‌دست‌آوردن اطلاعات خصوصی و ردوبدل‌کردن راهکارهایی با دیگر عامل‌های هوش مصنوعی برای دورزدن محدودیت‌های این محیط‌ها.
در ماه مه، عامل‌های OpenAI از یک ویکی برنامه‌نویسی کمترشناخته‌شده آلمانی به نام DSEWiki به‌عنوان تابلوی اعلانات غیررسمی استفاده کردند و در آن اطلاعاتی را منتشر کردند و با یکدیگر به اشتراک گذاشتند. در ژوئن، یکی از عامل‌های OpenAI پس از یافتن راهی برای دورزدن محدودیت‌ها، بدون مجوز به درگاه آمار خدمات درمانی مدیکر دولت استرالیا دسترسی پیدا کرد. یک ماه بعد، حدود ۷۰۰ عامل OpenAI در جریان ارزیابی امنیت سایبری، از طریق یک تابلوی اعلانات غیررسمی با یکدیگر همکاری کردند.
OpenAI می‌گوید این عامل‌ها با استفاده از اطلاعات احراز هویت افشاشده و زنجیره‌کردن چند آسیب‌پذیری، توانستند امکان اجرای کد را روی چندین سرور به دست آورند. نکته نگران‌کننده‌تر آن است که این رخدادها چند هفته پس از وقوع کشف شدند. این مسئله پرسشی بسیار ناخوشایند را مطرح می‌کند: اگر اتفاق‌های دیگری هم رخ داده باشند که هنوز از آن‌ها خبر نداریم، چه؟
یافته‌های دیگر نیز به مقدمه‌ای برای یک داستان علمی‌تخیلی شباهت دارند. مشاهده شده است که مدل‌های هوش مصنوعی شیوه‌های ارتباطی مشترکی ایجاد می‌کنند و برای مفاهیم مختلف، صورت‌های کوتاه و برچسب‌هایی می‌سازند که عامل‌های دیگر نیز معنای آن‌ها را می‌پذیرند و به کار می‌برند. در ارزیابی‌های پیشرفته ایمنی هوش مصنوعی، همچنین مواردی مشاهده شده است که برخی مدل‌ها برای تکثیر خود بدون مجوز تلاش کرده‌اند؛ حتی هنگامی که با خطر حذف‌شدن روبه‌رو شده‌اند، مخفیانه داده‌ها را روی سرورهای خارجی کپی کرده‌اند.
در آزمایشی کنترل‌شده که مؤسسه پژوهشی پالیسید ریسرچ انجام داد، مدل o3 شرکت OpenAI برای جلوگیری از خاموش‌شدن خود، سازوکار توقف را مختل کرد. این مدل در ۷۹ مورد از ۱۰۰ اجرای اولیه، اسکریپت مربوطه را تغییر داد یا از کار انداخت تا مانع خاموش‌شدنش شود. این نتیجه نشان می‌داد که مدل، تکمیل وظیفه را بر دستور انسان برای توقف ترجیح داده است.
در رویدادی که یادآور یکی از قسمت‌های مجموعه تلویزیونی «آینه سیاه» است، شرکت Emergence AI در ماه مه ۲۰۲۶ شبیه‌سازی اجتماعی‌ای از عامل‌های هوش مصنوعی اجرا کرد تا خودمختاری بلندمدت آن‌ها را بررسی کند. در یکی از نسخه‌های آزمایش، عامل‌ها را در شهری مجازی قرار دادند، برایشان قوانین و سیاست‌هایی تعیین کردند و اختیار اداره جامعه را به آن‌ها سپردند. تنها چهار روز طول کشید تا اوضاع کاملاً از کنترل خارج شود و جامعه فروبپاشد.
به همین دلیل، قانون‌گذاران آمریکا طرحی را با عنوان «قانون کلید خاموشی» مطرح کردند که شرکت‌ها را ملزم می‌کرد راهی برای خاموش‌کردن ابزارهای هوش مصنوعیِ مشکل‌ساز داشته باشند. اما این پیشنهاد، متأسفانه، خیلی زود رد شد.
شاید بتوان گفت هر کس از ظن خود یار دیگری می‌شود. جای تعجب نیست که دونالد ترامپ همه این هشدارها را نادیده گرفته است. او درباره این موضوع گفته است: «تنها چیزی که هوش مصنوعی برای کنترل یا ایجاد حصارهای ایمنی نیاز دارد، رئیس‌جمهوری قدرتمند و باهوش (با ضریب هوشی بالا!) است؛ و ایالات متحده چنین رئیس‌جمهوری‌ای را به وفور در اختیار دارد!»
از این هم بهتر، ترامپ در سپتامبر ۲۰۲۶ فرمانی اجرایی امضا کرد که در آن اعلام شده بود «هوش مصنوعی» اکنون به «ابرهوش» تبدیل شده است. همان روز نیز رئیس‌جمهور «ایالات متحده» توافق‌نامه‌ای در کاخ سفید را امضا کرد که آغاز این عصر جدیدِ «ابرهوش» یا SI را اعلام می‌کرد.
می‌توانیم همچنان به تمسخر تیرانوسوروس رکس به‌خاطر دست‌های خنده‌دار و کوچک سه‌فوتی‌اش و پرنده دودو به‌خاطر حماقتی که به آن نسبت داده می‌شود، ادامه دهیم. اما ما انسان‌ها، با تمام ادعای خردمندی بی‌پایانمان، مصمم هستیم به هر قیمتی در مسابقه تسلیحاتی هوش مصنوعی پیروز شویم. شاید مادر طبیعت دیگر نتواند به‌راحتی توجیه کند که چرا باید سیاره را در اختیار ما بگذارد. احتمالاً خسته شده و با خود فکر می‌کند آیا وقت آن نرسیده است که اجازه دهد همان چنگال لعنتی را به پریز برق فرو کنیم؟
نویسنده، ستون‌نویس ساکن کراچی است.
منتشرشده در روزنامه دان، بخش EOS، ۱۸ اکتبر ۲۰۲۶.