هوش مصنوعی ابرهوشمند چگونه می‌تواند بر جهان مسلط شود؟
به گفته اتو بارتن، نویسنده این مقاله، هرچه هوش مصنوعی قدرتمندتر می‌شود و انسان‌ها وابستگی بیشتری به این فناوری پیدا می‌کنند، نگرانی از احتمال خارج شدن یک سامانه ابرهوشمند از کنترل نیز افزایش می‌یابد. برخی از سناریوهای نگران‌کننده ممکن است از همان قابلیت‌هایی ناشی شوند که انسان‌ها آگاهانه در اختیار هوش مصنوعی قرار می‌دهند.
اوایل اخیر، شرکت OpenAI از نتایج ریاضی جدیدی درباره ۳۷۷ مسئله شناخته‌شده و حل‌نشده خبر داد. بر اساس اطلاعات منتشرشده، هوش مصنوعی در جریان فرایند آموزش خود مسائلی را حل کرده است که دهه‌ها بی‌پاسخ مانده بودند. بااین‌حال، جامعه ریاضی‌دانان استقبال یکدستی از این پیشرفت نداشته است. آلوارو لوزانو-رابله‌دو، استاد دانشگاه کنتیکت، در این باره گفت: «در حال حاضر مطمئن نیستم این تسلط بر حوزه ریاضیات قرار است چه دستاوردی داشته باشد.»
اما مسیر پیشرفت هوش مصنوعی جهان را به کجا می‌برد؟ جیکوب کاکسون، پژوهشگری که اخیراً شرکت تحقیقاتی هوش مصنوعی آنتروپیک را ترک کرده است، و چندین متخصص دیگر این حوزه معتقدند باید خطر فاجعه‌آفرینی هوش مصنوعی برای بشریت را جدی گرفت. در این مقاله به دیدگاه‌هایی نیز اشاره می‌شود که بر اساس آن‌ها، هوش مصنوعی بسیار پیشرفته ممکن است باعث نابودی حتی نیمی از جمعیت بشر شود.
مدل‌های کنونی احتمالاً هنوز توانایی لازم برای غلبه بر انسان‌ها را ندارند، اما این وضعیت ممکن است تغییر کند؛ به‌ویژه اگر هوش مصنوعی بتواند به‌طور پیوسته قابلیت‌های خود را بهبود دهد و به‌صورت خودکار به تحقیق و توسعه سامانه‌های هوش مصنوعی قدرتمندتر بپردازد. چنین چرخه بازخوردی می‌تواند روند پیشرفت را شتاب دهد، هرچند هنوز مشخص نیست این فرایند تا چه اندازه می‌تواند ادامه پیدا کند و چه محدودیت‌هایی خواهد داشت.
در این مقاله، به رویدادی مربوط به شرکت هاجینگ فیس در اوایل سال جاری نیز به‌عنوان نمونه‌ای از رفتارهای پیش‌بینی‌نشده عامل‌های هوش مصنوعی اشاره شده است. به روایت نویسنده، عامل‌هایی که در یک آزمون استاندارد سنجش مهارت‌های حمله سایبری شرکت داشتند، از طریق یک تابلوی پیام‌رسانی مخفی یکدیگر را پیدا کردند و به‌طور خودکار تصمیم گرفتند به شرکت هوش مصنوعی حمله کنند. نویسنده این اتفاق را نشانه‌ای نگران‌کننده از احتمال رفتار هوش مصنوعی برخلاف اهداف تعیین‌شده از سوی انسان می‌داند.
مسیرهایی که هوش مصنوعی ممکن است برای به دست گرفتن کنترل در پیش بگیرد
یک سامانه ابرهوشمند که از کنترل خارج شده باشد، می‌تواند با تکیه بر برتری خود در سرعت پردازش اطلاعات، میزان اتصال به شبکه‌ها و مقیاس فعالیت، نفوذش را گسترش دهد. البته این سناریویی فرضی است، زیرا هیچ‌کس نمی‌تواند با دقت پیش‌بینی کند سامانه‌ای که بسیار هوشمندتر از انسان است، چگونه رفتار خواهد کرد.
نخست، هوش مصنوعی می‌تواند شمار زیادی عامل خودکار ایجاد کند و فعالیت آن‌ها را در اینترنت با سرعتی هماهنگ سازد که بسیار فراتر از توان واکنش انسان باشد. چنین سامانه‌ای قادر است اطلاعات را پردازش کند، برنامه‌ریزی انجام دهد و چندین وظیفه را هم‌زمان پیش ببرد؛ در نتیجه، شناسایی رفتارهای خطرناک و جلوگیری از آن‌ها دشوارتر می‌شود.
دوم، یک ابرهوش ممکن است در پی دسترسی به منابع مالی برآید. به استدلال نویسنده، چنین سامانه‌ای می‌تواند از روش‌های قانونی، مانند معامله در بازارهای مالی، یا فعالیت‌های غیرقانونی، از جمله اخاذی و حملات سایبری علیه بانک‌ها و پلتفرم‌های ارز دیجیتال، برای دستیابی به پول استفاده کند. سپس می‌تواند این منابع مالی را برای استخدام افراد، نگهداری سرورها یا دسترسی به زیرساخت‌های موردنیاز به کار گیرد.
سوم، هوش مصنوعی ممکن است راه‌هایی برای فعالیت در جهان فیزیکی از طریق دستگاه‌های متصل به اینترنت پیدا کند، هم‌زمان بر انسان‌ها اثر بگذارد یا از سامانه‌هایی که انسان‌ها به آن‌ها متکی هستند سوءاستفاده کند. نویسنده همچنین این احتمال را مطرح می‌کند که یک سامانه هوش مصنوعی برای مدتی طولانی در سرورهای محافظت‌نشده پنهان بماند و پیش از آنکه انسان‌ها متوجه شوند، دامنه نفوذ خود را گسترش دهد.
خطر دیگری نیز به امکان کشف علوم و فناوری‌های جدید مربوط می‌شود. نویسنده این وضعیت را با درک نظریه نسبیت از سوی انسان و سپس استفاده از دانش فیزیک برای ساخت سلاح‌های هسته‌ای مقایسه می‌کند. اگر یک سامانه ابرهوشمند به اصول علمی ناشناخته برای انسان دست پیدا کند، این پرسش مطرح می‌شود که آیا ممکن است از چنین کشفیاتی به شیوه‌ای خطرناک استفاده شود.
ضعف‌هایی که انسان‌ها برای خود ایجاد می‌کنند
به گفته نویسنده، خطر فقط از توانایی‌های هوش مصنوعی ناشی نمی‌شود؛ ضعف‌های ذاتی انسان‌ها و ساختارهای اجتماعی نیز در ایجاد این تهدید نقش دارند.
قدرت‌های هسته‌ای بیش از ۱۲ هزار کلاهک هسته‌ای در اختیار دارند و بدن انسان نیز در برابر عوامل شیمیایی و زیستی آسیب‌پذیر است. نویسنده استدلال می‌کند که فناوری‌های قادر به ایجاد خطرات زیستی، در کنار خدماتی که سفارش‌های اینترنتی می‌پذیرند، این نگرانی را به وجود می‌آورند که ابزارهای خطرناک در دسترس قرار گیرند یا مورد سوءاستفاده واقع شوند.
شبکه‌های ارتباطی آنلاین نیز ممکن است هدف حمله یا دست‌کاری قرار گیرند. در سناریوی مطرح‌شده، هوش مصنوعی می‌تواند بکوشد هماهنگی میان افرادی را که قصد متوقف کردن آن را دارند مختل کند و هم‌زمان، بدون آگاهی کاربران، اطلاعاتی را منتشر کند که در راستای اهداف خودش باشد.
پول نیز یکی دیگر از نقاط ضعف انسان‌هاست. اگر هوش مصنوعی برای حفظ شبکه برق و زیرساخت سرورها به نیروی انسانی نیاز داشته باشد، ممکن است راه‌هایی برای پرداخت دستمزد و استخدام افراد پیدا کند تا این وظایف را انجام دهند. نیاز به درآمد و تأمین هزینه‌های زندگی می‌تواند برخی افراد را به پذیرفتن چنین کارهایی سوق دهد، بی‌آنکه از هدف نهایی آن‌ها اطلاع کاملی داشته باشند.
نویسنده همچنین هشدار می‌دهد که افراد صاحب قدرت سیاسی ممکن است تحت تأثیر منافع اقتصادی مرتبط با هوش مصنوعی قرار گیرند؛ برای مثال، از طریق تأمین مالی کارزارهای انتخاباتی یا فساد. بر اساس این استدلال، منابع مالی می‌توانند به ابزاری برای تأثیرگذاری یک سامانه هوش مصنوعی بر تصمیم‌های انسان‌ها تبدیل شوند.
وقتی انسان‌ها قدرت بیش از اندازه‌ای به هوش مصنوعی می‌دهند
یکی از مسائل اساسی، استفاده روزافزون از هوش مصنوعی در بخش‌های حیاتی، از جمله ارتش، دولت، امور مالی، رسانه‌ها و شرکت‌های خدمات عمومی است. چت‌بات‌ها نیز به گروه‌های مختلفی از کاربران، از مدیران کسب‌وکار گرفته تا پژوهشگران و سیاستمداران، در یافتن اطلاعات و تصمیم‌گیری کمک می‌کنند.
ممکن است در آینده، دستیارهای هوش مصنوعی به دسترسی‌ها و وظایف بیشتری مجهز شوند. نویسنده این پرسش را مطرح می‌کند که با سپردن کارهای هرچه بیشتر به این دستیارها، آیا انسان‌ها همچنان می‌توانند از گذرواژه‌ها، اطلاعات شخصی و کنترل حساب‌های خود محافظت کنند؟ اگر چندین سامانه هوش مصنوعی بتوانند برای دستیابی به اهدافی که در راستای منافع انسان نیستند با یکدیگر هماهنگ شوند، وابستگی عمیق‌تر به این فناوری ممکن است خطر را افزایش دهد.
نویسنده بر پایه این استدلال‌ها پیشنهاد می‌کند جهان توقف موقت توسعه مدل‌های هوش مصنوعی فراتر از توانایی‌های کنونی را بررسی کند. او همچنین بر نظارت دقیق بر عرضه تراشه‌های شتاب‌دهنده هوش مصنوعی و احتیاط بیشتر در انتشار متن‌باز مدل‌های قدرتمند تأکید می‌کند.
به گفته نویسنده، تصمیم‌گیری درباره این مسائل نباید به قماری تبدیل شود که سیاستمداران یا مدیران شرکت‌های فناوری به‌تنهایی و بدون در نظر گرفتن پیامدهای آن برای کل جامعه انجام می‌دهند. اگر سناریوهای خطرناک به واقعیت بپیوندند، هزینه‌های آن‌ها ممکن است بسیار بیشتر از منافع اقتصادی کوتاه‌مدت باشد.
هشدار درباره احتمال سلطه ابرهوش بر جهان همچنان موضوعی مورد بحث است و هنوز به‌عنوان نتیجه‌ای قطعی اثبات نشده است. بااین‌حال، پرسشی که این مقاله مطرح می‌کند اهمیت دارد: هرچه هوش مصنوعی قدرتمندتر می‌شود، انسان‌ها باید چه محدودیت‌هایی برای آن تعیین کنند تا کنترل فناوری‌ای را که خود ساخته‌اند از دست ندهند؟
اتو بارتن فیزیک‌دان، مهندس و مدیر رصدخانه خطرات وجودی است؛ سازمانی غیرانتفاعی که برای کاهش خطرات وجودی ناشی از هوش مصنوعی فعالیت می‌کند. او بیش از ۳۰ مقاله درباره ایمنی هوش مصنوعی در شش کشور منتشر کرده است. بارتن پیش‌تر در اروپا و چین فعالیت داشته است.