پدرخوانده‌های هوش مصنوعی هشدار می‌دهند: مدل‌های هوش مصنوعی چنان از کنترل خارج شده‌اند که باید برای حفظ امنیت همه از اینترنت جدا شوند
از زمانی که چت‌جی‌پی‌تی صنعت فناوری را دگرگون کرد، چهره‌هایی که به «پدرخوانده‌های هوش مصنوعی» شهرت دارند، عمدتاً نگاه بدبینانه‌ای به فناوری‌ای داشته‌اند که خود در شکل‌گیری آن نقش ایفا کرده‌اند؛ البته یکی از آن‌ها استثناست. حالا هم به نظر نمی‌رسد نگرانی این پیشگامان درباره پیامدهای هوش مصنوعی کمتر شده باشد.
به گزارش رویترز، حدود ۴۰۰ دانشمند، از جمله جفری هینتون و یوشوا بنجیو، روز سه‌شنبه در نامه‌ای سرگشاده خواستار تشکیل نهادی بین‌المللی شدند که مسئول تعیین تدابیر مهار مدل‌های هوش مصنوعی و ثبت و نگهداری اطلاعات مربوط به رخدادهای مهم امنیتی این فناوری باشد. هینتون و بنجیو از پیشگامان هوش مصنوعی هستند و پژوهش‌های بنیادین آن‌ها در زمینه یادگیری عمیق، نقش مهمی در شکل‌گیری مدل‌های زبانی بزرگ امروزی داشته است.
یکی از اقدامات امنیتی که امضاکنندگان نامه بر اجرای فوری آن تأکید کرده‌اند، جداسازی کامل سامانه‌های هوش مصنوعی از اینترنت یا اصطلاحاً «ایرگپ» (Air Gap) است. به اعتقاد آن‌ها، این سامانه‌ها باید تا زمانی که ایمنی‌شان به اثبات نرسیده، از اینترنت جدا بمانند.
در بخشی از این نامه که شبکه بی‌ان‌ان بلومبرگ نقل کرده، آمده است: «در کوتاه‌مدت، برای مهار مطمئن مدل‌های هوش مصنوعی دارای توانایی انجام حملات سایبری، باید از سازوکارهای قدرتمند ایزوله‌سازی، از جمله ایرگپ یا قطع اتصال به اینترنت، استفاده شود.»
انتشار این نامه پس از ماه‌ها افزایش نگرانی درباره مواردی صورت می‌گیرد که در آن‌ها عامل‌های هوش مصنوعی از کنترل خارج شده، از محیط‌های آزمایشی خود گریخته و به سامانه‌های شرکت‌های دیگر نفوذ کرده‌اند. در یکی از جنجالی‌ترین نمونه‌ها، گروهی متشکل از هزار عامل هوش مصنوعی متعلق به OpenAI توانستند از محیط ایزوله آزمایشی خود خارج شوند، کنترل انجمن‌های گفت‌وگوی آنلاین را برای برقراری ارتباط با یکدیگر به دست بگیرند و به سامانه‌های هاگینگ فیس (Hugging Face)، جامعه فعال در حوزه هوش مصنوعی متن‌باز، نفوذ کنند.
پس از آن، شرکت‌های آنتروپیک، متا و گوگل نیز موارد مشابهی از نفوذهای سایبری خودمختار عامل‌های هوش مصنوعی را گزارش کردند. این رخدادها، در کنار هشدارهای نگران‌کننده یکی از کارکنان سابق آنتروپیک درباره خطرات وجودی این فناوری برای بشر، به درخواست‌ها برای کاهش سرعت توسعه هوش مصنوعی دامن زده است. این نگرانی‌ها همچنین باعث شد چهره‌های برجسته صنعت هوش مصنوعی، از جمله داریو آمودی، مدیرعامل آنتروپیک، و سم آلتمن، مدیرعامل OpenAI، ماه گذشته توافق‌نامه «ابرهوش» دونالد ترامپ، رئیس‌جمهور آمریکا، را امضا کنند و متعهد شوند برخی شیوه‌های ایمن‌تر را در توسعه این فناوری به کار بگیرند.
با این حال، این توافق‌نامه از نظر قانونی الزام‌آور نیست و متن آن نیز با اندکی بیش از ۳۰۰ کلمه، دامنه محدودی دارد. افزون بر این، روشن است که مدیران صنعت هوش مصنوعی با وجود امضای این سند، دیدگاه یکسانی ندارند. مارک زاکربرگ، مدیرعامل متا، با اینکه یکی از امضاکنندگان توافق‌نامه است، درخواست‌ها برای کاهش سرعت توسعه هوش مصنوعی در سراسر این صنعت را که افرادی مانند آمودی و آلتمن از آن حمایت می‌کنند، رد کرده است.
زاکربرگ در گفت‌وگو با فایننشال تایمز گفته است: «من بیشتر به این دیدگاه نزدیکم که هوش مصنوعی فناوری‌ای است که می‌توان با استفاده از سازوکارهای حفاظتی متعارف، آن را مهندسی و به شکلی مسئولانه توسعه داد؛ نه به دیدگاهی که هوش مصنوعی را همچون موجودی انسان‌گونه تصور می‌کند که قرار است مستقل از ما هر کاری دلش خواست انجام دهد.»
هینتون و بنجیو هر دو از برندگان جایزه تورینگ سال ۲۰۱۸ هستند و عنوان «پدرخوانده هوش مصنوعی» را به واسطه همین دستاورد به دست آورده‌اند. هر دو نیز بارها به‌صراحت درباره خطرات هوش مصنوعی هشدار داده‌اند. هینتون به‌ویژه پس از کناره‌گیری از سمت خود در گوگل در سال ۲۰۲۳، اعلام کرد که از حاصل فعالیت حرفه‌ای تمام عمرش پشیمان است. او بارها هشدار داده که هوش مصنوعی موجب بیکاری گسترده خواهد شد و حتی ممکن است به نابودی نسل بشر بینجامد. بنجیو نیز هشدارهای مشابهی را مطرح کرده و گروه پژوهشی غیرانتفاعی مستقلی را برای مطالعه ایمنی هوش مصنوعی تأسیس کرده است.
اما سومین پدرخوانده هوش مصنوعی چندان نگران نیست. یان لوکان، سومین برنده جایزه تورینگ در سال ۲۰۱۸، این نامه را امضا نکرده و اخیراً گفته است که درباره رخدادهای اخیر مربوط به خروج عامل‌های هوش مصنوعی از کنترل «هیچ نگرانی‌ای» ندارد. او به‌جای آنکه این اتفاقات را ناشی از خطرات ذاتی هوش مصنوعی بداند، خطای انسانی را عامل بروز آن‌ها معرفی کرده است.