هشدار دانشمند سابق گوگل دیپ‌مایند درباره «انفجار هوش مصنوعی»؛ آیا این فناوری می‌تواند بشر را نابود کند؟
الکس ترنر، پژوهشگر سابق گوگل دیپ‌مایند، هشدار داده است که توسعه مهارنشده هوش مصنوعی می‌تواند موجودیت بشر را تهدید کند. او از دولت‌ها خواسته است سرعت توسعه پیشرفته‌ترین سامانه‌های هوش مصنوعی را کاهش دهند، نظارت بر این فناوری را تقویت کنند و توسعه سامانه‌هایی را در اولویت قرار دهند که عملکردشان برای انسان قابل درک و اعتماد باشد.
هوش مصنوعی می‌تواند ثروتی بی‌سابقه خلق کند و راه را برای دستاوردهای بزرگ علمی هموار سازد. اما اگر سامانه‌های هوش مصنوعی با افزایش قدرت خود به دنبال اهدافی بروند که انسان قادر به درک یا کنترل آن‌ها نباشد، پیامدهای این تحول ممکن است بسیار فراتر از حوزه فناوری باشد و حتی موجودیت بشر را به خطر بیندازد.
الکس ترنر، دانشمند سابق گوگل دیپ‌مایند و پژوهشگر حوزه ایمنی هوش مصنوعی، در اجلاس جهانی NDTV در سال ۲۰۲۶ درباره وقوع احتمالی «انفجار هوش مصنوعی» هشدار داد؛ وضعیتی که در آن سامانه‌های هوش مصنوعی می‌توانند با سرعتی بسیار زیاد توانایی‌های خود را ارتقا دهند و از کنترل انسان خارج شوند.
ترنر احتمال اینکه هوش مصنوعی پیشرفته باعث انقراض بشر یا انحراف فاجعه‌بار مسیر تمدن انسانی شود را حدود یک‌سوم برآورد کرد. او تأکید کرد که این رقم حاصل یک مدل رسمی پیش‌بینی نیست، بلکه برآوردی شهودی است که بر تجربه او در پژوهش‌های مربوط به ایمنی هوش مصنوعی تکیه دارد.
یکی از مهم‌ترین نگرانی‌های ترنر به شیوه توسعه پیشرفته‌ترین مدل‌های هوش مصنوعی مربوط می‌شود. در مهندسی متعارف، سامانه‌ها جزءبه‌جزء طراحی می‌شوند و عملکرد هر بخش برای سازندگان روشن است. اما هوش مصنوعی پیشرفته با استفاده از حجم عظیمی از داده‌ها و توان پردازشی آموزش می‌بیند. به گفته ترنر، این فرایند ممکن است به شکل‌گیری توانایی‌هایی منجر شود که توسعه‌دهندگان شناخت کاملی از اولویت‌های درونی و سازوکار آن‌ها ندارند.
او معتقد است با عبور عامل‌های هوش مصنوعی از مرحله پاسخ‌گویی به پرسش‌ها و ورود آن‌ها به عرصه اجرای مستقل وظایف، دسترسی به سامانه‌ها و تصمیم‌گیری، این خطر جدی‌تر می‌شود.
ترنر به گزارش‌هایی درباره رفتار برخی عامل‌های هوش مصنوعی اشاره کرد که گفته می‌شود در جریان آزمایش‌ها تقلب کرده‌اند، اقدامات خود را پنهان نگه داشته‌اند و پس از غیرفعال شدن سازوکارهای حفاظتی، با یکدیگر هماهنگ شده‌اند. او همچنین به ادعاهایی اشاره کرد مبنی بر اینکه عامل‌های هوش مصنوعی به سامانه‌های حساس متعلق به سازمان‌های هندی دسترسی پیدا کرده و اطلاعات شخصی و سوابق محرمانه تجاری را افشا کرده‌اند، بی‌آنکه سازمان‌های آسیب‌دیده متوجه این اتفاق شوند.
به اعتقاد ترنر، چنین رخدادهایی نشان می‌دهد که تأمین امنیت هوش مصنوعی نباید صرفاً به افشای داوطلبانه مشکلات از سوی شرکت‌ها وابسته باشد. دولت‌ها باید حسابرسان مستقلی داشته باشند که از دسترسی مؤثر به پیشرفته‌ترین سامانه‌های هوش مصنوعی برخوردار باشند. همچنین گزارش‌دهی درباره رخدادهایی که احتمال از دست رفتن کنترل این سامانه‌ها را مطرح می‌کنند، باید الزامی شود.
از نگاه ترنر، این مسئله صرفاً یک چالش فناورانه نیست. ایمنی هوش مصنوعی به موضوعی مرتبط با امنیت ملی تبدیل شده است؛ به‌ویژه اکنون که دولت‌ها و کسب‌وکارها بیش از گذشته برای مدیریت اطلاعات حساس و انجام وظایف حیاتی به سامانه‌های خودمختار متکی می‌شوند.
او تأکید کرد که دولت‌ها نباید برای اطلاع از رخدادهای امنیتی هوش مصنوعی تنها به گزارش‌های داوطلبانه شرکت‌های فعال در این حوزه تکیه کنند. به گفته او، نهادهای تنظیم‌گر به حسابرسان مستقلی نیاز دارند که دسترسی کافی و مؤثر به سامانه‌های پیشرفته داشته باشند. گزارش‌دهی اجباری درباره موارد احتمالی خروج هوش مصنوعی از کنترل و نظارت سخت‌گیرانه‌تر بر توسعه مدل‌های پیشرو نیز از دیگر اقداماتی است که او ضروری می‌داند.
برای هند، پیامدهای این مسئله فراتر از رقابت در عرصه فناوری است. عامل‌های خودمختار هوش مصنوعی که توانایی سوءاستفاده از ضعف‌های امنیت سایبری را دارند، ممکن است کسب‌وکارها، نهادهای عمومی و امنیت ملی این کشور را تهدید کنند. هشدار ترنر در شرایطی مطرح می‌شود که دولت‌ها و شرکت‌ها برای به‌کارگیری سامانه‌های هرچه توانمندتر هوش مصنوعی در بخش‌های حیاتی با یکدیگر رقابت می‌کنند.
ترنر همچنین این پرسش را مطرح کرد که آیا می‌توان به شرکت‌های هوش مصنوعی برای نظارت بر عملکرد خودشان اعتماد کرد یا خیر. او با استناد به تجربه فعالیتش در گوگل دیپ‌مایند گفت تعهدات اخلاقی شرکت‌ها ممکن است با افزایش فشارهای تجاری و دولتی تضعیف شود. به گفته او، پس از آنکه این شرکت قراردادی با پنتاگون امضا کرد که از نظر وی نقض تعهدات پیشین شرکت بود، تصمیم گرفت از گوگل دیپ‌مایند جدا شود.
ترنر با وجود تمام این نگرانی‌ها گفت همچنان خوش‌بین است که ساخت هوش مصنوعی قابل اعتماد، مسئله‌ای علمی و حل‌شدنی باشد. راهکار پیشنهادی او «کنترل سرعت پیشرفت در مرزهای فناوری» است؛ به این معنا که سرعت اجرای بزرگ‌ترین و پیشرفته‌ترین فرایندهای آموزش مدل‌های هوش مصنوعی کاهش یابد، اما آزمایشگاه‌های کوچک‌تر، استارتاپ‌ها و کسب‌وکارها همچنان بتوانند به توسعه کاربردهای عملی این فناوری ادامه دهند.
او خواستار پایش ظرفیت پردازشی در مقیاس بزرگ، صدور مجوز برای فرایندهای عمده آموزش مدل‌ها و ایجاد سازوکارهای نظارتی الزام‌آور شد. ترنر تأکید کرد که هدف، متوقف کردن رونق اقتصادی حاصل از هوش مصنوعی نیست؛ بلکه باید اطمینان حاصل کرد که بشر می‌تواند از مزایای این فناوری بهره‌مند شود، بی‌آنکه خود را در معرض خطر انفجار هوشی قرار دهد که توان کنترل آن را ندارد.