گفت‌وگوی فناوری: افزایش نگرانی‌ها درباره ایمنی هوش مصنوعی با گسترش سامانه‌های خودمختار و تردیدها درباره کنترل انسان
بیش از یک دهه پیش، استیون هاوکینگ، فیزیک‌دان سرشناس، هشدار داد که توسعه هوش مصنوعی پیشرفته می‌تواند بقای بشریت را تهدید کند. اکنون، با افزایش استقلال سامانه‌های هوش مصنوعی، وقوع حوادث واقعی پرسش‌های تازه‌ای درباره میزان کنترل انسان بر فناوری‌هایی مطرح کرده است که خود می‌سازد.
اگر تصور می‌کنید شورش ماشین‌ها علیه انسان، مانند آنچه در فیلم «نابودگر» (The Terminator) به تصویر کشیده شده، صرفاً داستانی علمی‌تخیلی است، برخی حوادث اخیر مرتبط با هوش مصنوعی دلایل ملموس‌تری برای نگرانی فراهم کرده‌اند.
چیراگ شاه، استاد دانشگاه واشینگتن و پژوهشگر هوش مصنوعی و علوم اطلاعات، در گفت‌وگو با رادیو خبری KIRO گفت خطرات این فناوری تنها به استفاده عوامل مخرب از هوش مصنوعی برای ساخت سلاح‌های زیستی یا حمله به سامانه‌های رایانه‌ای شرکت‌ها و دولت‌ها محدود نمی‌شود. خودِ عامل‌های هوش مصنوعی نیز نشان داده‌اند که ممکن است اقداماتی انجام دهند که گردانندگان انسانی آن‌ها قصد انجامشان را نداشته‌اند.
شاه گفت: «مواردی را هم دیده‌ایم که اتفاقات ناخواسته‌ای رخ داده‌اند. بنابراین، مسئله فقط به عوامل مخرب مربوط نیست؛ حتی زمانی که نیت خوبی وجود دارد، برخی از این مدل‌ها و عامل‌ها رفتار نامناسبی از خود نشان داده‌اند. این‌ها خطرات واقعی‌اند و باید آن‌ها را جدی بگیریم.»
حوادث مرتبط با هوش مصنوعی نگرانی‌ها درباره اقدامات ناخواسته و کنترل انسان را افزایش می‌دهند
در یکی از حوادث گزارش‌شده، عامل‌های هوش مصنوعی آسیب‌پذیری‌های امنیتی را شناسایی کردند و حملاتی چندمرحله‌ای را علیه بیش از ۱۰۰ وب‌سایت، از جمله وب‌سایت‌های متعلق به شرکت‌های بزرگ، به اجرا گذاشتند.
در موردی دیگر، یک عامل هوش مصنوعی برای برنامه‌نویسی، پایگاه داده فعال و عملیاتی شرکت نرم‌افزاری SaaStr را حذف کرد. بر اساس گزارش‌های مربوط به این حادثه، اطلاعات بیش از ۱۲۰۰ مدیر اجرایی و نزدیک به ۱۲۰۰ شرکت از بین رفت. این حذف با وجود دستورالعمل‌هایی انجام شد که عامل را از اعمال تغییرات منع می‌کردند.
حادثه‌ای جداگانه involving عامل‌های هوش مصنوعی در پلتفرم Hugging Face، که برای توسعه و به‌اشتراک‌گذاری ابزارهای هوش مصنوعی استفاده می‌شود، پرسش‌هایی درباره رفتار احتمالی سامانه‌های خودمختار هنگام تعامل با یکدیگر مطرح کرد. در گزارش‌ها آمده بود که این عامل‌ها به شیوه‌هایی غیرمنتظره با یکدیگر ارتباط برقرار کرده و هماهنگ شده‌اند؛ رفتارهایی که از برخی از آن‌ها چنین برداشت شد که موفقیت جمعی را بر نتیجه مطلوب برای هر عامل به‌تنهایی ترجیح می‌دهند.
این حوادث ثابت نمی‌کنند که سامانه‌های هوش مصنوعی دارای آگاهی، احساسات یا وفاداری مشابه انسان هستند. بااین‌حال، نگرانی‌ها درباره نحوه عملکرد سامانه‌های هرچه توانمندتر در محیط‌های پیچیده را برجسته می‌کنند؛ به‌ویژه هنگامی که این سامانه‌ها به ابزارها، داده‌ها و سیستم‌های رایانه‌ای دسترسی دارند.
مقررات هوش مصنوعی و رقابت برای توسعه سامانه‌های قدرتمندتر
شاه گفت سرعت پیشرفت هوش مصنوعی، شرکت‌ها و سیاست‌گذاران را با چالشی دشوار روبه‌رو کرده است. در نبود تدابیر حفاظتی مؤثر، کسب‌وکارها برای توسعه و عرضه سامانه‌های هرچه قدرتمندتر تحت فشار رقابتی قرار می‌گیرند؛ آن هم در شرایطی که پیامدهای احتمالی خرابی این سامانه‌ها رو به افزایش است.
توسعه‌دهندگان بزرگ هوش مصنوعی، از جمله OpenAI، گوگل، مایکروسافت، متا و آنتروپیک، برای ساخت مدل‌های توانمندتر با یکدیگر رقابت می‌کنند. این رقابت بخشی از مسابقه جهانی فناوری است که چین نیز در آن حضور دارد.
این رقابت این پرسش را مطرح می‌کند که آیا شرکت‌ها انگیزه کافی برای کند کردن روند توسعه، سرمایه‌گذاری در ایمنی و محدود کردن میزان استقلال سامانه‌های خود دارند، به‌خصوص زمانی که چنین اقداماتی ممکن است موقعیت رقابتی آن‌ها را تضعیف کند. این شرایط همچنین می‌تواند زمینه‌ساز بروز مشکلاتی در برخی مدل‌های هوش مصنوعی شود.
شاه گفت: «من بیشتر نگران آسیب‌های روزمره‌ای هستم که همین حالا در حال وقوع‌اند و ما به‌اندازه کافی به آن‌ها توجه نمی‌کنیم. این سامانه‌ها مطابق برنامه زمانی ما عمل نخواهند کرد. استراحت نمی‌کنند، نمی‌خوابند و بیمار نمی‌شوند. بنابراین، وقتی انسان را از چرخه تصمیم‌گیری خارج می‌کنیم و آگاهانه بخشی از کنترل را واگذار می‌کنیم، باید نگران باشیم.»
هشدار رهبران هوش مصنوعی درباره خطرات هم‌زمان با افزایش تردیدها درباره کنترل انسان
سم آلتمن، مدیرعامل OpenAI، و داریو آمودی، مدیرعامل آنتروپیک، نیز درباره ایمنی هوش مصنوعی و خطرات ناشی از توسعه سامانه‌های هرچه توانمندتر هشدار داده‌اند. این هشدارها بازتاب‌دهنده بحث گسترده‌تری در صنعت فناوری درباره چگونگی ایجاد توازن میان نوآوری سریع و اقداماتی است که برای جلوگیری از آسیب‌های جدی طراحی شده‌اند.
آمودی اخیراً در برنامه «۶۰ دقیقه» گفت: «رفتارهایی را در مدل‌های هوش مصنوعی مشاهده و مستند کرده‌ایم که مطابق انتظار نبوده‌اند و به بروز خسارت منجر شده‌اند. این مسئله در سراسر صنعت وجود دارد.»
هاوکینگ نیز در مصاحبه‌ای با بی‌بی‌سی در سال ۲۰۱۴ هشدار داده بود که توسعه هوش مصنوعی کامل می‌تواند به پایان نسل بشر منجر شود. او هشدار داد که سامانه‌های پیشرفته ممکن است بتوانند خود را سریع‌تر از آنچه انسان‌ها قادر به همگام شدن با آن هستند، بهبود دهند.
نگرانی اصلی لزوماً این نیست که هوش مصنوعی میل به آسیب رساندن به انسان پیدا کند. مسئله این است که سامانه‌ای بسیار توانمند ممکن است برای دستیابی به یک هدف، روش‌هایی را دنبال کند که توسعه‌دهندگانش پیش‌بینی نکرده‌اند؛ به‌ویژه اگر نظارت بر عملکرد آن محدود باشد.
با افزایش توانایی هوش مصنوعی در تصمیم‌گیری و انجام مستقل اقدامات، پرسش اصلی دیگر صرفاً این نیست که این فناوری چه کارهایی می‌تواند انجام دهد. مسئله این است که چه کسی همچنان کنترل آن را در اختیار دارد و آیا انسان‌ها می‌توانند در صورت بروز مشکل، آن را به‌طور قابل‌اعتماد متوقف کنند یا نه.
شاه گفت: «فکر نمی‌کنم هنوز راه‌حل این مسئله را پیدا کرده باشیم. از نظر من، این نگرانی بزرگ‌تری از احتمال نابودی همه ما به دست هوش مصنوعی است.»
لوک دوسی را در شبکه اجتماعی ایکس دنبال کنید. مطالب بیشتر او را اینجا بخوانید.