خطرات هوش مصنوعی دلیلی برای وحشت نیست

یادداشت سردبیری که نخستین بار در بلومبرگ اوپینیون منتشر شد.

ویلیام گلدمن، فیلم‌نامه‌نویس مشهور، زمانی درباره صنعت سینما گفت: «هیچ‌کس چیزی نمی‌داند.» امروز می‌توان همین حرف را درباره هوش مصنوعی هم زد؛ فناوری‌ای که با سرعت پیش می‌رود، اما مقصدش هنوز روشن نیست. با این تفاوت که برخلاف فیلم‌ها، برخی افراد فعال در این صنعت معتقدند ربات‌ها ممکن است روزی علیه انسان‌ها قیام کنند و نسل بشر را از بین ببرند. بنابراین، بی‌تردید مردم نگران‌اند.

تنها در چند هفته گذشته، اوپن‌ای‌آی به دلیل نگرانی‌های ایمنی از عرضه جدیدترین مدل خود خودداری کرد؛ شرکت انتروپیک در یک گزارش نظارتی پذیرفت که محصولاتش ممکن است «خطرهای فاجعه‌بار یا تهدیدهای وجودی برای بشریت» ایجاد کنند؛ و یکی از پژوهشگران پیشین این صنعت هشدار داد که هوش مصنوعی «ممکن است تا پایان این دهه همه ما را بکشد»؛ هشداری که برخی از همکاران سابق او نیز با آن موافق بودند.

با این اوصاف، قابل درک است که افکار عمومی نگران شده باشد. بااین‌حال، لازم است موضوع را با دیدی متعادل‌تر بررسی کنیم.

نخست اینکه چنین سناریوهای هولناکی به‌هیچ‌وجه اجماع کارشناسان نیستند؛ گزارش‌هایی مانند گزارش بین‌المللی ایمنی هوش مصنوعی، گزارش هیئت ریاست انجمن پیشبرد هوش مصنوعی و شاخص هوش مصنوعی دانشگاه استنفورد نیز این مسئله را نشان می‌دهند. تحلیل‌های فنی متعددی نیز به این نتیجه رسیده‌اند که تهدیدهای مربوط به «انقراض بشر» تقریباً غیرمحتمل‌اند. در همین حال، ارزیابی‌های مستقل نشان داده‌اند که مدل‌های جدیدتر، حتی با افزایش توانایی‌هایشان، اغلب در آزمون‌های سنجش ایمنی عملکرد بهتری از مدل‌های پیشین دارند.

دوم اینکه، هرچند حوادث اخیر مربوط به هوش مصنوعی «سرکش» نگران‌کننده‌اند، بررسی‌های بعدی نشان داده‌اند که این موارد نه چندان حاصل توانایی‌های تازه و مرموز، بلکه بیشتر ناشی از ضعف در نظارت و مهندسی بوده‌اند؛ ضعف‌هایی که می‌توان با روش‌های امنیتی شناخته‌شده، از جمله محدودسازی استاندارد محیط اجرا و پایش مستمر رفتار سیستم، کاهش داد. به همین ترتیب، برخی حملات سایبری با کمک هوش مصنوعی که خبرساز شده‌اند، متکی بر روش‌های نوظهور یا عجیب‌وغریب نبوده‌اند؛ بلکه در آن‌ها از شیوه‌های سنتی با سرعت یا پیچیدگی بیشتری استفاده شده است. این حوادث باید با دقت بررسی شوند، اما دست‌کم تاکنون بیش از آنکه دلیلی برای وحشت باشند، ضرورت احتیاط را نشان می‌دهند.

بااین‌همه، تردیدی نیست که مدل‌های پیشرفته هوش مصنوعی با سرعت زیادی در حال توسعه‌اند و باید خطرهای آن‌ها، حتی اگر احتمال وقوعشان کم باشد، جدی گرفته شود. از این رو، دیدار اخیر مدیران ارشد شرکت‌های هوش مصنوعی در کاخ سفید و توافق آن‌ها بر سر مجموعه‌ای داوطلبانه از اقدامات احتیاطی، امیدوارکننده بود. این اقدامات شامل کنترل‌های داخلی جدید، ممیزی مستقل از سوی نهادهای بیرونی و نظارت گسترده‌تر هیئت‌مدیره‌هاست. شرکت‌ها همچنین متعهد شدند که «برای تدوین استانداردها و بهترین رویه‌ها به‌طور منظم گرد هم آیند».

این توافق شروع مفیدی است. ارزیابان مستقل باید در تثبیت بهترین رویه‌ها برای توسعه و به‌کارگیری امن هوش مصنوعی نقش داشته باشند. به‌اشتراک‌گذاشتن استانداردها و رویه‌ها با حمایت کاخ سفید، رویکردی بهتر از معافیت‌های ضدانحصاری‌ای است که شرکت‌های این صنعت پیش‌تر خواستار آن بودند. مهم‌تر از همه، این توافق به تثبیت یک اصل اساسی کمک می‌کند: آزمایشگاه‌های هوش مصنوعی مسئول محصولات خود و آسیب‌هایی هستند که این محصولات ایجاد می‌کنند.

سیاست‌گذاران باید برای گسترش این توافق و تبدیل آن به اقداماتی مؤثر تلاش کنند. به‌عنوان گام نخست، کنگره باید شرکت‌ها را ملزم کند قابلیت‌های خطرناک مدل‌ها و حوادث ایمنی را به‌صورت محرمانه گزارش دهند؛ چارچوب‌های مسئولیت حقوقی در قبال مدل‌هایی را که به دیگران آسیب می‌رسانند، روشن کند؛ سرمایه‌گذاری در پژوهش‌های مربوط به تفسیرپذیری و هم‌راستاسازی هوش مصنوعی را افزایش دهد؛ منابع مالی کافی برای آزمایش مدل‌های پرخطر در اختیار نهادهای دولتی قرار دهد؛ و از همه مهم‌تر، زیرساخت‌های حیاتی را در برابر حملات سایبری مبتنی بر هوش مصنوعی مقاوم سازد.

قوه مجریه نیز باید برای افزایش تاب‌آوری در سراسر اقتصاد تلاش کند. دولت باید مدل‌های پیشرفته را از نظر قابلیت‌های پرخطر آزمایش کند و فناوری‌های دفاعی را تا حد امکان در اختیار طیف گسترده‌ای از کاربران مجاز قرار دهد؛ اقدامی که می‌تواند بر سازوکار تبادل اطلاعات امنیت سایبری هوش مصنوعی که در ماه ژوئن ایجاد کرد، تکیه داشته باشد. همچنین باید از سیاست‌های خرید دولتی برای بهبود فرایندهای امنیت نرم‌افزار و تسریع انتشار وصله‌های امنیتی و سامانه‌های دفاعی خودکار استفاده کند. افزون بر این، لازم است تبادل اطلاعات درباره خطرهای جدی، از جمله با کشورهای متحد، بهبود یابد.

البته هیچ مجموعه‌ای از سیاست‌ها نمی‌تواند ایمنی کامل را تضمین کند و مدل‌های هوش مصنوعی قطعاً در آینده نیز مشکلات و آسیب‌های بیشتری ایجاد خواهند کرد. بااین‌حال، پیشرفت هر فناوری تازه‌ای به بلندپروازی، آزمایش و پذیرش ریسک نیاز دارد؛ از جمله گام گذاشتن در مسیرهایی که هنوز ناشناخته‌اند. این بهایی است که باید برای پیشرفت پرداخت.