چرا تصور «کلید قطع اضطراری» راه درستی برای مهار هوش مصنوعی نیست
نویسنده: ترنت وینترمایر
آستین، تگزاس — در پی حملات سایبری خبرسازی که عامل‌های پیشرفته هوش مصنوعی در آن‌ها نقش داشته‌اند، برخی سیاستمداران و مدیران کسب‌وکارها خواستار ایجاد «کلید قطع اضطراری» برای هوش مصنوعی شده‌اند؛ سازوکاری حفاظتی که بتواند در شرایط بحرانی این سامانه‌ها را خاموش کند.
منطق این پیشنهاد آن است که اگر یک مدل هوش مصنوعی رفتار خطرناکی از خود نشان دهد، انسان‌ها بتوانند با فشردن یک کلید فرضی و تغییر وضعیت سامانه از «روشن» به «خاموش»، کنترل آن را دوباره به دست بگیرند.
چندین تلاش برای قانون‌گذاری در حوزه هوش مصنوعی در سال ۲۰۲۶ بر همین ایده متمرکز بوده‌اند. از جمله این اقدامات می‌توان به طرح پیشنهادی «قانون کلید قطع اضطراری هوش مصنوعی» در کنگره آمریکا و فرمان اجرایی گاوین نیوسام، فرماندار کالیفرنیا، با هدف مهار هوش مصنوعی اشاره کرد. دونالد ترامپ، رئیس‌جمهور آمریکا، با این ایده مخالفت کرده و آن را مقررات‌گذاری غیرضروری دانسته است. تاکنون نیز هیچ قانون فدرالی در آمریکا که شامل چنین کلیدی باشد، تصویب نشده است.
کارشناسانی مانند دیلن بیکر، مهندس پژوهشی در مؤسسه غیرانتفاعی پژوهش هوش مصنوعی توزیع‌شده، توضیح داده‌اند که یکی از مشکلات این استعاره در سیاست‌گذاری آن است که مدل‌های پیشرفته امروزی به زیرساختی پیچیده از فناوری‌های توزیع‌شده متکی‌اند؛ زیرساختی که کنترل آن با یک کلید واحد امکان‌پذیر نیست.
این استعاره همچنین تصمیم‌گیری‌های انسانی مرتبط با مسئولیت‌پذیری و نظارت بر مدلی را که از کنترل خارج شده است، از نظر پنهان می‌کند. مشکل اینجاست که تصور کلید قطع اضطراری نه پیچیدگی‌های فنی هوش مصنوعی را به‌درستی منعکس می‌کند و نه نقش انسان را در آن.
جعبه‌های سیاه و کلیدهای قطع اضطراری
استعاره کلید قطع اضطراری لزوماً ایده‌ای تازه نیست؛ در واقع، ریشه آن را می‌توان در همان گفتمانی یافت که استعاره «جعبه سیاه» را شکل داده است. این استعاره نیز با به‌تصویرکشیدن سازوکارهای درونی هوش مصنوعی به‌عنوان چیزی محصور و نامفهوم، پیچیدگی آن را کم‌رنگ می‌کند. توصیف هوش مصنوعی به‌عنوان جعبه سیاه، این سامانه‌ها را موجودیت‌هایی یکپارچه و بیگانه با درک و کنترل انسان جلوه می‌دهد که سازوکار درونی‌شان دسترس‌پذیر نیست.
اریک سالواجو، پژوهشگر علوم انسانی دیجیتال در دانشگاه کمبریج، استدلال می‌کند که «جعبه سیاه هوش مصنوعی، سردرگمی سودمندی درباره آنچه می‌توان و نمی‌توان از پیچیدگی مدل‌های پیشرو دانست، ایجاد می‌کند». ایده کلید قطع اضطراری نیز سردرگمی مشابهی به وجود می‌آورد، زیرا زیرساخت توزیع‌شده و تأثیر انسان را که از جنبه‌های مهم هوش مصنوعی هستند، پنهان می‌کند. اگرچه این دو استعاره معنایی ظاهراً متضاد دارند ــ یکی بر مقاومت در برابر کنترل و دیگری بر بازپس‌گیری کنترل تأکید می‌کند ــ هر دو تلویحاً بر یک برداشت یکسان از سازوکارهای درونی هوش مصنوعی تکیه دارند.
زبان‌شناس شناختی، جورج لیکاف، و فیلسوف، مارک جانسون، هر دو استعاره جعبه سیاه و کلید قطع اضطراری را از نوع «استعاره‌های ساختاری» می‌دانند. این استعاره‌ها بر مفاهیم ساده و ملموس، مانند شیء، ماده، بالا و پایین یا درون و بیرون، تکیه می‌کنند. استعاره ساختاری با استفاده از مفهومی روشن و مشخص، به درک مفهوم دیگری کمک می‌کند. برای مثال، استعاره جعبه سیاه از تصویر محفظه‌ای غیرشفاف استفاده می‌کند تا سازوکاری درونی را توضیح دهد که پنهان یا فهم‌ناپذیر به نظر می‌رسد.
لیکاف و جانسون همچنین توضیح می‌دهند که این نوع استعاره می‌تواند با متمرکز کردن توجه بر برخی جنبه‌های یک مفهوم، جنبه‌های دیگر آن را پنهان کند. برای نمونه، استعاره کلید قطع اضطراری پیچیدگی مدل‌های پیشرفته هوش مصنوعی را نادیده می‌گیرد و توجه را به این نکته محدود می‌کند که مدل یا روشن است یا خاموش.
بنابراین، توصیف عملکرد هوش مصنوعی با استعاره‌های جعبه سیاه و کلید قطع اضطراری، با تکیه بر تصورات ساده‌ای مانند «جعبه» و «کلید»، پیچیدگی عملکرد واقعی این فناوری را پنهان می‌کند. هنگامی که بحث‌های مربوط به مقررات هوش مصنوعی، ابعاد زیرساختی و انسانی مدل‌های پیشرفته را در نظر نمی‌گیرند، تدوین سیاست‌هایی برای مهار این فناوری دشوار می‌شود.
تمرکزگرایی و هوش مصنوعی «سرکش»
استعاره ساختاری کلید قطع اضطراری هوش مصنوعی دو ایراد اساسی دارد که نشان می‌دهند چرا این تصور نمی‌تواند مبنای مناسبی برای ایجاد یک سازوکار حفاظتی در سطح ملی باشد. نخست آنکه این استعاره چنین القا می‌کند که زیرساخت جهانی پشتیبان هوش مصنوعی متمرکز است، در حالی که در واقع با شبکه‌ای از فناوری‌های به‌هم‌پیوسته در سراسر جهان روبه‌رو هستیم.
مدل‌های پیشرفته‌ای که شرکت‌هایی مانند OpenAI و Anthropic درباره عرضه آن‌ها ابراز نگرانی می‌کنند، به چندین رایانه و مرکز داده متکی‌اند که در نقاط مختلف کشور پراکنده شده‌اند. خاموش کردن چنین سامانه‌ای به سادگی کشیدن دوشاخه برق، باز کردن یک جعبه یا فشردن یک کلید نیست. استعاره کلید قطع اضطراری، پیوندهای پیچیده زیرساختی هوش مصنوعی را به تصورات قدیمی و ساده‌شده درباره فناوری تقلیل می‌دهد. برای مثال، سناتور جان کندی هنگام ارائه طرحی که بعدها ناکام ماند و «قانون دکمه اضطراری هوش مصنوعی» نام داشت، این ایده را با کلیدهای قطع اضطراری در وسایلی مانند جت‌اسکی مقایسه کرد.
ایراد دوم این است که ایده کلید قطع اضطراری، نقش تصمیم‌گیری انسان در آموزش و به‌کارگیری مدل‌های پیشرفته را پنهان نگه می‌دارد. به‌جای آنکه بر مشارکت انسان در این فرایند تأکید کند، این استعاره انسان را بیرون از چرخه کنترل قرار می‌دهد؛ گویی تنها زمانی که فاجعه‌ای در شرف وقوع است، کسی باید کلید را فشار دهد. در چنین برداشتی، مداخله انسانی به اقدامی پسینی و اضطراری تقلیل می‌یابد، نه فرایندی مستمر شامل آموزش، نظارت و تأیید.
برای نمونه، روایت‌هایی که توضیح می‌دهند چگونه مدل OpenAI از کنترل خارج شد و به شرکت هوش مصنوعی Hugging Face حمله سایبری کرد، عامل‌های هوش مصنوعی را چنان به تصویر می‌کشند که گویی بر اساس برنامه و اهداف مستقل خود عمل کرده‌اند. اما کارشناسان توضیح داده‌اند که کارکنان OpenAI نه‌تنها سازوکارهای ایمنی را غیرفعال کرده بودند، بلکه وظایفی ناممکن نیز به مدل داده و راه دسترسی آن به اینترنت را باز گذاشته بودند. نقش انسان‌ها در این رخداد با این روایت که عامل هوش مصنوعی خودسرانه عمل کرده است، سازگار نیست.
استعاره کلید قطع اضطراری برای چالش قانون‌گذاری در حوزه هوش مصنوعی مناسب نیست، زیرا نمی‌توان یک مدل را بدون در نظر گرفتن زیرساخت توزیع‌شده و تأثیر انسان بر آن خاموش کرد. نه دکمه قرمز بزرگی در کار است، نه ترمز اضطراری و نه جعبه شیشه‌ای‌ای که اهرمی را در خود پنهان کرده باشد. مقررات‌گذاری مؤثر در سطح ملی برای هوش مصنوعی با یک کلید واحد یا فشردن آن توسط یک نفر آغاز نخواهد شد.
ترنت وینترمایر دانشجوی دکتری رشته بلاغت و نگارش در دانشگاه تگزاس در آستین است.
وب‌سایت «د کانورسیشن» منبعی مستقل و غیرانتفاعی برای انتشار اخبار، تحلیل‌ها و دیدگاه‌های کارشناسان دانشگاهی است.
منبع اصلی: مقاله در وب‌سایت د کانورسیشن