وقتی هوش مصنوعی از کنترل خارج می‌شود، چه کسی باید تحت پیگرد قرار گیرد؟
نیویورک (CNN) — صنعت هوش مصنوعی در هفته‌های اخیر بیش از پیش درباره خطرات بالقوه فاجعه‌بار این فناوری برای بشریت ابراز نگرانی کرده است؛ نگرانی‌ای که با نزدیک شدن شرکت Anthropic به عرضه اولیه سهام خود در بازار، شدت بیشتری گرفته است.
اما شرکت‌هایی که مدل‌های هوش مصنوعی مانند Claude و ChatGPT را توسعه می‌دهند، با خطری فوری‌تر و ملموس‌تر نیز روبه‌رو هستند: احتمالاً با شکایت‌های حقوقی مواجه خواهند شد؛ شکایت‌های بسیار زیاد.
شرکت‌های هوش مصنوعی تاکنون از شکایت‌های بزرگ در پی حوادث اخیر، که در آن‌ها نتوانسته‌اند عامل‌های هوش مصنوعی ــ سامانه‌هایی که می‌توانند با نظارت اندک به‌طور مستقل عمل کنند ــ را در محیط‌های آزمایشی خود محدود نگه دارند، در امان مانده‌اند. با این حال، برخی کارشناسان حقوقی و سیاست‌گذاران می‌گویند پاسخ روشن است: این شرکت‌ها می‌توانند و باید مسئول شناخته شوند.
کریستن توماسن، دانشیار دانشگاه ویندزور و متخصص حقوق رباتیک، گفت: «پرسش اینکه قانون چگونه قرار است برای این موضوع اعمال شود، زمانی بسیار ساده‌تر پاسخ داده می‌شود که هوش مصنوعی را همان‌گونه که هست ببینیم، نه به‌عنوان چیزی فرضی که بسیاری در صنعت می‌گویند شاید روزی به آن تبدیل شود. قانون از زمانی که وجود داشته، با فناوری‌های جدید روبه‌رو بوده است.»
صنعت هوش مصنوعی اغلب از حوادثی که در آن سامانه‌ها از محدوده مورد انتظار خارج می‌شوند، با عنوان «سرکش شدن» فناوری یاد می‌کند؛ عبارتی که برخی منتقدان می‌گویند برای تقویت این ادعا به کار می‌رود که فناوری آن‌قدر قدرتمند است که حتی سازندگانش نیز برای کنترل آن مشکل دارند.
توماسن گفت این ادبیات ممکن است تلاشی برای دور کردن مسئولیت از شرکت‌ها و محافظت از آن‌ها در برابر دعاوی حقوقی آینده نیز باشد.
او افزود پرسش مسئولیت درباره مدل‌های هوش مصنوعی در نهایت پاسخ ساده‌ای دارد: «این چیزی است که یک شرکت وارد جهان کرده است. اگر آسیب ایجاد کند، قوانینی وجود دارد که آن را تنظیم می‌کنند.»
هزینه مداخله‌های «سرکش»
تا کنون آسیب‌های واقعی ناشی از ربات‌های سرکش به فاجعه‌ای بزرگ تبدیل نشده‌اند، اما برای سازمان‌هایی که این سامانه‌ها به آن‌ها نفوذ کرده‌اند، هزینه‌بر بوده‌اند. هفته گذشته بنیاد غیرانتفاعی اداره‌کننده ویکی‌پدیا اعلام کرد شواهدی یافته است که نشان می‌دهد عامل‌های غیرمجاز OpenAI تلاش کرده‌اند برخی صفحات را با «ویرایش‌های بالقوه مخرب» تغییر دهند و با ارسال حجم زیادی از ترافیک، احتمالاً باعث اختلال جزئی در خدمات آن شده‌اند.
اریک میل، مدیر محصول بخش ایمنی و امنیت ویکی‌مدیا، به CNN گفت: «این بررسی باعث شد کار در بخش‌های کلیدی سازمان متوقف شود تا روی این موضوع تمرکز کنیم. بهترین نیروهایمان را روی آن گذاشتیم... و این فرایندی بسیار پیچیده و دشوار است.»
ویکی‌مدیا تابستان امسال تحقیقات خود را آغاز کرد؛ زمانی که نگرانی جهانی درباره حمله Hugging Face و ده‌ها مورد دیگر افزایش یافته بود؛ مواردی که در آن‌ها مدل‌های داخلی هوش مصنوعی از محیط‌های آزمایشی خود خارج شده و برای نفوذ به سامانه‌های رایانه‌ای دیگر تلاش کرده بودند. شرکت‌های Meta و Anthropic نیز اعلام کرده‌اند که مدل‌های آزمایشی آن‌ها بدون مجوز وارد سامانه‌های دیگر شده‌اند.
اهمیت تحقیقات ویکی‌مدیا تا حدی به چیزی بازمی‌گردد که رخ نداد: خبری از تهدید فاجعه‌بار و وجودی برای بشریت، از همان نوعی که مدیران هوش مصنوعی اغلب درباره آن هشدار می‌دهند، نبود. اما هزینه این اتفاق واقعی بود؛ بیش از دو هفته کار مهندسان ارشد یک سازمان جهانی با بودجه بیش از ۲۰۰ میلیون دلار.
ویکی‌مدیا از یک سیاست یا راهکار فنی خاص حمایت نمی‌کند و میل گفت این سازمان درباره یافته‌های خود با OpenAI در ارتباط است. OpenAI به درخواست CNN برای اظهار نظر پاسخ نداد. با این حال، این بنیاد امیدوار است چنین حوادثی هشداری برای توسعه‌دهندگان هوش مصنوعی باشد.
ویکی‌مدیا در پست وبلاگی خود نوشت: «شرکت‌های هوش مصنوعی برای ایمن‌سازی سامانه‌های خود و محافظت از مردم در برابر آسیب‌هایی که ایجاد می‌کنند، به اندازه کافی تلاش نمی‌کنند. این مسئولیت بر دوش دیگران، از جمله سازمان‌های کوچک‌تر، افتاده است.»
«پاسخ‌گویی که مدت‌ها به تأخیر افتاده است»
Anthropic که قرار است ماه آینده یکی از بزرگ‌ترین عرضه‌های اولیه سهام تاریخ را انجام دهد، در پرونده‌ای نظارتی اعلام کرده است که به دلیل «نامشخص بودن» چارچوب حقوقی هوش مصنوعی، اقدامات این عامل‌ها ممکن است شرکت را در معرض شکایت‌هایی «گسترده و غیرقابل پیش‌بینی» قرار دهد.
موج احتمالی دعاوی حقوقی فقط برای وکلای شرکت یا دانشگاهیان یک چالش نیست؛ بلکه می‌تواند فشار مالی قابل توجهی بر Anthropic وارد کند. هزینه‌های دعاوی برای هر شرکتی سنگین است، اما برای Anthropic که با سرعت بیشتری نسبت به درآمدزایی خود پول مصرف می‌کند، مشکل بزرگ‌تری خواهد بود. طبق سندی که رویترز مشاهده کرده، این شرکت سال گذشته ۴۲ میلیارد دلار هزینه کرده و تنها ۴.۶ میلیارد دلار درآمد داشته است.
مدیران عامل Anthropic و OpenAI هر دو خواستار مقررات جدید متناسب با صنعت هوش مصنوعی شده‌اند. داریو آمودی، مدیرعامل Anthropic، اخیراً در مقاله‌ای استدلال کرد که شرکت‌ها باید «سرعت توسعه فناوری‌های پیشرفته را مدیریت کنند» و همکاری بین‌المللی درباره پروتکل‌های ایمنی را تقویت کنند.
با این حال، این دو شرکت رقیب درباره موضوع مسئولیت حقوقی اندکی اختلاف نظر دارند.
سم آلتمن، مدیرعامل OpenAI، اوایل امسال از لایحه‌ای در ایالت ایلینوی حمایت کرد که شرایط مسئولیت آزمایشگاه‌های هوش مصنوعی را حتی در صورت ایجاد «آسیب‌های حیاتی» توسط محصولاتشان محدود می‌کرد. Anthropic با این لایحه مخالفت کرد.
آلتمن همچنین از پیشنهاد «مدیریت سرعت توسعه فناوری‌های پیشرفته» آمودی حمایت کرده، اما اوایل هفته به POLITICO گفت دیدگاهش کاملاً با رقیبش یکسان نیست. او گفت OpenAI معتقد است «جهان باید وقوع برخی اتفاقات بد را برای بهره‌مندی از مزایای این فناوری بپذیرد». آلتمن همچنین گفت اگر در زمان آموزش مدل‌های این شرکت مشکلی رخ دهد، «نسخه‌ای از آن مسئولیت باید بر عهده ما باشد».
سخنگوی Anthropic به CNN گفت این شرکت قوانین مسئولیت را یک لایه پشتیبان برای مقررات ایمنی می‌داند، نه جایگزینی برای آن‌ها. او افزود Anthropic هرگز خواستار معافیت از قوانین موجود مسئولیت نشده است.
سیاست‌گذاران از هر دو جناح سیاسی تلاش کرده‌اند از بحث‌های پیچیده درباره مقررات آینده عبور کنند و بر مسئولیت‌های حقوقی‌ای که هوش مصنوعی همین حالا با آن روبه‌رو است، تأکید کنند.
لینا خان، رئیس پیشین کمیسیون تجارت فدرال در دولت جو بایدن، از منتقدان برجسته مدیران هوش مصنوعی شده و در شبکه اجتماعی X نوشته است که «نباید اجازه دهیم بحث درباره نظام‌های حقوقی جدید، ما را از این واقعیت دور کند که برای هوش مصنوعی هیچ معافیتی از قوانین موجود وجود ندارد.»
هم‌زمان، سناتور جمهوری‌خواه جاش هاولی همراه با کریس مورفی، سناتور دموکرات، هفته گذشته لایحه‌ای ارائه کردند که هدف آن تضمین مسئولیت‌پذیری «اپراتورها و توسعه‌دهندگان عامل‌های هوش مصنوعی در قبال حملات هکری» است.
هاولی در یادداشتی در واشنگتن پست نوشت: «آنچه این شرکت‌ها نیاز دارند قدرت بیشتر نیست... بلکه پاسخ‌گویی‌ای است که مدت‌ها به تأخیر افتاده است. یکی از راه‌های تحقق آن این است که به افرادی که آسیب دیده‌اند اجازه دهیم در دادگاه از آن‌ها شکایت کنند.»
یک پرسش درباره طراحی
کارشناسان حقوقی که با CNN گفت‌وگو کردند، گفتند مسائل مربوط به مسئولیت محصولات و حمایت از مصرف‌کننده موضوعات تازه‌ای نیستند، اما برخی جنبه‌های پیچیده فناوری در نهایت باید توسط دادگاه‌ها تفسیر شوند.
فرانک پاسکواله، استاد حقوق دانشگاه کرنل و متخصص حقوق هوش مصنوعی، گفت: «ما چنین مسائلی را درباره ایمنی سلاح‌ها، سیگار یا موضوعات دیگر دیده‌ایم. جالب است که دادگاه‌ها به کدام قیاس متوسل خواهند شد.»
به گفته پاسکواله، یکی از پرسش‌های مهمی که دادگاه‌ها احتمالاً با آن روبه‌رو می‌شوند، موضوع طراحی است. او مثال زد: تصور کنید یک سازنده خودرو، اتومبیلی بسازد که در انتهای آن شمشیرهای تیز نصب شده باشد و فردی با آن خودرو به عابر پیاده برخورد کند. واکنش منطقی ساده است: نباید چیزی با شمشیرهای متصل به آن طراحی شود.
او گفت این موضوع درباره محصولات هوش مصنوعی نیز مشابه است: نباید سامانه‌ای طراحی شود که بتواند یک گذرواژه را ۵۰ بار یا بیشتر امتحان کند. همچنین باید دستورالعمل‌های سطح بالایی در آن وجود داشته باشد که بتواند بر تلاش کاربر برای سوءاستفاده از سیستم غلبه کند.
پاسکواله گفت: «به نظرم برای شرکت‌های هوش مصنوعی بسیار دشوار است که بگویند، این فناوری می‌تواند یک میلیارد کار مختلف انجام دهد اما ما نمی‌توانیم آن را کنترل کنیم. این برای من منطقی نیست، زیرا اگر می‌تواند همه این کارها را انجام دهد، پس می‌توان قوانین فرادستی یا قوانینی برای کنترل قوانین دیگر ایجاد کرد که مانع انجام برخی کارهای نادرست شود.»