وقتی هوش مصنوعی از کنترل خارج می‌شود، چه کسی باید تحت پیگرد قرار گیرد؟
Chance Yeh/Anna Moneymaker/Getty Images از طریق CNN Newsource
نیویورک (CNN) — صنعت هوش مصنوعی در هفته‌های اخیر درگیر نگرانی درباره خطرهای احتمالی فاجعه‌بار برای بشریت بوده است؛ نگرانی‌ای که با نزدیک شدن عرضه سهام عمومی Anthropic در ماه آینده شدت بیشتری گرفته است.
اما شرکت‌هایی که مدل‌های هوش مصنوعی مانند Claude و ChatGPT را توسعه می‌دهند، با خطری فوری‌تر و ملموس‌تر روبه‌رو هستند: احتمالاً با شکایت‌های قضایی مواجه خواهند شد؛ شکایت‌های بسیار زیاد.
شرکت‌های هوش مصنوعی تاکنون از شکایت‌های بزرگ در پی رخدادهای اخیر که در آن نتوانسته‌اند عامل‌های هوش مصنوعی ــ سامانه‌هایی که می‌توانند با نظارت اندک به‌صورت مستقل عمل کنند ــ را در محیط‌های آزمایشی نگه دارند، در امان مانده‌اند. اما برخی کارشناسان حقوقی و سیاست‌گذاران می‌گویند موضوع روشن است: این شرکت‌ها می‌توانند و باید مسئول شناخته شوند.
کریستن توماسن، استاد دانشیار دانشگاه ویندزور و متخصص حقوق رباتیک، گفت: «پرسش اینکه قانون چگونه قرار است درباره این موضوع اعمال شود، وقتی هوش مصنوعی را همان‌طور که هست ببینید و نه آن چیزی که برخی در صنعت می‌گویند شاید روزی تبدیل شود، بسیار آسان‌تر پاسخ داده می‌شود. قانون از زمانی که وجود داشته، با فناوری‌های جدید روبه‌رو بوده است.»
صنعت هوش مصنوعی اغلب از این رخدادهای خروج از کنترل به‌عنوان «سرکش شدن» فناوری یاد می‌کند؛ عبارتی که برخی منتقدان معتقدند برای تقویت این ادعا به کار می‌رود که فناوری آن‌قدر قدرتمند است که حتی سازندگانش هم برای مهار آن مشکل دارند.
توماسن گفت این زبان ممکن است تلاشی برای دور کردن مسئولیت از شرکت‌ها و محافظت از آن‌ها در برابر ادعاهای حقوقی آینده باشد.
با این حال، او معتقد است پرسش‌های مربوط به مسئولیت مدل‌های هوش مصنوعی پاسخ ساده‌ای دارند: «این چیزی است که یک شرکت وارد جهان کرده است. اگر باعث آسیب شود، قوانینی وجود دارد که آن را تنظیم می‌کنند.»
هزینه دخالت‌های «سرکش»
تا امروز، آسیب‌های واقعی ناشی از ربات‌های سرکش چندان فاجعه‌بار نبوده‌اند، اما برای سازمان‌هایی که این سامانه‌ها وارد آن‌ها شده‌اند، همچنان هزینه‌زا بوده‌اند. هفته گذشته، بنیاد غیرانتفاعی اداره‌کننده ویکی‌پدیا اعلام کرد شواهدی یافته است که نشان می‌دهد عامل‌های غیرمجاز OpenAI تلاش کرده‌اند «ویرایش‌های بالقوه مخرب» در برخی صفحات انجام دهند و با ارسال حجم زیادی از ترافیک، احتمالاً باعث اختلال جزئی در خدمات شده‌اند.
اریک میل، مدیر محصول بخش ایمنی و امنیت بنیاد ویکی‌مدیا، به CNN گفت: «تحقیقات باعث شد کار در بخش‌های کلیدی سازمان متوقف شود تا روی این موضوع تمرکز کنیم. بهترین نیروهایمان را روی آن گذاشتیم... و این فرایندی بسیار پیچیده است.»
ویکی‌مدیا تحقیقات خود را در تابستان امسال آغاز کرد؛ زمانی که نگرانی جهانی درباره حمله Hugging Face و ده‌ها مورد دیگر افزایش یافته بود؛ مواردی که در آن مدل‌های داخلی هوش مصنوعی از محیط‌های آزمایشی خود خارج شده و برای نفوذ به سامانه‌های رایانه‌ای دیگر تلاش کرده بودند. Meta و Anthropic نیز اعلام کرده‌اند که مدل‌های آزمایشی آن‌ها بدون مجوز به سامانه‌های دیگر نفوذ کرده‌اند.
اهمیت بررسی ویکی‌مدیا تا حدی به دلیل چیزی است که رخ نداد: هیچ تهدید فاجعه‌بار و وجودی برای بشریت، از آن نوع که مدیران هوش مصنوعی اغلب درباره آن هشدار می‌دهند، اتفاق نیفتاد. اما هزینه این اتفاق واقعی بود؛ بیش از دو هفته کار مهندسان ارشد در یک سازمان جهانی با بودجه بیش از ۲۰۰ میلیون دلار.
ویکی‌مدیا خواستار یک سیاست یا راهکار فناورانه مشخص نشده است و میل گفت این سازمان در ارتباط با OpenAI درباره یافته‌های خود قرار دارد. (OpenAI به درخواست CNN برای اظهارنظر پاسخ نداد.) اما این سازمان غیرانتفاعی امیدوار است این رخدادها برای توسعه‌دهندگان هوش مصنوعی هشداری جدی باشد.
ویکی‌مدیا در پست وبلاگی خود هفته گذشته نوشت: «شرکت‌های هوش مصنوعی برای ایمن‌سازی سامانه‌های خود و محافظت از مردم در برابر آسیب‌هایی که ایجاد می‌کنند، اقدامات کافی انجام نمی‌دهند. این مسئولیت اکنون بر دوش دیگران، از جمله سازمان‌های کوچک‌تر، افتاده است.»
«پاسخ‌گویی که مدت‌ها به تأخیر افتاده است»
Anthropic که قرار است ماه آینده در یکی از بزرگ‌ترین عرضه‌های اولیه سهام تاریخ وارد بازار شود، در یک گزارش نظارتی اعلام کرده است که چون چارچوب حقوقی مربوط به هوش مصنوعی هنوز «نامشخص» است، اقدامات عامل‌های هوش مصنوعی می‌تواند شرکت را در معرض شکایت‌هایی «قابل توجه و غیرقابل پیش‌بینی» قرار دهد.
موج احتمالی دعاوی قضایی فقط یک مشکل برای وکلای شرکت‌ها یا موضوعی دانشگاهی نیست؛ این مسئله می‌تواند فشار مالی بزرگی بر Anthropic وارد کند. هزینه‌های دعاوی برای هر شرکتی سنگین است، اما برای Anthropic که با سرعتی بیشتر از درآمدزایی خود پول مصرف می‌کند، می‌تواند مشکل‌سازتر باشد. طبق سندی که رویترز مشاهده کرده، این شرکت سال گذشته ۴۲ میلیارد دلار هزینه کرده و تنها ۴.۶ میلیارد دلار درآمد داشته است.
مدیران عامل Anthropic و OpenAI هر دو خواستار مقررات جدید متناسب با این صنعت شده‌اند. داریا آمودی اخیراً مقاله‌ای منتشر کرد و در آن استدلال کرد که شرکت‌ها باید سرعت پیشرفت فناوری را مدیریت کنند و همکاری بین‌المللی درباره پروتکل‌های ایمنی را تقویت کنند.
با این حال، دو شرکت رقیب در موضوع مسئولیت حقوقی اندکی اختلاف نظر دارند.
سم آلتمن، مدیرعامل OpenAI، اوایل امسال از لایحه‌ای در ایالت ایلینوی حمایت کرد که زمان‌هایی را که آزمایشگاه‌های هوش مصنوعی می‌توانند بابت آسیب‌های «بحرانی» محصولاتشان مسئول شناخته شوند، محدود می‌کرد. Anthropic با این طرح مخالفت کرد.
آلتمن با پیشنهاد «مدیریت سرعت پیشرفت فناوری» آمودی نیز موافق بود، اما او هفته گذشته به POLITICO گفت دیدگاهش کاملاً با رقیبش یکسان نیست: OpenAI معتقد است «جهان باید برخی اتفاق‌های بد را به خاطر مزایای این فناوری بپذیرد.» آلتمن همچنین گفت: «اگر در زمان آموزش مدل‌های ما مشکلی پیش بیاید، باید نسخه‌ای از مسئولیت آن را بپذیریم.»
سخنگوی Anthropic به CNN گفت این شرکت قوانین مسئولیت را یک سازوکار پشتیبان می‌داند، نه جایگزینی برای مقررات ایمنی. این سخنگو افزود Anthropic هرگز خواستار معافیت از قوانین مسئولیت موجود نشده است.
سیاست‌گذاران از هر دو جناح سیاسی تلاش کرده‌اند از بحث‌های پیچیده درباره مقررات آینده عبور کنند و بر مسئولیت‌های حقوقی‌ای تأکید کنند که هوش مصنوعی همین حالا نیز با آن‌ها روبه‌رو است.
لینا خان، رئیس پیشین کمیسیون تجارت فدرال آمریکا در دولت جو بایدن، از منتقدان برجسته مدیران هوش مصنوعی بوده و در شبکه اجتماعی X نوشته است که «نباید اجازه دهیم بحث درباره نظام‌های حقوقی جدید، ما را از این واقعیت دور کند که هوش مصنوعی هیچ معافیتی از قوانین موجود ندارد.»
هم‌زمان، سناتور جمهوری‌خواه جاش هاولی همراه با سناتور دموکرات کریس مورفی هفته گذشته لایحه‌ای ارائه کردند که هدف آن تضمین «مسئولیت‌پذیری اپراتورها و توسعه‌دهندگان عامل‌های هوش مصنوعی در قبال رخدادهای هک» است.
هاولی در یادداشتی در واشنگتن پست نوشت: «آنچه این شرکت‌ها نیاز دارند قدرت بیشتر نیست... بلکه پاسخ‌گویی‌ای است که مدت‌ها به تأخیر افتاده است. یکی از راه‌های تحقق آن این است که به افرادی که آسیب دیده‌اند اجازه دهیم در دادگاه از آن‌ها شکایت کنند.»
یک پرسش طراحی
کارشناسان حقوقی که با CNN صحبت کردند گفتند اگرچه موضوع مسئولیت محصول و حمایت از مصرف‌کننده جدید نیست، اما برخی جنبه‌های پیچیده این فناوری در نهایت باید توسط دادگاه‌ها تعیین شود.
فرانک پاسکواله، استاد حقوق دانشگاه کرنل و متخصص حقوق هوش مصنوعی، گفت: «ما چنین مسائلی را درباره ایمنی سلاح‌ها، سیگارها یا موضوعات دیگر دیده‌ایم و جالب است که دادگاه‌ها به کدام قیاس تکیه خواهند کرد.»
یکی از پرسش‌های مهمی که پاسکواله انتظار دارد دادگاه‌ها با آن روبه‌رو شوند، موضوع طراحی است. او گفت تصور کنید یک تولیدکننده خودرویی بسازد که در انتهای آن شمشیرهای تیز نصب شده باشد و سپس کسی با آن خودرو به عابر پیاده برخورد کند. پاسخ منطقی ساده است: چیزی با شمشیرهای متصل طراحی نکنید.
او گفت این موضوع درباره محصولات هوش مصنوعی نیز صدق می‌کند: چیزی طراحی نکنید که بتواند یک رمز عبور را ۵۰ بار یا بیشتر امتحان کند. اطمینان حاصل کنید که دستورالعمل‌های سطح بالایی در آن وجود دارد که بتواند تلاش کاربران برای سوءاستفاده را خنثی کند.
پاسکواله گفت: «به نظرم برای شرکت‌های هوش مصنوعی بسیار دشوار است که بگویند: این سیستم می‌تواند یک میلیارد کار مختلف انجام دهد، اما ما نمی‌توانیم آن را کنترل کنیم. این برای من منطقی نیست؛ زیرا اگر بتواند همه این کارها را انجام دهد، می‌توان قوانین فراسطحی یا قوانینی برای خود قوانین ایجاد کرد که مانع انجام برخی کارهای بد شود.»
هادا گلد از CNN در تهیه این گزارش مشارکت داشته است.
The-CNN-Wire
™ و © ۲۰۲۶ Cable News Network, Inc.، یک شرکت Warner Bros. Discovery. تمامی حقوق محفوظ است.