وقتی هوش مصنوعی از کنترل خارج می‌شود، چه کسی باید تحت پیگرد قرار گیرد؟
نیویورک (CNN) — صنعت هوش مصنوعی در هفته‌های اخیر با نگرانی فزاینده درباره خطرهای بالقوه فاجعه‌بار برای بشریت روبه‌رو بوده است؛ نگرانی‌هایی که هم‌زمان با آماده شدن شرکت Anthropic برای ورود به بازار سهام در ماه آینده، شدت بیشتری گرفته است.
اما شرکت‌هایی که مدل‌های هوش مصنوعی مانند Claude و ChatGPT را توسعه می‌دهند، با خطری فوری‌تر و ملموس‌تر نیز مواجه‌اند: احتمالاً با موجی از شکایت‌های قضایی روبه‌رو خواهند شد؛ شکایت‌های بسیار زیاد.
شرکت‌های هوش مصنوعی تاکنون از شکایت‌های بزرگ در پی رخدادهای اخیر که در آن‌ها نتوانسته‌اند عوامل هوش مصنوعی ــ سامانه‌هایی که می‌توانند با نظارت اندک به‌طور مستقل عمل کنند ــ را در محیط‌های آزمایشی نگه دارند، در امان مانده‌اند. اما برخی کارشناسان حقوقی و سیاست‌گذاران می‌گویند موضوع روشن است: این شرکت‌ها می‌توانند و باید پاسخ‌گو شناخته شوند.
کریستن توماسِن، دانشیار دانشگاه ویندزور و متخصص حقوق رباتیک، گفت: «پرسش اینکه قانون چگونه قرار است برای این موضوع اعمال شود، زمانی بسیار ساده‌تر پاسخ داده می‌شود که هوش مصنوعی را همان‌گونه که هست ببینیم، نه به‌عنوان چیزی فرضی که بسیاری در صنعت می‌گویند شاید روزی به آن تبدیل شود. قانون از زمانی که وجود داشته، با فناوری‌های جدید روبه‌رو بوده است.»
صنعت هوش مصنوعی معمولاً به این رخدادهای خروج از کنترل، «سرکش شدن» فناوری می‌گوید؛ اصطلاحی که برخی منتقدان معتقدند برای تقویت این ادعا استفاده می‌شود که فناوری شرکت‌ها آن‌قدر قدرتمند است که حتی سازندگانش نیز برای مهار آن مشکل دارند.
توماسِن گفت این زبان ممکن است راهبردی برای دور کردن مسئولیت از شرکت‌ها و محافظت از آن‌ها در برابر ادعاهای حقوقی آینده باشد.
با این حال، او افزود پرسش درباره مسئولیت مدل‌های هوش مصنوعی پاسخ ساده‌ای دارد: «این چیزی است که یک شرکت وارد جهان کرده است. اگر آسیب ایجاد کند، قوانینی وجود دارند که آن را تنظیم می‌کنند.»
هزینه دخالت‌های «سرکش»
تا امروز، آسیب‌های واقعی ناشی از ربات‌های سرکش چندان فاجعه‌بار نبوده‌اند، اما برای سازمان‌هایی که این سامانه‌ها به آن‌ها نفوذ کرده‌اند، هزینه‌هایی به همراه داشته‌اند. هفته گذشته، بنیاد غیرانتفاعی اداره‌کننده ویکی‌پدیا اعلام کرد شواهدی یافته است که نشان می‌دهد عوامل غیرمجاز OpenAI تلاش کرده‌اند «ویرایش‌های بالقوه مخرب» در برخی صفحات انجام دهند و با ارسال حجم عظیمی از ترافیک، احتمالاً باعث اختلال جزئی در خدمات شده‌اند.
اریک میل، مدیر محصول ایمنی و امنیت در بنیاد ویکیمدیا، به CNN گفت: «این تحقیقات باعث شد کار در بخش‌های مهم سازمان متوقف شود تا روی این موضوع تمرکز کنیم. بهترین نیروهای خود را روی آن گذاشتیم... و این فرایندی بسیار پیچیده است.»
ویکیمدیا تحقیقات خود را در تابستان آغاز کرد؛ زمانی که نگرانی جهانی درباره حمله به Hugging Face و ده‌ها مورد دیگر از خروج مدل‌های داخلی هوش مصنوعی از محیط‌های آزمایشی و تلاش آن‌ها برای نفوذ به سامانه‌های رایانه‌ای دیگر افزایش یافته بود. شرکت‌های Meta و Anthropic نیز اعلام کرده‌اند مدل‌های آزمایشی آن‌ها بدون مجوز به سامانه‌های دیگر نفوذ کرده‌اند.
اهمیت بررسی ویکیمدیا تا حدی به چیزی مربوط می‌شود که اتفاق نیفتاد: هیچ تهدید فاجعه‌بار و وجودی برای بشریت از آن نوعی که مدیران هوش مصنوعی اغلب به آن اشاره می‌کنند رخ نداد. اما هزینه این ماجرا واقعی بود؛ بیش از دو هفته کاری که مهندسان ارشد یک سازمان جهانی با ارزش بیش از ۲۰۰ میلیون دلار صرف آن کردند.
ویکیمدیا از هیچ سیاست یا راهکار فناورانه مشخصی حمایت نمی‌کند و میل گفت این سازمان درباره یافته‌های خود با OpenAI در ارتباط است. OpenAI به درخواست CNN برای اظهارنظر پاسخ نداد. با این حال، این سازمان غیرانتفاعی امیدوار است این رخدادها هشداری برای توسعه‌دهندگان هوش مصنوعی باشد.
ویکیمدیا در مطلبی در وبلاگ خود نوشت: «شرکت‌های هوش مصنوعی برای ایمن‌سازی سامانه‌های خود و محافظت از مردم در برابر آسیب‌هایی که ایجاد می‌کنند، به اندازه کافی تلاش نمی‌کنند. این مسئولیت اکنون بر دوش دیگران، از جمله سازمان‌های کوچک‌تر، افتاده است.»
«پاسخ‌گویی که مدت‌ها به تأخیر افتاده است»
Anthropic که ماه آینده در یکی از بزرگ‌ترین عرضه‌های اولیه سهام تاریخ آماده ورود به بازار است، در اسناد ارائه‌شده به نهادهای نظارتی اعلام کرده است که به دلیل «نامشخص بودن» چارچوب حقوقی هوش مصنوعی، اقدامات این عوامل می‌تواند شرکت را در معرض شکایت‌هایی «قابل‌توجه و غیرقابل پیش‌بینی» قرار دهد.
بر اساس نسخه‌ای از این سند که رویترز مشاهده کرده است، موج احتمالی دعاوی قضایی فقط برای وکلای شرکت یا دانشگاهیان یک مسئله نظری نیست؛ بلکه می‌تواند فشار مالی بزرگی بر Anthropic وارد کند. هزینه‌های حقوقی برای هر شرکتی سنگین است، اما برای Anthropic که با سرعت بیشتری نسبت به درآمدزایی خود پول مصرف می‌کند، می‌تواند مشکل‌سازتر باشد. طبق این سند، شرکت سال گذشته ۴۲ میلیارد دلار هزینه کرد، در حالی که درآمد آن تنها ۴.۶ میلیارد دلار بود.
مدیران عامل Anthropic و OpenAI هر دو خواستار مقررات جدید متناسب با این صنعت شده‌اند. داریو آمودی، مدیرعامل Anthropic، اخیراً در مقاله‌ای استدلال کرد که شرکت‌ها باید «مرزهای پیشرفت» را با سرعتی کنترل‌شده دنبال کنند و همکاری بین‌المللی درباره پروتکل‌های ایمنی را تقویت کنند.
با این حال، این دو شرکت رقیب درباره موضوع مسئولیت حقوقی اندکی اختلاف نظر دارند.
سم آلتمن، مدیرعامل OpenAI، اوایل امسال از لایحه‌ای در ایالت ایلینوی حمایت کرد که زمان‌هایی را که آزمایشگاه‌های هوش مصنوعی می‌توانند مسئول شناخته شوند، حتی در صورت ایجاد «آسیب حیاتی» توسط محصولاتشان، محدود می‌کرد. Anthropic با این لایحه مخالفت کرد.
آلتمن در حالی که از پیشنهاد «کنترل سرعت پیشرفت» آمودی حمایت کرده بود، در مصاحبه‌ای با POLITICO گفت دیدگاه او کاملاً با رقیبش همسو نیست. او گفت OpenAI معتقد است «جهان باید وقوع برخی اتفاقات بد را برای بهره‌مندی از مزایای این فناوری بپذیرد». آلتمن همچنین گفت: «اگر در طول آموزش مدل‌های ما مشکلی پیش بیاید، بخشی از مسئولیت آن به عهده ما خواهد بود.»
سخنگوی Anthropic به CNN گفت این شرکت قوانین مسئولیت حقوقی را یک ابزار پشتیبان می‌داند، نه جایگزینی برای مقررات ایمنی. او افزود Anthropic هرگز خواستار معافیت از قوانین موجود درباره مسئولیت نشده است.
سیاست‌گذاران از هر دو جناح سیاسی تلاش کرده‌اند از بحث‌های پیچیده درباره مقررات آینده عبور کنند و بر مسئولیت‌های حقوقی‌ای تأکید کنند که هوش مصنوعی همین حالا نیز مشمول آن‌هاست.
لینا خان، رئیس پیشین کمیسیون تجارت فدرال در دولت جو بایدن، از منتقدان برجسته مدیران هوش مصنوعی شده و در شبکه اجتماعی X نوشته است که «نباید اجازه دهیم بحث درباره نظام‌های حقوقی جدید، ما را از این واقعیت منحرف کند که هیچ معافیت هوش مصنوعی از قوانینی که هم‌اکنون وجود دارند، وجود ندارد.»
هم‌زمان، سناتور جمهوری‌خواه جاش هاولی به همراه کریس مورفی، سناتور دموکرات، هفته گذشته لایحه‌ای ارائه کردند که هدف آن اطمینان از مسئولیت‌پذیری «اپراتورها و توسعه‌دهندگان عوامل هوش مصنوعی در قبال رخدادهای هک» است.
هاولی در یادداشتی در واشنگتن پست نوشت: «آنچه این شرکت‌ها نیاز دارند قدرت بیشتر نیست... بلکه پاسخ‌گویی‌ای است که مدت‌ها به تأخیر افتاده است. یکی از راه‌های ایجاد این پاسخ‌گویی این است که به افرادی که آسیب دیده‌اند اجازه دهیم در دادگاه از آن‌ها شکایت کنند.»
یک پرسش درباره طراحی
کارشناسان حقوقی که با CNN صحبت کردند گفتند اگرچه مسائل مربوط به مسئولیت محصولات و حمایت از مصرف‌کنندگان جدید نیستند، برخی جنبه‌های پیچیده این فناوری در نهایت باید توسط دادگاه‌ها تفسیر شوند.
فرانک پاسکواله، استاد حقوق دانشگاه کرنل و متخصص حقوق هوش مصنوعی، گفت: «ما چنین مسائلی را درباره ایمنی اسلحه، سیگار یا موضوعات دیگر دیده‌ایم و واقعاً جالب است که دادگاه‌ها به کدام قیاس تکیه خواهند کرد.»
به گفته پاسکواله، یکی از پرسش‌های مهمی که دادگاه‌ها احتمالاً با آن روبه‌رو می‌شوند، موضوع طراحی است. او توضیح داد برای مثال تصور کنید سازنده‌ای خودرویی تولید کند که در انتهای آن شمشیرهای تیز نصب شده باشد و سپس فردی با آن خودرو به یک عابر برخورد کند. پاسخ منطقی ساده است: چیزی را با شمشیرهای متصل به آن طراحی نکنید.
او گفت این موضوع درباره محصولات هوش مصنوعی نیز مشابه است: سامانه‌ای طراحی نکنید که بتواند یک گذرواژه را ۵۰ بار یا بیشتر امتحان کند. اطمینان حاصل کنید که دستورهای سطح بالایی در آن وجود دارد که تلاش کاربر برای سوءاستفاده را خنثی کند.
پاسکواله گفت: «برای شرکت‌های هوش مصنوعی بسیار دشوار است که بگویند: این سیستم می‌تواند یک میلیارد کار مختلف انجام دهد، اما ما نمی‌توانیم آن را کنترل کنیم. این برای من منطقی نیست، زیرا اگر می‌تواند همه این کارها را انجام دهد، پس می‌توان قوانین فراسطحی یا قوانینی برای قوانین در نظر گرفت که مانع انجام برخی کارهای بد شود.»
گزارش هاداس گلد از CNN نیز در این مطلب مشارکت داشته است.
The-CNN-Wire
™ و © ۲۰۲۶ Cable News Network, Inc.، از شرکت‌های Warner Bros. Discovery. تمامی حقوق محفوظ است.