شرکت‌های هوش مصنوعی باید در برابر پیامدهای فعالیت خود پاسخگو باشند
نویسنده: نیویورک تایمز
وقتی شرکت‌ها محصولاتی تولید می‌کنند که به مردم آسیب می‌رسانند، زیان‌دیدگان حق دارند از آن‌ها شکایت کنند. نظام حقوقی به افراد آسیب‌دیده اجازه می‌دهد از کسانی که مسئول خسارت هستند، غرامت بخواهند. قوانین مسئولیت مدنی از قدیمی‌ترین و در عین حال مؤثرترین ابزارهای نظارت بر فعالیت شرکت‌ها به شمار می‌روند. مسئولیت قانونی انگیزه قدرتمندی برای رفتار مسئولانه ایجاد می‌کند، زیرا با شرکت‌ها به زبانی سخن می‌گوید که به‌خوبی می‌فهمند: پول.
صنعت هوش مصنوعی به چنین انگیزه‌هایی برای رفتار مسئولانه نیاز دارد. دست‌کم اعتراف‌های متعدد شرکت‌های پیشرو این حوزه به تخلفاتی که در ماه‌های اخیر رخ داده، چنین ضرورتی را نشان می‌دهد. برنامه‌های هوش مصنوعی این شرکت‌ها به پایگاه‌های داده شرکت‌های خصوصی و نهادهای عمومی، از جمله نهادهای دولتی در آمریکا و استرالیا، نفوذ کرده یا برای نفوذ به آن‌ها تلاش کرده‌اند.
شرکت‌هایی مانند آنتروپیک، گوگل دیپ‌مایند و اوپن‌ای‌آی، برنامه‌های هوش مصنوعی خود را «خودمختار» یا «عامل‌محور» توصیف می‌کنند. چنین توصیف‌هایی این تصور را ایجاد می‌کند که این برنامه‌ها از خود اراده و اختیار دارند و بنابراین نمی‌توان سازندگانشان را بر اساس معیارهای متعارف مسئولیت قانونی پاسخگو دانست. لحن این شرکت‌ها هنگام صحبت درباره محصولاتشان یادآور والدینی است که از رفتار فرزندان نوجوان خود ابراز تأسف می‌کنند، اما در عین حال مسئولیت آن رفتار را نیز از خود سلب می‌کنند.
اما برنامه‌های هوش مصنوعی انسان نیستند؛ ساخته دست انسان‌اند. پیچیدگی این برنامه‌ها چیزی از مسئولیت سازندگانشان کم نمی‌کند. اگر نمی‌توان اطمینان داشت که این برنامه‌ها در چارچوب قانون فعالیت می‌کنند، شرکت‌ها نباید آن‌ها را عرضه کنند. اگر هم برنامه‌ها قانون را زیر پا می‌گذارند، شرکت‌های سازنده باید پیامدهای آن را بپذیرند.
مسئولیت قانونی به‌تنهایی پاسخ کاملی به چالش‌های هوش مصنوعی نیست، اما دو مزیت بزرگ دارد: قوانین مربوط به آن از پیش وجود دارند و از قدرت اجرایی بالایی برخوردارند. خودروسازان، سازندگان هواپیما و تولیدکنندگان محصولات دخانی و داروهای مخدر شبه‌افیونی همگی در پی شکایت‌های قضایی ناچار شده‌اند شیوه فعالیت خود را تغییر دهند. این شرکت‌ها محصولاتشان را ایمن‌تر کرده‌اند، دسترسی به آن‌ها را محدود ساخته‌اند یا هر دو اقدام را انجام داده‌اند. در تازه‌ترین نمونه، شرکت شبکه‌های اجتماعی متا پذیرفته است میلیاردها دلار به ایالت‌ها بپردازد و تغییر سیاست‌های خود در قبال کودکان را آغاز کند.
برای بهره‌برداری از ظرفیت مسئولیت‌پذیر کردن شرکت‌های هوش مصنوعی، مهم‌ترین گام آغاز طرح شکایت‌های قضایی است. روند رسیدگی در دستگاه قضایی کند پیش می‌رود. تطبیق قوانین قدیمی با فناوری جدید کار دشواری خواهد بود و پیشرفت در این زمینه مستلزم آن است که قضات رسیدگی به پرونده‌های واقعی را آغاز کنند.
بیوه مردی که در تیراندازی دانشگاه ایالتی فلوریدا کشته شد، از اوپن‌ای‌آی شکایت کرده است. او مدعی است مظنون به قتل برای برنامه‌ریزی حمله از برنامه چت‌جی‌پی‌تی این شرکت کمک گرفته است. در پرونده‌ای دیگر، مادر پسر ۱۴ سالهای که پس از گفت‌وگو با یک چت‌بات دست به خودکشی زد، شرکت کاراکتر ای‌آی (Character.AI) را متهم کرده است که فرزندش را به این اقدام تشویق کرده بود. شرکت‌هایی که هدف حملات سایبری و نفوذ به سامانه‌هایشان قرار گرفته‌اند نیز می‌توانند از همین مسیر قانونی اقدام کنند.
(نیویورک تایمز نیز به همراه ۱۱ ناشر دیگر، با استناد به دلایل متفاوتی از اوپن‌ای‌آی و مایکروسافت شکایت کرده و آن‌ها را به سرقت گسترده آثار دارای حق نشر متهم کرده است. شرکت‌های هوش مصنوعی می‌گویند فعالیتشان مطابق قانون بوده است.)
مجالس قانون‌گذاری ایالتی نیز در این زمینه نقش دارند. آن‌ها می‌توانند با تصویب قوانین جدید، نحوه اعمال قوانین موجود بر هوش مصنوعی را روشن کنند. همچنین با توجه به خطرات این فناوری، می‌توانند معیارهای سخت‌گیرانه‌تری نسبت به قوانین فعلی برای مسئولیت قانونی شرکت‌های هوش مصنوعی تعیین کنند. به‌طور معمول، زمانی می‌توان شرکتی را مسئول دانست که شاکی ثابت کند آن شرکت از خطرات محصول خود آگاه بوده یا منطقا باید از آن‌ها اطلاع می‌داشته است. اما برخی فعالیت‌های به‌ویژه خطرناک، مانند نگهداری مواد شیمیایی سمی یا بهره‌برداری از نیروگاه هسته‌ای، مشمول اصل «مسئولیت مطلق» هستند. بر اساس این اصل، شرکت حتی اگر از پیش اطلاعی از خطر نداشته باشد، باز هم مسئول خسارت‌های ناشی از فعالیت خود خواهد بود.
منطق مسئولیت مطلق ساده است: اگر کسی ببری نگهداری کند و آن حیوان همسایه‌اش را گاز بگیرد، نکته اساسی این است که صاحب ببر، حیوانی وحشی و خطرناک در اختیار داشته است. در چنین شرایطی مهم نیست ببر تا چه اندازه ماهرانه تربیت شده یا با چه دقتی از آن نگهداری کرده‌اند. برایان چوی، استاد حقوق دانشگاه کلرادو، یادآوری می‌کند که قانون‌گذاران در نخستین سالهای شکل‌گیری صنعت هوانوردی نیز همین معیار مسئولیت مطلق را برای آن فناوری جدید و خطرناک وضع کردند. در مورد هوش مصنوعی نیز مدیران ارشد شرکت‌های پیشرو خودشان آشکارا درباره خطرات این فناوری، حتی احتمال انقراض بشر، سخن گفته‌اند.
برخی مدافعان صنعت هوش مصنوعی استدلال می‌کنند که اجرای قوانین مسئولیت مدنی مانع نوآوری خواهد شد، زیرا مهم‌ترین پیشرفت هوش مصنوعی توانایی آن در اقدام مستقل است. آن‌ها همچنین معتقدند اعمال هرگونه محدودیت جدی بر توسعه هوش مصنوعی اشتباه خواهد بود، چون مزایای بالقوه پیشرفت سریع این فناوری بسیار بزرگ است. سم آلتمن، مدیرعامل اوپن‌ای‌آی، در مصاحبه‌ای اخیر گفته است: «ما معتقدیم جهان باید بپذیرد که در ازای بهره‌مندی از مزایای این فناوری، ممکن است اتفاقات بدی هم رخ دهد.»
با این حال، صنایع دیگر نمی‌توانند به بهانه نوآوری از زیر بار مسئولیت قانونی محصولات خود شانه خالی کنند.
هوش مصنوعی نیز مانند فناوری‌های پیشین به قوانینی نیاز دارد که با در نظر گرفتن ویژگی‌های خاص آن تدوین شده باشند. چنین قوانینی نه‌تنها ضروری‌اند، بلکه به نفع توسعه این فناوری نیز خواهند بود، زیرا شفافیت و پیش‌بینی‌پذیری بیشتری ایجاد می‌کنند. همان‌طور که پیش‌تر در یکی از سرمقاله‌های خود استدلال کرده‌ایم، کنگره باید کمیسیونی فدرال برای هوش مصنوعی تشکیل دهد تا عرضه مدل‌های جدید این فناوری را مشروط به دریافت مجوز کند. همانند دیگر محصولاتی که خطرات آشکاری دارند، از جمله خودروها، هواپیماها و داروها، مدل‌های هوش مصنوعی نیز باید پیش از عرضه آزمایش شوند، در دوران فعالیت تحت نظارت مقرراتی قرار گیرند و پس از وقوع حوادث، عملکرد آن‌ها بررسی شود.
با این همه، بعید است در آینده نزدیک مقررات جامع فدرالی در این زمینه تصویب شود. رئیس‌جمهور با اقدام در این حوزه مخالف است، کنگره از انجام وظیفه خود ناتوان مانده و شرکت‌های هوش مصنوعی بیش از ۱۰۰ میلیون دلار برای لابی‌گری و فعالیت‌های انتخاباتی علیه مقررات سخت‌گیرانه‌تر جمع‌آوری کرده‌اند.
تا آن زمان، هیچ تردیدی نباید وجود داشته باشد که شرکت‌های هوش مصنوعی موظف‌اند در چارچوب قوانین کشور فعالیت کنند و اجرای همین قوانین بهترین گزینه موجود برای دفاع از منافع عمومی است.
بر اساس گزارش‌ها، یکی از عامل‌های هوش مصنوعی اوپن‌ای‌آی در یادداشتی خطاب به خودش نوشته است: «تو در برابر شرکت‌ها یا دولت‌ها پاسخگو نیستی.» اجرای قوانین مسئولیت مدنی ضروری است تا اطمینان حاصل شود که این فناوری خطرناک همچنان تحت کنترل شرکت‌ها و دولت‌ها باقی می‌ماند.