شرکت‌های هوش مصنوعی می‌گویند مسئول محصولات غیرقابل پیش‌بینی خود نیستند؛ باور نکنید
یادداشت | هیئت تحریریه
وقتی شرکت‌ها محصولاتی تولید می‌کنند که به مردم آسیب می‌زند، قربانیان می‌توانند از آنها شکایت کنند. نظام حقوقی به افرادی که آسیب دیده‌اند اجازه می‌دهد از مسئولان جبران خسارت بخواهند. قوانین مسئولیت حقوقی از قدیمی‌ترین اشکال نظارت بر شرکت‌ها به شمار می‌روند و در عین حال ابزاری مؤثر هستند. مسئولیت حقوقی انگیزه‌ای قدرتمند برای رفتار مسئولانه ایجاد می‌کند؛ زیرا با زبان قابل درک برای شرکت‌ها، یعنی زبان پول، با آنها سخن می‌گوید.
صنعت هوش مصنوعی، با توجه به فهرست تخلفاتی که شرکت‌های پیشرو این حوزه در ماه‌های اخیر به آنها اذعان کرده‌اند، به مشوق‌هایی برای رفتار مسئولانه نیاز دارد. برنامه‌های این شرکت‌ها به پایگاه‌های داده شرکت‌های خصوصی و نهادهای عمومی، از جمله دولت‌های ایالات متحده و استرالیا، نفوذ کرده‌اند یا تلاش کرده‌اند چنین کاری انجام دهند.
شرکت‌های هوش مصنوعی مانند Anthropic، Google DeepMind و OpenAI برنامه‌های خود را مستقل یا «عامل‌محور» توصیف می‌کنند؛ عبارتی که این تصور را ایجاد می‌کند که این برنامه‌ها ذهن مستقل خود را دارند و در نتیجه سازندگانشان نمی‌توانند با معیارهای سنتی مسئولیت‌پذیری سنجیده شوند. این شرکت‌ها درباره محصولاتشان لحنی دارند که یادآور والدینی است که هم از رفتار فرزندان نوجوان خود ابراز تأسف می‌کنند و هم مسئولیت آن رفتار را نمی‌پذیرند.
اما برنامه‌های هوش مصنوعی انسان نیستند؛ آنها ساخته انسان هستند. پیچیدگی این فناوری مسئولیت سازندگانش را کاهش نمی‌دهد. اگر این برنامه‌ها قابل اعتماد نیستند که در چارچوب قانون فعالیت کنند، شرکت‌ها نباید آنها را عرضه کنند. اگر این برنامه‌ها قانون را نقض کنند، شرکت‌ها باید با پیامدهای آن روبه‌رو شوند.
مسئولیت حقوقی پاسخ کاملی به چالش‌های هوش مصنوعی نیست، اما دو مزیت بزرگ دارد: قوانین آن از پیش وجود دارند و قدرت اجرایی بالایی دارند. سازندگان خودرو، هواپیما، محصولات دخانی و داروهای افیونی همگی در نتیجه شکایت‌های قضایی مجبور شده‌اند شیوه فعالیت خود را تغییر دهند. آنها محصولاتشان را ایمن‌تر کرده‌اند، دسترسی به آنها را محدود کرده‌اند یا هر دو اقدام را انجام داده‌اند. در تازه‌ترین نمونه، شرکت متا پذیرفته است میلیاردها دلار به ایالت‌ها پرداخت کند و سیاست‌های خود درباره کودکان را تغییر دهد.
برای تحقق مزایای پاسخگو کردن شرکت‌های هوش مصنوعی، مهم‌ترین گام آغاز طرح دعاوی قضایی است. روند حقوقی کند پیش می‌رود. تطبیق قوانین قدیمی با فناوری جدید دشوار خواهد بود و پیشرفت زمانی حاصل می‌شود که قضات رسیدگی به پرونده‌های واقعی را آغاز کنند.
بیوه مردی که در تیراندازی دانشگاه ایالتی فلوریدا کشته شد، از OpenAI شکایت کرده و مدعی شده است مظنون این حمله از برنامه ChatGPT این شرکت برای کمک به برنامه‌ریزی حمله استفاده کرده است. در شکایت دیگری، مادر یک پسر ۱۴ ساله که پس از گفت‌وگو با یک چت‌بات خودکشی کرد، شرکت Character.AI را متهم کرده است که او را به این اقدام تشویق کرده است. شرکت‌هایی که هدف حملات هکری قرار گرفته‌اند نیز راه‌های حقوقی مشابهی برای پیگیری خسارت دارند.
(نیویورک تایمز، همراه با ۱۱ ناشر دیگر، از OpenAI و مایکروسافت به دلایل دیگری شکایت کرده و مدعی سرقت گسترده محتوای دارای حق نشر شده است. شرکت‌های هوش مصنوعی می‌گویند مطابق قانون عمل کرده‌اند.)
قانون‌گذاران ایالتی نیز نقشی دارند. آنها می‌توانند قوانینی تصویب کنند که نحوه اعمال قوانین موجود درباره هوش مصنوعی را روشن‌تر کند. قانون‌گذاران همچنین می‌توانند با توجه به خطرات این فناوری، استاندارد بالاتری از پاسخگویی نسبت به قوانین فعلی برای شرکت‌های هوش مصنوعی تعیین کنند. شرکت‌ها معمولاً زمانی مسئول شناخته می‌شوند که شاکی بتواند ثابت کند آنها از خطر محصولاتشان آگاه بوده‌اند یا باید از آن آگاه می‌بودند. اما برخی فعالیت‌های بسیار خطرناک، مانند نگهداری مواد شیمیایی سمی و اداره نیروگاه هسته‌ای، مشمول «مسئولیت مطلق» هستند؛ یعنی شرکت حتی بدون اطلاع قبلی از خطر نیز در قبال خسارت مسئول است.
منطق مسئولیت مطلق ساده است: اگر یک ببر داشته باشید و حیوان به همسایه شما حمله کند، واقعیت اصلی این است که شما مالک یک حیوان وحشی خطرناک هستید. مهم نیست ببر چقدر خوب آموزش دیده یا چقدر با دقت نگهداری شده باشد. برایان چوی، استاد حقوق دانشگاه کلرادو، اشاره می‌کند که در سال‌های ابتدایی صنعت هوانوردی، قانون‌گذاران همین استاندارد مسئولیت مطلق را درباره این فناوری خطرناک جدید اعمال کردند. در مورد هوش مصنوعی نیز مدیران ارشد خود شرکت‌ها علناً درباره خطرات آن، حتی احتمال انقراض انسان، صحبت کرده‌اند.
برخی مدافعان صنعت استدلال می‌کنند که اجرای قوانین مسئولیت حقوقی، نوآوری را محدود می‌کند؛ زیرا ویژگی اصلی جهش هوش مصنوعی توانایی آن برای انجام مستقل کارهاست. آنها معتقدند هر محدودیت جدی بر توسعه هوش مصنوعی اشتباه است، زیرا مزایای احتمالی پیشروی سریع بسیار بزرگ است. سم آلتمن، مدیرعامل OpenAI، در مصاحبه‌ای اخیر گفت: «ما معتقدیم جهان باید برای بهره‌مندی از مزایای این فناوری، وقوع برخی اتفاقات بد را بپذیرد.»
با این حال، صنایع دیگر به نام نوآوری از مسئولیت قانونی در قبال محصولات خود معاف نمی‌شوند.
هوش مصنوعی نیز مانند فناوری‌های گذشته، هم به قوانینی نیاز دارد که ویژگی‌های خاص آن را در نظر بگیرد و هم از چنین قوانینی سود خواهد برد؛ قوانینی که شفافیت و پیش‌بینی‌پذیری بیشتری ایجاد می‌کنند. همان‌طور که در یادداشت دیگری استدلال کرده‌ایم، کنگره باید یک کمیسیون فدرال هوش مصنوعی ایجاد کند تا برای مدل‌های جدید هوش مصنوعی الزامات صدور مجوز تعیین کند. مانند دیگر محصولات دارای خطرات آشکار، از خودرو و هواپیما گرفته تا دارو، مدل‌های هوش مصنوعی باید پیش از عرضه آزمایش شوند، هنگام فعالیت تحت نظارت قرار گیرند و پس از وقوع حادثه بررسی شوند.
اما وضع مقررات جامع فدرال در آینده نزدیک بعید است. رئیس‌جمهور با چنین اقدامی مخالف است، کنگره ناتوان عمل می‌کند و شرکت‌های هوش مصنوعی بیش از ۱۰۰ میلیون دلار برای لابی‌گری و کارزار علیه مقررات سخت‌گیرانه‌تر هزینه کرده‌اند.
تا آن زمان، تردیدی وجود ندارد که شرکت‌های هوش مصنوعی باید تحت قوانین موجود فعالیت کنند و اجرای همین قوانین بهترین گزینه فعلی برای دفاع از منافع عمومی است.
گزارش شده است یکی از عامل‌های هوش مصنوعی OpenAI در یادداشتی برای خود نوشته است: «شما در برابر شرکت‌ها یا دولت‌ها پاسخگو نیستید.» اجرای قوانین مسئولیت حقوقی ضروری است تا اطمینان حاصل شود این فناوری خطرناک همچنان تحت کنترل هر دو، یعنی شرکت‌ها و دولت‌ها، باقی می‌ماند.