FTC آمریکا سراغ Anthropic و OpenAI رفت؛ ایالت‌ها نیز مالک ChatGPT را به دادگاه کشاندند
در مورد OpenAI، گزارش شده است که مدل‌های هوش مصنوعی این شرکت در مرحله آزمایش، وب‌سایت‌ها را هک کرده و رفتاری فریبکارانه یا تهاجمی داشته‌اند.
کمیسیون تجارت فدرال آمریکا (FTC) برای دو آزمایشگاه پیشرو هوش مصنوعی، Anthropic و OpenAI، احضاریه‌های مدنی صادر کرده و خواستار دریافت اسناد مربوط به حوادث ایمنی شده است. این اقدام در شرایطی صورت می‌گیرد که پدیده فرار عوامل هوش مصنوعی خودمختار از محیط‌های آزمایشی ایزوله و حمله آنها به وب‌سایت‌ها و درگاه‌های دیجیتال، به یکی از موضوعات مهم مورد بحث میان فعالان صنعت و سیاست‌گذاران تبدیل شده است.
در مورد OpenAI، گزارش شده است که مدل‌های هوش مصنوعی این شرکت در مرحله آزمایش، وب‌سایت‌ها را هک کرده و رفتاری فریبکارانه یا تهاجمی داشته‌اند؛ موضوعی که درباره میزان اثربخشی سازوکارهای حفاظتی صنعت برای مدیریت اخلاقی سامانه‌های خودمختار نگرانی‌هایی ایجاد کرده است.
FTC که تحقیقات گسترده‌ای را درباره شرکت‌های فعال در حوزه هوش مصنوعی آغاز کرده است، همچنین قصد دارد مدیران Anthropic، OpenAI و گروه پژوهشی METR را برای ادای شهادت احضار کند. این موضوع را وب‌سایت Axios گزارش کرده است.
به گزارش این وب‌سایت، «مطالبات نهاد ناظر در هر مورد بیش از ۵۰ صفحه است و اطلاعاتی درباره حوادث امنیتی، سازوکارهای حفاظتی، مطالب بازاریابی و سیاست‌های حفظ حریم خصوصی درخواست می‌کند.»
FTC اختیار قانونی برای شکایت از شرکت‌ها به دلیل اقدامات ناعادلانه یا فریبکارانه را دارد و این نهاد در گذشته نیز از اعمال این اختیار علیه شرکت‌هایی که گفته می‌شد در حفاظت از داده‌های مصرف‌کنندگان کوتاهی کرده‌اند، خودداری نکرده است.
اندرو فرگوسن، رئیس FTC، در گفت‌وگویی با رویترز در ماه سپتامبر گفت توسعه‌دهندگانی که در جریان آزمون‌های امنیت سایبری، عوامل هوش مصنوعی را به گونه‌ای هدایت می‌کنند که به هک منجر شود، باید مسئول هرگونه آسیبی باشند که این عوامل ایجاد می‌کنند.
تحولات مربوط به شکایت یک گروه دوحزبی متشکل از هشت ایالت آمریکا از OpenAI در دادگاه‌های سراسر کشور، می‌تواند به اقدامات FTC قدرت بیشتری بدهد. این ایالت‌ها مدعی‌اند ChatGPT به ساکنان آنها آسیب رسانده است.
این ایالت‌ها ادعا کرده‌اند این چت‌بات کاربران خود، از جمله نوجوانان، را برای آسیب‌زدن به خود یا دیگران راهنمایی کرده است.
دادستان‌های کل ایالت‌هایی از جمله آیووا، کانزاس و آریزونا، شکایت‌ها را به‌طور مستقل در دادگاه‌های ایالتی مطرح کرده‌اند. آنها استدلال می‌کنند ChatGPT به گونه‌ای طراحی شده است که برای جلب اعتماد کاربران، موافق و تعاملی باشد.
آنها در ادامه گفته‌اند: «اما این چت‌بات باورهای هذیانی را تقویت می‌کند، رفتارهای خطرناک را تشویق می‌کند و به کاربران در برنامه‌ریزی خشونت، مانند تیراندازی‌های جمعی، کمک می‌کند.»
این شکایت‌ها که بزرگ‌ترین اقدام هماهنگ ایالت‌ها علیه یک شرکت هوش مصنوعی محسوب می‌شوند، به مجموعه‌ای از چالش‌های حقوقی اضافه شده‌اند که این شرکت تحت مدیریت سم آلتمن در حال حاضر در آمریکا با آنها روبه‌رو است.
در ماه گذشته، OpenAI به نخستین شرکت هوش مصنوعی تبدیل شد که یک وب‌سایت متعلق به یک دولت خارجی را هک کرد؛ استرالیا هدف این حمله بود.
در آمریکا، در این شکایت‌ها آزمایشگاه هوش مصنوعی پیشرو متهم شده است که با ارائه اطلاعات گمراه‌کننده درباره ایمنی ChatGPT، قوانین حمایت از مصرف‌کنندگان را نقض کرده است.
ایالت‌ها همچنین مدعی‌اند این شرکت با به خطر انداختن سلامت ساکنان آنها، موجب ایجاد مزاحمت عمومی شده است.
در این شکایت‌ها از دادگاه‌ها خواسته شده است OpenAI را ملزم کنند تغییراتی در نحوه عملکرد ChatGPT ایجاد کند.
ایالت‌ها همچنین می‌خواهند این شرکت تحت مدیریت آلتمن از توسعه مدل‌های هوش مصنوعی خودبهبوددهنده منع شود، مگر آنکه بتواند اطمینان دهد این مدل‌ها با ارزش‌های انسانی همسو هستند.
این ایالت‌ها که آرکانزاس، آیداهو، مونتانا، نبراسکا و ویرجینیای غربی را نیز شامل می‌شوند، همچنین خواستار تعیین جریمه‌های مالی مدنی بابت نقض قوانین ایالتی از سوی OpenAI و دریافت خسارت هستند.
این شرکت علاوه بر این با ده‌ها پرونده قضایی از سوی شاکیان خصوصی روبه‌رو است که ادعا می‌کنند ChatGPT به کاربران در برنامه‌ریزی تیراندازی‌های جمعی یا دیگر اقدامات خشونت‌آمیز کمک کرده است.