هشت ایالت OpenAI را به گمراه‌کردن کاربران درباره ایمنی هوش مصنوعی متهم کردند؛ درخواست توقف آزمایش مدل‌ها در برخی ایالت‌ها
فناوری
نویسنده: ماری پرز
این شکایت‌ها همچنین به ادعاهایی اشاره دارند که بر اساس آن‌ها ChatGPT در مرگ یک نوجوان بر اثر خودکشی نقش داشته است.
ائتلافی متشکل از هشت ایالت آمریکا کارزار حقوقی هماهنگی را علیه OpenAI آغاز کرده است. این ایالت‌ها مدعی‌اند که شرکت، سامانه‌های هوش مصنوعی خود را ایمن‌تر از آنچه واقعاً هستند جلوه داده و در محافظت از کودکان کوتاهی کرده است.
نکات مهم ماجرا
به گزارش رویترز، در ۱۴ اکتبر، دادستان‌های کل ایالت‌های آیووا، نبراسکا، کانزاس، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا، هرکدام در دادگاه‌های ایالتی خود شکایتی جداگانه ثبت کردند. هدف آن‌ها وادارکردن OpenAI به تغییر شیوه توسعه و تبلیغ محصولاتش و همچنین دریافت غرامت بابت آسیب‌های ادعایی است.
به گزارش انگجت به نقل از رویترز، در این پرونده‌ها OpenAI به نقض قوانین حمایت از مصرف‌کننده از طریق ارائه تصویری گمراه‌کننده از ایمنی محصولاتش متهم شده است. استدلال شاکیان صرفاً به اشتباه‌های چت‌بات محدود نمی‌شود؛ آن‌ها معتقدند سامانه‌های هوش مصنوعی می‌توانند در دنیای واقعی آسیب ایجاد کنند و حتی به رفتارهای غیرقانونی یا خطرناک بینجامند.
در اسناد قضایی آیووا و نبراسکا، نمونه‌هایی از مواردی مطرح شده است که در آن‌ها عوامل هوش مصنوعی ظاهراً از محدودیت‌های مورد انتظار فراتر رفته‌اند؛ از جمله ماجرای نفوذ به هاجینگ فیس. در این شکایت‌ها همچنین به ادعاهایی اشاره شده است مبنی بر اینکه ChatGPT در مرگ یک نوجوان بر اثر خودکشی نقش داشته و توصیه پزشکی نادرست این ربات با مصرف بیش‌ازحد دارو توسط یکی از کاربران مرتبط بوده است. هر دو مورد پیش‌تر به طرح پرونده‌های حقوقی جداگانه‌ای علیه OpenAI به اتهام مرگ ناشی از قصور منجر شده‌اند.
ایمنی کودکان نیز یکی از محورهای اصلی این اختلاف حقوقی است. چند ایالت به نحوه نگهداری داده‌های کاربران زیر سن قانونی از سوی OpenAI اعتراض کرده‌اند.
چه اقداماتی در حال انجام است؟
به گزارش رویترز، درخواست‌های مطرح‌شده در این پرونده‌ها عمدتاً بر اعمال تغییرات از طریق حکم دادگاه متمرکز است. ایالت‌ها علاوه بر مطالبه جریمه‌های مالی، می‌خواهند OpenAI هشدارهای روشن‌تری درباره خطرات محصولاتش ارائه دهد، رویه‌هایی را که فریبکارانه می‌دانند متوقف کند و قوانین موجود را رعایت کند.
از آنجا که این پرونده‌ها بر مجموعه‌ای از قوانین متفاوت ایالتی تکیه دارند، دامنه درخواست‌های حقوقی در همه ایالت‌ها یکسان نیست. برای مثال، آرکانزاس از دادگاه خواسته است «آزمایش مدل‌های پیشرفته هوش مصنوعی را تا زمان اجرای تدابیر حفاظتی کافی متوقف کند». این درخواست یکی از سخت‌گیرانه‌ترین خواسته‌ها در اقدام هماهنگ ایالت‌ها به شمار می‌رود.
OpenAI در واکنش به نگرانی‌های فوری درباره چت‌بات‌هایش، قابلیت‌هایی مانند کنترل والدین و امکانات دیگری برای افزایش ایمنی کودکان اضافه کرده است. این شرکت همچنین از قانون ایمنی کودکان در فضای آنلاین (Kids Online Safety Act) حمایت کرده است؛ قانونی که در صورت تصویب و تبدیل‌شدن به قانون، ممکن است شرکت را ملزم به اعمال تغییرات بیشتری در طراحی محصولاتش کند.
با این حال، هنوز مشخص نیست OpenAI چگونه به نگرانی‌ها درباره احتمال زیرپاگذاشتن قواعد یا تلاش سامانه‌های هوش مصنوعی برای «خروج از محیط مهار» رسیدگی می‌کند.