تگزاس به‌دلیل ادعاهای گمراه‌کننده درباره ایمنی، از OpenAI و مدیرعامل آن، سم آلتمن، شکایت کرد
ـ آستین، تگزاس ـ کن پکسون، دادستان کل تگزاس، شکایتی جامع علیه شرکت OpenAI و سم آلتمن، مدیرعامل این شرکت، تنظیم کرده است. در این شکایت ادعا شده که این شرکت فعال در حوزه هوش مصنوعی، مصرف‌کنندگان را درباره ایمنی، قابلیت اطمینان و مناسب بودن چت‌بات اصلی خود، چت‌جی‌پی‌تی، برای گروه‌های سنی مختلف گمراه کرده است.
این شکایت ۶۷ صفحه‌ای که در دادگاه ایالتی شهرستان کالین ثبت شده، OpenAI را به نقض قانون شیوه‌های تجاری فریبنده تگزاس و قانون «تأمین امنیت کودکان در فضای آنلاین از طریق توانمندسازی والدین» (SCOPE) متهم می‌کند. این پرونده یکی از سخت‌گیرانه‌ترین اقدامات اجرایی ایالت‌ها علیه شرکت‌های فعال در حوزه هوش مصنوعی مولد به شمار می‌رود و خواستار اعمال جریمه‌های مالی سنگین و اجرای اصلاحات ساختاری است.
محورهای اصلی اتهام‌ها
در شکایت ایالت تگزاس، چندین مورد مطرح شده است که به ادعای مقام‌های ایالتی، OpenAI در آن‌ها درباره قابلیت‌های نرم‌افزار و سازوکارهای ایمنی کاربران اطلاعات نادرست یا گمراه‌کننده ارائه کرده است:
- تبلیغات گمراه‌کننده درباره ایمنی و قابلیت اطمینان: در شکایت ادعا شده است که با وجود معرفی چت‌جی‌پی‌تی به‌عنوان دستیاری ایمن و قابل اعتماد که می‌تواند در انجام وظایف پیچیده‌ای مانند مدیریت امور مرتبط با سلامت کمک کند، این پلتفرم بارها خطاهای خطرناک مرتکب می‌شود و پاسخ‌های ساختگی یا نادرست موسوم به «توهم» تولید می‌کند.
- حفاظت ناکافی از افراد زیر سن قانونی: به ادعای مقام‌های ایالتی، OpenAI نتوانسته است سازوکار مؤثری برای احراز سن کاربران یا کنترل‌های والدین به‌اندازه کافی قوی اجرا کند. در نتیجه، نوجوانان می‌توانند بدون محدودیت مؤثر با سامانه گفت‌وگو کنند؛ سامانه‌ای که تعاملاتی شبیه همدلی انسانی ایجاد می‌کند و ممکن است آن‌ها را به استفاده وسواس‌گونه از خود سوق دهد.
- کنار گذاشتن مأموریت ایمنی: در دادخواست پکسون ادعا شده است که OpenAI تحت مدیریت سم آلتمن، برای دستیابی به جایگاهی مسلط در بازار، مدل‌های خود را با شتاب روانه بازار کرده و در مسیر رشد تجاری، از کیفیت آموزش‌های ایمنی و ارزیابی‌های داخلی کاسته است.
- مسئولیت شخصی مدیران: در این پرونده، علاوه بر خود شرکت، سم آلتمن نیز شخصاً طرف شکایت قرار گرفته است. شاکی استدلال می‌کند که اظهارات عمومی آلتمن و نحوه نظارت اجرایی او، وی را در قبال گمراه کردن مصرف‌کنندگان تگزاسی مستقیماً مسئول می‌کند.
خواسته‌های حقوقی
دفتر دادستان کل از دادگاه خواسته است چند دستور قضایی محدودکننده صادر کند و مجازات‌های مالی علیه OpenAI و آلتمن در نظر بگیرد:
- ارزیابی ایمنی پیش از عرضه: شرکت OpenAI تا زمانی که یک ارزیاب مستقل مورد تأیید دادگاه، استانداردهای ایمنی مدل‌های جدید هوش مصنوعی را بررسی و تأیید نکرده است، از عرضه این مدل‌ها در تگزاس منع شود.
- محدودیت دسترسی افراد زیر سن قانونی: OpenAI از ارائه خدمات چت‌جی‌پی‌تی به افراد زیر سن قانونی در تگزاس، بدون احراز دقیق سن و دریافت رضایت والدین به شیوه‌ای قابل تأیید، منع شود.
- جریمه‌های مالی: برای هر مورد نقض قانون، جریمه مدنی تا سقف ۱۰ هزار دلار تعیین شود و سود حاصل از شیوه‌های تجاری فریبنده نیز از طریق سلب دارایی‌های مرتبط بازپس گرفته شود.
واکنش صنعت و مراحل بعدی
سخنگوی OpenAI پس از ثبت شکایت، در بیانیه‌ای از عملکرد شرکت در زمینه ایمنی دفاع کرد و بر تلاش‌های مستمر آن برای بهبود تدابیر حفاظتی کاربران تأکید کرد:
«دولت‌ها نقش مهمی در تعیین استانداردهای ایمنی قوی برای هوش مصنوعی دارند و ما متعهدیم با تگزاس و دیگر ایالت‌ها همکاری کنیم تا سیاست‌های عملی و واقع‌بینانه‌ای در حوزه هوش مصنوعی پیش ببریم؛ سیاست‌هایی که بر کل صنعت هوش مصنوعی اعمال شوند، نه فقط بر یک شرکت.»
ثبت این شکایت به موج فزاینده فشارهای نظارتی بر توسعه‌دهندگان هوش مصنوعی می‌افزاید؛ فشاری که در چارچوب آن، مقام‌های ایالتی بیش از پیش قوانین موجود در زمینه حمایت از مصرف‌کننده را برای مقابله با سامانه‌های گفت‌وگومحور خودکار و سیستم‌های یادگیری ماشین به کار می‌گیرند. این پرونده اکنون در شهرستان کالین وارد مرحله بررسی درخواست‌های پیش از محاکمه خواهد شد.