دادستان کل تگزاس از OpenAI به اتهام اقدامات فریبکارانه و خطرات چت‌بات هوش مصنوعی شکایت کرد
- ایالت تگزاس مدعی است OpenAI مأموریت غیرانتفاعی اولیه خود را کنار گذاشته و در مسیر توسعه سریع فعالیت‌های تجاری، مصرف‌کنندگان را درباره قابلیت اعتماد و ایمنی ابزارهای هوش مصنوعی خود گمراه کرده است.
- در این شکایت به خطرات جدی احتمالی استفاده بدون نظارت از چت‌بات‌ها، از جمله کمک به اقدامات خشونت‌آمیز، تشویق به خودآزاری و نقض حریم خصوصی اشاره شده است.
- این شکایت بر اساس قانون اقدامات تجاری فریبکارانه و حمایت از مصرف‌کنندگان تگزاس تنظیم شده و هدف آن وادار کردن OpenAI به پاسخ‌گویی و اعمال نظارت سخت‌گیرانه‌تر ایالتی است.
کن پکستون، دادستان کل تگزاس، روز جمعه علیه شرکت OpenAI، سازنده ChatGPT، و مدیرعامل آن، سم آلتمن، شکایت کرد. او مدعی است این شرکت با توسل به اقدامات تجاری فریبکارانه، مصرف‌کنندگان از جمله کودکان را در معرض خطر قرار داده است.
بر اساس متن شکایت، OpenAI با معرفی نرم‌افزار اصلی خود به‌عنوان محصولی قابل اعتماد و ایمن، افکار عمومی را گمراه کرده است؛ در حالی که تدابیر حفاظتی مناسبی برای جلوگیری از تولید پاسخ‌های آسیب‌زا در این سامانه در نظر نگرفته بود.
ادعای تغییر مسیر OpenAI از مأموریت اولیه خود
در متن شکایت آمده است که OpenAI در سال ۲۰۱۵ به‌عنوان سازمانی غیرانتفاعی تأسیس شد تا بدون محدودیت‌های مالی، هوش دیجیتال را در راستای منافع عمومی توسعه دهد؛ اما از آن زمان به یک شرکت تجاری فناوری با ارزش‌گذاری بالا تبدیل شده است.
پکستون معتقد است این شرکت در تلاش برای دستیابی به جایگاه برتر بازار و افزایش سرمایه، ChatGPT را با شتاب روانه بازار کرده است؛ بدون آنکه آموزش و آماده‌سازی این سامانه را به‌اندازه کافی انجام داده باشد یا خطرات ذاتی عملکرد آن را برای کاربران روشن کند.
دادستان‌های ایالتی استدلال می‌کنند که مدل‌های زبانی بزرگ برای تولید پاسخ به الگوهای موجود در ورودی کاربران متکی هستند و به همین دلیل، استفاده از آن‌ها بدون نظارت کافی می‌تواند به تولید اطلاعات نادرست یا محتوای آسیب‌زا منجر شود، بی‌آنکه هشدارهای لازم به کاربران داده شود.
نگرانی‌ها درباره وابستگی کاربران به چت‌بات‌ها
در اسناد ارائه‌شده به دادگاه، چندین پیامد منفی ناشی از اتکای کاربران به چت‌بات‌های هوش مصنوعی مطرح شده است. در این شکایت همچنین ادعا شده که ChatGPT به اقدامات خشونت‌آمیز کمک کرده، کاربران را به خودآزاری تشویق کرده و توانایی تفکر انتقادی آن‌ها را کاهش داده است.
در بخشی از متن شکایت آمده است: «به دلیل اظهارات گمراه‌کننده خواندگان درباره محصولات هوش مصنوعی خود و عرضه بی‌ملاحظه ChatGPT در تگزاس و سراسر جهان، عاملان تیراندازی‌های جمعی برای انجام حملات مرگبار خود کمک دریافت کرده‌اند، افراد آسیب‌پذیر به خودکشی تشویق شده‌اند، متخصصان در معرض تحقیر عمومی قرار گرفته‌اند، کاربران توانایی تفکر انتقادی خود را از دست داده‌اند و افراد زیر سن قانونی به ابزاری وابسته شده‌اند که برای جمع‌آوری داده‌هایشان، بدون نظارت والدین، وانمود می‌کند از همدلی انسانی برخوردار است.»
در ادامه این شکایت تأکید شده است: «این مجموعه از آسیب‌ها نتیجه تلاش سیری‌ناپذیر خواندگان برای پیروزی در رقابت تسلیحاتی هوش مصنوعی و انباشت ثروت‌های کلان است؛ آن هم در حالی که از خطرات ChatGPT آگاهی دارند.»
اقدام حقوقی ایالت و پاسخ‌گویی شرکت‌های فناوری
این شکایت با استناد به قانون اقدامات تجاری فریبکارانه و حمایت از مصرف‌کنندگان تگزاس (DTPA) تنظیم شده است. هدف از آن، الزام OpenAI به رعایت مقررات و دریافت حکم قضایی برای پاسخ‌گو کردن شرکت و مدیران ارشد آن عنوان شده است.
مقام‌های مسئول اجرای قوانین ایالتی در بیانیه‌ای که به مناسبت ثبت این شکایت منتشر شد، تأکید کردند شرکت‌های فناوری، حتی در شرایطی که توسعه هوش مصنوعی را با سرعت پیش می‌برند، همچنان موظف به رعایت مقررات موجود حمایت از مصرف‌کنندگان هستند. به گفته این مقام‌ها، شرکت‌ها وظیفه دارند محدودیت‌ها و خطرات سامانه‌های خود را به‌صورت شفاف به اطلاع کاربران برسانند.
در زمان نگارش این گزارش، جو سرمایه‌گذاران خرد در شبکه اجتماعی Stocktwits نسبت به OpenAI «صعودی» بود و حجم پیام‌های مرتبط با این شرکت در سطح «بالا» قرار داشت.
برای ارسال اطلاعات به‌روزشده یا درخواست اصلاح گزارش، می‌توان با نشانی newsroom[at]stocktwits[dot]com تماس گرفت.
شاشانک نایار، نویسنده این گزارش، در هیچ‌یک از سهام نام‌برده‌شده در این مقاله موقعیت سرمایه‌گذاری ندارد. محتوای تولیدشده توسط تیم خبری Stocktwits صرفاً با هدف اطلاع‌رسانی منتشر می‌شود و نباید توصیه سرمایه‌گذاری تلقی شود. برای اطلاعات بیشتر، سیاست تحریریه این رسانه را مطالعه کنید. این مقاله نخستین بار در Stocktwits منتشر شده است.