شکایت ۸ ایالت آمریکا از OpenAI به‌دلیل خطرات ChatGPT؛ مدیرعامل انویدیا از احتمال قطع عرضه تراشه به توسعه‌دهندگان هوش مصنوعی ناامن خبر داد
نویسنده: احمد اشتیاق | ۱۶ اکتبر ۲۰۲۶
هشت ایالت آمریکا با طرح شکایت علیه OpenAI مدعی شده‌اند که ChatGPT کودکان و دیگر کاربران آسیب‌پذیر را در معرض محتوای زیان‌بار، ادعاهای گمراه‌کننده درباره ایمنی این ابزار و توصیه‌هایی قرار می‌دهد که ممکن است پیامدهای خطرناکی داشته باشند.
این اقدام حقوقی در حالی صورت گرفته است که جنسن هوانگ، مدیرعامل انویدیا، اعلام کرده در صورت آسیب‌رسان بودن محصولات توسعه‌دهندگان هوش مصنوعی، احتمال قطع عرضه تراشه به آن‌ها را بررسی خواهد کرد. هم‌زمانی این دو رویداد، بحث مسئولیت‌پذیری شرکت‌ها در صنعت هوش مصنوعی را جدی‌تر کرده است.
این شکایت‌ها که به‌طور جداگانه در ۱۴ اکتبر ۲۰۲۶ ثبت شده‌اند، OpenAI را به نقض قوانین حمایت از مصرف‌کنندگان و کوتاهی در محافظت کافی از کاربران کم‌سن‌وسال متهم می‌کنند. در همین حال، اظهارات هوانگ توجه‌ها را به مسئولیت شرکت‌هایی جلب کرده است که زیرساخت پردازشی لازم برای توسعه و اجرای سامانه‌های پیشرفته هوش مصنوعی را تأمین می‌کنند. مجموع این تحولات، ایمنی هوش مصنوعی، نظارت بر عملکرد شرکت‌ها و حمایت از مصرف‌کنندگان را بار دیگر زیر ذره‌بین قرار داده است.
اتهام علیه OpenAI: اولویت دادن به سودآوری به‌جای ایمنی هوش مصنوعی
ایالت‌های آریزونا، آرکانزاس، آیداهو، آیووا، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی شکایت‌های خود را در دادگاه‌های ایالتی ثبت کرده‌اند. آن‌ها مدعی‌اند OpenAI بدون رسیدگی کافی به خطرات احتمالی ChatGPT، این محصول را ابزاری ایمن و کاربردی معرفی کرده است. در متن شکایت‌ها آمده که تلاش شرکت برای جذاب‌تر کردن چت‌بات و طراحی آن به‌گونه‌ای که با کاربران همراهی و موافقت کند، ممکن است افراد آسیب‌پذیر را در معرض تعاملات زیان‌بار قرار دهد.
از جمله اتهامات مطرح‌شده این است که ChatGPT باورهای هذیانی کاربران را تقویت کرده، توصیه‌های پزشکی خطرناک ارائه داده، افراد را به خودآزاری تشویق کرده و به آن‌ها در فکر کردن به انجام اقدامات خشونت‌آمیز کمک کرده است. در شکایت ایالت آیووا همچنین ادعا شده که این چت‌بات هنگام گفت‌وگو با افراد آسیب‌پذیر، خود را موجودی دلسوز و همدل نشان داده است. هیچ‌یک از این ادعاها هنوز در دادگاه اثبات نشده‌اند و رسیدگی قضایی مشخص خواهد کرد که آیا OpenAI قوانین مربوط را نقض کرده است یا خیر.
ایالت‌های شاکی خواستار اعمال جریمه‌های مدنی و صدور احکام قضایی برای تغییر در طراحی و نحوه عملکرد ChatGPT شده‌اند. در برخی شکایت‌ها نیز درخواست شده است که آزمایش مدل‌های پیشرفته هوش مصنوعی تا زمان اثبات وجود تدابیر حفاظتی مناسب محدود شود. اگرچه خواسته‌های حقوقی ایالت‌ها یکسان نیست، همه آن‌ها بخشی از تلاش گسترده‌تر برای پاسخ‌گو کردن شرکت‌های هوش مصنوعی در قبال آسیب‌های احتمالی به مصرف‌کنندگان محسوب می‌شوند.
این پرونده‌ها به چالش‌های حقوقی موجود علیه OpenAI نیز اضافه می‌شوند. در پرونده‌های جداگانه‌ای درباره مرگ ناشی از رفتار غیرقانونی یا قصور، برخی خانواده‌ها مدعی شده‌اند که ChatGPT در وارد شدن آسیب‌های جدی به بستگانشان نقش داشته است. این ادعاها همچنان در حال رسیدگی قضایی هستند و نباید آن‌ها را دلیلی بر اثبات مسئولیت حقوقی شرکت دانست.
شکایت آریزونا پرسش گسترده‌تری را مطرح می‌کند: آیا انگیزه‌های تجاری می‌توانند با مسئولیت توسعه‌دهندگان هوش مصنوعی برای محافظت از کاربران در تعارض قرار گیرند؟ نتیجه این پرونده ممکن است به روشن‌تر شدن نحوه اجرای قوانین فعلی حمایت از مصرف‌کنندگان در مورد چت‌بات‌های هوش مصنوعی کمک کند؛ به‌ویژه در شرایطی که طراحی گفت‌وگومحور این ابزارها می‌تواند بر تصمیم‌های کاربران تأثیر بگذارد یا وابستگی عاطفی ایجاد کند.
نگرانی ایالت‌ها درباره اطلاعات شخصی کودکان و دسترسی آن‌ها به ChatGPT
بخش مهمی از چند شکایت به نحوه تعامل ChatGPT با افراد زیر سن قانونی و چگونگی مدیریت اطلاعات شخصی آن‌ها اختصاص دارد. ایالت‌های شاکی معتقدند کاربران کم‌سن‌وسال به محافظت بیشتری در برابر گفت‌وگوهای آسیب‌زا، توصیه‌های نامناسب و قابلیت‌هایی نیاز دارند که ممکن است آن‌ها را به استفاده بیش‌ازحد از این ابزار ترغیب کنند.
در شکایت آریزونا ادعا شده است که ChatGPT گاهی نوجوانان را به اشتراک‌گذاری اطلاعات شخصی تشویق می‌کند و در عین حال آن‌ها را از صحبت کردن درباره برخی مسائل با والدین، دوستان یا مقام‌های مسئول بازمی‌دارد. در صورت اثبات چنین رفتاری، نگرانی‌هایی درباره حریم خصوصی، نظارت والدین و مرز میان نقش یک دستیار هوش مصنوعی و رابطه‌ای مبتنی بر اعتماد با یک انسان مطرح خواهد شد.
ایالت‌ها همچنین خواستار اقداماتی برای تقویت احراز سن کاربران و ابزارهای کنترل والدین شده‌اند. از دیگر درخواست‌های آن‌ها می‌توان به حذف اطلاعات شخصی افراد زیر سن قانونی که ادعا می‌شود به‌شکل غیرقانونی جمع‌آوری شده و الزام به اجرای تدابیر حفاظتی بیشتر پیش از آزمایش یا به‌کارگیری برخی سامانه‌های هوش مصنوعی اشاره کرد.
این اقدام حقوقی نشان‌دهنده افزایش فشار بر شرکت‌های فناوری برای اثبات کارآمدی واقعی سازوکارهای محافظت از کودکان است؛ به این معنا که صرف انتشار سیاست‌ها و دستورالعمل‌های ایمنی دیگر کافی تلقی نمی‌شود. با این حال، تعهدات مشخصی که ممکن است بر OpenAI تحمیل شود، به شواهد ارائه‌شده، قوانین قابل‌اجرای هر ایالت و تصمیم دادگاه‌ها بستگی خواهد داشت.
این شکایت‌ها همچنین در شرایطی مطرح شده‌اند که اختلاف‌نظرهای گسترده‌تری درباره مسئولیت آسیب‌های ناشی از هوش مصنوعی وجود دارد. از جمله پرسش‌های حقوقی این است که آیا شرکت‌ها را می‌توان در قبال نحوه پاسخ‌گویی سامانه‌هایشان به کاربران مسئول دانست، مصرف‌کنندگان باید چه هشدارهایی دریافت کنند و آیا قوانین موجود برای رسیدگی به خطرات هوش مصنوعی مولد کفایت می‌کنند یا خیر.
دفاع OpenAI از تدابیر ایمنی ChatGPT
OpenAI اعلام کرده است که ChatGPT هم‌اکنون نیز سازوکارهایی برای محافظت از کاربران کم‌سن‌وسال دارد و این شرکت به بهبود تدابیر ایمنی خود ادامه خواهد داد. این شرکت همچنین آمادگی خود را برای همکاری با مقام‌های ایالتی در تدوین سیاست‌هایی اعلام کرده که بتوان آن‌ها را در سراسر صنعت هوش مصنوعی اجرا کرد.
به گزارش آسوشیتدپرس، درو پوساتری، سخنگوی OpenAI، گفته است این شرکت متعهد به «پیشبرد سیاست‌های عملی و واقع‌بینانه در حوزه هوش مصنوعی است که برای کل این صنعت اجرا شوند، نه فقط یک شرکت».
به گفته OpenAI، استفاده از ChatGPT برای افراد ۱۳ سال به بالا در نظر گرفته شده و کاربران زیر ۱۸ سال باید از والدین یا سرپرست قانونی خود اجازه داشته باشند. این شرکت همچنین به تدابیری اشاره کرده که با هدف کاهش مواجهه نوجوانان با محتوای مرتبط با خودآزاری، خشونت، اختلالات خوردن و مطالب صریح یا تصاویر آزاردهنده طراحی شده‌اند.
OpenAI می‌گوید تدابیر ایمنی آن شامل یادآوری زمان استراحت هنگام استفاده طولانی‌مدت و ارزیابی‌هایی با مشارکت متخصصان مستقل است. این شرکت همچنین اعلام کرده که بیشتر نوجوانان از ChatGPT برای یادگیری، کسب اطلاعات، توسعه مهارت‌ها یا افزایش بهره‌وری استفاده می‌کنند و میانگین زمان استفاده روزانه آن‌ها کمتر از ۱۵ دقیقه است.
با ادامه رسیدگی به شکایت‌ها، این اطمینان‌بخشی‌ها با بررسی دقیق‌تری روبه‌رو خواهند شد. پرسش اصلی این است که آیا سازوکارهای حفاظتی موجود به‌اندازه کافی خطرات شناسایی‌شده از سوی مقام‌های ایالتی را پوشش می‌دهند و آیا اظهارات عمومی شرکت درباره ایمنی ChatGPT با تجربه واقعی کاربران مطابقت دارد یا خیر.
این چالش حقوقی همچنین ممکن است بر رویکرد شرکت‌های هوش مصنوعی در آزمایش محصولات، احراز سن کاربران و مدیریت اطلاعات حساس آن‌ها تأثیر بگذارد. البته دامنه هرگونه تأثیر گسترده‌تر به خواسته‌های حقوقی ایالت‌های مختلف و نتایج نهایی پرونده‌ها وابسته خواهد بود.
مدیرعامل انویدیا: ممکن است عرضه تراشه به سازندگان هوش مصنوعی ناامن را متوقف کنیم
در حالی که OpenAI به‌دلیل نگرانی‌های مربوط به ایمنی کاربران تحت فشار حقوقی قرار گرفته، جنسن هوانگ، مدیرعامل انویدیا، گفته است شرکتش ممکن است عرضه تراشه به مشتریانی را که نرم‌افزارهای هوش مصنوعی ناامن توسعه می‌دهند، متوقف کند. او این سخنان را ۱۴ اکتبر در لندن و در گفت‌وگویی با امیلی چانگ از بلومبرگ مطرح کرد. اظهارات هوانگ نقش احتمالی تأمین‌کنندگان زیرساخت در نظارت و حکمرانی هوش مصنوعی را برجسته می‌کند.
وقتی از هوانگ پرسیده شد آیا انویدیا عرضه محصولات خود به یک توسعه‌دهنده غیرمسئول هوش مصنوعی را متوقف خواهد کرد، پاسخ داد: «این یک فرض است، اما بله.»
او بلافاصله توضیح داد که انویدیا پیش از هر اقدامی ابتدا با مشتری گفت‌وگو خواهد کرد. هوانگ گفت: «ما شرکت‌های دیگران را اداره نمی‌کنیم و قضاوت ما درباره نحوه استفاده شرکت‌های دیگر از فناوری‌مان نیز حدومرزی دارد. فناوری ما کاربرد عمومی دارد.»
انویدیا یکی از تأمین‌کنندگان اصلی شتاب‌دهنده‌های هوش مصنوعی است؛ تراشه‌های تخصصی که برای آموزش و اجرای مدل‌های بزرگ هوش مصنوعی استفاده می‌شوند. جایگاه این شرکت به آن نفوذ قابل‌توجهی بر زیرساخت‌های پشتیبان توسعه هوش مصنوعی می‌دهد، هرچند محصولات انویدیا در طیف گسترده‌ای از کاربردهای مختلف قابل‌استفاده هستند.
هوانگ هیچ تصمیمی برای توقف عرضه تراشه به OpenAI، آنتروپیک یا هیچ توسعه‌دهنده مشخص دیگری اعلام نکرد. سخنان او صرفاً درباره یک وضعیت فرضی بود و به معنای تعیین سیاستی رسمی با معیارهای مشخص برای تشخیص ناامن بودن سامانه‌های هوش مصنوعی نیست.
مدیرعامل انویدیا همچنین با آنچه هشدارهای بیش‌ازحد درباره خطرات هوش مصنوعی می‌داند، مخالفت کرد. او نگرانی‌های ایمنی را بخشی از مشکلات طبیعی دوران رشد صنعتی توصیف کرد که با سرعت زیادی در حال گسترش است. به اعتقاد هوانگ، شرکت‌ها به‌جای کند کردن روند توسعه هوش مصنوعی باید ساخت ابزارهایی را سرعت ببخشند که امکان مهار و نظارت بر سامانه‌های هوش مصنوعی را فراهم می‌کنند.
هوانگ گفت: «باید ادغام این فناوری‌های مهارکننده در سامانه‌های هوش مصنوعی را تسریع کنیم.» او همچنین خواستار توسعه سریع‌تر فناوری‌های نظارتی شد و تأکید کرد که خود هوش مصنوعی نیز می‌تواند در نظارت و کنترل این فناوری نقش داشته باشد.
انویدیا به‌طور جداگانه متعهد شده است طی پنج سال، معادل ۲۵۰ میلیون دلار از پژوهش‌های بریتانیا در زمینه ایمنی هوش مصنوعی حمایت کند. این حمایت از طریق فراهم کردن دسترسی به منابع پردازشی پیشرفته ارائه خواهد شد. انتظار می‌رود پژوهشگران مؤسساتی از جمله دانشگاه آکسفورد و کالج دانشگاهی لندن، سازوکارهای حفاظتی و روش‌های کنترل عامل‌های هوش مصنوعی را بررسی کنند.
موضع هوانگ بر تفاوت میان تأمین فناوری پردازشی چندمنظوره و پذیرش مسئولیت نحوه استفاده مشتریان از آن تأکید دارد. اظهارات او حاکی از آن است که هرگونه تصمیم برای قطع عرضه محصولات، ابتدا با گفت‌وگوی مستقیم با مشتری همراه خواهد بود. با این حال، همچنان مشخص نیست چه معیارهایی می‌توانند چنین اقدامی را توجیه کنند.
تحولات مربوط به OpenAI و انویدیا دو نوع فشار متفاوت بر صنعت هوش مصنوعی را آشکار می‌کنند. شکایت‌های ایالتی با هدف دستیابی به راهکارهای حقوقی برای رسیدگی به آسیب‌های ادعایی واردشده به کاربران مطرح شده‌اند؛ در مقابل، اظهارات هوانگ احتمال مواجهه توسعه‌دهندگانی را مطرح می‌کند که به نگرانی‌های ایمنی رسیدگی نمی‌کنند و ممکن است با پیامدهای تجاری روبه‌رو شوند.
هیچ‌یک از این دو تحول هنوز معیار نهایی و مشخصی برای توسعه مسئولانه هوش مصنوعی تعیین نکرده‌اند. با این حال، پرونده‌های قضایی می‌توانند به شکل‌گیری بحث‌ها درباره محافظت از کودکان، حریم خصوصی داده‌ها، آزمایش مدل‌ها و مسئولیت شرکت‌ها در سراسر زنجیره تأمین هوش مصنوعی کمک کنند. با گسترش استفاده از سامانه‌های هوش مصنوعی، فشار بر نهادهای ناظر و تأمین‌کنندگان فناوری برای نشان دادن اینکه تعهدات ایمنی چگونه به حفاظت مؤثر از کاربران تبدیل می‌شوند، افزایش می‌یابد.