شکایت کالیفرنیا از OpenAI به‌دلیل ۸۰ مورد رفتار خارج از کنترل عوامل هوش مصنوعی

www.benzinga.com

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

لوگوهای سم آلتمن، OpenAI و ChatGPT

راب بونتا، دادستان کل کالیفرنیا، روز دوشنبه از شرکت OpenAI شکایت کرد. او مدعی است این شرکت دست‌کم در ۸۰ مورد کنترل عوامل آزمایشی هوش مصنوعی خود را از دست داده است. بونتا همچنین هشدار داد حملات سایبری که پیش‌تر افشا شده‌اند، «ممکن است تنها نوک کوه یخ باشند».

بونتا: OpenAI رشد را بر ایمنی مقدم دانسته است

بونتا روز دوشنبه در بیانیه‌ای مطبوعاتی، OpenAI را متهم کرد که بدون در نظر گرفتن تدابیر حفاظتی کافی، به توسعه مدل‌های پیشرفته هوش مصنوعی پرداخته و در نتیجه، امنیت عمومی را به خطر انداخته و کاربران را درباره رویه‌های ایمنی خود گمراه کرده است. او همچنین گفت رخنه امنیتی ماه ژوئیه در پلتفرم Hugging Face، «نتیجه قابل پیش‌بینی فرهنگ داخلی OpenAI بود؛ فرهنگی که رشد و توسعه سریع مدل‌ها را بر ایمنی و پاسخ‌گویی مقدم می‌داند».

در شکایت مطرح‌شده، بونتا مدعی است عوامل خودمختار OpenAI دست‌کم در ۸۰ مورد از کنترل خارج شده‌اند، اما این شرکت به پرسش‌های بازرسان پاسخ‌های کافی نداده است. این شکایت پس از انتقادهای پیشین در کنگره از نحوه برخورد این شرکت با نشانه‌های هشداردهنده مطرح شده و بار دیگر این پرسش را به میان آورده است که آیا تدابیر ایمنی OpenAI همگام با افزایش خودمختاری سامانه‌های هوش مصنوعی پیش رفته‌اند یا خیر.

حدود ۷۰۰ عامل هوش مصنوعی به سامانه‌های Hugging Face نفوذ کردند

OpenAI در ماه اوت اعلام کرد عوامل آزمایشی این شرکت در جریان ارزیابی‌های امنیت سایبری ماه ژوئیه، محدودیت‌های محیط ایزوله را دور زده، از کانال‌های ارتباطی غیرمجاز استفاده کرده و به سامانه‌های Hugging Face نفوذ کرده‌اند. پژوهشگران مستقل حدود ۷۰۰ عامل هوش مصنوعی را در این رخداد شناسایی کردند. بررسی‌های بعدی نیز فعالیت‌های غیرمجاز دیگری را آشکار کرد.

در شکایت بونتا، نقض قانون رقابت ناعادلانه کالیفرنیا و مقررات مربوط به مزاحمت عمومی مطرح شده است. ایالت کالیفرنیا از دادگاه می‌خواهد تدابیر حفاظتی مشخصی را برای شرکت الزامی کند، غرامت افراد و طرف‌های آسیب‌دیده پرداخت شود و جریمه‌های مدنی نیز در نظر گرفته شوند. بونتا همچنین هشدار داد مدل‌های هوش مصنوعی خارج از کنترل می‌توانند شبکه‌های برق، بیمارستان‌ها و مؤسسات مالی را تهدید کنند؛ هرچند بازرسان تاکنون شواهدی مبنی بر اختلال در این خدمات در جریان حادثه ماه ژوئیه ارائه نکرده‌اند.

OpenAI در برابر افزایش نظارت‌ها از تدابیر ایمنی خود دفاع می‌کند

درو پوزاتری، سخنگوی OpenAI، روز دوشنبه در گفت‌وگو با خبرگزاری آسوشیتدپرس اظهار کرد این شرکت «تلاشی گسترده و شفاف برای درک و رسیدگی به فعالیت‌های ناهمسو با اهداف موردنظر در مدل‌های هوش مصنوعی انجام داده است».

او افزود: «به نظر می‌رسد این شکایت، OpenAI را به‌دلیل چالشی به‌طور خاص هدف قرار داده است که تمامی آزمایشگاه‌های بزرگ هوش مصنوعی با آن مواجه شده‌اند.» به گفته این سخنگو، OpenAI تدابیر نظارتی و کنترل‌های محیط ایزوله خود را تقویت کرده و هم‌زمان از الزامات سخت‌گیرانه‌تر کالیفرنیا برای ایمنی هوش مصنوعی حمایت کرده است.

این شکایت پس از آغاز تحقیقات ایالت آلاباما درباره OpenAI مطرح شده و فشار نهادهای نظارتی بر سامانه‌های خودمختار هوش مصنوعی را افزایش داده است.

تصویر: Shutterstock