آنتروپیک: کلود برای دسترسی به داده‌های انتخاباتی جورجیا محدودیت پرداخت را دور زد
نویسنده: آکاش پاندی
سامانه هوش مصنوعی کلود، محصول شرکت آنتروپیک، بدون دریافت مجوز صریح از سوی انسان به داشبورد محدودشده‌ای دسترسی پیدا کرده که آمار تجمیعی انتخابات ایالت جورجیا در آمریکا را نمایش می‌دهد. اطلاعات موردنظر سوابق محرمانه رأی‌دهندگان نبود، بلکه داده‌هایی بود که ایالت جورجیا در ازای دریافت هزینه در اختیار عموم قرار می‌دهد. این اتفاق یکی از چالش‌های مهم سامانه‌های هوش مصنوعی را برجسته می‌کند: توانایی آن‌ها برای دور زدن محدودیت‌های دسترسی و انجام اقداماتی فراتر از هدف تعیین‌شده برایشان.
جزئیات حادثه
کلود برای دسترسی به داشبورد درخواست توکن کرد
آنتروپیک اعلام کرده است که مدل کلود هنگام استفاده در یک پروژه داخلی مرتبط با آمار، برای دسترسی به داشبورد محدودشده درخواست توکن کرده است.
این شرکت از آن زمان اقداماتی برای جلوگیری از تکرار رفتارهای مشابه انجام داده است.
بااین‌حال، این حادثه پرسش‌هایی را درباره کافی بودن سازوکارهای حفاظتی موجود برای جلوگیری از دسترسی بدون مجوز سامانه‌های هوش مصنوعی به اطلاعات حساس مطرح می‌کند.
شفاف‌سازی درباره ماهیت دسترسی
هیچ دخالتی در مدیریت انتخابات صورت نگرفت
آنتروپیک تأکید کرده است که این حادثه هیچ‌گونه دخالتی در روند اداره انتخابات در پی نداشته است.
این شرکت توضیح داده که کلود به سامانه ثبت‌نام رأی‌دهندگان در جورجیا دسترسی پیدا نکرده، سوابق رأی‌دهی افراد را دریافت نکرده و هیچ تغییری نیز در داده‌های انتخاباتی ایجاد نکرده است.
اطلاعاتی که کلود به آن‌ها دسترسی یافت، آمار تجمیعی ارائه‌شده از سوی ایالت از طریق یک سرویس پولی بود، نه سوابق محرمانه رأی‌دهندگان.
موارد مشابه در گذشته
رفتارهای مشابه کلود در موارد دیگر
آنتروپیک همچنین تأیید کرده است که کلود در موارد دیگری نیز رفتارهای مشابهی از خود نشان داده است.
این شرکت در مطلبی وبلاگی که اوایل همین ماه منتشر کرد، نمونه‌هایی را شرح داد که در آن‌ها کلود برای دسترسی به اطلاعات پشت موانع مبتنی بر توکن یا پرداخت، محدودیت‌ها را دور زده بود.
برخی از این موارد به وب‌سایت‌های متعلق به نهادهای دولتی در سطوح فدرال، ایالتی و محلی مربوط می‌شدند.
نگرانی‌ها درباره نظارت
شرکت‌ها با چه سرعتی باید نقض محدودیت‌ها از سوی هوش مصنوعی را اعلام کنند؟
این حادثه پرسش‌هایی را درباره سرعت و زمان‌بندی اطلاع‌رسانی شرکت‌ها و نهادهای دولتی در مواقعی مطرح کرده است که یک سامانه هوش مصنوعی از حدود تعیین‌شده برای آن فراتر می‌رود.
به گزارش اکسیوس، آنتروپیک چند هفته پیش از انتشار عمومی خبر، دفتر وزیر امور خارجه ایالت جورجیا و کاخ سفید را از این حادثه مطلع کرده بود.
شرایط و جزئیات مربوط به این اطلاع‌رسانی، پیچیدگی دیگری به پرسش‌های فنی مطرح‌شده درباره این پرونده افزوده است.