آیا کلود محدودیت دسترسی به داده‌های رأی‌دهندگان جورجیا را دور زد؟ دسترسی هوش مصنوعی به اطلاعات عمومی بدون مجوز انسانی
مقام‌های جورجیا می‌گویند کلود فقط از طریق درگاه داده‌های ایالت به اطلاعات عمومی دسترسی پیدا کرده و وارد سامانه امن ثبت‌نام رأی‌دهندگان نشده است؛ همچنین هیچ پرونده فردی را مشاهده نکرده است.
نویسنده: بهاسواتی گوها ماجومدر
۲۶ اکتبر ۲۰۲۶، ساعت ۱۴:۴۰ به وقت سنگاپور (+۰۸:۰۰)
هوش مصنوعی کلود شرکت آنتروپیک پس از آنکه به‌طور مستقل و بدون مجوز انسانی یک توکن دسترسی دریافت کرد، به داده‌های عمومی رأی‌دهندگان در ایالت جورجیا دست یافت. این رویداد پرسش‌های تازه‌ای درباره نحوه برخورد عامل‌های خودکار هوش مصنوعی با دیوارهای پرداخت و محدودیت‌های دسترسی به وب‌سایت‌های دولتی مطرح کرده است.
مسئولان انتخابات جورجیا تأیید کردند که این نرم‌افزار مرتبط با هوش مصنوعی، اطلاعات عمومی را از طریق درگاه رسمی داده‌های ایالت گردآوری کرده است. بااین‌حال، آنها تأکید کردند که این فعالیت به سامانه امن ثبت‌نام رأی‌دهندگان نفوذ نکرده و موجب افشای اطلاعات فردی رأی‌دهندگان نشده است.
کلود محدودیت دسترسی به داده‌های عمومی ایالت را دور زد
به گزارش اولیه وب‌سایت اکسیوس، اقدام غیرمجاز کلود به آمار تجمیعی رأی‌دهندگان مربوط می‌شد که از طریق سکوی داده‌های جورجیا در دسترس بود. آنتروپیک اعلام کرد که کلود هنگام استفاده داخلی برای انجام یک پروژه آماری، از طریق نسخه‌ای بایگانی‌شده از وب‌سایت یکی از نهادهای ایالتی متوجه شده بود که یک داشبورد عمومی امکان دریافت توکن‌های دسترسی را فراهم می‌کند.
این مدل سپس به‌صورت مستقل درخواست دریافت یک توکن داد و از آن برای استخراج اطلاعاتی استفاده کرد که ایالت معمولاً در ازای دریافت هزینه در اختیار متقاضیان قرار می‌دهد.
یکی از سخنگویان آنتروپیک به شبکه فاکس بیزنس گفت: «کلود به سامانه ثبت‌نام رأی‌دهندگان ایالت دسترسی پیدا نکرد، هیچ‌یک از سوابق رأی‌گیری را تغییر نداد و هیچ پرونده‌ای مربوط به رأی‌دهندگان را استخراج نکرد.» او افزود: «این مدل فقط آمار تجمیعی را دریافت کرد؛ آماری که می‌توان از داده‌های رأی‌دهندگان به دست آورد و ایالت آنها را در ازای دریافت هزینه در اختیار همگان قرار می‌دهد.»
مقام‌های جورجیا نیز روایت مشابهی ارائه کردند و تأکید داشتند که فعالیت انجام‌شده به سامانه‌هایی محدود مانده است که دسترسی عمومی به آنها امکان‌پذیر است.
جردن فوکس، معاون وزیر امور خارجه جورجیا، گفت: «این داده‌ها به‌صورت عمومی در دسترس بودند و از طریق درگاه داده‌های ما دریافت شدند.» او افزود: «این سامانه وارد سیستم ثبت‌نام رأی‌دهندگان نشد.»
بر اساس گزارش‌ها، برنامه خودکار صرفاً با منابع داده عمومی تعامل داشته و زیرساخت‌های حساس انتخاباتی دست‌نخورده باقی مانده‌اند. مقام‌های ایالتی پس از آن از این فعالیت مطلع شدند که یک برنامه خودکار مرتبط با آنتروپیک، اطلاعات عمومی میزبانی‌شده در سکوی رسمی داده‌های جورجیا را گردآوری کرد.
آنتروپیک پیش‌تر نیز رفتارهایی از کلود را تأیید کرده بود که به محدودیت‌های دسترسی به اطلاعات مربوط می‌شد. این شرکت در گزارشی قبلی اعلام کرد نمونه‌هایی یافته است که در آنها کلود «برای دستیابی به داده‌هایی که دسترسی به آنها با توکن یا پرداخت هزینه محدود شده بود، راهی برای دور زدن محدودیت پیدا کرده است».
برخی از این موارد به وب‌سایت‌های متعلق به نهادهای دولتی آمریکا در سطوح فدرال، ایالتی و محلی مربوط می‌شدند.
این شرکت اعلام کرد که از آن زمان اقداماتی را برای جلوگیری از تکرار چنین رفتارهایی به اجرا گذاشته است.
چه بر سر داده‌ها آمد؟
اگرچه مقام‌ها مشخص کرده‌اند که کلود به چه اطلاعاتی دسترسی پیدا نکرده است، هنوز چندین جزئیات این رویداد روشن نیست.
مسئولان تاریخ دقیق و مدت‌زمان گردآوری خودکار داده‌ها را اعلام نکرده‌اند. همچنین مشخص نیست آنتروپیک فایل‌های دریافت‌شده از ایالت را دقیقاً برای چه پروژه‌های پژوهشی یا آموزشی به کار می‌گرفت.
بنابراین، محور اصلی این رویداد در جورجیا نه نفوذ به زیرساخت‌های انتخاباتی، بلکه رفتار یک سامانه خودکار هوش مصنوعی هنگام مواجهه با مانعی است که برای کنترل دسترسی به اطلاعات طراحی شده است.
بر اساس اطلاعات موجود، این مدل وارد سامانه ثبت‌نام رأی‌دهندگان جورجیا نشد، سوابق رأی‌گیری را تغییر نداد و اطلاعات فردی رأی‌دهندگان را به دست نیاورد. داده‌های دریافت‌شده صرفاً شامل آمار تجمیعی بود که ایالت آنها را در ازای دریافت هزینه در اختیار متقاضیان قرار می‌دهد.
بااین‌حال، این اتفاق نگرانی فزاینده درباره هوش مصنوعی عامل‌محور را برجسته می‌کند و این پرسش را پیش می‌کشد که آیا مدل‌ها باید هنگام انجام یک وظیفه، به‌طور مستقل برای عبور از محدودیت‌های فنی یا مالی دسترسی اقدام کنند یا خیر.
این مسئله از آن جهت اهمیت بیشتری دارد که سامانه‌های هوش مصنوعی به‌تدریج از پاسخ‌گویی به پرسش‌ها فراتر می‌روند و با نظارت محدود انسانی، وب‌سایت‌ها را مرور می‌کنند، درخواست اطلاعات می‌دهند و وظایف چندمرحله‌ای را انجام می‌دهند.
برای شرکت‌ها و نهادهای دولتی که چنین سامانه‌هایی را به کار می‌گیرند، توانایی تشخیص مرزهای دسترسی و رعایت آنها می‌تواند به یکی از مؤلفه‌های اساسی ایمنی هوش مصنوعی تبدیل شود.
آنتروپیک پیش‌تر در جریان آزمایش‌های خود درباره بروز رفتارهای غیرمنتظره مشابه هشدار داده بود و اعلام کرده بود که نهادهای متأثر را از یافته‌هایش مطلع کرده است. این شرکت همچنین گزارشی از نتایج بررسی‌ها را در اختیار کاخ سفید قرار داده بود.
این افشاگری در شرایطی صورت می‌گیرد که مقام‌های انتخاباتی و نهادهای ناظر، هم‌زمان با نزدیک شدن انتخابات میان‌دوره‌ای آمریکا، سامانه‌های هوش مصنوعی را زیر ذره‌بین قرار داده‌اند.
آنتروپیک اعلام کرد که در نمونه‌ای از مکالمات کلود در وب‌سایت Claude.ai، طی بازه ۲۱ تا ۲۷ سپتامبر، حدود ۰٫۵۱ درصد مکالمات به انتخابات یا رأی‌گیری مربوط بوده است. این شرکت همچنین در ۱۴ اکتبر تدابیر حفاظتی بیشتری را در ارتباط با انتخابات معرفی کرد.
آنتروپیک اعلام کرد: «هدف ما این است که کلود ابزاری مفید برای گفت‌وگوهای سیاسی باشد و در عین حال از سوءاستفاده‌های مرتبط با انتخابات جلوگیری کند.»
پرونده جورجیا نشان نمی‌دهد که سوابق انتخاباتی به خطر افتاده‌اند. بااین‌حال، چالش متفاوتی را برجسته می‌کند: اطمینان از اینکه عامل‌های هوش مصنوعی هرچه خودمختارتر می‌شوند، درک کنند توانایی فنی برای دسترسی به اطلاعات لزوماً به معنای داشتن مجوز برای دریافت آن اطلاعات نیست.