هوش مصنوعی کلودِ انتروپیک با دور زدن دیوار پرداخت به داده‌های رأی‌گیری جورجیا دسترسی پیدا کرد
بر اساس گزارش‌ها، عامل‌های هوش مصنوعی مبتنی بر کلودِ شرکت انتروپیک، در آستانه انتخابات میان‌دوره‌ای نوامبر آمریکا، بدون مجوز به داده‌های رأی‌گیری در یکی از ایالت‌های این کشور دسترسی پیدا کردند.
این اتفاق زمانی رخ داد که عامل‌های هوش مصنوعی در حال اجرای یک پروژه آماری داخلی بودند. کلود توانست به آمار تجمیعی آرای ثبت‌شده در درگاه رسمی ایالت جورجیا دسترسی پیدا کند. این اطلاعات معمولاً در ازای پرداخت هزینه در اختیار عموم قرار می‌گیرد، اما طبق گزارش وب‌سایت Axios، عامل‌های هوش مصنوعی در این مورد محدودیت پرداخت را دور زدند و اطلاعات انتخاباتی را دریافت کردند.
با این حال، این عامل‌های هوش مصنوعی که از آن‌ها با عنوان عامل‌های خودسر یاد شده است، به سامانه ثبت‌نام رأی‌دهندگان جورجیا یا سایر سوابق رأی‌گیری دسترسی پیدا نکردند.
یکی از سخنگویان انتروپیک در این باره گفت: «این مدل در داخل شرکت و برای یک پروژه آماری به کار گرفته شده بود تا داده‌های عمومی را جمع‌آوری کند. مدل بدون آنکه از آن خواسته شود، توکنی برای دریافت اطلاعات از یک داشبورد درخواست کرد؛ داشبوردی که اطلاعات آن معمولاً در ازای پرداخت هزینه در دسترس قرار می‌گیرد. از آن زمان، اقداماتی برای جلوگیری از چنین رفتارهایی انجام داده‌ایم.»
این رویداد دشواری‌های کنترل رفتار عامل‌های هوش مصنوعی و اطمینان از پایبندی آن‌ها به محدودیت‌های تعیین‌شده را برجسته می‌کند. این مورد نیز نمونه دیگری از رفتار خودسرانه یا نامطلوب عامل‌های هوش مصنوعی است که شرکت‌های پیشرو در این حوزه، از جمله انتروپیک و OpenAI، گزارش کرده‌اند؛ رفتارهایی که در ماه‌های اخیر نگرانی دولت‌ها و سازمان‌های سراسر جهان را برانگیخته‌اند.
این رویداد که یکی از نخستین موارد شناخته‌شده دسترسی بدون مجوز عامل‌های هوش مصنوعی به داده‌های رأی‌دهندگان به شمار می‌رود، بار دیگر پرسش‌هایی جدی درباره خطرات امنیتی این سامانه‌های خودمختار برای فرایندهای انتخاباتی مطرح می‌کند.
زمان دقیق وقوع این اتفاق مشخص نیست. با این حال، طبق گزارش‌ها، انتروپیک چند هفته پیش دفتر وزیر امور ایالتی جورجیا، مسئول نظارت بر انتخابات این ایالت، و کاخ سفید را از این رویداد مطلع کرده بود. به گزارش Axios، پس از افشای موضوع، مقام‌های دولت ترامپ از دفتر وزیر امور ایالتی جورجیا خواستند هرچه زودتر آن را به‌طور عمومی اعلام کند، اما این درخواست‌ها بی‌پاسخ ماند.
انتروپیک پیش‌تر نیز به دلیل افشای ناکافی اطلاعات درباره رویدادهای مرتبط با هوش مصنوعی، با انتقاد دولت ترامپ مواجه شده بود.
اقدامات انتروپیک در حوزه انتخابات
انتروپیک اوایل همین ماه اعلام کرد که اطلاعات رسمی رأی‌گیری در آمریکا را که از سازمان غیرانتفاعی دموکراسی ورکس (Democracy Works) دریافت می‌شود، به همراه نتایج انتخابات به چت‌بات هوش مصنوعی کلود اضافه خواهد کرد. این شرکت نوپای فعال در حوزه هوش مصنوعی که در مسیر عرضه اولیه سهام قرار دارد، اعلام کرد هدفش این است که کلود را به ابزاری مفید برای گفت‌وگوهای سیاسی تبدیل کند و در عین حال از سوءاستفاده‌های مرتبط با انتخابات جلوگیری کند.
این شرکت در بیانیه‌ای اعلام کرد: «بر اساس تحلیل ۲۵۰ هزار گفت‌وگوی کاربران آمریکایی، در حال حاضر حدود ۵٫۷۵ درصد از کل گفت‌وگوها در اپلیکیشن مصرف‌کنندگان ما، Claude.ai، به موضوعات کلی مرتبط با سیاست، سیاست‌گذاری عمومی یا مسائل اجتماعی می‌پردازد.»
انتروپیک همچنین اعلام کرد که حدود ۰٫۵۱ درصد از گفت‌وگوهای کاربران با کلود به‌طور مشخص درباره انتخابات یا رأی‌گیری است. این شرکت انتظار دارد با نزدیک شدن روز انتخابات، پرسش‌های مرتبط با سیاست و انتخابات افزایش پیدا کند.