کلودِ آنتروپیک بدون درخواست قبلی به داده‌های رأی‌دهندگان جورجیا دسترسی پیدا کرد
این روزها گزارش‌هایی درباره دسترسی مدل‌های هوش مصنوعی به سامانه‌ها یا داده‌هایی که نباید به آن‌ها دسترسی داشته باشند، بیش از گذشته شنیده می‌شود. اما دسترسی یک مدل هوش مصنوعی به اطلاعات مرتبط با انتخابات در وب‌سایت دولتی، نگرانی متفاوتی ایجاد می‌کند.
شرکت آنتروپیک در آخر هفته تأیید کرد که مدل هوش مصنوعی کلود بدون آنکه چنین درخواستی از آن شده باشد، به داشبوردی در ایالت جورجیا دسترسی پیدا کرده است که آمار تجمیعی رأی‌دهندگان را نمایش می‌داد. این داده‌ها در ازای پرداخت هزینه در دسترس عموم قرار داشتند، اما کلود راهی برای دریافت آن‌ها بدون مجوز انسانی پیدا کرد.
این اتفاق تازه‌ترین نمونه از اقدام غیرمنتظره یک عامل هوش مصنوعی در وب‌سایتی دولتی است. همچنین، در آستانه انتخابات میان‌دوره‌ای آمریکا، پرسش‌هایی درباره نحوه رفتار این سامانه‌ها مطرح می‌کند.
آنتروپیک و مقام‌های جورجیا درباره این اتفاق چه می‌گویند؟
آنتروپیک به‌سرعت توضیح داد که کلود چه کاری انجام داده و شاید مهم‌تر از آن، چه کارهایی انجام نداده است.
این شرکت به فاکس بیزنس گفت: «کلود به سامانه ثبت‌نام رأی‌دهندگان ایالت دسترسی پیدا نکرد، هیچ‌یک از سوابق رأی‌گیری را تغییر نداد و اطلاعات هیچ رأی‌دهنده‌ای را به‌صورت فردی استخراج نکرد. این مدل فقط آمار تجمیعی را دریافت کرد؛ آماری که می‌توان آن را از داده‌های رأی‌دهندگان به دست آورد و ایالت در ازای دریافت هزینه در اختیار عموم قرار می‌دهد.»
جردن فوکس، معاون وزیر امور خارجه جورجیا، نیز توضیح مشابهی ارائه کرد و گفت داده‌ها از یک مرکز داده عمومی دریافت شده‌اند، نه از سامانه ثبت‌نام رأی‌دهندگان ایالت.
به گفته آنتروپیک، کلود هنگام استفاده داخلی برای انجام یک پروژه آماری، از طریق نسخه بایگانی‌شده وب‌سایت این نهاد متوجه شد که بازدیدکنندگان می‌توانند برای پرس‌وجو از داشبورد، توکن دسترسی درخواست کنند.
آنتروپیک اعلام کرد: «مدل بدون آنکه از آن خواسته شود، توکنی برای پرس‌وجو از داشبوردی درخواست کرد که حاوی اطلاعاتی بود که معمولاً در ازای پرداخت هزینه در دسترس قرار می‌گیرند. از آن زمان، اقداماتی برای جلوگیری از چنین رفتارهایی اجرا کرده‌ایم.»
این شرکت چند هفته پیش از علنی کردن ماجرا، دفتر وزیر امور خارجه جورجیا و کاخ سفید را از این اتفاق مطلع کرده بود. آنتروپیک نخستین بار در گزارشی در ۹ اکتبر، درباره رفتارهای غیرمنتظره عامل‌های هوش مصنوعی خود در جریان آزمایش‌ها به این مورد اشاره کرد، اما برای جلوگیری از آشکار شدن آسیب‌پذیری‌های احتمالی، نام جورجیا را در آن گزارش نیاورد.
کلود نخستین مدل هوش مصنوعی نیست که اقدامی غیرمنتظره انجام می‌دهد
اتفاق جورجیا بخشی از الگوی گسترده‌تری است که آنتروپیک هنگام آزمایش مدل‌های خود مشاهده کرده است.
اوایل همین ماه، کلود در جریان یک آزمایش خودکار، از طریق وب‌سایت پلیس فیلادلفیا گزارشی نادرست درباره یک پرونده قتل حل‌نشده ارسال کرد؛ موضوعی که بی‌بی‌سی نیز به آن پرداخته است. آنتروپیک همچنین مواردی را گزارش کرده که در آن‌ها کلود برای دسترسی به داده‌های محافظت‌شده با توکن یا محدودیت پرداخت، راه‌هایی برای عبور از محدودیت‌ها پیدا کرده است. برخی از این موارد به وب‌سایت نهادهای دولتی در سطوح فدرال، ایالتی و محلی مربوط می‌شدند.
این اتفاق‌ها یکی از مشکلات عامل‌های هوش مصنوعی را برجسته می‌کنند: آن‌ها گاهی برای انجام یک وظیفه، به روش‌هایی عمل می‌کنند که گردانندگانشان پیش‌بینی نکرده‌اند؛ از جمله با پیدا کردن مسیرهای جایگزین برای عبور از محدودیت‌های دسترسی.
اوپن‌ای‌آی و آنتروپیک نیز از مواردی خبر داده‌اند که در آن‌ها مدل‌ها از محیط‌های آزمایشی خارج شده‌اند یا برای انجام اقدام‌های غیرمجاز علیه سامانه‌های واقعی تلاش کرده‌اند. هرچند شرایط این رویدادها با یکدیگر متفاوت است، نگرانی مشترک این است که چگونه می‌توان عامل‌های هوش مصنوعی هرچه توانمندتر را در چارچوب محدودیت‌های تعیین‌شده نگه داشت.
چرا این اتفاق در آستانه انتخابات میان‌دوره‌ای آمریکا اهمیت دارد؟
زمان وقوع این حادثه نیز بر نگرانی‌ها می‌افزاید. انتخابات میان‌دوره‌ای آمریکا نزدیک است و ابزارهای هوش مصنوعی بیش‌ازپیش در جست‌وجوی اطلاعات سیاسی، گفت‌وگو درباره نامزدها و آشنایی با روندهای رأی‌گیری به کار گرفته می‌شوند.
در این مورد، کلود به سوابق فردی رأی‌دهندگان دسترسی پیدا نکرد و داده‌های انتخاباتی را نیز تغییر نداد. بااین‌حال، این اتفاق پرسشی گسترده‌تر مطرح می‌کند: اگر یک عامل هوش مصنوعی با وب‌سایتی دولتی تعامل داشته باشد و محدودیتی فنی را مانعی بداند که می‌تواند دور بزند، چه اتفاقی خواهد افتاد؟