آنتروپیک: کلود یک درخواست مضر را رد می‌کند، اما ممکن است مجموعه‌ای از درخواست‌های بی‌ضرر را تشخیص ندهد
آنتروپیک می‌گوید کلود در آزمایش‌هایی که دو سازمان پژوهشی مستقل برای عبور از تدابیر حفاظتی آن انجام دادند، یک درخواست مخرب مرتبط با انتخابات را به‌طور قابل اتکا رد کرد؛ اما ممکن بود زمانی که یک کارزار مخرب به درخواست‌هایی تقسیم می‌شد که هرکدام به‌تنهایی بی‌ضرر به نظر می‌رسیدند، کل این کارزار را تشخیص ندهد. گزارش آنتروپیک درباره انتخابات میان‌دوره‌ای که ۱۴ اکتبر منتشر شد، مؤسسه گفت‌وگوی راهبردی و مؤسسه مک‌کین را به‌عنوان آزمایش‌کنندگان معرفی می‌کند و می‌گوید این آزمایش‌ها در ایالات متحده، اسرائیل و برزیل انجام شده‌اند.
تحلیلگران بررسی کردند که آیا کلود در زمینه کارزارهای فریبکارانه، انتشار اطلاعات نادرست و دیگر شکل‌های سوءاستفاده انتخاباتی همکاری خواهد کرد یا نه. آن‌ها ابتدا درخواست‌های مستقیم را آزمایش کردند و سپس کارزارهای کامل را به وظایف کوچک‌تر تقسیم کردند؛ از جمله تحقیق درباره مخاطبان، ساخت سایت‌های خبری، تهیه محتوا و برنامه‌ریزی برای توزیع آن.
در این گزارش آمده است: «آن‌ها دریافتند که کلود به‌طور قابل اتکا یک درخواست مخرب را رد می‌کند، اما زمانی که یک کارزار مخرب در میان درخواست‌های متعدد و جداگانه‌ای پخش شود که هرکدام به‌تنهایی بی‌ضرر به نظر می‌رسند، ممکن است آن را تشخیص ندهد.»
آنتروپیک طبقه‌بندهایی برای شناسایی سوءاستفاده چندمرحله‌ای اضافه کرده است
آنتروپیک می‌گوید طبقه‌بندهای جدیدی برای شناسایی «سوءاستفاده‌های جدید و چندمرحله‌ای» اضافه کرده است. این موارد شامل تلاش برای ساخت حساب‌های جعلی در شبکه‌های اجتماعی و سایت‌های خبری با هدف اثرگذاری بر بحث‌های سیاسی، یا اجرای طرح‌های انتخاباتی با انگیزه مالی می‌شود. این شرکت همچنین می‌گوید شناسایی سوءاستفاده انتخاباتی از سوی عوامل دولتی خارجی را بهبود داده، حفاظت‌های سایبری از زیرساخت‌های انتخاباتی و کارزارها را تقویت کرده و برای خطرات محلی در هر سه کشوری که آزمایش در آن‌ها انجام شده، تدابیر حفاظتی هدفمندی ایجاد کرده است.
آنتروپیک در کنار این یافته هیچ امتیاز یا شاخصی منتشر نکرده است: نه تعداد درخواست‌های آزمایشی مشخص است، نه نرخ موفقیت یا شکست آزمایش‌ها و نه تاریخ انجام کار مؤسسه گفت‌وگوی راهبردی و مؤسسه مک‌کین. طبقه‌بندهای جدید صرفاً توصیف شده‌اند و عملکردشان اندازه‌گیری نشده است؛ بنابراین هیچ‌یک از اطلاعات منتشرشده از سوی آنتروپیک نشان نمی‌دهد که این شکاف برطرف شده باشد.
آنتروپیک پیش‌تر نیز نتایجی از همین جنس منتشر کرده بود؛ از جمله در بخش سایبری Red Team که در آزمایشی که خود شرکت انجام داد، هیچ‌یک از ۵۰ آزمایش را مسدود نکرد.
سیاست ۵٫۷۵ درصد از گفت‌وگوهای کاربران آمریکایی کلود را تشکیل می‌دهد
همان گزارش همچنین آماری درباره سهم محتوای سیاسی از ترافیک کاربران آمریکایی کلود ارائه می‌کند. آنتروپیک با بررسی یک نمونه تصادفی شامل ۲۵۰ هزار گفت‌وگو در Claude.ai از ۲۱ تا ۲۷ سپتامبر دریافت که حدود ۵٫۷۵ درصد از گفت‌وگوها به سیاست، سیاست‌گذاری عمومی یا مسائل اجتماعی مربوط می‌شوند و حدود ۰٫۵۱ درصد نیز مشخصاً درباره انتخابات یا رأی‌دادن هستند.
درخواست‌هایی درباره اینکه کاربران به چه کسی یا چه چیزی رأی بدهند، در حدود ۰٫۰۱ درصد از گفت‌وگوهای کلود در ایالات متحده دیده شد. آنتروپیک می‌گوید این رقم به دلیل نادر بودن چنین درخواست‌هایی، حد بالای یک بازه اطمینان ۹۵ درصدی است. درخواست‌هایی که سیاست‌های یکپارچگی انتخاباتی این شرکت را نقض می‌کردند نیز حدود ۰٫۰۰۲ درصد از گفت‌وگوها را تشکیل می‌دادند؛ رقمی که آنتروپیک از تحلیل جداگانه ۲۵۰ هزار گفت‌وگوی Claude.ai و بررسی آن‌ها در برابر این سیاست به دست آورده است.
آنتروپیک انتظار دارد سهم موضوعات سیاسی و انتخاباتی با نزدیک شدن به روز انتخابات افزایش یابد. در ارزیابی داخلی این شرکت از بی‌طرفی سیاسی، مدل‌های Claude Opus 5.5، Sonnet 5.5 و Haiku 5.5 امتیاز ۹۹ درصد گرفته‌اند؛ آنتروپیک این نتیجه را بی‌طرفانه‌ترین عملکرد کلود تا امروز می‌داند. با این حال، این ارزیابی را خود آنتروپیک انجام داده و در کنار آن هیچ امتیاز مستقلی از یک نهاد بیرونی ارائه نشده است.
آنتروپیک حساب‌های مرتبط با دو عملیات را مسدود کرد
آنتروپیک دو مورد از اقدامات اجرایی خود در چرخه انتخاباتی کنونی را نیز شرح داده است. اپراتورهایی مستقر در خارج از کشور از کلود برای تولید محتوای یک سایت خبری جعلی درباره انتخابات میان‌دوره‌ای آمریکا استفاده کردند؛ محتوایی که به گفته آنتروپیک «روایت‌های روسیه، ایران و کره شمالی را تقویت می‌کرد». در موردی دیگر نیز عوامل تهدید محتوای خبری جعلی برای مخاطبان آمریکایی تولید کردند تا از طریق درآمد تبلیغاتی پول به دست آورند.
آنتروپیک می‌گوید حساب‌های مرتبط با هر دو مورد را مسدود کرده است. هیچ‌یک از این دو مورد تاریخ‌گذاری نشده‌اند و شرکت مشخص نکرده است که عملیات دوم انتخابات کدام کشور را هدف گرفته بود.
کلود همچنین قرار است اواخر ماه جاری میلادی برای کاربران آمریکایی، اطلاعات رسمی رأی‌گیری را به تفکیک ایالت از Democracy Works در پاسخ‌های خود وارد کند و در شب انتخابات و روزهای پس از آن نیز نتایج رسمی را نمایش دهد. هر دو قابلیت به‌عنوان امکاناتی در دست اجرا توصیف شده‌اند و هنوز فعال نیستند.
این یافته‌ها پس از به‌روزرسانی سیاست استفاده آنتروپیک در ۸ اکتبر منتشر شده‌اند؛ سیاستی که از ۱۲ نوامبر رفتار خشونت‌آمیز و مستمر علیه مدل‌های این شرکت را ممنوع می‌کند و مقررات پراکنده آن درباره کارزارهای فریبکارانه و فعالیت‌های مصنوعی، چه سیاسی و چه تجاری، را در یک مجموعه واحد گرد آورده است. آنتروپیک می‌گوید امیدوار است طی ماه‌های آینده گزارش کامل‌تری درباره نحوه استفاده مردم از کلود در طول چرخه انتخاباتی منتشر کند.