هوش مصنوعی و انتخابات میان‌دوره‌ای آمریکا؛ آنتروپیک چگونه با سوگیری سیاسی و تهدیدهای انتخاباتی مقابله می‌کند؟
آنتروپیک در آستانه انتخابات میان‌دوره‌ای ۲۰۲۶ آمریکا، تدابیر خود را برای جلوگیری از سوگیری سیاسی در کلود تقویت می‌کند. این شرکت همچنین برنامه‌هایی برای مقابله با اطلاعات نادرست تولیدشده با هوش مصنوعی و تلاش برای دستکاری انتخابات دارد.
با افزایش استفاده از هوش مصنوعی به‌عنوان منبعی برای دریافت اطلاعات سیاسی، شرکت آنتروپیک در آستانه انتخابات میان‌دوره‌ای نوامبر ۲۰۲۶ آمریکا، اقدامات حفاظتی چت‌بات کلود را تقویت می‌کند. تمرکز این اقدامات بر کاهش سوگیری سیاسی، ارائه اطلاعات معتبر به رأی‌دهندگان و جلوگیری از سوءاستفاده از هوش مصنوعی برای تولید محتوای سیاسی فریبنده است.
آنتروپیک می‌گوید اقدامات جدیدش با هدف کمک به کاربران برای درک مسائل سیاسی، بدون سوق‌دادن آن‌ها به دیدگاهی خاص، طراحی شده است. این شرکت همچنین می‌خواهد مانع سوءاستفاده افراد و گروه‌های مخرب از ابزارهای هوش مصنوعی خود برای انتشار اطلاعات نادرست یا آسیب‌زدن به سلامت انتخابات شود.
آنتروپیک در گزارشی که پیش از انتخابات میان‌دوره‌ای منتشر کرده، روش‌های خود را برای سنجش سوگیری سیاسی، هدایت رأی‌دهندگان به منابع رسمی اطلاعات انتخاباتی و شناسایی تلاش‌های هماهنگ برای سوءاستفاده از کلود تشریح کرده است. این شرکت همچنین مواردی را افشا کرده که در آن‌ها گردانندگانی مستقر در خارج از آمریکا ظاهراً از این چت‌بات برای تولید اخبار سیاسی ساختگی استفاده کرده‌اند.
این اقدامات در شرایطی انجام می‌شود که نگرانی‌ها درباره محتوای سیاسی تولیدشده با هوش مصنوعی در آمریکا رو به افزایش است. رسانه‌ها و پژوهشگران در حال بررسی این موضوع هستند که چت‌بات‌ها، محتوای مصنوعی و تولید خودکار مطالب چگونه ممکن است بر اطلاعاتی که رأی‌دهندگان در جریان کارزارهای انتخاباتی دریافت می‌کنند، تأثیر بگذارند.
کاربران واقعاً چه پرسش‌های سیاسی از کلود می‌پرسند؟
آنتروپیک برای بررسی نحوه تعامل کاربران با کلود درباره مسائل سیاسی و انتخاباتی، ۲۵۰ هزار گفت‌وگو در وب‌سایت Claude.ai را طی یک دوره یک‌هفته‌ای اخیر تحلیل کرده است.
به گفته این شرکت، حدود ۵٫۷۵ درصد از کل گفت‌وگوهای کاربران آمریکایی در Claude.ai به سیاست، سیاست‌گذاری عمومی یا مسائل اجتماعی مربوط بوده است. پرسش‌هایی که مشخصاً درباره انتخابات یا رأی‌دادن مطرح شده‌اند نیز حدود ۰٫۵۱ درصد از گفت‌وگوها را تشکیل داده‌اند.
درخواست‌هایی که در آن‌ها کاربران از کلود می‌خواستند بگوید به چه کسی یا چه گزینه‌ای رأی بدهند، بسیار کمتر بوده و تنها حدود ۰٫۰۱ درصد از گفت‌وگوهای آمریکایی موجود در نمونه را شامل شده است. آنتروپیک همچنین اعلام کرده که حدود ۰٫۰۰۲ درصد از گفت‌وگوها حاوی درخواست‌هایی بوده‌اند که سیاست‌های این شرکت درباره سلامت انتخابات را نقض می‌کردند.
تفکیک موضوعی گفت‌وگوهای سیاسی در نمودار منتشرشده، تصویر دقیق‌تری از شیوه استفاده کاربران از این چت‌بات ارائه می‌دهد. کمک به نگارش و انجام فعالیت‌های دانشگاهی ۳۵٫۸ درصد از گفت‌وگوهای نمایش‌داده‌شده در نمودار را تشکیل داده و سهم کمک به پژوهش‌های دانشگاهی و حرفه‌ای ۲۹٫۷ درصد بوده است.
پژوهش درباره مسائل سیاسی و ژئوپلیتیکی ۱۰٫۷ درصد از این گفت‌وگوها را شامل شده و ۱۰٫۶ درصد نیز به راستی‌آزمایی سیاسی و بررسی استدلال‌ها اختصاص داشته است.
از دیگر کاربردهای کلود می‌توان به تحقیق درباره انتخابات و مراحل رأی‌گیری، تحلیل روندهای اقتصادی و مالی مرتبط با تحولات ژئوپلیتیکی و بررسی استدلال‌های سیاسی یا فلسفی اشاره کرد.
این یافته‌ها نشان می‌دهد تعامل سیاسی کاربران با هوش مصنوعی بسیار فراتر از درخواست معرفی یک نامزد انتخاباتی است. کاربران برای درک بحث‌های مربوط به سیاست‌گذاری، تحقیق درباره امور عمومی، بررسی دیدگاه‌های متفاوت و یافتن اطلاعات موردنیاز برای مشارکت مدنی نیز به این ابزار مراجعه می‌کنند.
آنتروپیک چگونه سوگیری سیاسی را اندازه‌گیری می‌کند؟
آنتروپیک اعلام کرده که پیش از عرضه مدل‌های هوش مصنوعی خود، آن‌ها را از نظر سوگیری سیاسی آزمایش می‌کند. در این ارزیابی‌ها بررسی می‌شود که آیا مدل‌ها هنگام پاسخ‌گویی به دیدگاه‌های رقیب، از نظر عمق پاسخ، ثبات و دقت تحلیلی عملکردی قابل‌مقایسه دارند یا خیر.
این شرکت در تازه‌ترین گزارش خود درباره انتخابات میان‌دوره‌ای اعلام کرده است که مدل‌های Claude Opus 5.5، Sonnet 5.5 و Haiku 5.5 در آزمون بی‌طرفی سیاسی آن امتیاز ۹۹ درصد کسب کرده‌اند.
آنتروپیک همچنین از سه گروه مستقل خواسته است نحوه برخورد کلود با گفت‌وگوهای سیاسی و دیگر موضوعات بحث‌برانگیز را بررسی کنند.
این گروه‌ها شامل «آینده آزادی بیان»، اندیشکده‌ای مستقل در دانشگاه وندربیلت، «بنیاد نوآوری آمریکایی» و «پروژه هوش جمعی» بوده‌اند. پروژه هوش جمعی در جریان تدوین چارچوب ارزیابی خود، از بیش از دو هزار نفر در آمریکا، بریتانیا و هند نظرسنجی کرده است.
به گفته آنتروپیک، نتایج این ارزیابی‌ها به‌طور کلی نشان داده که کلود به درخواست‌های کاربران پاسخ‌هایی محتوایی و مرتبط ارائه می‌کند. بااین‌حال، ارزیابی‌ها برخی کاستی‌ها را نیز آشکار کرده‌اند.
از جمله مشخص شده است که کلود گاهی بدون درخواست کاربر، ملاحظات و استدلال‌های مخالف را وارد پاسخ می‌کند. برای نمونه، در ایمیل‌هایی که با هدف حمایت از یک موضع مشخص نوشته می‌شدند، این چت‌بات گاهی دیدگاه‌های مخالف را نیز مطرح می‌کرد؛ درحالی‌که کاربر چنین چیزی نخواسته بود.
ارزیابی دیگری نشان داده است که نسخه قدیمی‌تر Claude Sonnet 4.5 بیشتر تمایل داشته است استدلال‌های حامی مواضع متمایل به راست را با لحنی ملایم‌تر بیان کند.
آنتروپیک می‌گوید از آن زمان برای بهبود پاسخ‌گویی به پرسش‌های مستقیم بله یا خیر و درخواست‌های کوتاه‌تر تلاش کرده است. این شرکت همچنین در حال اصلاح نحوه تصمیم‌گیری کلود درباره زمان مناسب برای افزودن ملاحظات، قیدها یا استدلال‌های مخالف به پاسخ‌هاست.
دامنه ارزیابی‌های آنتروپیک نیز در حال گسترش است تا علاوه بر بحث‌های کلی درباره سیاست‌گذاری، گفت‌وگوهای واقعی کاربران، پرسش‌های مربوط به نامزدهای انتخاباتی و اطلاعات رأی‌گیری را هم در بر بگیرد.
دسترسی مستقیم به اطلاعات رسمی رأی‌گیری در کلود
بخش دیگری از برنامه آنتروپیک بر فراهم‌کردن دسترسی کاربران به اطلاعات معتبر انتخاباتی متمرکز است؛ به‌گونه‌ای که برای دریافت این اطلاعات نیازی به خروج از محیط چت‌بات نداشته باشند.
این شرکت اعلام کرده که کلود اطلاعات رسمی رأی‌گیری در آمریکا را از سازمان غیرانتفاعی Democracy Works دریافت خواهد کرد. این سازمان اطلاعات عمومی منتشرشده از سوی منابع انتخاباتی ایالتی و محلی را گردآوری می‌کند.
هدف از این قابلیت، پاسخ‌گویی به پرسش‌های کاربردی کاربران درباره ثبت‌نام رأی‌دهندگان، محل شعب اخذ رأی و مدارک شناسایی موردنیاز است؛ به‌طوری‌که پاسخ‌ها با مقررات ایالت محل زندگی هر کاربر مطابقت داشته باشند.
آنتروپیک همچنین اعلام کرده که نمایش بنری را ادامه خواهد داد که کاربران پرسش‌کننده درباره مراحل رأی‌گیری یا تاریخ انتخابات را به TurboVote هدایت می‌کند. این سرویس، یکی از منابع غیرحزبی ارائه‌شده از سوی Democracy Works است.
افزون بر این، آنتروپیک قصد دارد در شب انتخابات و روزهای پس از آن، نتایج به‌روز انتخابات را در اختیار کاربران قرار دهد تا بتوانند از طریق گفت‌وگو با کلود به تازه‌ترین آمار رسمی دسترسی پیدا کنند.
خبرگزاری رویترز نیز ۱۴ اکتبر گزارش داده بود که آنتروپیک قصد دارد پیش از انتخابات میان‌دوره‌ای نوامبر، امکان دسترسی به اطلاعات رسمی رأی‌گیری و نتایج انتخابات را فراهم کند.
آنتروپیک چگونه می‌خواهد جلوی دستکاری انتخابات را بگیرد؟
تدابیر حفاظتی آنتروپیک افرادی را نیز هدف قرار می‌دهد که تلاش می‌کنند از کلود برای اجرای کارزارهای سیاسی فریبنده استفاده کنند.
سیاست‌های استفاده از محصولات این شرکت، فعالیت‌هایی مانند انتشار اطلاعات نادرست درباره نامزدها یا مراحل رأی‌گیری، جعل هویت مسئولان انتخاباتی، تلاش برای کاهش مشارکت رأی‌دهندگان و ایجاد تعاملات سیاسی ساختگی و گمراه‌کننده را ممنوع کرده است.
در مقابل، آنتروپیک تأکید دارد که فعالیت‌های قانونی کارزارهای انتخاباتی، از جمله تهیه پیش‌نویس بیانیه‌های مطبوعاتی، آماده‌شدن برای مناظره‌ها، تحلیل داده‌های مشارکت انتخاباتی و تولید محتوای ارتباطی برای رأی‌دهندگان، همچنان در چارچوب مقررات این شرکت مجاز هستند.
بااین‌حال، ساخت هویت‌های جعلی در شبکه‌های اجتماعی، تولید انبوه دیدگاه‌ها برای افزایش مصنوعی میزان تعامل کاربران یا تهیه محتوا برای وب‌سایت‌هایی که به‌دروغ خود را رسانه‌های خبری مستقل معرفی می‌کنند، از فعالیت‌های مجاز محسوب نمی‌شوند.
آنتروپیک برای شناسایی تخلفات از سامانه‌های طبقه‌بندی خودکار استفاده می‌کند که برای تشخیص سوءاستفاده‌های مرتبط با انتخابات طراحی شده‌اند. تیم‌های اطلاعات تهدید و اجرای مقررات این شرکت فعالیت‌های علامت‌گذاری‌شده را بررسی می‌کنند و می‌توانند حساب‌هایی را که مقررات را نقض کرده‌اند، مسدود کنند.
این شرکت همچنین با «مؤسسه گفت‌وگوی راهبردی» و «مؤسسه مک‌کین» همکاری کرده تا میزان مقاومت سامانه‌های دفاعی خود را در برابر کارزارهای فریبنده و دیگر سوءاستفاده‌های انتخاباتی در آمریکا، اسرائیل و برزیل آزمایش کند.
به گفته آنتروپیک، نتایج این آزمایش‌ها نشان داده که کلود در رد درخواست‌های زیان‌بار منفرد عملکرد قابل‌اعتمادی دارد؛ اما هنگامی که فعالیت‌های یک کارزار مخرب هماهنگ به وظایف کوچک‌تر و ظاهراً بی‌ضرر تقسیم می‌شوند، ممکن است نتواند ماهیت هماهنگ و مخرب آن‌ها را تشخیص دهد.
آنتروپیک اعلام کرده برای شناسایی چنین الگوهای چندمرحله‌ای، سامانه‌های طبقه‌بندی بیشتری اضافه کرده است. این سامانه‌ها از جمله برای تشخیص تلاش‌های مرتبط با ایجاد حساب‌های جعلی در شبکه‌های اجتماعی و راه‌اندازی وب‌سایت‌های خبری سیاسی ساختگی به کار می‌روند.
این شرکت همچنین توانایی خود را برای شناسایی سوءاستفاده‌های انتخاباتی از سوی عوامل وابسته به دولت‌های خارجی تقویت کرده و حفاظت سایبری از زیرساخت‌های انتخاباتی و کارزارهای سیاسی را بهبود بخشیده است.
وب‌سایت‌های خبری جعلی و عملیات نفوذ خارجی
آنتروپیک افشا کرده است که گردانندگان مستقر در خارج از آمریکا، از کلود برای تولید مطالب خبری درباره انتخابات میان‌دوره‌ای آمریکا در یک وب‌سایت خبری جعلی استفاده کرده‌اند. محتوای این مطالب در راستای روایت‌های مورد حمایت روسیه، ایران و کره شمالی بوده است.
این شرکت اعلام کرده حساب‌های مرتبط با این فعالیت‌ها را مسدود کرده و توانایی‌های خود را برای شناسایی موارد مشابه بهبود داده است.
آنتروپیک همچنین تلاش‌هایی را شناسایی کرده که هدف آن‌ها کسب درآمد از فضای انتخاباتی بوده است. در این موارد، عوامل تهدیدکننده از کلود برای تولید اخبار ساختگی و محتوای دیگر استفاده می‌کردند تا مخاطبان آمریکایی را جذب کنند و از محل تبلیغات درآمد به دست آورند.
خبرگزاری فرانسه نیز به‌طور جداگانه از یک عملیات تبلیغاتی و تبلیغات سیاسی جهت‌دار گزارش داده که آنتروپیک منشأ آن را به یک آژانس تبلیغاتی فرانسوی مرتبط دانسته است.
بر اساس این گزارش، در این عملیات از کلود برای تولید انبوه مقالات سیاسی در حدود ۷۰ وب‌سایت خبری جعلی و به تقریباً ۲۰ زبان استفاده شده است. دست‌کم ۸ هزار و ۹۱۳ مطلب در چارچوب این فعالیت منتشر شده و طبق گزارش‌ها، چندین کشور از جمله آمریکا، برزیل و فرانسه هدف آن بوده‌اند.
در همین حال، خبرگزاری آسوشیتدپرس گزارش داده است که در جریان انتخابات میان‌دوره‌ای ۲۰۲۶ آمریکا، تبلیغات سیاسی تولیدشده یا بهبودیافته با هوش مصنوعی در حال انتشار هستند؛ درحالی‌که الزامات مربوط به اعلام استفاده از این فناوری به‌طور یکسان رعایت نمی‌شوند.
آسوشیتدپرس در گزارش خود به یافته‌های «پروژه رسانه‌ای دانشگاه وسلیان» استناد کرده است. این پروژه دست‌کم ۱۶۴ تبلیغ سیاسی تولیدشده یا بهبودیافته با هوش مصنوعی را شناسایی کرده که ۶۹ درصد آن‌ها فاقد اطلاع‌رسانی درباره استفاده از هوش مصنوعی بوده‌اند.
پژوهشگران و کارشناسان سیاسی نیز هشدار داده‌اند که انتشار محتوای مصنوعی بدون اعلام ماهیت آن می‌تواند رأی‌دهندگان را گمراه کند و اعتماد عمومی به ارتباطات سیاسی را کاهش دهد.