هوش مصنوعی و انتخابات میان‌دوره‌ای آمریکا؛ رویکرد آنتروپیک به بی‌طرفی سیاسی و سلامت انتخابات
نگاهی به مشارکت سیاسی کاربران از طریق هوش مصنوعی
درخواست از کلود برای توصیه درباره اینکه کاربران به چه کسی رأی بدهند، بسیار نادر بوده است؛ به‌طوری‌که طبق بررسی آنتروپیک، این درخواست‌ها تنها ۰٫۰۱ درصد از مکالمات بررسی‌شده در ایالات متحده را تشکیل می‌دادند.
همچنین، درخواست‌هایی که با اصول سلامت انتخابات تعیین‌شده از سوی این شرکت مغایرت داشتند، حدود ۰٫۰۰۲ درصد از این تعاملات را شامل می‌شدند.
بررسی دقیق گفت‌وگوهای سیاسی نشان می‌دهد کاربران چگونه با این چت‌بات تعامل می‌کنند. حدود ۳۵٫۸ درصد از مکالمات به نگارش و پشتیبانی تحصیلی اختصاص داشت و ۲۹٫۷ درصد نیز شامل کمک در پژوهش‌های دانشگاهی و حرفه‌ای بود.
پرسش‌های سیاسی و ژئوپلیتیکی ۱۰٫۷ درصد از مکالمات را تشکیل می‌دادند و پس از آن، راستی‌آزمایی اطلاعات سیاسی و بحث درباره استدلال‌های سیاسی با سهم ۱۰٫۶ درصدی قرار داشتند.
از دیگر موارد استفاده می‌توان به بررسی فرایندهای انتخابات و رأی‌گیری، تحلیل تحولات اقتصادی و مالی در ارتباط با مسائل ژئوپلیتیکی و بررسی دیدگاه‌های سیاسی یا فلسفی اشاره کرد.
این نتایج نشان می‌دهند که مشارکت سیاسی از طریق هوش مصنوعی به درخواست توصیه درباره انتخاب نامزدها محدود نمی‌شود.
کاربران همچنین از این ابزار برای روشن‌تر شدن مباحث سیاست‌گذاری، بررسی مسائل مدنی، مقایسه استدلال‌های متفاوت و دستیابی به اطلاعات مرتبط با مشارکت شهروندی استفاده می‌کنند.
ارزیابی سوگیری سیاسی در مدل‌های هوش مصنوعی
آنتروپیک اعلام کرده است که پیش از عرضه مدل‌های خود، آن‌ها را به‌طور نظام‌مند از نظر سوگیری سیاسی آزمایش می‌کند. هدف این است که پاسخ‌های ارائه‌شده به دیدگاه‌های رقیب از عمق، انسجام و دقت تحلیلی یکسانی برخوردار باشند.
این شرکت در تازه‌ترین ارزیابی خود برای انتخابات میان‌دوره‌ای گزارش داد که مدل‌های کلود اوپوس ۵.۵، سونت ۵.۵ و هایکو ۵.۵ در ارزیابی بی‌طرفی سیاسی امتیاز ۹۹ درصدی کسب کرده‌اند.
آنتروپیک همچنین از سه نهاد مستقل خواست نحوه مواجهه کلود با گفت‌وگوهای سیاسی و دیگر موضوعات مناقشه‌برانگیز را بررسی کنند.
این ارزیابان شامل «آینده آزادی بیان»، اندیشکده‌ای مستقل وابسته به دانشگاه وندربیلت؛ «بنیاد نوآوری آمریکا»؛ و «پروژه هوش جمعی» بودند. پروژه هوش جمعی برای تدوین چارچوب ارزیابی، نظرسنجی‌هایی با مشارکت بیش از ۲ هزار نفر در ایالات متحده، بریتانیا و هند انجام داد.
نتایج ارزیابی‌ها نشان داد که کلود به پرسش‌های کاربران پاسخ‌های معناداری می‌دهد، اما در برخی زمینه‌ها نیز کاستی‌هایی دارد.
به‌طور مشخص، مشاهده شد که کلود گاهی بدون درخواست کاربر، توضیحات محدودکننده یا استدلال‌های مخالف را به پاسخ اضافه می‌کند؛ حتی در ایمیل‌های حمایتی و تبلیغی که چنین محتوایی در آن‌ها درخواست نشده بود.
ارزیابی دیگری نشان داد که نسخه پیشین این مدل، کلود سونت ۴.۵، تمایل داشت استدلال‌های موافق دیدگاه‌های متمایل به راست را تعدیل کند.
آنتروپیک در واکنش به این یافته‌ها تلاش کرده است عملکرد کلود را در پاسخ‌گویی به پرسش‌های مستقیم بله یا خیر و درخواست‌های کوتاه بهبود دهد. این شرکت همچنین در حال تنظیم دقیق‌تر شرایطی است که چت‌بات در آن‌ها توضیحات تکمیلی یا دیدگاه‌های مخالف را ارائه می‌کند.
علاوه بر این، آنتروپیک دامنه ارزیابی‌های خود را گسترش می‌دهد تا گفت‌وگوهای واقعی، پرسش‌های مربوط به نامزدها و اطلاعات انتخاباتی را نیز دربرگیرد؛ درحالی‌که تمرکز پیشین بیشتر بر مباحث کلی سیاست‌گذاری بود.
دسترسی به اطلاعات رسمی رأی‌گیری از طریق کلود
بخش دیگری از راهبرد آنتروپیک بر فراهم کردن امکان دسترسی کاربران به اطلاعات معتبر انتخاباتی، بدون نیاز به خروج از محیط چت‌بات، متمرکز است.
این شرکت اعلام کرد که کلود به‌زودی اطلاعات رسمی رأی‌گیری در ایالات متحده را از سازمان غیرانتفاعی «دموکراسی ورکس» دریافت خواهد کرد؛ نهادی که داده‌های عمومی منتشرشده از سوی مراجع انتخاباتی ایالتی و محلی را گردآوری می‌کند.
هدف از این قابلیت، پاسخ‌گویی به پرسش‌های کاربردی درباره ثبت‌نام رأی‌دهندگان، محل‌های رأی‌گیری و مدارک شناسایی موردنیاز در هر ایالت است.
آنتروپیک همچنین اعلام کرده است که قصد دارد بنری را به‌طور پیوسته نمایش دهد تا کاربرانی که درباره شیوه‌های رأی‌گیری یا زمان‌بندی انتخابات پرس‌وجو می‌کنند، به «تربووت» هدایت شوند؛ ابتکاری غیرحزبی از سوی سازمان دموکراسی ورکس.
این سازمان همچنین قصد دارد نتایج به‌روز انتخابات را در شب برگزاری و روزهای پس از آن در اختیار کاربران قرار دهد تا بتوانند از طریق گفت‌وگو با کلود به تازه‌ترین داده‌های رسمی دسترسی پیدا کنند.
به گزارش رویترز، آنتروپیک در آستانه انتخابات میان‌دوره‌ای ماه نوامبر قرار است اطلاعات رسمی رأی‌گیری و نتایج انتخابات را منتشر کند. این گزارش در ۱۴ اکتبر منتشر شده است.
اقداماتی برای جلوگیری از دست‌کاری انتخابات
تدابیر حفاظتی آنتروپیک به‌گونه‌ای طراحی شده‌اند که از تلاش برای سوءاستفاده از کلود در عملیات سیاسی فریبکارانه نیز پیشگیری کنند.
سیاست‌های استفاده از این ابزار صراحتاً اقداماتی مانند انتشار اطلاعات نادرست درباره نامزدها یا فرایند رأی‌گیری، جعل هویت مسئولان انتخاباتی، جلوگیری از مشارکت رأی‌دهندگان و ایجاد تعاملات سیاسی ساختگی و گمراه‌کننده را ممنوع می‌کنند.
با این حال، فعالیت‌های مشروع انتخاباتی و تبلیغاتی، از جمله نگارش بیانیه‌های مطبوعاتی، آماده‌سازی برای مناظره‌ها، تحلیل داده‌های مشارکت رأی‌دهندگان و تهیه مطالب اطلاع‌رسانی و ارتباط با رأی‌دهندگان، طبق دستورالعمل‌های این شرکت مجاز هستند.
در مقابل، ساخت شخصیت‌های جعلی در شبکه‌های اجتماعی، تولید انبوه دیدگاه‌ها برای افزایش مصنوعی میزان تعامل و تهیه محتوا برای وب‌سایت‌هایی که به‌دروغ به‌عنوان رسانه‌های خبری مستقل معرفی می‌شوند، اکیداً ممنوع است.
آنتروپیک برای شناسایی تخلفات از سامانه‌های طبقه‌بندی خودکار استفاده می‌کند که برای تشخیص سوءاستفاده‌های مرتبط با انتخابات طراحی شده‌اند.
تیم‌های اطلاعات تهدید و اجرای مقررات این شرکت فعالیت‌های علامت‌گذاری‌شده را بررسی می‌کنند و اختیار دارند دسترسی حساب‌هایی را که دستورالعمل‌ها را نقض می‌کنند، لغو کنند.
این شرکت همچنین با مؤسسه گفت‌وگوی راهبردی و مؤسسه مک‌کین همکاری کرده است تا توان دفاعی خود در برابر تبلیغات فریبکارانه و دیگر سوءاستفاده‌های مرتبط با انتخابات را در ایالات متحده، اسرائیل و برزیل ارزیابی کند.
به گفته آنتروپیک، ارزیابی‌ها نشان دادند که کلود درخواست‌های زیان‌بار منفرد را به‌طور مداوم رد می‌کند، اما گاهی در شناسایی عملیات مخرب هماهنگ، هنگامی که این عملیات به مجموعه‌ای از وظایف کوچک‌تر و ظاهراً بی‌ضرر تقسیم می‌شوند، با مشکل روبه‌رو می‌شود.
این شرکت در واکنش به این یافته، سامانه‌های طبقه‌بندی بیشتری به کار گرفته است تا چنین فعالیت‌های چندمرحله‌ای را شناسایی کند؛ از جمله تلاش برای ایجاد حساب‌های جعلی در شبکه‌های اجتماعی و وب‌سایت‌های خبری سیاسی ساختگی.
آنتروپیک همچنین توانایی خود را برای شناسایی سوءاستفاده‌های انتخاباتی از سوی بازیگران دولتی خارجی تقویت کرده و اقدامات حفاظتی سایبری برای زیرساخت‌های انتخاباتی و کارزارهای سیاسی را گسترش داده است.
مقابله با اطلاعات نادرست و نفوذ خارجی
آنتروپیک اعلام کرد که عوامل خارجیِ پشت یک رسانه خبری جعلی از کلود برای تولید گزارش‌های جهت‌دار درباره انتخابات میان‌دوره‌ای آمریکا استفاده کرده‌اند؛ گزارش‌هایی که روایت‌های همسو با روسیه، ایران و کره شمالی را تقویت می‌کردند.
این شرکت اعلام کرد که در واکنش به این فعالیت‌ها، حساب‌های مرتبط را مسدود کرده و سازوکارهای شناسایی خود را بهبود داده است.
همچنین گزارش‌هایی منتشر شده است که نشان می‌دهد برخی عوامل مخرب تلاش کرده‌اند از فضای انتخاباتی برای کسب درآمد استفاده کنند. آن‌ها با کمک کلود اخبار ساختگی و محتوای دیگری تولید می‌کردند تا توجه مخاطبان آمریکایی را جلب کنند و از طریق درآمد تبلیغاتی سود ببرند.
در گزارشی جداگانه، خبرگزاری فرانسه از یک عملیات تبلیغاتی خبر داد که رد آن به یک آژانس تبلیغاتی فرانسوی می‌رسید.
بر اساس این گزارش، در این عملیات با استفاده از کلود، مقالات سیاسی به‌صورت انبوه تولید و در حدود ۷۰ وب‌سایت خبری جعلی و به تقریباً ۲۰ زبان منتشر شدند. شمار مطالب منتشرشده دست‌کم به ۸٬۹۱۳ مورد رسید. این عملیات کشورهای مختلفی از جمله ایالات متحده، برزیل و فرانسه را هدف قرار داده بود.
خبرگزاری آسوشیتدپرس نیز گزارش داده است که تبلیغات سیاسی تولیدشده یا تقویت‌شده با هوش مصنوعی در جریان انتخابات میان‌دوره‌ای آمریکا در سال ۲۰۲۶ در حال انتشار هستند، درحالی‌که الزامات مربوط به اعلام استفاده از هوش مصنوعی به‌طور یکسان رعایت نمی‌شوند.
منبع: News18.com