اوپن‌ای‌آی یک هفته مانده به انتخابات میان‌دوره‌ای آمریکا، اتاق عملیات انتخاباتی راه‌اندازی می‌کند
اوپن‌ای‌آی در آستانه انتخابات میان‌دوره‌ای آمریکا، یک «اتاق عملیات» ویژه انتخابات راه‌اندازی می‌کند. این شرکت در گفت‌وگو با خبرنامه دیکودِد پولیتیکو این موضوع را اعلام کرده و پولیتیکو در ۲۸ اکتبر ۲۰۲۶ گزارش داده است که مرکز عملیات انتخاباتی از همین هفته فعالیت خود را آغاز می‌کند و تا زمان شمارش همه آرا به کار ادامه خواهد داد. به گزارش پولیتیکو، صدها کارمند در این مرکز گرد هم می‌آیند تا به موارد مشکوک سوءاستفاده از ابزارهای اوپن‌ای‌آی در جریان انتخابات رسیدگی کنند.
به بیان ساده، اوپن‌ای‌آی می‌گوید مردم از قبل برای کسب اطلاعات درباره ثبت‌نام رأی‌دهندگان و محل رأی‌گیری از چت‌جی‌پی‌تی استفاده می‌کنند و این شرکت اکنون تیمی اختصاصی برای هفته انتخابات تشکیل داده است. هدف اصلی این مرکز، تا حد زیادی، مقابله با سوءاستفاده از ابزارهای خود شرکت، از جمله چت‌جی‌پی‌تی، است. طبق گزارش پولیتیکو، این تیم رویدادها را به‌صورت لحظه‌ای زیر نظر می‌گیرد و گزارش‌های مربوط به رفتار غیرمنتظره مدل‌های هوش مصنوعی یا نقض احتمالی شرایط استفاده از خدمات اوپن‌ای‌آی را بررسی می‌کند. انتخابات میان‌دوره‌ای آمریکا در ۳ نوامبر برگزار می‌شود.
مرکز عملیات انتخاباتی چه وظایفی دارد؟
گزارش پولیتیکو که بر توضیحات خود شرکت متکی است، جزئیات مأموریت این مرکز را مشخص می‌کند:
- زمان فعالیت: مرکز از همین هفته کار خود را آغاز می‌کند و تا شمارش همه آرا فعال خواهد ماند.
- هدف: شناسایی احتمال گسترش اطلاعات نادرست یا دیگر تلاش‌ها برای مداخله در انتخابات و، در بخش مهمی از مأموریت، مقابله با سوءاستفاده از ابزارهای خود اوپن‌ای‌آی.
- روش کار: رصد رویدادهای جاری به‌صورت لحظه‌ای و رسیدگی به گزارش‌های مربوط به رفتار غیرمنتظره مدل‌ها یا نقض احتمالی شرایط استفاده از پلتفرم اوپن‌ای‌آی.
- نیروی انسانی: به گفته پولیتیکو، صدها کارمند برای این مأموریت گرد هم می‌آیند.
- مدیریت: جاش لاوسون، رئیس بخش ریسک مدنی و راهبردی اوپن‌ای‌آی، هدایت این مرکز را بر عهده دارد.
لاوسون به خبرنامه دیکودِد پولیتیکو گفت: «تلاش زیادی کرده‌ایم تا مطمئن شویم به کاربران در دسترسی به اطلاعات معتبر درباره رأی‌گیری کمک می‌کنیم، با سوءاستفاده از ابزارهایمان مقابله می‌کنیم و از مدافعان انتخابات حمایت می‌کنیم.» او افزود: «مرکز عملیات انتخاباتی بر پایه چندین سال فعالیت پیشین ما شکل گرفته است و تیم‌هایمان را کنار هم قرار می‌دهد تا هنگام رفتن مردم به پای صندوق‌های رأی، بتوانیم به‌سرعت به مسائل نوظهور واکنش نشان دهیم و سیاست‌هایمان را اجرا کنیم.»
چه چیزی در شبکه اجتماعی ایکس منتشر شد؟
اوپن‌ای‌آی برای رصد تلاش‌ها جهت مداخله در انتخابات، اتاق عملیات انتخاباتی راه‌اندازی می‌کند: https://politi.co/4iIc5Zc
— پولیتیکو (@politico)، ۲۸ اکتبر، ساعت ۱۴:۰۳
پولیتیکو گزارشی درباره راه‌اندازی اتاق عملیات انتخاباتی اوپن‌ای‌آی برای رصد تلاش‌های مداخله‌جویانه منتشر کرد. جزئیات مأموریت و نیروی انسانی مرکز و نیز نقل‌قول‌های جاش لاوسون در این مقاله بر پایه همان گزارش ارائه شده‌اند.
اوپن‌ای‌آی تاکنون چه تغییراتی اعمال کرده است؟
صفحه اختصاصی اوپن‌ای‌آی درباره تدابیر حفاظتی انتخابات که در ۲۰ اکتبر ۲۰۲۶ به‌روزرسانی شده، اقداماتی را شرح می‌دهد که برای انتخابات میان‌دوره‌ای در نظر گرفته شده‌اند.
- اطلاعات رأی‌گیری: همکاری با سازمان دموکراسی‌ورکس (Democracy Works) در آمریکا فعال شده و اطلاعات مربوط به ثبت‌نام، مهلت‌ها، محل‌های رأی‌گیری و دیگر الزامات را به زبان‌های مختلف در اختیار کاربران چت‌جی‌پی‌تی قرار می‌دهد. این اطلاعات همراه با پیوندهایی به منابع رسمی انتخابات ارائه می‌شوند.
- نتایج انتخابات: همکاری با آسوشیتدپرس، پس از پایان رأی‌گیری، شمارش زنده آرا را برای انتخابات آمریکا و برزیل به چت‌جی‌پی‌تی می‌آورد. اوپن‌ای‌آی تأکید می‌کند که مراجع رسمی انتخابات همچنان مرجع معتبر برای قوانین رأی‌گیری و نتایج تأییدشده هستند.
- تصاویر: درخواست‌هایی که به تولید تصاویر مربوط به مداخله در انتخابات یا تصاویر احتمالا دلسردکننده مردم از رأی دادن مربوط باشند، اکنون به‌جای تصاویر واقع‌گرایانه، تصاویری سبک‌پردازی‌شده یا کارتونی تولید می‌کنند.
- حمایت از مدافعان انتخابات: اوپن‌ای‌آی می‌گوید در قالب برنامه دی‌بریک (Daybreak)، دسترسی ویژه و رایگان به مدل‌های خود را برای دفاع سایبری در اختیار تولیدکنندگان سامانه‌های رأی‌گیری ثبت‌شده نزد کمیسیون کمک به انتخابات آمریکا و همچنین مراجع انتخاباتی ایالت‌ها قرار داده است.
- تبلیغات و کارزارهای سیاسی: اوپن‌ای‌آی می‌گوید همچنان تبلیغات سیاسی را در پلتفرم خود ممنوع می‌کند. همچنین استفاده از محصولات این شرکت برای تولید یا انتشار گسترده پیام‌های انتخاباتی در حمایت از یک نامزد یا حزب، یا علیه آن‌ها، و نیز پیام‌های مربوط به طرح‌های پیشنهادی که در برگه رأی مطرح می‌شوند، ممنوع است.
در همان صفحه آمده است که اوپن‌ای‌آی برای افزودن واترمارک‌های دیجیتال سینث‌آی‌دی (SynthID) به تصاویر تولیدشده با چت‌جی‌پی‌تی، کدکس (Codex) یا رابط برنامه‌نویسی کاربردی (API) خود، همکاری تازه‌ای را اعلام کرده و در حال ارائه نسخه آزمایشی یک ابزار عمومی برای تأیید اصالت تصاویر است. این شرکت همچنین اعلام کرده که از دو طرح قانونی در سنای آمریکا حمایت می‌کند: قانون حفاظت از انتخابات در برابر هوش مصنوعی فریبنده (Protect Elections from Deceptive AI Act) با شماره S. 1213 و قانون آماده‌سازی مدیران انتخابات برای هوش مصنوعی (Preparing Election Administrators for AI Act) با شماره S. 2346.
سابقه تهدیدهایی که به این تصمیم منجر شده است
در گزارش تهدید ۸ اکتبر ۲۰۲۶، اوپن‌ای‌آی اعلام کرد که طی حدود دو سال و نیم، ۳۰ عملیات نفوذ پنهانی را شناسایی کرده است. در این گزارش، این شرکت دسترسی دو عملیات، یکی با منشأ روسیه و دیگری با منشأ ایران، را قطع کرد. این عملیات‌ها در کنار روش‌های سنتی از مدل‌های اوپن‌ای‌آی نیز استفاده می‌کردند تا مجموعه‌هایی با هویت ظاهری مستقل اما اهداف پنهان ایجاد کنند. عملیات منتسب به ایران، از جمله، هفت شخصیت با هویت ظاهری روزنامه‌نگار را به کار گرفته بود.
اوپن‌ای‌آی در مقیاس برون‌رفت که عملیات نفوذ را از سطح یک تا شش درجه‌بندی می‌کند، عملیات با منشأ روسیه را در سطح پنج قرار داد. به گفته شرکت، این نخستین عملیات سطح پنج بود که از زمان آغاز انتشار گزارش‌های آن با آن مقابله شده است. عملیات منتسب به ایران در سطح چهار ارزیابی شد.
بر اساس شمارش ما از مطالب منتشرشده در بخش اخبار خود اوپن‌ای‌آی، این شرکت پیش از اعلام راه‌اندازی اتاق عملیات، در سال ۲۰۲۶ ده مطلب درباره فعالیت‌های تهدیدآمیز مرتبط با مدل‌هایش منتشر کرده بود: هفت مطلب درباره عملیات نفوذ، یک گزارش دوره‌ای، یک مطلب درباره عملیات کلاهبرداری مجرمانه و یک مطلب درباره کارزار استخراج دانش از مدل. سه مورد از هفت مطلب مربوط به عملیات نفوذ که همگی در ژوئن منتشر شدند، فعالیت‌هایی را توصیف می‌کردند که آمریکا یا مناقشه‌های سیاسی این کشور را هدف قرار داده بودند.
ارتباط این خبر با گزارش‌های دیگر
گزارش ما درباره تبلیغات انتخابات میان‌دوره‌ای که در ۲۷ اکتبر منتشر شد، به نقل از پروژه رسانه‌ای وسلیان (Wesleyan Media Project) اعلام کرد که کارزارهای انتخاباتی و گروه‌های مختلف در این دوره بیش از ۱۳۷ میلیون دلار برای تبلیغات سیاسی هزینه کرده‌اند که دست‌کم بخشی از آن‌ها با ابزارهای هوش مصنوعی ساخته شده‌اند. نکته تازه در خبر کنونی این است که یکی از بزرگ‌ترین شرکت‌های هوش مصنوعی، تیمی اختصاصی برای نظارت بر نحوه استفاده از ابزارهای خودش در طول هفته انتخابات تشکیل داده است.
گزارش ما درباره کمیسیون فدرال انتخابات آمریکا (FEC) به گزارش رویترز در ۲۷ اکتبر پرداخت که از تلاش یک هکر برای نفوذ به سامانه‌های این کمیسیون خبر می‌داد. گزارش دیگر ما درباره پنسیلوانیا نیز قانون ۹۹ سال ۲۰۲۶ این ایالت را بررسی کرد؛ قانونی که در مواردی که محتوای ساخته‌شده با هوش مصنوعی در یک تبلیغ، برداشت نادرستی در ذهن مصرف‌کننده ایجاد کند، افشای این موضوع را الزامی می‌کند. وجه تازه ماجرا این است که این بار یک ارائه‌دهنده مدل هوش مصنوعی، نه نهاد ناظر یا سازمان انتخاباتی، درباره عملیات خود در هفته انتخابات توضیح می‌دهد.
برداشت ساختاری
بر اساس برداشت ما، تمرکز اولیه این مرکز بر پلتفرم خود اوپن‌ای‌آی است. پولیتیکو نوشته که بخش مهمی از مأموریت آن مقابله با سوءاستفاده از ابزارهای این شرکت، از جمله چت‌جی‌پی‌تی، و رسیدگی به گزارش‌های مربوط به رفتار غیرمنتظره مدل‌هاست.
سوابقی که خود اوپن‌ای‌آی منتشر کرده، نشان می‌دهد چرا این موضوع برای شرکت اهمیت دارد: گزارش ۸ اکتبر آن از شناسایی ۳۰ عملیات نفوذ پنهانی در حدود دو سال و نیم خبر می‌دهد و یکی از این عملیات‌ها در مقیاس برون‌رفت، سطح پنج ارزیابی شده است.
به‌روزرسانی ۲۰ اکتبر، بخش دیگر رویکرد شرکت را نشان می‌دهد؛ یعنی ارائه اطلاعات رسمی در چت‌جی‌پی‌تی. این اطلاعات شامل راهنمایی‌های مربوط به رأی‌گیری از طریق دموکراسی‌ورکس و شمارش زنده آرا از طریق آسوشیتدپرس پس از پایان رأی‌گیری است. در این چارچوب، مراجع رسمی همچنان مرجع معتبر اعلام نتایج معرفی شده‌اند.
جاش لاوسون از اوپن‌ای‌آی در گفت‌وگو با دیکودِد پولیتیکو گفت:
«مرکز عملیات انتخاباتی بر پایه چندین سال فعالیت پیشین ما شکل گرفته است و تیم‌هایمان را کنار هم قرار می‌دهد تا هنگام رفتن مردم به پای صندوق‌های رأی، بتوانیم به‌سرعت به مسائل نوظهور واکنش نشان دهیم و سیاست‌هایمان را اجرا کنیم.»
سه پیامد مهم
برای مسئولان انتخابات: اوپن‌ای‌آی می‌گوید از طریق برنامه دی‌بریک، دسترسی رایگان به مدل‌های خود را برای دفاع سایبری در اختیار تولیدکنندگان سامانه‌های رأی‌گیری ثبت‌شده نزد کمیسیون کمک به انتخابات و مراجع انتخاباتی ایالت‌ها قرار داده است.
برای کارزارهای انتخاباتی: اوپن‌ای‌آی می‌گوید تبلیغات سیاسی در پلتفرم این شرکت و تولید گسترده پیام‌های انتخاباتی در حمایت از یک نامزد، حزب یا طرح پیشنهادی یا علیه آن‌ها ممنوع است؛ با این حال، فعالیت‌هایی که انسان هدایت می‌کند، مانند تهیه گزارش‌های توجیهی و ترجمه، مجاز هستند.
برای دیگر ارائه‌دهندگان هوش مصنوعی: صفحه اوپن‌ای‌آی به اقداماتی برای ثبت منشأ محتوا، واترمارک‌های سینث‌آی‌دی و ابزار عمومی تأیید اصالت اشاره می‌کند. این شرکت همچنین اعلام کرده است که از طرح‌های قانونی S. 1213 و S. 2346 در سنای آمریکا حمایت می‌کند.
از نگاه بیزنس انجینیر
این گزارش با چارچوب تحلیلی بیزنس انجینیر در مقاله «لایه مجوزدهی در آنتروپیک» ارتباط دارد.
این چارچوب استدلال می‌کند: «لایه حکمرانی در محل تلاقی توانمندی، مقررات، امنیت ملی، کنترل دسترسی و هم‌راستایی ژئوپلیتیکی قرار دارد.»
اقدامات انتخاباتی اوپن‌ای‌آی هم‌زمان چند مورد از این حوزه‌ها را در بر می‌گیرد: قواعد دسترسی به ابزارهای خود شرکت، فراهم کردن دسترسی دفاعی برای مسئولان انتخابات و حمایت از طرح‌های قانونی مشخص در سنا. این چارچوب در ژوئن ۲۰۲۶ درباره آنتروپیک منتشر شده بود و به مرکز انتخاباتی اوپن‌ای‌آی نمی‌پردازد.
چه مواردی هنوز تأیید نشده‌اند؟
گزارش پولیتیکو بر اساس اطلاعاتی تهیه شده که شرکت در اختیار خبرنامه دیکودِد گذاشته است. ما در صفحه اخبار اوپن‌ای‌آی اعلامیه مستقلی درباره مرکز عملیات انتخاباتی پیدا نکردیم. پولیتیکو تعداد کارکنان را صدها نفر اعلام کرده، اما رقم دقیقی ارائه نداده است. صفحه اوپن‌ای‌آی نیز مشخص نمی‌کند که چه تعداد کاربر اطلاعات دموکراسی‌ورکس یا آسوشیتدپرس را دیده‌اند. همچنین رقم ۳۰ عملیات، دوره‌ای حدود دو سال و نیم را پوشش می‌دهد و فقط به چرخه انتخاباتی کنونی مربوط نیست.
در شمارش مطالب سال ۲۰۲۶، عنوان مطالب منتشرشده از سوی خود اوپن‌ای‌آی مبنای دسته‌بندی قرار گرفته است؛ برخی مطالب بیش از یک عملیات را پوشش می‌دهند. ما با اوپن‌ای‌آی تماس نگرفتیم.
جمع‌بندی
طبق گزارش پولیتیکو، اوپن‌ای‌آی از همین هفته مرکز عملیات انتخاباتی خود را راه‌اندازی می‌کند و این مرکز تا شمارش همه آرای انتخابات میان‌دوره‌ای ۳ نوامبر فعال خواهد بود. صدها کارمند در این مرکز گرد هم می‌آیند تا به موارد مشکوک سوءاستفاده از ابزارهای شرکت رسیدگی کنند. این اقدام پس از آن صورت می‌گیرد که اوپن‌ای‌آی در گزارش ۸ اکتبر خود از شناسایی ۳۰ عملیات نفوذ پنهانی طی دو سال و نیم خبر داد و در به‌روزرسانی ۲۰ اکتبر نیز از ارائه اطلاعات رأی‌گیری دموکراسی‌ورکس و شمارش زنده آرای آسوشیتدپرس در چت‌جی‌پی‌تی خبر داد.
منابع: پولیتیکو، دیکودِد، ۲۸ اکتبر ۲۰۲۶؛ اوپن‌ای‌آی، اطلاعات و تدابیر حفاظتی انتخابات در سال ۲۰۲۶، به‌روزرسانی‌شده در ۲۰ اکتبر؛ گزارش تهدید اوپن‌ای‌آی، ۸ اکتبر ۲۰۲۶؛ بخش اخبار اوپن‌ای‌آی، مبنای شمارش مطالب.