سناتورها از دولت ترامپ می‌خواهند همه ظرفیت‌های دولت فدرال را برای ایمنی و امنیت هوش مصنوعی بسیج کند
اعضای کنگره آمریکا از دولت ترامپ می‌خواهند نقش دولت فدرال در تأمین امنیت هوش مصنوعی را افزایش دهد. آنها خواهان تدوین استانداردهای ایمنی و مقررات جدید، آزمایش مستقل مدل‌ها و استفاده «تهاجمی‌تر» از هوش مصنوعی برای اهداف دفاعی در حوزه امنیت سایبری هستند.
در نامه‌ای، سناتور ماریا کانتول، دموکرات از ایالت واشنگتن، و سناتور مایک راندز، جمهوری‌خواه از داکوتای جنوبی، اعلام کردند که چندین مورد فرار مدل‌های پیشرفته هوش مصنوعی از محدودیت‌های محیط‌های آزمایشی و نفوذ آنها به شرکت‌ها، سازمان‌ها و دولت‌های واقعی، نیازمند نقش پررنگ‌تر دولت فدرال در تنظیم این فناوری است.
این سناتورها استدلال کردند افشای اخیر درباره اینکه صدها و شاید «ده‌ها هزار» مورد از چنین رخدادهایی ممکن است برای ماه‌ها بدون شناسایی توسط کارکنان OpenAI ادامه داشته باشد، ضرورت مداخله دولت فدرال را بیش از پیش آشکار می‌کند.
آنها در نامه خود نوشتند: «این رخدادها در شرایطی اتفاق می‌افتند که سامانه‌های هوش مصنوعی به‌طور چشمگیری توانمندتر شده‌اند؛ از کشف آسیب‌پذیری‌های نرم‌افزاری و نوشتن و اجرای کد گرفته تا استفاده از ابزارهای دیجیتال و فعالیت مستقل.»
این نامه که خطاب به جی کلایتون، مدیر اطلاعات ملی و مسئول جدید کاخ سفید در حوزه هوش مصنوعی، و مایکل کراتسیوس، مدیر دفتر سیاست علم و فناوری، ارسال شده است، از دولت فدرال می‌خواهد «تمام ظرفیت‌های خود را برای مقابله با این چالش به کار گیرد و یک پاسخ ملی هماهنگ بر پایه استانداردها، آزمایش، ممیزی و هوش مصنوعی دفاعی ایجاد کند».
مرکز پیشبرد نوآوری و استانداردها برای ابرهوش مصنوعی (CAISSI) که زیرمجموعه وزارت بازرگانی آمریکا است، به نهاد اصلی دولت ترامپ برای ارزیابی و آزمایش مدل‌های هوش مصنوعی تبدیل شده است. سناتورها در این نامه خواستار افزایش منابع و گسترش اختیارات این مرکز شده‌اند.
در دولت ترامپ، آزمایش مدل‌های پیشرفته هوش مصنوعی داوطلبانه و متمرکز بر ارزیابی توانایی‌های مدل‌ها بوده است، نه محدود کردن آنها. دولت بعداً اعلام کرد با OpenAI، Anthropic و دیگر شرکت‌های هوش مصنوعی به چارچوبی برای آزمایش ایمنی دست یافته است، اما این توافق را عمومی نکرده است.
سناتورها خواستار آن هستند که CAISSI هدایت توسعه «استانداردهای فنی، مبتنی بر اندازه‌گیری و چارچوب‌های مدیریت ریسک برای ایمنی و امنیت هوش مصنوعی پیشرفته» را بر عهده بگیرد. این استانداردها باید خطراتی مانند حملات سایبری، حملات خودکار علیه زیرساخت‌های حیاتی و دیگر تهدیدها را پوشش دهند.
آنها نوشتند: «این استانداردها همچنین باید امنیت محیط‌هایی را که سامانه‌های پیشرفته هوش مصنوعی در آنها توسعه، آموزش، آزمایش و به‌صورت داخلی استفاده می‌شوند، مورد توجه قرار دهند؛ از جمله حفاظت در برابر فرار عامل‌ها از محیط‌های آزمایشی، دسترسی غیرمجاز به سامانه‌های خارجی یا انجام اقداماتی فراتر از مجوزهای تعیین‌شده.»
در این نامه آمده است که این مرکز و مراکز فناوری دولتی مانند مؤسسه ملی استانداردها و فناوری باید متخصصان بیشتری در حوزه‌های هوش مصنوعی، امنیت سایبری، ارزیابی مدل‌ها و امنیت ملی استخدام کنند.
سناتورها همچنین خواستار شکل‌گیری جامعه‌ای بسیار گسترده‌تر از آزمایش‌کنندگان مستقل و شخص ثالث شده‌اند. در حال حاضر، این آزمایش‌ها تقریباً به‌طور کامل توسط شرکت‌های هوش مصنوعی و حسابرسان منتخب آنها مانند Model Evaluation and Threat Research (METR)، Redwood Research و دیگران انجام می‌شود.
ماه گذشته، کریس پینتر، رئیس METR، به کنگره گفت بررسی این شرکت درباره حمله به Hugging Face به دعوت OpenAI انجام شده بود؛ شرکتی که دسترسی سازمان‌ها و آزمایش‌کنندگان به مدل‌های منتشرنشده خود را به‌شدت کنترل می‌کند. پژوهشگران اجازه دارند برخی یافته‌ها، مانند موارد مرتبط با خطرات فاجعه‌بار برای بشریت، را منتشر کنند، اما درباره بخش‌های دیگر تحقیقات خود به دلیل توافق‌نامه‌های محرمانگی محدودیت دارند.
پینتر همچنین پیشنهاد کرد شرکت‌های پیشرو هوش مصنوعی بیش از حد به فناوری خودشان، و نه کنترل‌های فنی مستقل، برای نظارت و مهار مدل‌هایشان در زمان آزمایش متکی هستند.
او گفت: «به دلیل مقیاس و سرعت استقرار عامل‌های هوش مصنوعی، شرکت‌ها برای جلوگیری از رفتارهای ناخواسته عامل‌ها به جای نظارت انسانی، به سامانه‌های نظارت و کنترل مبتنی بر هوش مصنوعی وابسته هستند. به این معنا که نظارت بر هوش مصنوعی اکنون تا حد زیادی توسط دیگر سامانه‌های هوش مصنوعی انجام می‌شود.»
سناتورها پیشنهاد کرده‌اند CAISSI، آزمایشگاه‌های ملی و وزارت انرژی آمریکا به مراکز آزمایش فدرال تبدیل شوند. در این مراکز، دولت می‌تواند مدل‌های هوش مصنوعی را از نظر توانایی‌های پیشرفته سایبری، تهدیدهای زیستی یا شیمیایی، خطرات علیه زیرساخت‌های حیاتی، روش‌های فرار از محیط‌های آزمایشی و دیگر رفتارهای مستقل خارج از قوانین ارزیابی کند. آنها همچنین خواستار باز شدن این آزمایش‌ها برای دانشگاه‌ها، سازمان‌های پژوهشی مستقل و «ارزیابان شخص ثالث واجد شرایط»، از جمله شرکت‌های خصوصی، شده‌اند.
دیگر نهادهای فدرال مانند آژانس امنیت ملی، آژانس پروژه‌های پژوهشی پیشرفته دفاعی و بنیاد ملی علوم نیز می‌توانند در توسعه استانداردهای جدید و محیط‌های آزمایشی برای ابزارهای هوش مصنوعی مورد استفاده در امنیت سایبری دفاعی مشارکت کنند؛ ابزارهایی که سپس می‌توانند در دولت و میان عموم به اشتراک گذاشته شوند.
سناتورها نوشتند: «رخدادهای اخیر نشان می‌دهد زیرساخت امنیتی پیرامون هوش مصنوعی پیشرفته باید با همان سرعتی پیشرفت کند که خود این فناوری توسعه می‌یابد. ایالات متحده فرصتی دارد تا در هر دو سوی این چالش پیشرو باشد: ایجاد زیرساخت‌های استانداردسازی، آزمایش و ممیزی برای هوش مصنوعی قدرتمندتر، و هم‌زمان استفاده از همین توانایی‌ها برای دشوارتر کردن حمله به شبکه‌های آمریکایی.»
متن کامل این نامه را می‌توان اینجا مطالعه کرد.