ماساچوست ممکن است سخت‌گیرانه‌ترین قانون آمریکا برای جلوگیری از فاجعه‌های هوش مصنوعی را تصویب کند
ماساچوست ممکن است در آستانه تصویب یکی از سخت‌گیرانه‌ترین قوانین ایمنی هوش مصنوعی در آمریکا باشد؛ اقدامی که این ایالت را در مسیر تقابل با رویکرد دونالد ترامپ، رئیس‌جمهوری آمریکا، در قبال فناوری‌های به‌سرعت در حال تحول قرار می‌دهد. ترامپ که از خودتنظیمی صنعت حمایت کرده، اخیراً در شبکه‌های اجتماعی اعلام کرد که «تنها کنترل یا «ضمانت‌هایی» که هوش مصنوعی نیاز دارد، یک رئیس‌جمهور قوی و باهوش (با بهره هوشی بالا!) است.»
اما مائورا هیلی، فرماندار ماساچوست، و شماری از قانون‌گذاران ایالتی دیدگاه دیگری دارند.
هیلی در مصاحبه‌ای با MassLive در ماه گذشته گفت: «شرکت‌هایی که این فناوری‌های هوش مصنوعی را توسعه می‌دهند، مسئولیت دارند که آنها را به شکل ایمن بسازند و دولت نیز مسئولیت دارد که چارچوب‌های منطقی برای محافظت ایجاد کند.»
او پذیرفت که وضع مقررات متفاوت توسط ۵۰ ایالت «بهینه‌ترین راهکار نیست»، اما گفت انتظار ندارد در دولت فعلی اقدامی در سطح فدرال انجام شود. هیلی از قانون‌گذاران ایالتی خواسته است در لایحه توسعه اقتصادی Mass Wins که اکنون در مجلس ایالتی ماساچوست در حال مذاکره است، موادی درباره ایمنی و شفافیت هوش مصنوعی اضافه کنند.
اما دقیقاً چه اتفاقی در حال رخ دادن است؟
ایالت‌هایی مانند کالیفرنیا، ایلینوی و نیویورک پیش‌تر قوانینی وضع کرده‌اند که بزرگ‌ترین توسعه‌دهندگان هوش مصنوعی، از جمله شرکت‌هایی مانند OpenAI، Anthropic، Meta و Microsoft را که مدل‌های موسوم به «مدل‌های مرزی» را توسعه می‌دهند، هدف قرار می‌دهد. نگرانی اصلی این است که با پیشرفت هوش مصنوعی، این فناوری ممکن است به افراد مخرب در اجرای حملات سایبری، ساخت سلاح‌های شیمیایی، هسته‌ای یا زیستی کمک کند یا حتی خود به اجرای برنامه‌های خطرناک بپردازد.
قوانین کالیفرنیا، ایلینوی و نیویورک از توسعه‌دهندگان بزرگ هوش مصنوعی می‌خواهند برنامه‌های خود برای مدیریت خطرهای فاجعه‌بار هوش مصنوعی را منتشر کنند، حوادث جدی ایمنی را به ایالت گزارش دهند و از کارکنانی که درباره رعایت نشدن قوانین یا نگرانی‌های جدی دیگر هشدار می‌دهند، حمایت کنند. ایلینوی نخستین ایالتی بود که انجام حسابرسی سالانه توسط طرف ثالث را برای بررسی پایبندی توسعه‌دهندگان هوش مصنوعی به پروتکل‌های ایمنی خود الزامی کرد.
با این حال، هیچ‌یک از این قوانین اجازه نمی‌دهد افراد خارج از شرکت‌ها به درون فناوری نگاه کنند تا ببینند این سامانه‌ها چگونه کار می‌کنند و آیا احتمال وقوع رویدادهای واقعاً فاجعه‌بار در حال افزایش است یا نه. در این قوانین، واژه «فاجعه‌بار» نیز تعریف شده است: مرگ یا آسیب‌دیدگی ۵۰ نفر یا بیشتر، یا ایجاد خسارتی دست‌کم یک میلیارد دلاری.
همین بررسی عمیق‌تر درباره چگونگی تکامل این فناوری‌ها ممکن است چیزی باشد که ماساچوست را متفاوت کند. این قانون، ارزیاب‌های مستقل را موظف می‌کند دست‌کم سه بار در سال نرم‌افزارهای اصلی یا مدل‌های هوش مصنوعی را از نظر احتمال ایجاد خطرهای فاجعه‌بار آزمایش کنند.
شرکت‌های فناوری هزینه این ارزیابی‌ها را پرداخت خواهند کرد و امید این است که شرکت‌های ارزیابی‌کننده، که هنوز صنعتی نوپا هستند، مانند حسابرسان مالی شرکت‌ها عمل کنند و بیش از حد به یک مشتری وابسته نباشند. اگرچه هزاران شرکت بزرگ هر سال باید صورت‌های مالی حسابرسی‌شده ارائه دهند، احتمالاً تعداد توسعه‌دهندگان بزرگ هوش مصنوعی به این اندازه نخواهد بود؛ یعنی شرکت‌هایی که بیش از ۵۰۰ میلیون دلار درآمد سالانه دارند و از توان محاسباتی عظیم برای آموزش سامانه‌های هوش مصنوعی خود استفاده می‌کنند.
اما ایده نخستین در نوع خود در آمریکا برای بررسی مدل‌های هوش مصنوعی توسط ارزیاب‌های مستقل هنوز قطعی نشده است. تا روز جمعه، سناتور ایالتی بری فاین‌گلد، نماینده حوزه دوم اسکس و میدلسکس و رئیس کمیته توسعه اقتصادی، گفت این موضوع «همچنان در حال بررسی» است.
فاین‌گلد گفت از جمله شرکت‌هایی که فعالانه برای تأثیرگذاری بر قانون‌گذاری در مجلس ایالتی تلاش می‌کنند، می‌توان به Google، Anthropic، OpenAI و Meta، شرکت مادر فیس‌بوک، اینستاگرام و واتس‌اپ، اشاره کرد.
Anthropic، سازنده Claude، و OpenAI، توسعه‌دهنده ChatGPT، هر دو از ارزیابی مستقل فناوری‌های هوش مصنوعی خود حمایت می‌کنند.
سزار فرناندز، رئیس روابط دولت‌های ایالتی و محلی آمریکا در Anthropic، در بیانیه‌ای گفت: «ما از این لایحه حمایت می‌کنیم، زیرا این طرح به ماساچوست قوی‌ترین ضمانت‌های ایمنی هوش مصنوعی در کشور را می‌دهد؛ چیزی که با افزایش توانایی این سامانه‌ها، هر روز بیش از گذشته به آن نیاز داریم.» او افزود: «اعتبار اصلی به کمیته مشترک توسعه اقتصادی و فناوری‌های نوظهور، به‌ویژه روسای آن، فاین‌گلد و (نماینده) کارول فیولا، تعلق دارد که درک می‌کنند نمی‌توانیم مقابله جدی با خطرهای هوش مصنوعی را به تأخیر بیندازیم.»
ماه گذشته، داریو آمودی، مدیرعامل Anthropic، مقاله‌ای منتشر کرد و پیشنهاد داد صنعت برای کنترل خطرهای خروج هوش مصنوعی از مسیر و انجام اقدامات مخرب، سرعت توسعه این فناوری را کاهش دهد. Anthropic همچنین اخیراً برنامه‌ای را اعلام کرد که بر اساس آن با همکاری شرکت مشاوره‌ای Accenture، ارزیاب‌های ایمنی را در داخل شرکت مستقر خواهد کرد.
OpenAI نیز از ارزیاب‌های مستقل حمایت می‌کند.
یکی از سخنگویان OpenAI در ایمیلی نوشت: «با افزایش توانایی سامانه‌های هوش مصنوعی، تدابیر حفاظتی و نظارت بر آنها نیز باید همگام با این پیشرفت افزایش یابد. مردم باید اطمینان داشته باشند که تعهدات ایمنی شرکت‌ها در برابر بررسی دقیق دوام می‌آورد. ما از ارزیابی‌های مستقل، از جمله ارزیاب‌های مستقر در داخل شرکت‌ها، حمایت می‌کنیم و می‌خواهیم به مؤثر شدن آنها با استفاده از متخصصان واجد شرایط، دسترسی معنادار و حفاظت‌های امنیتی قوی برای سامانه‌های حساس مورد ارزیابی کمک کنیم.»
ارزیاب مستقر در داخل شرکت به فردی از یک مجموعه ارزیابی بیرونی گفته می‌شود که می‌تواند در شرکت هوش مصنوعی کار کند و دسترسی‌هایی مشابه یک کارمند داشته باشد، هرچند این اصطلاح در لایحه ماساچوست استفاده نشده است.
Meta، Google و Amazon، که یکی از بازیگران مهم حوزه هوش مصنوعی با هزاران کارمند در ماساچوست است، به درخواست‌ها برای اظهارنظر پاسخ ندادند.
به نظر می‌رسد افراد کمی در جامعه هوش مصنوعی ماساچوست برای این موضوع با مقام‌های منتخب رایزنی کرده‌اند. پل بایر، پل انگلیش، کارا پترسون و جودا فیلیپس که در موضوعاتی مانند ایجاد هفته هوش مصنوعی ماساچوست یا آموزش هوش مصنوعی در مدارس دولتی بوستون فعال بوده‌اند، همگی گفتند در این زمینه نقشی نداشته‌اند.
اما آنها نگرانی‌هایی دارند.
انگلیش، کارآفرینی که بودجه مؤسسه هوش مصنوعی کاربردی پل انگلیش در دانشگاه ماساچوست بوستون را تأمین کرده، در ایمیلی نوشت: «همیشه این استدلال وجود دارد که اگر ما قانون‌گذاری کنیم و چین این کار را نکند، چه می‌شود؛ و من نمی‌دانم با این موضوع چه باید کرد.»
توسعه‌دهندگان فناوری هوش مصنوعی در آمریکا احتمالاً مشمول قوانین پیشنهادی ماساچوست خواهند شد، اما این ایالت توان محدودی برای اجرای مقررات علیه شرکت‌های چینی بدون حضور در آمریکا خواهد داشت. همچنین افراد مخرب می‌توانند مدل‌های هوش مصنوعی چینی که به‌صورت عمومی منتشر شده‌اند، موسوم به مدل‌های «با وزن باز»، را دانلود و تغییر دهند؛ اقدامی که خارج از دسترس مقررات فدرال یا ایالتی خواهد بود.
پل بایر، مدیرعامل شرکت پژوهشی GAI Insights در بوستون، گفت امکان رقابت مؤثر شرکت‌های آمریکایی با چین نیز برای او نگرانی است. با این حال، او اشاره کرد که قوانین ایالتی و همچنین لایحه ماساچوست، بیشتر هشدارهای جدی می‌دهند اما ابزار اجرایی محدودی دارند. جریمه نقض مقررات پیشنهادی ماساچوست برای نخستین تخلف تا یک میلیون دلار و برای تخلفات بعدی تا سه میلیون دلار خواهد بود.
بایر در ایمیلی نوشت: «بهترین ویژگی این مقررات می‌تواند جریمه‌های مالی سنگین و مجازات‌های کیفری برای شرکت‌های هوش مصنوعی مانند OpenAI، Anthropic و Meta باشد که محصولاتی را بدون آزمایش کافی عرضه می‌کنند و به کاربران اجازه می‌دهند به شرکت‌های دیگر حمله کنند یا رفتارهای خودکشی‌گرایانه را ترویج دهند.»
او افزود: «Anthropic و OpenAI خواهان جریمه‌های جزئی هستند. جریمه باید بین یک تا پنج درصد ارزش بازار یک شرکت باشد.»
مشخص خواهد شد چه جزئیاتی در نهایت در لایحه ماساچوست که به قانون تبدیل می‌شود، باقی خواهد ماند. انتظار می‌رود طی چند هفته آینده این موضوع روشن شود.
اما اگر ماساچوست واقعاً سخت‌گیرانه‌ترین قانون ایمنی هوش مصنوعی کشور را تصویب کند، ممکن است زمینه رویارویی با دولت ترامپ فراهم شود. ترامپ در دسامبر ۲۰۲۵ فرمان اجرایی‌ای را امضا کرد که «مقررات بیش از حد ایالتی» درباره هوش مصنوعی را محدود می‌کرد و به وزارت دادگستری دستور داد یک کارگروه حقوقی هوش مصنوعی ایجاد کند تا علیه ایالت‌هایی که دولت آنها را دارای قوانین «سنگین و محدودکننده» می‌داند، شکایت کند.