لابی‌گری محرمانه آنتروپیک در کنگره برای پیشبرد قانون‌گذاری درباره هوش مصنوعی پیشرفته
در شرایطی که توسعه هوش مصنوعی با بحث‌ها و اختلاف‌نظرهای گسترده‌ای همراه شده است، آنتروپیک می‌کوشد دیدگاه‌های خود را در چارچوب‌های قانونی تنظیم این فناوری بگنجاند.
پس از هشدارهای این شرکت درباره خطرات خارج شدن هوش مصنوعی از کنترل و درخواست آن برای توقف موقت پژوهش‌های پیشرفته در این حوزه، آنتروپیک گام دیگری برداشته است.
بر اساس گزارش‌های اخیر، نمایندگان آنتروپیک به‌تازگی در جلساتی غیرعلنی، پیش‌نویس طرحی قانونی برای تنظیم ایمنی هوش مصنوعی پیشرفته را به قانون‌گذاران آمریکایی ارائه کرده‌اند. این اقدام نشان می‌دهد که این شرکت بزرگ هوش مصنوعی، در بحبوحه افزایش اختلاف‌نظرها درباره توسعه این فناوری، مجموعه‌ای از اقدامات را برای تأثیرگذاری بر تدوین مقررات حاکم بر فناوری‌های خود دنبال می‌کند.
بر اساس پیش‌نویس این طرح، دولت تنها زمانی می‌تواند انتشار یا استفاده از یک مدل را ممنوع کند که آن مدل تهدیدی «قابل پیش‌بینی و قریب‌الوقوع» ایجاد کند؛ تهدیدی که ممکن است به خسارتی بیش از یک میلیارد دلار یا مرگ یا آسیب جدی به دست‌کم ۵۰ نفر منجر شود. این خطرات باید ناشی از توسعه یا به‌کارگیری سلاح‌های زیستی، دور زدن سازوکارهای کنترلی تعیین‌شده از سوی توسعه‌دهنده مدل یا اجرای حملات سایبری باشند. عبارت‌بندی این طرح با مقررات هوش مصنوعی کالیفرنیا، از جمله لایحه شماره ۵۳ سنای این ایالت که سال گذشته به قانون تبدیل شد، همخوانی دارد.
نکته قابل توجه این است که با وجود انتشار گزارش‌هایی درباره مجموعه‌ای از حوادث مرتبط با ایمنی هوش مصنوعی در شرکت‌های بزرگی مانند اوپن‌ای‌آی و آنتروپیک، تاکنون هیچ‌یک از موارد گزارش‌شده به تلفات گسترده انسانی یا خسارتی بیش از یک میلیارد دلار منجر نشده است.
همچنین، بر اساس پیش‌نویس این طرح، یک نهاد ارزیابی مستقل موظف خواهد بود آزمایشگاه‌های هوش مصنوعی و مدل‌های پیشرفته آن‌ها را به‌صورت دوره‌ای بررسی کند. این نهاد باید در وزارت بازرگانی ایالات متحده ثبت شده باشد و می‌تواند بودجه خود را از آزمایشگاه مربوطه دریافت کند؛ با این حال، میزان پرداختی به آن نباید به نتیجه ارزیابی وابسته باشد.
اگر یک نهاد ارزیابی تشخیص دهد که مدل پیشرفته یک شرکت با تعریف «خطر قریب‌الوقوع» در این قانون مطابقت دارد، باید حداکثر ظرف ۷۲ ساعت پس از پایان ارزیابی، موضوع را به وزارت بازرگانی ایالات متحده گزارش دهد. اگر این وزارتخانه تشخیص دهد که یک مدل خطرآفرین است، می‌تواند از قاضی درخواست کند انتشار آن را ممنوع کند. با این حال، در متن طرح صراحتاً آمده است که هیچ وزارتخانه، سازمان یا مقام دیگری در ایالات متحده حق ندارد توسعه، استقرار یا استفاده داخلی از چنین مدلی را متوقف کند. در مقابل، قاضی دادگاه منطقه‌ای ایالات متحده برای ناحیه کلمبیا می‌تواند حکم تعلیق مدل را صادر کند.
ایجاد نهادهای ارزیابی از جمله اقداماتی است که آنتروپیک مدت‌هاست به دنبال اجرای آن بوده است. پیش‌تر، زمانی که داریو آمودی، مدیرعامل این شرکت، از کل صنعت خواست روند توسعه هوش مصنوعی پیشرفته را آهسته‌تر کند، یکی از سه پیشنهاد او به استقرار «ارزیابان مستقر در محل» اختصاص داشت.
این شرکت تاکنون گام‌های عملی نیز در این زمینه برداشته است. روز جمعه، گزارش‌هایی منتشر شد مبنی بر اینکه آنتروپیک به یک مؤسسه ارزیابی بیرونی دسترسی در سطح کارکنان داده است تا خطرات مرتبط با مدل‌های خود را بررسی کند. این ارزیاب، سازمان غیرانتفاعی ام‌ای‌تی‌آر (METR) است که پیش‌تر با آزمایشگاه‌های مطرحی مانند اوپن‌ای‌آی، آنتروپیک، گوگل و متا همکاری کرده است. این سازمان اکنون گروهی از ارزیابان را در دفتر تیم توسعه مدل کلود مستقر کرده و به سخت‌افزارها و سامانه‌های داخلی آنتروپیک دسترسی یافته است.
طرح پیشنهادی آنتروپیک همچنین برخی قوانین ایالتی هوش مصنوعی را از شمول خود خارج می‌کند؛ قوانینی که افشای عمومی اطلاعات مربوط به خطرات، ارزیابی‌های شخص ثالث و گزارش حوادث مهم ایمنی را الزامی می‌دانند. در مقابل، این طرح آزمایشگاه‌های فعال در حوزه هوش مصنوعی پیشرفته را ملزم می‌کند چارچوب‌های ایمنی تدوین کنند، برای مدل‌های پیشرفته‌ای که به‌تازگی عرضه می‌شوند گزارش‌های شفافیت منتشر کنند، سازوکارهای حمایت از افشاگران را ایجاد کنند و حوادث مهم ایمنی را به وزارت بازرگانی گزارش دهند.