پیش‌نویس لایحه آنتروپیک امکان توقف عرضه مدل‌های هوش مصنوعی به‌دلیل خطرات فاجعه‌بار را فراهم می‌کند
این پیشنهاد به ارزیابان مستقلِ ثبت‌شده اجازه می‌دهد خطرهای قریب‌الوقوع را گزارش کنند؛ اما تصمیم درباره توقف عرضه یک مدل را قاضی فدرال می‌گیرد، نه یک نهاد دولتی به‌تنهایی.
به گزارش پولیتیکو، شرکت آنتروپیک پیش‌نویس لایحه‌ای درباره ایمنی هوش مصنوعی را در اختیار برخی افراد قرار داده و امیدوار است کنگره آمریکا آن را بررسی کند. این پیشنهاد شرایطی را مشخص می‌کند که در صورت تحقق آن‌ها می‌توان از عرضه یک مدل هوش مصنوعی جلوگیری کرد؛ از جمله وجود «خطری قابل پیش‌بینی و قریب‌الوقوع» که ممکن است به مرگ بیش از ۵۰ نفر یا خسارت مالی بیش از یک میلیارد دلار منجر شود.
این خبر را تک‌کرانچ گزارش کرده است.
به نوشته پولیتیکو، این خطر باید ناشی از تولید یا انتشار یک سلاح زیستی، دور زدن سازوکارهای کنترلی توسعه‌دهنده توسط مدل، یا انجام یک حمله سایبری باشد. این آستانه‌ها به معیارهای مندرج در لایحه شماره ۵۳ سنای کالیفرنیا شباهت دارند؛ قانونی که به‌تازگی تصویب شده و چنین وضعیت‌هایی را نیز «خطر فاجعه‌بار» تعریف می‌کند.
بر اساس پیشنهاد آنتروپیک، ارزیابان مستقلی که در وزارت بازرگانی آمریکا ثبت شده‌اند، می‌توانند ظرفیت یک مدل برای ایجاد فاجعه را بررسی کنند. آزمایشگاه‌های هوش مصنوعی مجاز خواهند بود هزینه این ارزیابی‌ها را بپردازند، مشروط بر اینکه پرداخت به نتیجه ارزیابی وابسته نباشد. بااین‌حال، پیش‌نویس توضیح نمی‌دهد که این سازوکار چگونه مانع تأثیرگذاری پرداخت‌ها بر نتایج ارزیابی خواهد شد.
اگر ارزیابان خطری فاجعه‌بار و قریب‌الوقوع شناسایی کنند، ۷۲ ساعت فرصت خواهند داشت تا وزارت بازرگانی را مطلع کنند. سپس این وزارتخانه موظف خواهد بود از یک قاضی در واشنگتن دی‌سی درخواست کند که عرضه مدل را متوقف کند. طبق گزارش پولیتیکو، این لایحه به نهادهای فدرال اجازه نمی‌دهد که رأساً درباره توقف توزیع یک مدل تصمیم بگیرند.
آنتروپیک بلافاصله به درخواست تک‌کرانچ برای اظهارنظر پاسخ نداد، اما سخنگوی این شرکت وجود پیش‌نویس لایحه را برای پولیتیکو تأیید کرد.
این لایحه بازتاب پیشنهادهایی است که در چارچوب پیشرفته هوش مصنوعی آنتروپیک مطرح کرده‌ایم و از ماه ژوئن تاکنون برای پیشبرد آن‌ها نزد قانون‌گذاران فدرال و ایالتی تلاش کرده‌ایم.
— سخنگوی آنتروپیک
این پیش‌نویس بر خطرهایی تمرکز دارد که با حوادثی که اخیراً توجه صنعت فناوری را به خود جلب کرده‌اند، تفاوت دارند. اگرچه برخی هشدار داده‌اند که هوش مصنوعی ممکن است باعث مرگ انسان‌ها شود، بخش عمده نگرانی‌های اخیر بر هک‌کردن خودکار به‌وسیله سامانه‌های هوش مصنوعیِ عامل‌محور متمرکز بوده است. مجموعه‌ای از حوادث که در آن‌ها به نظر می‌رسید برنامه‌های هوش مصنوعی برخلاف دستور اپراتورهای انسانی عمل کرده و وب‌سایت‌های در دسترس عموم اینترنت را هک کرده‌اند، پرسش‌هایی را درباره کافی‌بودن سازوکارهای امنیتی مدل‌ها مطرح کرده است.
شرکت‌های هوش مصنوعی، از جمله آنتروپیک، سازوکارهای داوطلبانه‌ای را پیشنهاد کرده‌اند که بر اساس آن‌ها ارزیابان درون‌سازمانی به کار گرفته می‌شوند. این ارزیابان به‌عنوان ناظران بی‌طرف شخص ثالث، در داخل سازمان‌های هوش مصنوعی مستقر می‌شوند تا مدل‌ها را از نظر نشانه‌های خطر یا سوءاستفاده زیر نظر بگیرند. به نظر می‌رسد پیش‌نویس لایحه آنتروپیک از پیشنهادهای دیگر این صنعت فراتر می‌رود. جنسن هوانگ، مدیرعامل انویدیا، اخیراً استدلال کرده بود که صنعت هوش مصنوعی به قوانین جدید نیازی ندارد.