آنتروپیک طرح قانونی ایمنی هوش مصنوعی را پیشنهاد می‌کند؛ توقف عرضه مدل‌ها با تأیید قضایی
شرکت آنتروپیک طرحی برای قانون ایمنی هوش مصنوعی پیشنهاد کرده است که هدف آن تنظیم مقررات این صنعت در ایالات متحده است. بر اساس گزارش تک‌کرانچ، این طرح شرایطی را مشخص می‌کند که در صورت وجود خطر قابل پیش‌بینی و قریب‌الوقوع ناشی از عرضه یک مدل هوش مصنوعی، در صورت احتمال مرگ بیش از ۵۰ نفر یا وارد آمدن خسارت مادی بیش از یک میلیارد دلار، می‌توان مانع انتشار آن شد. با این حال، بر اساس این طرح، نهادهای فدرال بدون تأیید یک قاضی اجازه ندارند از عرضه مدل جلوگیری کنند.
طرح پیشنهادی آنتروپیک با انتقاداتی از سوی فعالان حوزه ایمنی هوش مصنوعی روبه‌رو شده و همین مسئله شرکت را به بازنویسی بخش‌هایی از آن واداشته است. به گزارش نکست‌وب، متن این طرح منتشر شد و برای چند روز مورد انتقاد قرار گرفت؛ پس از آن، آنتروپیک اعلام کرد که تغییراتی در آن اعمال خواهد کرد. منتقدان نگران‌اند که این طرح حفاظت کافی در برابر خطرات هوش مصنوعی را فراهم نکند.
در این طرح پیشنهاد شده است که ارزیابی ظرفیت بالقوه یک مدل برای ایجاد فاجعه به «ارزیابان مستقل» سپرده شود؛ افرادی که در وزارت بازرگانی ایالات متحده ثبت شده‌اند. آزمایشگاه‌های هوش مصنوعی می‌توانند هزینه این ارزیابی‌ها را بپردازند، اما پرداخت نباید به نتیجه ارزیابی وابسته باشد. این پیشنهاد پرسش‌هایی درباره استقلال و بی‌طرفی فرایند ارزیابی ایجاد کرده است.
آنتروپیک برای مقابله با چالش‌های ایمنی هوش مصنوعی، همچنین نظامی داوطلبانه از ناظران مستقل را در داخل سازمان‌های فعال در این حوزه پیشنهاد کرده است. این ناظران وظیفه خواهند داشت مدل‌ها را برای شناسایی نشانه‌های احتمالی خطر یا سوءاستفاده زیر نظر بگیرند. با این حال، برخی شرکت‌های دیگر این صنعت، از جمله انویدیا، معتقدند که وضع قوانین جدید برای این حوزه ضرورتی ندارد.
منابع: تک‌کرانچ و نکست‌وب