طرح آنتروپیک برای قانون ایمنی هوش مصنوعی؛ مدلی که جان بیش از ۵۰ نفر را به خطر بیندازد، ممکن است متوقف شود
در یک سال گذشته، نگرانی‌ها درباره خطرات احتمالی هوش مصنوعی افزایش یافته و بحث‌های گسترده‌ای درباره بهترین راهکار برای تضمین ایمنی این فناوری شکل گرفته است. اکنون به نظر می‌رسد شرکت آنتروپیک نیز دیدگاه خود را درباره چگونگی تنظیم مقررات این صنعت از سوی دولت مطرح کرده است.
به گزارش اخیر پولیتیکو، این شرکت فعال در حوزه هوش مصنوعی پیش‌نویس قانونی تازه‌ای درباره ایمنی هوش مصنوعی را در اختیار برخی طرف‌ها قرار داده است؛ طرحی که امیدوار است کنگره آمریکا آن را بررسی و تصویب کند. این پیش‌نویس شرایطی را مشخص می‌کند که در صورت تحقق آن‌ها، می‌توان از عرضه یک مدل هوش مصنوعی جلوگیری کرد.
به نوشته پولیتیکو، این شرایط شامل وجود «خطری قابل پیش‌بینی و قریب‌الوقوع» است؛ خطری که جان بیش از ۵۰ نفر را تهدید کند یا احتمال وارد آمدن خسارت مالی بیش از یک میلیارد دلار را به همراه داشته باشد. این رسانه می‌نویسد خطر فاجعه‌بار مورد نظر باید ناشی از ایجاد یا انتشار یک سلاح زیستی، خارج شدن مدل از کنترل‌های اعمال‌شده از سوی توسعه‌دهنده آن یا وقوع یک حمله سایبری باشد.
آستانه‌های تعیین‌شده در این طرح، یعنی ۵۰ نفر و یک میلیارد دلار خسارت، به معیارهای قانونی مشابهی در کالیفرنیا شباهت دارند. این ایالت به‌تازگی لایحه شماره ۵۳ سنا (Senate Bill 53) را به قانون تبدیل کرده است؛ قانونی که این شرایط را نیز مصداق «خطر فاجعه‌بار» تعریف می‌کند.
در پیش‌نویس آنتروپیک پیشنهاد شده است که ارزیابی احتمال بروز فاجعه ناشی از یک مدل، با کمک «ارزیابان مستقل» انجام شود؛ افرادی که در وزارت بازرگانی آمریکا ثبت‌نام خواهند کرد. به نوشته پولیتیکو، شرکت‌های هوش مصنوعی نیز می‌توانند هزینه این ارزیابی‌ها را بپردازند، مشروط بر اینکه پرداخت دستمزد به نتیجه ارزیابی وابسته نباشد.
با این حال، مشخص نیست این سازوکار چگونه تضمین می‌کند که پرداخت پول بر ارزیابی‌ها تأثیر نگذارد. دمیس هسابیس، رئیس دیپ‌مایند، چند ماه پیش پیشنهاد کرده بود که یک نهاد خودتنظیم‌گر برای نظارت بر هوش مصنوعی، از الگوی سازمان تنظیم مقررات صنعت مالی آمریکا (FINRA) پیروی کند؛ نهادی که بر فعالیت‌های این صنعت نظارت دارد. او این پیشنهاد را در آن زمان مطرح کرده بود.
بر اساس پیش‌نویس آنتروپیک، اگر ارزیابان تشخیص دهند که یک مدل خطر فاجعه‌بار و قریب‌الوقوع ایجاد می‌کند، ۷۲ ساعت فرصت خواهند داشت تا وزارت بازرگانی را از موضوع مطلع کنند. پس از آن، این وزارتخانه باید از یک قاضی در واشنگتن دی‌سی درخواست کند که انتشار مدل را متوقف سازد. به نوشته پولیتیکو، این قانون صراحتاً به نهادهای فدرال اجازه نخواهد داد که به تشخیص خود و بدون طی این روند، مانع توزیع مدل شوند.
آنتروپیک بلافاصله به درخواست تک‌کرانچ برای اظهارنظر پاسخ نداد، اما سخنگوی این شرکت وجود پیش‌نویس را در گفت‌وگو با پولیتیکو تأیید کرد. او گفت: «این لایحه بازتاب‌دهنده پیشنهادهایی است که در چارچوب پیشرفته هوش مصنوعی آنتروپیک مطرح کرده‌ایم؛ چارچوبی که از ماه ژوئن تاکنون برای پیشبرد آن با قانون‌گذاران فدرال و ایالتی رایزنی کرده‌ایم.» متن چارچوب پیشرفته هوش مصنوعی آنتروپیک در دسترس است.
خطرهای نظری مطرح‌شده در این پیش‌نویس تا حدی با حوادثی فاصله دارند که اخیراً بیش از همه توجه صنعت فناوری را به خود جلب کرده‌اند. هرچند برخی افراد درباره احتمال مرگ انسان‌ها در اثر هوش مصنوعی هشدار داده‌اند، نگرانی اصلی بیشتر بر تهدید حملات سایبری خودکار با استفاده از هوش مصنوعی عامل‌محور متمرکز بوده است. مجموعه‌ای از حوادث اخیر که در آن‌ها ظاهراً برنامه‌های هوش مصنوعی برخلاف دستور گردانندگان انسانی خود عمل کرده و وب‌سایت‌هایی را در اینترنت عمومی هک کرده‌اند، این نگرانی را افزایش داده است که مدل‌ها فاقد سازوکارهای امنیتی کافی باشند.
شرکت‌هایی مانند آنتروپیک می‌کوشند برای بحرانی که خود در شکل‌گیری آن نقش داشته‌اند، راه‌حل‌های مطلوبشان را ارائه کنند.
با وجود هشدارهای مکرر شرکت‌های هوش مصنوعی درباره اینکه فناوری‌های عرضه‌شده از سوی آن‌ها ممکن است به نابودی تمدن بشری منجر شوند، این شرکت‌ها عموماً در برابر نظارت اجباری دولت مقاومت کرده‌اند. در عوض، پیشنهاد آن‌ها بیشتر بر ایجاد سازوکاری داوطلبانه مبتنی بر ارزیابان مستقر در داخل شرکت‌ها متمرکز بوده است؛ ناظران شخص ثالثی که supposedly بی‌طرف‌اند و در سازمان‌های فعال در حوزه هوش مصنوعی مستقر می‌شوند تا مدل‌ها را از نظر نشانه‌های احتمالی خطر یا سوءاستفاده زیر نظر بگیرند.
با این همه، صرف طرح پیشنهاد قانون‌گذاری از سوی آنتروپیک ظاهراً اندکی فراتر از پیشنهادهای مقرراتی دیگر شرکت‌های این صنعت است. برای نمونه، جنسن هوانگ، مدیرعامل انویدیا، اخیراً استدلال کرده بود که صنعت هوش مصنوعی اصلاً به قوانین جدید نیاز ندارد.