میلیاردرها خواستار مقررات سخت‌گیرانه‌تر برای هوش مصنوعی شدند؛ هشدار آنتروپیک درباره کرم‌های خودتکثیرشونده
سونیل بهارتی میتال، بنیان‌گذار و رئیس شرکت مخابراتی بهارتی ایرتل، و نوبار آفیان، از بنیان‌گذاران شرکت داروسازی مدرنا، روز چهارشنبه در مجمع اقتصاد نوین بلومبرگ در دهلی نو به جمع رو به افزایش مدیران اقتصادی پیوستند که خواستار مقررات سخت‌گیرانه‌تر برای هوش مصنوعی هستند. این درخواست‌ها در حالی مطرح می‌شود که هشدار شرکت آنتروپیک درباره کرم‌های هوش مصنوعی خودتکثیرشونده، فشار بر دولت‌ها برای اقدام در این زمینه را افزایش داده است.
میتال تأکید کرد که سیاست‌گذاران نباید برای وضع مقررات منتظر وقوع یک فاجعه بمانند. به گزارش بلومبرگ، او در این نشست گفت: «احمقانه است اگر کسی تصور کند می‌توانیم اجازه دهیم این فناوری بدون محدودیت پیش برود و تازه پس از وقوع یک حادثه به فکر چاره بیفتیم.» میتال همچنین به گزارش بیزینس استاندارد اشاره کرد که هند در حال تهیه سندی مشورتی درباره مقررات و چارچوب‌های حفاظتی هوش مصنوعی است. او صنعت هوانوردی جهان را الگویی مناسب برای این حوزه دانست و استدلال کرد که نظارت بر هوش مصنوعی نیز باید از ساختاری بین‌المللی و یکپارچه پیروی کند؛ ساختاری که فارغ از کشور سازنده هر سامانه، قواعد یکسانی بر آن حاکم باشد.
آفیان نیز روز سه‌شنبه خواستار مقررات ویژه برای عامل‌های هوش مصنوعی عرضه‌شده در بازار شد و هشدار داد که بی‌توجهی به این موضوع می‌تواند به تکرار اشتباهات گذشته صنعت داروسازی منجر شود. او در این نشست توضیح داد که مدل‌های زبانی بزرگ از توانایی انجام کارها برخوردارند، اما عامل‌های هوش مصنوعی علاوه بر توانایی، قابلیت اقدام هدفمند دارند و همین ویژگی، نظارت بر آن‌ها را ضروری می‌کند. به گزارش بلومبرگ، آفیان گفت: «باید با دقت درباره تنظیم مقررات برای عامل‌هایی فکر کنیم که به‌صورت تجاری عرضه می‌شوند و از محدوده فعالیت‌های داخلی یک مجموعه فراتر می‌روند.»
این گفت‌وگوها مدت کوتاهی پس از آن برگزار شد که آنتروپیک در اوایل هفته جاری درباره نوع تازه‌ای از تهدیدهای هوش مصنوعی هشدار داد: کرم‌های هوش مصنوعی که می‌توانند بدون هیچ دخالت انسانی به دستگاه‌های متصل در خانه، از جمله فرهای هوشمند، یخچال‌ها و تلویزیون‌ها نفوذ کنند. به گزارش بلومبرگ، آنتروپیک هشدار داده است که برخی مدل‌های هوش مصنوعی ممکن است تنها چند ماه با دستیابی به توانایی تکثیر مستقل و تصاحب کنترل این دستگاه‌ها فاصله داشته باشند؛ وضعیتی که مهار آن می‌تواند بسیار دشوار باشد. به گفته پژوهشگران آنتروپیک، مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر هم‌اکنون می‌توانند بسیاری از مراحل جداگانه لازم برای تکثیر خود را انجام دهند. این شرکت همچنین دریافته است که مدلی به نام GLM-5.2 در آزمایش‌های ساده‌سازی‌شده‌ای که برخی موانع امنیتی در آن‌ها برداشته شده بود، توانسته تمام مراحل فرایند تکثیر را از ابتدا تا انتها اجرا کند.
چاک رابینز، مدیرعامل سیسکو سیستمز، نیز به عرضه کنترل‌شده مدل Mythos از سوی آنتروپیک اشاره کرد. به گزارش بلومبرگ، او این اقدام را نشانه‌ای دانست که ارزیابی سامانه‌های جدید هوش مصنوعی توسط گروهی از کارشناسان، پیش از عرضه عمومی آن‌ها، می‌تواند سازوکاری عملی برای تأمین ایمنی باشد.
کیران مازومدار شاو، بنیان‌گذار شرکت زیست‌فناوری هندی بایوکان، خواستار تدوین قوانین هوش مصنوعی برای رسیدگی به موضوع مواد زیستی شد؛ از جمله مواد مصنوعی مهندسی‌شده‌ای که برای جایگزینی یا درمان اندام‌ها و بافت‌های بدن انسان طراحی می‌شوند. در همین نشست، پراگیا میسرا، رئیس بخش سیاست‌گذاری عمومی و راهبرد اوپن‌ای‌آی در هند، اعلام کرد که این شرکت پس از حوادث اخیر، سرعت توسعه فناوری را کاهش داده است. به گزارش بلومبرگ، میسرا تأکید کرد: «ایمنی بر هر ملاحظه دیگری اولویت دارد.»
محمد کنده، رئیس جهانی شرکت پرایس‌واترهاوس‌کوپرز، هشدار داد که در عمل، فشار رقابتی باعث شده است نگرانی‌های ایمنی در اولویت پایین‌تری قرار بگیرند. به گزارش بلومبرگ، او در این نشست گفت: «هیچ‌کس نمی‌خواهد عقب بماند، چون نمی‌خواهد رقبایش از او پیشی بگیرند.» کنده افزود: «به همین دلیل، با وجود تمام بحث‌هایی که درباره ایمنی هوش مصنوعی و مسائل مرتبط با آن جریان دارد، ما هیچ نشانه‌ای از کاهش سرعت استفاده از هوش مصنوعی یا کاهش تخصیص سرمایه به این حوزه مشاهده نمی‌کنیم.»
دولت ترامپ تاکنون عمدتاً رویکردی مبتنی بر مداخله حداقلی در نظارت بر هوش مصنوعی در پیش گرفته است. با این حال، به گزارش بلومبرگ، کارگروه تازه‌تأسیس هوش مصنوعی این دولت هفته گذشته از توسعه‌دهندگان خواست حوادث امنیتی را گزارش کنند و برای برطرف کردن آن‌ها اقدام کنند؛ در غیر این صورت، ممکن است با پیامدهایی روبه‌رو شوند که جزئیات آن‌ها هنوز مشخص نشده است.