پژوهشگر سابق OpenAI به نمایندگان هشدار داد شرکت‌های هوش مصنوعی ریسک‌هایی «فاجعه‌بار» می‌پذیرند
یکی از پژوهشگران سابق OpenAI به نمایندگان پارلمان بریتانیا هشدار داده است که بزرگ‌ترین شرکت‌های هوش مصنوعی جهان در رقابت برای توسعه سامانه‌های فوق‌هوشمند، «ریسک‌هایی با سطحی فاجعه‌بار» می‌پذیرند؛ این اظهارات در حالی مطرح شد که پارلمان بررسی می‌کند آیا می‌توان به خودتنظیمی شرکت‌های فناوری اعتماد کرد یا نه.
دنیل کوکوتایلو، که به دلیل نگرانی‌های ایمنی از شرکت سازنده ChatGPT خارج شد، روز سه‌شنبه در برابر کمیته کسب‌وکار، نوآوری، علوم و تجارت (BIST) گفت این صنعت در حال ساخت مدل‌های هوش مصنوعی قدرتمندتر است، بدون آنکه بداند چگونه می‌توان آنها را کنترل کرد.
او به نمایندگان گفت: «به نظر من میزان پذیرش ریسک در سراسر این صنعت به شکل فاجعه‌باری بالاست.»
این هشدار در شرایطی مطرح شد که نمایندگان از پژوهشگران سابق OpenAI و Anthropic درباره این موضوع پرس‌وجو کردند که آیا توسعه هوش مصنوعی پیشرفته از تدابیر حفاظتی طراحی‌شده برای جلوگیری از رفتارهای غیرقابل پیش‌بینی این فناوری، پیشی گرفته است یا نه.
کوکوتایلو گفت پس از آن استعفا داد که اعتماد خود را به تمایل OpenAI برای رفتار مسئولانه در مسیر دستیابی به هوش مصنوعی فوق‌هوشمند از دست داد؛ سامانه‌هایی که قادر باشند در تقریباً همه وظایف از انسان‌ها عملکرد بهتری داشته باشند.
او گفت: «به این باور رسیدم که OpenAI در عمل، در زمینه ایجاد این فناوری رفتار مسئولانه‌ای نخواهد داشت.»
او همچنین مدعی شد کارکنان برای کم‌رنگ کردن نگرانی‌ها درباره این فناوری تحت فشار قرار گرفته بودند.
کوکوتایلو گفت: «احساس می‌کردم در ارتباطات عمومی خود تحت فشار هستم تا کمی از شدت بیان نگرانی‌هایم کم کنم.» او افزود که انتشار برخی پژوهش‌ها و پیش‌بینی‌های داخلی متوقف شده بود.
استیون آدلر، پژوهشگر سابق دیگر OpenAI، نیز به نمایندگان گفت در داخل شرکت در برابر توصیف فناوری این شرکت به عنوان «خطرناک» مقاومت وجود داشته است.
او گفت: «متأسفانه واقعیت فناوری ــ اینکه آیا خطرناک است یا نه ــ به این بستگی ندارد که شما آن را خطرناک بنامید یا خیر.»
آدلر که در اواخر سال ۲۰۲۴ از OpenAI جدا شد، پذیرفت که فرهنگ داخلی شرکت ممکن است پس از خروج او تغییر کرده باشد.
OpenAI و Anthropic برای ارائه توضیح درباره این اظهارات درخواست نظر دریافت کرده‌اند. هر دو شرکت اخیراً خواستار کند شدن روند توسعه پیشرفته‌ترین مدل‌های هوش مصنوعی شده‌اند تا اقدامات ایمنی بتوانند همگام با این پیشرفت‌ها حرکت کنند.
افزایش نگرانی‌ها درباره ایمنی هوش مصنوعی همزمان با بررسی شرکت‌های فناوری توسط نمایندگان
جفری اروینگ، پژوهشگر سابق OpenAI، Anthropic و مؤسسه امنیت هوش مصنوعی بریتانیا، به نمایندگان هشدار داد که پیشرفت در قابلیت‌های هوش مصنوعی با فاصله زیادی از پیشرفت در پژوهش‌های ایمنی جلو افتاده است.
او گفت: «ما همچنان شاهد پیشرفت‌های بسیار سریع در قابلیت‌ها هستیم، بدون آنکه پیشرفت‌های متناظری در حوزه ایمنی رخ دهد.»
وقتی از اروینگ پرسیده شد آیا همچنان بر ارزیابی پیشین خود مبنی بر اینکه هوش مصنوعی پیشرفته می‌تواند ۵۰ درصد احتمال نابودی بشریت را داشته باشد، تأکید دارد، او گفت «پرتاب سکه تقریباً مدل درستی برای تصور این احتمال است.»
این رقم بازتاب ارزیابی شخصی او از یک خطر فرضی در آینده است و به معنای یک احتمال علمی اثبات‌شده نیست.
آدلر از دولت‌ها خواست محدودیت‌های روشن‌تری برای توسعه‌دهندگان هوش مصنوعی اعمال کنند و هشدار داد رقابت میان شرکت‌ها باعث می‌شود آنها تصمیم‌های هرچه خطرناک‌تر را با اشاره به اقدامات رقبای خود توجیه کنند.
او گفت: «امیدوارم دولت‌ها کاری کنند که اساساً سقفی برای میزان ریسکی که این شرکت‌ها می‌توانند به وجود آورند تعیین شود.»
این جلسه پس از آن برگزار شد که کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا، روز دوشنبه هشدار داد یک نفوذ بزرگ به سامانه‌های دفاع سایبری این کشور احتمالاً اجتناب‌ناپذیر خواهد بود.
این رویداد همچنین پس از آن رخ داد که واشنگتن دسترسی بریتانیا به مدل‌های پیشرفته هوش مصنوعی آمریکا برای آزمایش‌های ایمنی پیش از عرضه را دوباره برقرار کرد؛ دسترسی‌ای که به طور موقت محدود شده بود و پرسش‌هایی درباره توانایی بریتانیا برای بررسی مستقل این فناوری ایجاد کرده بود.
Anthropic نیز روز دوشنبه هشدار داد مدل‌های این شرکت ممکن است به‌زودی توانایی تکثیر خودکار و کنترل دستگاه‌هایی مانند اجاق‌ها و تلویزیون‌ها را پیدا کنند. این شرکت در اسناد مربوط به عرضه اولیه سهام خود reportedly اعلام کرده است که فناوری آن می‌تواند «خطرهای وجودی برای بشریت» ایجاد کند.
مدیران شرکت‌های OpenAI، Anthropic، متا و Google DeepMind قرار است بعدتر در روز سه‌شنبه در برابر نمایندگان پارلمان حاضر شوند و پس از آنها مقام‌های ارشد دولتی نیز مورد پرسش قرار خواهند گرفت.