یکی از مدیران ایمنی سابق OpenAI هشدارهای آخرالزمانی درباره هوش مصنوعی را «دیوانه‌وار» می‌دانست؛ تا اینکه سازوکار شرکت را دید
دیوید رابینسون در ماه مه ۲۰۲۳، یک روز پس از نخستین حضور سم آلتمن در برابر مجلس سنای آمریکا، به OpenAI پیوست. او در آن زمان تصور می‌کرد نگرانی‌ها درباره اینکه هوش مصنوعی بتواند بشریت را نابود کند، تا حدی «دیوانه‌وار» است. اما طی سه سال بعد، بخشی از وظیفه او توضیح مکتوب این بود که چرا عرضه‌های OpenAI ایمن هستند. رابینسون مسئول نگارش کارت سیستم GPT-6 Astra بود؛ سند فنی‌ای که خطرات یک مدل و تدابیر حفاظتی پیرامون آن را تشریح می‌کند.
او در پایان سپتامبر OpenAI را ترک کرد و هفته گذشته در گفت‌وگو با ازرا کلاین درباره دلیل این تصمیم توضیح داد. او به کلاین گفت: «آنچه در حال رخ دادن است دیوانه‌وار است. این درست نیست.» رابینسون در این گفت‌وگو صنعتی را توصیف کرد که در حال ساخت سیستم‌هایی است که هنوز توانایی کنترل کامل آن‌ها را ندارد.
رابینسون زمانی که وارد حوزه هوش مصنوعی شد، نسبت به نگرانی‌های آخرالزمانی درباره این فناوری بدبین بود. چیزی که دیدگاه او را تغییر داد، شواهدی بود که بیشتر آن‌ها به نحوه اداره شرکت‌های هوش مصنوعی و فرهنگ حاکم بر توسعه این فناوری‌های قدرتمند مربوط می‌شد.
یک استارتاپ که در حال ساخت چیزی خطرناک است
شکایت اصلی رابینسون درباره سرعت توسعه و ساختار سازمانی است. او به کلاین گفت OpenAI و صنعت هوش مصنوعی همچنان بیش از آنچه برای نوع فناوری‌ای که اکنون می‌سازند منطقی باشد، مانند یک استارتاپ فعالیت می‌کنند. از نظر او، مدل‌هایی که از سوی آزمایشگاه‌های پیشرو هوش مصنوعی عرضه می‌شوند، نسبت به هر چیزی که حتی شش ماه پیش منتشر شده بود، توانایی‌های بیشتر و در نتیجه خطرات بیشتری دارند.
مقایسه‌ای که رابینسون به آن اشاره می‌کند، انرژی هسته‌ای است. او استدلال کرد که از دست دادن کنترل بر چنین سیستم‌هایی می‌تواند آسیبی بزرگ‌تر از ذوب شدن یک رآکتور منفرد ایجاد کند و سطح سخت‌گیری‌های ایمنی باید دست‌کم با خطرناک‌ترین فناوری‌هایی که بشر پیش‌تر یاد گرفته مدیریت کند، برابری داشته باشد. اپراتورهای هسته‌ای تحت نظارت مجوزدهی، گزارش‌دهی اجباری حوادث و زنجیره‌های مشخص فرماندهی فعالیت می‌کنند. به دلایل روشن، لایه‌های متعدد پشتیبان و ایمنی در این حوزه وجود دارد.
رابینسون شرایط OpenAI را نقطه مقابل این وضعیت توصیف کرد. به گفته او، این شرکت به سازمانی غیرمتمرکز تبدیل شده که در آن اغلب مشخص نیست چه کسی اختیار تصمیم‌گیری دارد.
او همچنین درباره اینکه چرا افراد باهوش، از جمله خودش، بارها خطرات را کمتر از واقعیت ارزیابی کرده‌اند، صراحت غیرمعمولی داشت. او به سه عامل پول، ترس و فشار زمانی اشاره کرد. درباره پول، استدلال او این بود که ثروت به افراد انگیزه قدرتمندی می‌دهد تا به این نتیجه برسند که شرایط خوب است یا در نهایت خوب خواهد شد.