پژوهشگر پیشین آنتروپیک: سپردن هوش مصنوعی به غول‌های خصوصی «دیوانه‌وار» است

www.fox26medford.com

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

جیکوب کاکسون، پژوهشگر بریتانیایی هوش مصنوعی و کارمند پیشین آنتروپیک، معتقد است تنها راه کند کردن روند توسعه هوش مصنوعی، اعمال فشار سیاسی است.
جیکوب کاکسون، پژوهشگر بریتانیایی هوش مصنوعی و کارمند پیشین آنتروپیک، معتقد است تنها راه کند کردن روند توسعه هوش مصنوعی، اعمال فشار سیاسی است. عکس: کارل موندون

جیکوب کاکسون، پژوهشگر هوش مصنوعی که در ماه سپتامبر با متهم کردن شرکت آنتروپیک به به‌خطر انداختن جان انسان‌ها از این شرکت استعفا داد، روز پنجشنبه در گفت‌وگو با خبرگزاری فرانسه گفت دیدن اینکه فناوری قدرتمند هوش مصنوعی در اختیار شرکت‌های عظیم و سودمحور قرار گرفته، «دیوانه‌وار» است.

این پژوهشگر ۲۷ ساله بریتانیایی در روزی که کارفرمای سابقش ورود تاریخی خود به بازار سهام را تجربه می‌کرد، گفت: «امروز روز بسیار عجیبی است.»

کاکسون این اظهارات را در مقابل دفتر مرکزی آنتروپیک در سان‌فرانسیسکو مطرح کرد؛ جایی که گروهی از معترضان خواستار ممنوعیت توسعه مدل‌هایی بودند که می‌توانند به‌صورت خودمختار نسل‌های جدیدی از خود بسازند. این فرایند در صنعت هوش مصنوعی با عنوان «خودبهبودی بازگشتی» (RSI) شناخته می‌شود.

هوش مصنوعی در گذشته عمدتاً در مؤسسات دانشگاهی و سازمان‌های پژوهشی غیرانتفاعی و کوچک توسعه پیدا می‌کرد، اما اکنون شرکت‌های چندتریلیون‌دلاری مانند آنتروپیک و رقیب آن، شرکت OpenAI، سازنده چت‌جی‌پی‌تی، بر این صنعت تسلط دارند.

ارزش آنتروپیک در عرضه اولیه سهام خود در روز چهارشنبه به ۱.۵ تریلیون دلار رسید، اما این شرکت نخستین روز معاملاتی خود در بورس نزدک را با ارزش بازار ۱.۳ تریلیون دلار به پایان رساند. همچنین بر اساس گزارش‌ها، ارزش OpenAI در دور جذب سرمایه خصوصی اوایل همین ماه ۱.۲۵ تریلیون دلار برآورد شده است.

کاکسون گفت: «به نظرم این وضعیت نشان می‌دهد شرایط تا چه اندازه غیرعادی شده است؛ واقعاً دیوانه‌وار است که شرکت‌های انتفاعی مسئول ساخت چنین فناوری‌ای هستند.»

او که فارغ‌التحصیل دانشگاه کمبریج است، سه سال در شرکت OpenAI روی مرحله پیش‌آموزش مدل‌ها کار کرد؛ مرحله‌ای که طی آن مدل‌ها حجم عظیمی از داده‌ها را فرا می‌گیرند. پس از آن نیز چند ماه در آنتروپیک مشغول به کار بود.

استعفای او که در ۸ سپتامبر از طریق شبکه اجتماعی ایکس اعلام شد، بازتاب گسترده‌ای در رسانه‌های سراسر جهان داشت. کاکسون در آن زمان هر دو شرکت را متهم کرد که با شتاب به‌سوی «ابرهوش خودبهبودبخش» حرکت می‌کنند.

او در پیامی نوشت: «افرادی که هوش مصنوعی را توسعه می‌دهند، صادقانه باور دارند که این فناوری ممکن است تا پایان این دهه همه ما را از بین ببرد.»

از نظر نظری، چنین سناریوی فاجعه‌باری ممکن است در نتیجه خودبهبودی بازگشتی رخ دهد.

کاکسون روز پنجشنبه به خبرگزاری فرانسه گفت: «در چنین شرایطی ممکن است دهه‌ها پژوهش در حوزه هوش مصنوعی در عرض چند ماه فشرده شود. اگر شناخت و درک کافی از این هوش مصنوعی نداشته باشیم، ممکن است تا پایان سال ۲۰۲۷ با سامانه‌هایی بسیار پیشرفته و به‌شدت خطرناک روبه‌رو شویم.»

او تأکید کرد: «آنتروپیک باید از انجام خودبهبودی بازگشتی خودداری کند.» کاکسون همچنین این شرکت را متهم کرد که قصد دارد از سال آینده چنین فرایندی را آغاز کند.

نگرانی از وضعیت جهان

کاکسون پیش از آنکه سهام تخصیص‌یافته به او در آنتروپیک به‌طور کامل قطعی و قابل تملک شود، از این شرکت استعفا داد؛ بااین‌حال، او همچنان در OpenAI سهام دارد. اگر این شرکت طبق برنامه در سال ۲۰۲۷ وارد بورس شود، ارزش این سهام ممکن است به مبلغ قابل‌توجهی برسد.

او در سخنرانی خود در دانشگاه استنفورد در ۹ نوامبر، سهمش در OpenAI را «پول کثیف حاصل از خون» توصیف کرد، اما با وجود این انتقادها همچنان آن را در اختیار دارد.

کاکسون در همان برنامه گفته بود: «داداش، من پول را دوست دارم.» این اظهارنظر موجی از تمسخر در شبکه‌های اجتماعی به راه انداخت. او چند روز بعد موضع خود را تغییر داد و متعهد شد تمام ارزش سهامش را به سازمان‌های فعال در حوزه ایمنی هوش مصنوعی اهدا کند، هرچند نام این سازمان‌ها را مشخص نکرد.

او اکنون قصد دارد در یک سازمان غیرانتفاعی مشغول به کار شود و احتمالاً فعالیت خود را بر پژوهش در زمینه ایمنی هوش مصنوعی متمرکز کند.

او گفت: «در حالت ایده‌آل، دوست دارم در حوزه ایمنی پژوهش کنم، اما فکر می‌کنم برای این کار دیگر وقت کافی نداریم.»

کاکسون افزود: «تنها چیزی که می‌تواند شرکت‌های هوش مصنوعی را وادار به کند کردن فعالیت‌هایشان کند، اقدام سیاسی است. این مسئله اکنون دیگر یک مشکل فنی نیست، بلکه مسئله‌ای سیاسی است. باید سرعت پیشرفت آن‌ها را کاهش دهیم.»

او در مجموع از این فناوری حمایت می‌کند، اما در عین حال از مردم می‌خواهد درباره آن نگاهی انتقادی داشته باشند.

کاکسون گفت: «این فناوری کاربردی است، اما باید توجه داشته باشید که چت‌بات‌ها شکل نهایی این فناوری نیستند.» او افزود که هوش مصنوعی در مسیری قرار دارد که به توسعه سامانه‌هایی بسیار توانمند و فراگیر منتهی می‌شود؛ سامانه‌هایی که قادر خواهند بود تمام جنبه‌های کار انسانی را انجام دهند.

بیش از دو ماه پس از استعفای کاکسون، توجه گسترده رسانه‌ها به او تأثیر خود را بر زندگی‌اش گذاشته است. او گاهی در فکر فرو می‌رود و به نقطه‌ای خیره می‌شود، اما می‌گوید حالش «خوب» است.

او گفت: «از اتفاقاتی که افتاد بسیار متعجب شدم.» بااین‌حال، افزود که بیش از آنکه از آشفتگی زندگی شخصی خود نگران باشد، «از وضعیت جهان می‌ترسد».