پژوهشگر سابق آنتروپیک در گفتوگو با خبرگزاری فرانسه: سپردن هوش مصنوعی به غولهای خصوصی دیوانهکننده است

جیکوب کاکسون، پژوهشگر هوش مصنوعی که در ماه سپتامبر با متهم کردن شرکت آنتروپیک به به خطر انداختن جان انسانها از این شرکت استعفا داد، روز پنجشنبه در گفتوگو با خبرگزاری فرانسه گفت دیدن اینکه توسعه این فناوری قدرتمند در دست شرکتهای عظیم و سودمحور قرار گرفته، «دیوانهکننده» است.
این پژوهشگر ۲۷ ساله بریتانیایی در حالی که شرکت سابقش رکورد تازهای را در ورود به بازار سهام ثبت میکرد، گفت: «امروز روز بسیار عجیبی است.»
کاکسون در مقابل دفتر مرکزی آنتروپیک در سانفرانسیسکو با خبرگزاری فرانسه گفتوگو کرد؛ جایی که گروهی از معترضان خواستار ممنوعیت توسعه مدلهایی بودند که میتوانند بهصورت خودکار نسلهای جدیدی از خود بسازند. این فرایند در صنعت هوش مصنوعی «خودبهبودی بازگشتی» (RSI) نامیده میشود.
در گذشته، توسعه هوش مصنوعی عمدتاً در اختیار مؤسسات پژوهشی دانشگاهی و سازمانهای غیرانتفاعی کوچک بود، اما اکنون شرکتهایی با ارزشگذاری تریلیوندلاری، مانند آنتروپیک و رقیب آن، شرکت سازنده چتجیپیتی یعنی OpenAI، بر این صنعت تسلط دارند.
آنتروپیک روز چهارشنبه در عرضه اولیه سهام خود با ارزشگذاری ۱.۵ تریلیون دلار وارد بازار شد، اما در پایان نخستین روز معاملاتی در بورس نزدک، ارزش آن به ۱.۳ تریلیون دلار رسید. بر اساس گزارشها، ارزش OpenAI نیز در دور تأمین مالی خصوصی اوایل همین ماه ۱.۲۵ تریلیون دلار برآورد شده بود.
کاکسون گفت: «به نظرم این اتفاق نمادی از آن است که اوضاع تا چه اندازه از کنترل خارج شده است؛ چون واقعاً دیوانهکننده است. اینکه شرکتهای انتفاعی مسئول توسعه این فناوری باشند، واقعاً باورنکردنی است.»
او که فارغالتحصیل دانشگاه کمبریج است، سه سال در OpenAI روی مرحله پیشآموزش مدلها کار کرد؛ مرحلهای که در آن مدلها حجم عظیمی از دادهها را فرا میگیرند. پس از آن نیز چند ماه در آنتروپیک مشغول به کار بود.
خبر استعفای او که هشتم سپتامبر در شبکه اجتماعی ایکس اعلام شد، بازتاب گستردهای در رسانههای جهان داشت. کاکسون در آن زمان هر دو شرکت را متهم کرد که با شتاب به سوی «ابرهوش خودبهبودیابنده» حرکت میکنند.
او نوشته بود: «افرادی که هوش مصنوعی را توسعه میدهند، صادقانه باور دارند که این فناوری ممکن است تا پایان این دهه همه ما را از بین ببرد.»
از نظر تئوری، چنین سناریوی فاجعهباری ممکن است با توسعه هوش مصنوعی خودبهبودیابنده محقق شود.
کاکسون روز پنجشنبه به خبرگزاری فرانسه گفت: «در چنین شرایطی ممکن است دههها پژوهش در حوزه هوش مصنوعی ظرف چند ماه فشرده شود. اگر درک درستی از این هوش مصنوعی نداشته باشیم، ممکن است تا پایان سال ۲۰۲۷ با سامانههایی بسیار پیشرفته و بهشدت خطرناک روبهرو شویم.»
او تأکید کرد: «آنتروپیک باید از توسعه هوش مصنوعی خودبهبودیابنده خودداری کند.» کاکسون همچنین این شرکت را متهم کرد که قصد دارد از سال آینده چنین فرایندی را آغاز کند.
نگرانی از وضعیت جهان
کاکسون پیش از آنکه سهامش در آنتروپیک بهطور کامل قطعی شود، از این شرکت استعفا داد؛ با این حال، همچنان در OpenAI سهام دارد. اگر این شرکت طبق برنامه در سال ۲۰۲۷ وارد بورس شود، سهام او ممکن است ارزش بسیار زیادی پیدا کند.
او در سخنرانی خود در دانشگاه استنفورد در ۹ نوامبر، سهمش در OpenAI را «پول خون» توصیف کرد، اما همچنان آن را در اختیار دارد.
کاکسون با لحنی شوخیآمیز گفت: «داداش، من پول را دوست دارم.» این اظهارنظر در شبکههای اجتماعی موجی از تمسخر به راه انداخت. او چند روز بعد موضع خود را تغییر داد و متعهد شد تمام ارزش سهامش را به سازمانهای فعال در زمینه ایمنی هوش مصنوعی اهدا کند، هرچند نام هیچ سازمانی را مشخص نکرد.
او اکنون قصد دارد در یک سازمان غیرانتفاعی، احتمالاً در حوزه پژوهش درباره ایمنی هوش مصنوعی، فعالیت کند.
کاکسون گفت: «در حالت ایدهآل دوست دارم در زمینه ایمنی پژوهش کنم، اما فکر میکنم برای این کار زمان کافی در اختیار نداریم.»
او افزود: «تنها چیزی که میتواند شرکتهای هوش مصنوعی را به کند کردن فعالیتهایشان وادار کند، اقدام سیاسی است. مسئله دیگر فنی نیست، بلکه سیاسی شده است. باید سرعت پیشرفت آنها را کاهش دهیم.»
کاکسون در مجموع از این فناوری حمایت میکند، اما از مردم میخواهد در مواجهه با آن نگاه انتقادی داشته باشند.
او گفت: «این فناوری مفید است، اما باید بدانیم که چتباتها شکل نهایی آن نیستند.» به گفته او، هوش مصنوعی در مسیری حرکت میکند که به توسعه سامانههایی بسیار توانمند و فراگیر منتهی خواهد شد؛ سامانههایی که میتوانند تمام جنبههای کار انسانی را بر عهده بگیرند.
بیش از دو ماه پس از استعفای کاکسون، موج توجه رسانهای به او تأثیر خود را بر زندگیاش گذاشته است. او گاهی برای مدتی به نقطهای خیره میشود، اما میگوید حالش «خوب» است.
او گفت: «از اتفاقاتی که افتاد، واقعاً شگفتزده شدم.» با این حال، افزود که بیش از آنکه نگران آشفتگی زندگی شخصی خود باشد، «از وضعیت جهان میترسد».
