مدیرعامل آنتروپیک از نوجوانی نگران فاجعه‌های فناوری بود؛ روایت معلم دبیرستان داریو آمودی
سال‌ها پیش از آنکه داریو آمودی درباره پیامدهای احتمالی هوش مصنوعی برای جهان هشدار دهد، او نوجوانی بود که نگرانی درباره یک سناریوی فاجعه‌بار دیگر در دنیای رایانه خواب را از چشمانش می‌گرفت: باگ سال ۲۰۰۰.
ریچارد شاپیرو که در اواخر دهه ۱۹۹۰ در دبیرستان لاول سان‌فرانسیسکو به آمودی فیزیک پیشرفته درس می‌داد، اخیراً در گفت‌وگو با روزنامه سان‌فرانسیسکو کرونیکل به یاد آورده است که این دانش‌آموز برجسته تا چه اندازه مشکل رایانه‌ای مربوط به آغاز هزاره جدید را جدی می‌گرفت. در آن زمان، این نگرانی وجود داشت که سامانه‌هایی که سال را با دو رقم ثبت می‌کردند، با رسیدن تقویم به سال ۲۰۰۰ دچار اختلال شوند. به گفته این معلم بازنشسته، بیشتر مردم، از جمله خود شاپیرو، این مسئله را دردسری بزرگ‌نمایی‌شده می‌دانستند؛ اما آمودی واقعاً از آن نگران بود.
شاپیرو که ۳۰ سال در دبیرستان لاول تدریس کرده و آمودی را یکی از معدود دانش‌آموزان «فوق‌العاده باهوش و بسیار بااستعداد» دوران کاری خود می‌داند، هنوز هم وقتی به این ماجرا فکر می‌کند، آن را تا حدی عجیب می‌یابد. او می‌گوید هرگز مانند آمودی تصور نمی‌کرد که این باگ دردسر جدی ایجاد کند و گمان می‌کرد در بدترین حالت، چند روز اختلال به وجود بیاورد. اما آمودی، به تعبیر شاپیرو، کاملاً در اردوگاه کسانی قرار داشت که معتقد بودند «دنیا به آخر می‌رسد».
البته اول ژانویه سال ۲۰۰۰ فرا رسید و گذشت، بی‌آنکه فروپاشی مورد انتظار رخ دهد؛ اتفاقی که تا حد زیادی نتیجه تلاش دولت‌ها و شرکت‌ها برای اصلاح سامانه‌های رایانه‌ای در سال‌های پیش از آن بود. امروزه از باگ سال ۲۰۰۰ به‌عنوان یکی از هشدارهای کاذب شاخص در تاریخ فناوری مدرن یاد می‌شود؛ ماجرایی که در آن انرژی و نگرانی زیادی صرف مشکلی شد که در نهایت، برخلاف بدترین پیش‌بینی‌ها، آسیب چندانی به بار نیاورد.
الگوی نگرانی؛ با فاصله چند دهه
این خاطره به‌خودی‌خود نکته‌ای جالب در حاشیه زندگی آمودی است، اما با توجه به کاری که او طی یکی دو سال گذشته انجام داده، معنای متفاوتی پیدا می‌کند: هشدار دادن درباره هوش مصنوعی؛ همان فناوری‌ای که شرکتش آن را توسعه می‌دهد و به بازار عرضه می‌کند.
آمودی بارها هشدار داده است که هوش مصنوعی ممکن است در فاصله یک تا پنج سال، نیمی از مشاغل اداری و تخصصی در سطح ورودی را از بین ببرد و نرخ بیکاری را به ۲۰ درصد برساند؛ روندی که به گفته او، حوزه‌هایی مانند حقوق، امور مالی، مشاوره و فناوری را به‌شدت تحت تأثیر قرار خواهد داد. او شرکت‌ها و دولت‌ها را متهم کرده است که با «بیش از حد خوش‌بینانه جلوه دادن واقعیت» درباره آنچه در پیش است، خطرها را کم‌اهمیت نشان می‌دهند. آمودی همچنین جداگانه درباره احتمال سوءاستفاده فاجعه‌بار از هوش مصنوعی هشدار داده است. لحن این هشدارها شباهت چشمگیری به نگرشی دارد که گفته می‌شود او در نوجوانی نسبت به باگی در کدهای قدیمی ثبت تاریخ داشت: این باور که مشکلی فنی که بیشتر مردم آن را دست‌کم می‌گیرند، در واقع به سوی فاجعه‌ای بزرگ پیش می‌رود.
البته این مقایسه کاملاً دقیق نیست. باگ سال ۲۰۰۰ نقصی مهندسی، محدود و شناخته‌شده بود که مهلتی مشخص داشت؛ در مقابل، مسیر پیشرفت هوش مصنوعی و خطرهای آن همچنان موضوع اختلاف نظر جدی میان کارشناسان است. بااین‌حال، نمی‌توان به‌سادگی از کنار یک شباهت گذشت: پیش‌بینی وقوع بدترین سناریویی مشخص و از پیش اعلام‌شده با اطمینان بالا، در حالی که آن سناریو در زمان مورد انتظار محقق نمی‌شود.
تا اینجا، فاجعه گسترده‌ای که آمودی در سال ۲۰۲۵ درباره مشاغل و هوش مصنوعی توصیف کرده بود، در آمار کلی نیز دیده نشده است. نرخ بیکاری به محدوده ۱۰ تا ۲۰ درصدی که او مطرح کرده بود، نزدیک نشده و بازار کار، با وجود تغییرات آشکاری که ابزارهای هوش مصنوعی ایجاد کرده‌اند، با فروپاشی گسترده‌ای که هشدار اولیه او القا می‌کرد، روبه‌رو نشده است. البته برخی شرکت‌ها هنگام اعلام تعدیل نیرو به افزایش بهره‌وری ناشی از هوش مصنوعی اشاره کرده‌اند. برای نمونه، بانک بریتانیایی بارکلیز اخیراً اعلام کرد که در پی افزایش بهره‌وری با کمک هوش مصنوعی، ۵۰۰۰ شغل را حذف خواهد کرد. بااین‌حال، این موارد هنوز نمونه‌هایی پراکنده‌اند و نه نشانه‌های یک «فاجعه گسترده» در سراسر اقتصاد، آن‌گونه که در هشدار اولیه توصیف شده بود. نکته قابل‌توجه اینکه آمودی نیز تا میانه سال ۲۰۲۶ در بیان دیدگاه خود تغییراتی ایجاد کرده بود و به‌جای تأکید صرف بر از بین رفتن مشاغل، بیشتر از دگرگون شدن آن‌ها سخن می‌گفت.
خطرهای وجودی گسترده‌تری که آمودی و دیگر اعضای آنتروپیک درباره هوش مصنوعی مطرح کرده‌اند، از جمله رفتار فریبکارانه سامانه‌ها، سوءاستفاده از آن‌ها برای وارد کردن آسیب گسترده و خارج شدنشان از کنترل انسان، نیز فعلاً در حد هشدارهایی درباره آینده باقی مانده‌اند و هنوز به فاجعه‌هایی مستند در دنیای واقعی تبدیل نشده‌اند.
شاید این بخشی از شخصیت او باشد
هیچ‌یک از این موارد ثابت نمی‌کند که آمودی درباره هوش مصنوعی اشتباه می‌کند. برخلاف باگ سال ۲۰۰۰ که مهلتی مشخص و علتی شناخته‌شده و قابل‌رفع داشت، خطرهای هوش مصنوعی دامنه‌ای باز دارند و ممکن است در بازه زمانی طولانی‌تری از آنچه او در ابتدا پیش‌بینی کرده بود، آشکار شوند. بااین‌حال، خاطره دوران تحصیل او در دبیرستان لاول می‌تواند برای کسانی که می‌خواهند میزان اتکاپذیری پیش‌بینی‌های آمودی را ارزیابی کنند، سرنخی مفید باشد. این ماجرا نشان می‌دهد که او از مدت‌ها پیش تمایل داشته است بدترین سناریوهای فناوری را جدی بگیرد و آشکارا درباره آن‌ها هشدار دهد؛ آن هم سال‌ها پیش از آنکه هوش مصنوعی چنین تریبون گسترده‌ای در اختیارش بگذارد. اینکه این ویژگی در نهایت نشانه دوراندیشی از آب درآید یا صرفاً بخشی از شخصیت او باشد که در زمان مناسبی مجال بروز پیدا کرده، هنوز مشخص نیست. اما توصیف هم‌کلاسی‌ها و معلمان سابق آمودی نشان می‌دهد که هشدار دادن با صدای بلند درباره موضوعی که دیگران نادیده می‌گیرند، ظاهراً از دوران دبیرستان بخشی از سبک رفتاری او بوده است.