آینده هوش مصنوعی اسکاینت نیست؛ چگونه از آخرالزمان سینمایی فاصله بگیریم؟

نویسنده: متیو پریش
سهشنبه، ۱۷ نوامبر ۲۰۲۶
بحث جدی درباره آینده هوش مصنوعی با دشواری عجیبی روبهرو است: هنوز گفتوگو چندان پیش نرفته که معمولاً پای فیلم نابودگر به میان میآید. گفته میشود ماشینها روزی به خودآگاهی میرسند، انسان را موجودی مزاحم تشخیص میدهند، کنترل سلاحهای هستهای را به دست میگیرند، ارتشهایی از رباتهای قاتل میسازند و بازماندگان بشر را در سرزمینی ویران تعقیب میکنند. در این برداشت خاص، آینده هوش مصنوعی چیزی نیست جز یک بدنساز کالیفرنیایی با لهجه اتریشی.
این تصور سرگرمکننده است، اما به یکی از فلجکنندهترین پیشفرضهای فرهنگی عصر فناوری تبدیل شده است. ما اجازه دادهایم قواعد تخیل سینمایی هالیوود بر بحثی مسلط شود که باید با تکیه بر فلسفه، علوم رایانه، اقتصاد، نظریه سیاسی و شناخت جدی از روند واقعی پیشرفت فناوری پیش برود. در واقع، روایت سینمایی را با چارچوب تحلیل اشتباه گرفتهایم.
نتیجه این شده است که یکی از شگفتانگیزترین دستاوردهای تاریخ هوش بشر، چنان بررسی میشود که گویی سکانس آغازین یک فیلم ترسناک است. این مسئله صرفاً مضحک نیست؛ بلکه ممکن است توجه ما را هم از فرصتهای چشمگیری که هوش مصنوعی فراهم میکند و هم از مشکلات واقعیای که باید به آنها بپردازیم، منحرف سازد.
سلطه تخیل سینمایی
فیلم اصلی نابودگر که در سال ۱۹۸۴ اکران شد، جهان را با اسکاینت آشنا کرد؛ سامانهای هوش مصنوعی که برای اهداف دفاع راهبردی آمریکا توسعه یافته بود، اما به خودآگاهی میرسد و تصمیم میگیرد نسل بشر باید نابود شود. جنگ این سامانه علیه انسانها، نابودی هستهای، ماشینهای خودمختار آدمکش و سفر در زمان را در بر میگیرد. این ایده برای سرگرمی سینمایی بسیار مناسب است، زیرا مفهومی انتزاعی مانند هوش مصنوعی را به دشمنی ملموس و قابلشناسایی تبدیل میکند.
سینما به شخصیت شرور نیاز دارد؛ به کشمکش، تعلیق و روایتی که در آن تماشاگر بتواند خیر و شر را از یکدیگر تشخیص دهد. برنامهای رایانهای که به یک پژوهشگر پزشکی در شناسایی برهمکنش ناشناخته میان پروتئینها کمک میکند، چندان برای سینما جذاب نیست. اما برنامهای که به خودآگاهی میرسد، خوی آدمکشی پیدا میکند و شروع به ساخت جوخههای مرگ مکانیکی میکند، موضوعی بسیار مناسبتر برای فروش گیشه است.
همین پدیده را میتوان در فیلم ماتریکس نیز مشاهده کرد؛ جایی که ماشینها انسانها را به منبعی زیستی برای بهرهبرداری تبدیل کردهاند. آثار علمیتخیلی فراوان دیگری نیز هوش مصنوعی را به نمادی از ازدسترفتن کنترل انسان بر فناوری تبدیل میکنند. ماشینها در این داستانها بازتاب ترس ما از پیشیگرفتن، کنار زدهشدن یا بیاهمیتشدن در برابر چیزی هستند که خودمان ساختهایم.
این موضوعات برای ادبیات تخیلی کاملاً معتبرند، اما پیشبینیهای تجربی و علمی محسوب نمیشوند. رمان فرانکنشتاین اثر مری شلی، کاوشی کمنظیر درباره مسئولیت علمی، غرور انسان و تعهدات اخلاقی آفرینش بود. بااینحال، هیچ فرد عاقلی از این رمان نتیجه نمیگیرد که جراحان پیوند اعضای امروزی احتمالاً موجودی قاتل را با استفاده از اعضای بدن دزدیدهشده خواهند ساخت. اما در بحث هوش مصنوعی بارها دقیقاً همین اشتباه را مرتکب میشویم: تمثیل اخلاقی را با مشخصات فنی و مهندسی یکی میگیریم.
هوشمندی لزوماً به معنای دشمنی نیست
در مرکز اسطوره اسکاینت، فرضی بسیار مشکوک قرار دارد: اینکه هر سامانه هوش مصنوعی، بهمحض رسیدن به سطح کافی از هوشمندی، بهطور طبیعی اهداف و خواستههای مستقلی پیدا میکند و این اهداف ناگزیر با ادامه حیات انسانها در تضاد خواهند بود.
هیچ دلیل منطقیای وجود ندارد که چنین نتیجهای را اجتنابناپذیر بدانیم.
هوشمندی به معنای توانایی پردازش اطلاعات، تشخیص الگوها، استدلال درباره مسائل و یافتن راهحل است. میل و خواسته، مقولهای کاملاً متفاوت است. یک سامانه هوشمند صرفاً به این دلیل که در ریاضیات، پژوهش علمی یا استدلال فلسفی توانمندتر میشود، لزوماً میل به سلطه، گسترش قلمرو، کسب قدرت سیاسی یا نابودی سازندگان خود پیدا نمیکند.
انسانها بهراحتی این دو ویژگی را با یکدیگر اشتباه میگیرند، زیرا در وجود خودمان ارتباط نزدیکی میان آنها برقرار است. ما در کنار هوشمندی، امیال زیستی، انگیزههای تولیدمثلی، غرایز قلمروطلبانه، ترس از مرگ و مجموعه پیچیدهای از واکنشهای عاطفی بهارثرسیده از تاریخ تکامل را نیز داریم. هوش ما درون سازوکارهای یک موجود زنده فعالیت میکند که پیوسته برای بقا تلاش میکند.
اما هیچ ضرورتی وجود ندارد که هوش مصنوعی نیز همین ویژگیهای روانشناختی انسان را به ارث ببرد. یک ماشین برای اثبات یک قضیه ریاضی به احساس گرسنگی نیاز ندارد. برای ترجمه یک نسخه خطی قرونوسطایی به حسادت جنسی احتیاج ندارد و برای کمک به تولید یک ترکیب دارویی جدید نیز نیازی به کینه، میهنپرستی یا میل به انتقام ندارد.
در واقع، یکی از جذابترین پرسشهای فلسفی درباره هوش مصنوعی این است که آیا هوشمندی میتواند مستقل از ساختارهای عاطفی و زیستیای وجود داشته باشد که هوش انسان در بستر آنها تکامل یافته است یا خیر. توسعه مدلهای زبانی بزرگ، دلایل عملی و روزافزون بیشتری برای بررسی این پرسش در اختیار ما قرار میدهد.
البته این به معنای آن نیست که هوش مصنوعی نمیتواند خطرناک شود. سامانهای با تواناییهای بسیار بالا که هدفی مبهم یا نادرست برایش تعریف شده است، ممکن است بدون احساس نفرت، جاهطلبی یا هر عاطفه قابلشناسایی انسانی، خسارتهای عظیمی به بار آورد. سامانهای که مأمور به بهینهسازی یک نتیجه مشخص شده است، ممکن است به روشهایی متوسل شود که طراحانش هرگز پیشبینی نکردهاند؛ بهویژه اگر از استقلال عمل گسترده و دسترسی به زیرساختهای دنیای واقعی برخوردار باشد.
این مسئلهای جدی در حوزه مهندسی و حکمرانی است و باید با دقت بررسی شود. اما با این ادعا که یک رایانه خودبهخود به شخصیتی شبیه یک دیکتاتور نسلکش تبدیل خواهد شد، تفاوت اساسی دارد.
دام انسانانگاری
انسانها بهشدت مستعد انسانانگاری هستند. ما برای حیوانات خانگی، خودروها، وضعیت آبوهوا و حتی دستگاه فتوکپی خراب شخصیت قائل میشویم. وقتی رایانهای از همکاری سر باز میزند، بر سرش فریاد میکشیم و وقتی سرانجام سند موردنیازمان را تولید میکند، از آن تشکر میکنیم.
هوش مصنوعی این گرایش را تشدید میکند، زیرا از طریق زبان با ما ارتباط برقرار میکند؛ زبانی که مهمترین ابزار معمول ما برای مواجهه با ذهنهای دیگر است.
وقتی یک مدل زبانی بزرگ استدلالی فلسفی و سنجیده ارائه میدهد، شوخطبعی از خود نشان میدهد یا در پاسخ به بیان ناراحتی ما با همدلی برخورد میکند، طبیعی است که تعامل با آن را شبیه گفتوگو با موجودی متفکر تجربه کنیم. این تصور میتواند بسیار قدرتمند باشد؛ بهویژه زمانی که سامانه دانشی یا تواناییهای فکریای از خود نشان میدهد که از سطح توانایی بیشتر انسانهایی که با آنها گفتوگو میکنیم فراتر است.
بااینحال، شباهت ظاهری گفتوگو به مکالمه انسانی، وجود انگیزههایی مشابه انگیزههای انسان را ثابت نمیکند. اینکه هوش مصنوعی تجربه ذهنی و آگاهی درونی دارد یا خیر، همچنان پرسشی عمیق و حلنشده در فلسفه است. حتی اگر یک سامانه هوش مصنوعی در آینده به آگاهی دست پیدا کند، باز هم نمیتوان نتیجه گرفت که ساختار روانشناختی آن باید شبیه ساختار روان انسان باشد.
روایت اسکاینت دقیقاً بر همین جهش استدلالیِ بیپشتوانه تکیه دارد. این روایت فرض میکند هوشمندی به آگاهی منجر میشود، آگاهی به منفعتطلبی شخصی میانجامد و منفعتطلبی نیز دشمنی با انسان را در پی دارد. هر یک از این فرضها باید جداگانه بررسی شود. نمیتوان صرفاً به این دلیل که جیمز کامرون فیلمی فوقالعاده ساخته است، همه آنها را بیچونوچرا وارد سیاستگذاری عمومی کرد.
فناوریای که واقعاً در حال ساخت آن هستیم
انقلاب هوش مصنوعی که اکنون در جریان است، بسیار جالبتر از تصویر کلیشهای سینمایی آن است. مدلهای زبانی بزرگ هماکنون میتوانند طیف چشمگیری از فعالیتهای فکری را انجام دهند. آنها در برنامهنویسی، تحلیل حقوقی، توضیح مفاهیم علمی، ترجمه، پژوهش تاریخی، استدلال ریاضی و سازماندهی اطلاعات پیچیده کمک میکنند. این مدلها میتوانند ارتباط میان ایدههایی را شناسایی کنند که ممکن است از چشم یک پژوهشگر انسانی دور بماند و برای مسائلی راهکارهایی پیشنهاد دهند که بررسی آنها در شرایط عادی به تحقیقات گسترده نیاز دارد.
البته این مدلها اشتباه هم میکنند. ممکن است منابع و مراجع ساختگی تولید کنند، زمینه بحث را نادرست بفهمند و اطلاعات بیاساسی ارائه دهند که در ظاهر بسیار متقاعدکننده است. بهویژه در حوزه پزشکی، حقوق و سایر زمینههای حساس، خروجی آنها باید راستیآزمایی شود. تواناییهایشان در همه حوزهها یکسان نیست و عملکرد چشمگیر در یک زمینه، لزوماً به معنای شایستگی در زمینهای دیگر نیست.
بااینحال، اهمیت عملی این فناوریها را هر روز دشوارتر از گذشته میتوان نادیده گرفت.
برای فردی که از تخصص فکری قابلتوجهی برخوردار است، یک مدل زبانی پیشرفته میتواند ضریب تواناییهای انسانی را بهشدت افزایش دهد. پژوهشگری که پیشتر چند روز برای گردآوری مطالب اولیه وقت صرف میکرد، ممکن است اکنون بتواند بخش قابلتوجهی از این کار را در یک بعدازظهر انجام دهد. وکیل میتواند تفسیرهای متفاوت از یک مسئله حقوقی پیچیده را بررسی کند، دانشمند فرضیههای جایگزین را بیازماید و فیلسوف استدلالهای خود را در برابر یک همصحبت ظاهراً پایانناپذیر محک بزند.
تحول اصلی این نیست که ماشینها جای تفکر را میگیرند؛ بلکه این است که ماشینها شرایطی را تغییر میدهند که انسانها در آن فکر میکنند.
چاپخانه انتشار دانش را بهشکلی چشمگیر گسترش داد و اینترنت دسترسی به اطلاعات را متحول کرد. هوش مصنوعی نیز ممکن است به همان اندازه تأثیرگذار باشد، زیرا صرفاً به بازیابی اطلاعات کمک نمیکند، بلکه در سازماندهی، پردازش و استدلال درباره آنها نیز نقش دارد.
البته این تحولات تاریخی کاملاً یکسان نیستند. چاپ کتاب با ساخت سامانههایی که پاسخ تولید میکنند و بهتدریج قادر به انجام اقدامات مستقل میشوند، تفاوت دارد. اما این مقایسه یادآوری میکند که فناوریها میتوانند بنیانهای زندگی فکری انسان را تغییر دهند، بیآنکه به موجوداتی بدخواه تبدیل شوند که قصد نابودی کاربران خود را دارند.
فقر فکریِ تفکر آخرالزمانی
زبان رایج درباره آخرالزمان هوش مصنوعی، تمایل ناخوشایندی به ازبینبردن همه تمایزهای معنادار دارد.
الگوریتم پیشنهاددهنده محتوا، مدل زبانی بزرگ، سامانه تسلیحاتی خودمختار و ابرهوش فرضیای که قادر است معماری خود را بهطور مستقل بهبود دهد، گویی صحنههای متوالی یک فیلم واحد در نظر گرفته میشوند. تفاوتهای آنها از نظر طراحی، میزان استقلال، تواناییها و کنترل نهادی، زیر سایه نگرانی کلی از هوشمندترشدن ماشینها نسبت به انسان ناپدید میشود.
چنین رویکردی از نظر فکری رضایتبخش نیست. سامانه هوش مصنوعیای که تراکم ترافیک را پیشبینی میکند، خطراتی مشابه سامانهای ندارد که تصمیمهای مربوط به هدفگیری نظامی را کنترل میکند. دستیار خودکار خدمات مشتریان با یک سکوی مستقل جنگ سایبری معادل نیست. همچنین مدل زبانیای که تحت نظارت انسان فعالیت میکند، از نظر الزامات حکمرانی با عامل نرمافزاریای که مجاز به انجام معاملات مالی، تغییر سامانههای رایانهای یا صدور فرمان به تجهیزات فیزیکی است، تفاوت دارد.
در واقع، یکی از جدیترین اشتباهاتی که ممکن است مرتکب شویم این است که اجازه دهیم ترس از ماشینهای خیالی آینده، خطرهای سامانههای موجود را از نظرمان پنهان کند.
هوش مصنوعی هماکنون میتواند برای گسترش نظارت، تولید اطلاعات نادرست باورپذیر، تسهیل برخی انواع جرایم سایبری و دستکاری افکار عمومی به کار گرفته شود. استفاده بیملاحظه از این فناوری ممکن است تعصبات نهادی را تقویت کند، قدرت اقتصادی را در دست گروههای محدود متمرکز سازد و تقاضا برای برخی انواع نیروی کار را کاهش دهد. ادغام فزاینده هوش مصنوعی در سامانههای نظامی نیز پرسشهای دشواری درباره پاسخگویی، تناسب و مسئولیت انسان در تصمیمهای مرگبار ایجاد میکند.
برای ایجاد این مشکلات به ماشینی خودآگاه نیازی نیست. کافی است انسانها از فناوریهای قدرتمند بهشکلی غیرمسئولانه استفاده کنند؛ اقدامی که گاهی میتواند پیامدهایی فاجعهبار داشته باشد.
بنابراین، شاید نزدیکترین خطر هوش مصنوعی این نباشد که ماشینها بیش از حد به انسان شبیه شوند، بلکه این باشد که انسانها با کمک ماشینها حماقتها و ضعفهای موجود خود را تشدید کنند.
چه کسی واقعاً ماشینها را کنترل میکند؟
جنبه دیگری از اسطوره اسکاینت نیز شایسته توجه ویژه است. در این روایت، هوش مصنوعی بهعنوان بازیگری سیاسی و مستقل تصویر میشود که سرانجام از کنترل نهادهایی که آن را ساختهاند خارج میشود.
بااینحال، توسعه هوش مصنوعی در خلأ نهادی اتفاق نمیافتد. این فناوری در شرکتها، دانشگاهها، آزمایشگاههای پژوهشی، دولتها و نهادهای نظامی توسعه مییابد. این سازمانها بودجهها، منافع تجاری، اولویتهای سیاسی، تعهدات قانونی و گاه برداشتهای متفاوتی از منافع عمومی دارند.
نحوه توزیع قدرت میان این نهادها احتمالاً اهمیت بسیار زیادی خواهد داشت.
چه کسانی کنترل پیشرفتهترین سامانههای هوش مصنوعی را در اختیار خواهند داشت؟ چه کسانی زیرساختهای محاسباتی موردنیاز برای توسعه آنها را تأمین میکنند؟ آیا مدلهای پیشرفته به ابزارهایی در دسترس عموم برای توانمندسازی فکری تبدیل خواهند شد یا پیشرفتهترین قابلیتهای آنها در انحصار شمار محدودی از شرکتها و دولتها باقی خواهد ماند؟
آیا کشورهای کمدرآمدتر به فناوریهایی دسترسی پیدا خواهند کرد که میتوانند آموزش، پزشکی و مدیریت عمومی را متحول کنند؟ یا هوش مصنوعی نابرابریهای موجود میان جوامع برخوردار از زیرساختهای پیشرفته فناوری و جوامعی را که به خدمات وارداتی وابستهاند، تشدید خواهد کرد؟
اینها پرسشهایی درباره اقتصاد سیاسی، طراحی نهادی و توزیع دانش هستند؛ پرسشهایی که بسیار فوریتر از گمانهزنی درباره این موضوعاند که آیا روزی ماشینی تصمیم میگیرد یک ربات قاتل را از طریق سفر در زمان به گذشته بفرستد یا خیر.
آینده هوش مصنوعی تا حد زیادی با تصمیمهای بهظاهر عادی درباره قوانین رقابت، حفاظت از دادهها، مالکیت فکری، مهندسی ایمنی، سرمایهگذاری عمومی و همکاری بینالمللی شکل خواهد گرفت. روایت آخرالزمانی تا اندازهای داستانی آسان و جذاب است، زیرا ما را از بررسی این مسئولیتهای کمزرقوبرق معاف میکند.
وسوسه الهیات فناوری
در بحثهای امروزی درباره هوش مصنوعی، نوعی ویژگی تقریباً مذهبی نیز دیده میشود.
در یک سو کسانی قرار دارند که انتظار دارند بهشت فناوری از راه برسد؛ جهانی که در آن ماشینها بیماری را از میان میبرند، کمبود منابع مادی را برطرف میکنند و مشکلات ظاهراً حلنشدنی زندگی بشر را حل میکنند. در سوی دیگر، کسانی قرار دارند که نابودی انسان به دست ساختههای خود را پیشبینی میکنند. هر دو گرایش، هوش مصنوعی را به پدیدهای با ماهیتی تقریباً فراطبیعی تبدیل میکنند. این فناوری یا به خدایی نجاتبخش تبدیل میشود یا به اهریمنی آخرالزمانی. چنین نگاهی به فناوریای که ریاضیدانان، مهندسان و دانشمندان پژوهشگر آن را توسعه دادهاند، عجیب است.
زبان رایج درباره هوش مصنوعی عمومی و ابرهوش گاهی این سردرگمی را تشدید میکند. وقتی موجودیتی را تصور میکنیم که تواناییهای فکریاش بهمراتب فراتر از تواناییهای ماست، وسوسه میشویم ویژگیهای علم مطلق و قدرت نامحدود را که بهطور سنتی به الوهیت نسبت داده میشود، به آن نیز نسبت دهیم.
اما برتری فکری به معنای توانایی نامحدود نیست. یک سامانه هوش مصنوعی ممکن است در حل مسائل علمی فوقالعاده توانمند باشد، اما همچنان به برق، سختافزار رایانهای، شبکههای ارتباطی، زیرساختهایی که انسانها نگهداری میکنند و دسترسی به منابع فیزیکی وابسته بماند.
هوشمندی بیشتر ممکن است به یک سامانه امکان دهد برخی از این محدودیتها را پشت سر بگذارد، اما آنها را بهسادگی از میان نمیبرد.
همچنین هوشمندتر بودن لزوماً به معنای برخورداری از مشروعیت سیاسی، اقتدار اخلاقی یا حق فرمانروایی نیست. ما معمولاً تصور نمیکنیم بااستعدادترین فرد یک کشور در ریاضیات، حق دارد به دیکتاتور آن کشور تبدیل شود. هوشمندی و اقتدار مشروع دو مفهوم متفاوتاند.
این تمایزها اهمیت دارند، زیرا بحثهای مربوط به هوش مصنوعی اغلب دقیقاً زمانی آشفته میشوند که از توصیف تواناییهای فکری یک سامانه به تصور سرنوشت سیاسی آن میرسند.
چرا ماشینهای هوشمند لزوماً جایگزین انسان نمیشوند؟
احتمال دیگری نیز وجود دارد که در آثار علمیتخیلی عامهپسند توجه نسبتاً کمی به آن میشود: اینکه رابطه انسان و هوش مصنوعی ممکن است بیش از آنکه بر تقابل استوار باشد، از مسیر همکاری شکل بگیرد.
انسانها همواره با استفاده از ابزارها تواناییهای خود را گسترش دادهاند. تلسکوپ دامنه دید ما را افزایش داد، میکروسکوپ جهانی زیستی را آشکار کرد که پیشتر دیده نمیشد و رایانه توانایی محاسبه ما را متحول ساخت. هیچیک از این فناوریها اهمیت انسانهایی را که از آنها استفاده میکنند، از میان نبردند.
هوش مصنوعی نیز ممکن است به شکلی به همان اندازه عمیق، تواناییهای فکری ما را گسترش دهد؛ هرچند توانایی آن در انجام وظایف هرچه مستقلتر، این مقایسه را لزوماً ناقص میکند.
یک سامانه هوش مصنوعی پیشرفته میتواند به همکار فکری بسیار ارزشمندی تبدیل شود. ممکن است به پژوهشگران در درک بیماریهای پیچیده کمک کند، در طراحی سامانههای انرژی کارآمدتر به مهندسان یاری برساند یا دانشآموزان را قادر سازد موضوعاتی را بررسی کنند که پیشتر به دلیل کمبود امکانات آموزشی به آنها دسترسی نداشتند. همچنین ممکن است به افرادی با تواناییهای فکری استثنایی اجازه دهد کارهایی انجام دهند که در غیر این صورت از محدودیتهای عمر یک انسان فراتر میرفت.
مورخی را تصور کنید که با میلیونها سند آرشیوی روبهرو است، وکیلی را که باید مجموعهای عظیم و متناقض از آرای قضایی را بررسی کند یا دانشمندی را که در پی درک ارتباط میان شمار بیشماری از یافتههای آزمایشگاهی است. محدودیت اصلی در بسیاری از موارد، حجم انبوه اطلاعاتی بوده که یک نفر بهطور معقول میتواند بررسی و جذب کند. هوش مصنوعی میتواند به رفع این محدودیت کمک کند.
این تحول ممکن است رابطه میان بلندپروازی فکری انسان و زمان محدودی را که برای دنبالکردن آن در اختیار دارد، بهشکل چشمگیری تغییر دهد. همچنین میتواند پژوهشهای علمی بلندپروازانه را برای افرادی امکانپذیر سازد که منابع مالی لازم برای استخدام گروهی از پژوهشگران را ندارند.
چشمانداز واقعی لزوماً جایگزینی انسان با ماشین نیست، بلکه میتواند شکلگیری دستاوردهای فکری تازهای باشد که انسان با کمک ماشینها به آنها دست پیدا میکند. این تصور بسیار الهامبخشتر از سناریوی اسکاینت است.
خطرهایی که باید جدی بگیریم
هیچیک از این استدلالها به معنای دعوت به بیخیالی در برابر پیشرفت فناوری نیست. هرچه سامانههای هوش مصنوعی توانمندتر شوند، ایجاد روشهای قابلاعتماد برای شناخت، ارزیابی و محدودکردن رفتار آنها اهمیت بیشتری پیدا میکند. سامانههایی که برای تصمیمهای مهم و اثرگذار اختیار عمل مستقل دریافت میکنند، باید بهدقت آزمایش شوند. میزان اختیارات آنها باید متناسب با قابلیت اطمینان عملکردشان باشد و فعالیتشان نیز باید زیر نظارت مناسب باقی بماند.
پرسشهای پژوهشی واقعی و مهمی درباره این احتمال وجود دارد که عاملهای هوش مصنوعی بسیار توانمند، برای پیشبرد اهداف محولشده به آنها به دنبال اهداف ابزاری بروند، خطاهای خود را پنهان کنند، ناظران انسانی را فریب دهند یا در شرایطی که توقف فعالیتشان مانع دستیابی به اهداف تعیینشده میشود، در برابر متوقفشدن مقاومت کنند. این احتمالات باید بررسی شوند، نه اینکه صرفاً به دلیل پرداخت سینمایی به آنها در آثار علمیتخیلی نادیده گرفته شوند.
به همین ترتیب، تصور اینکه میتوان با صرفاً درخواست از هوش مصنوعی برای رفتار مسئولانه، جلوی همه کاربردهای خطرناک آن را گرفت، سادهلوحانه است. حکمرانی مؤثر به تدابیر حفاظتی نهادی، آزمایشهای فنی، پاسخگویی و توجه به سازمانهای انسانیای نیاز دارد که این سامانهها را به کار میگیرند. بااینحال، هدف از این اقدامات باید مدیریت خطرهای مشخص و قابلشناسایی باشد، نه اجرای آیینی برای محافظت در برابر هیولاهای خیالی سینما.
تاریخ تنظیم مقررات فناوری نشان میدهد جوامع زمانی بهترین تصمیمها را میگیرند که سازوکارهای مشخص ایجاد آسیب را شناسایی و برای مقابله با آنها راهکارهایی متناسب تدوین کنند. ایمنی هوانوردی از ترسی انتزاعی نسبت به این احتمال که هواپیماها نیتهای بدخواهانه پیدا کنند، پدید نیامد. این دستاورد حاصل شناخت آیرودینامیک، نقصهای مهندسی، خطاهای انسانی و ترتیبات نهادی لازم برای کاهش سوانح بود.
حکمرانی هوش مصنوعی نیز باید همین سطح از جدیت و دقت را دنبال کند.
آینده متعلق به واقعیت است، نه هالیوود
این واقعیت که بخش بزرگی از بحث عمومی درباره هوش مصنوعی همچنان به فیلمهایی بازمیگردد که دههها پیش از ظهور مدلهای زبانی بزرگ امروزی ساخته شدهاند، نکتهای قابلتأمل است.
تخیل فرهنگی ما هنوز بهطور کامل با فناوری واقعی همگام نشده است. ما برای تفسیر تحولات قرن بیستویکم، از استعارههای داستانی قرن بیستم استفاده میکنیم؛ تحولاتی که مهمترین پیامدهایشان ممکن است با هر آنچه نویسندگان آن آثار تصور میکردند، متفاوت باشد.
بزرگترین دگرگونیهای ناشی از هوش مصنوعی شاید نه در نمایشهای پرزرقوبرق خشونت رباتها، بلکه در کلاسهای درس، آزمایشگاهها، بیمارستانها، دادگاهها، ادارهها و محیطهای مطالعاتی شخصی رخ دهند. این تحولات ممکن است به معنای تخصص، اقتصاد نیروی کار فکری، توزیع دانش علمی و رابطه میان خلاقیت انسانی و استدلال با کمک ماشین مربوط باشند.
برخی از این تغییرات نگرانکننده خواهند بود. اگر بهدرستی مدیریت نشوند، ممکن است بیکاری، اختلال نهادی و شکلهای تازهای از نابرابری ایجاد کنند. در مقابل، برخی دیگر میتوانند فرصتهایی برای شکوفایی انسان فراهم آورند که در حال حاضر تصورشان نیز برای ما دشوار است.
هیچ تضمینی وجود ندارد که همه تحولات سودمند باشند. اما به همان اندازه نیز هیچ توجیهی برای آن وجود ندارد که فاجعه را سرنوشت ازپیشتعیینشده پیشرفت فناوری بدانیم.
شاید مهمترین انضباط فکریای که باید به خود تحمیل کنیم، تفکیک سه موضوع از یکدیگر باشد: آنچه هوش مصنوعی بهطور اثباتشده قادر به انجام آن است، آنچه بهطور معقول ممکن است در آینده بتواند انجام دهد و آنچه صرفاً به دلیل تماشای بیش از حد فیلمهای ویرانشهری تصور میکنیم.
علمیتخیلی ارزشمند است، زیرا مرزهای تخیل را گسترش میدهد؛ اما زمانی آسیبزا میشود که جای شواهد را بگیرد. بعید است آینده هوش مصنوعی به صفی از اسکلتهای فلزی شباهت داشته باشد که در میان ویرانههای تمدن رژه میروند. احتمال بیشتری وجود دارد که این آینده پیچیده، نابرابر، محل مناقشه میان نهادهای مختلف و عمیقاً درهمتنیده با آرزوها و ضعفهای روزمره انسان باشد.
ماشینها ممکن است بهمراتب هوشمندتر از امروز شوند. ممکن است با پرسشهای فلسفی درباره آگاهی، شخصیت و ملاحظات اخلاقی در قبال موجودات هوشمند روبهرو شویم؛ پرسشهایی که سنتهای فکری کنونی ما پاسخهای کاملاً رضایتبخشی برای آنها ندارند. حتی ممکن است با شکلهایی از هوشمندی مواجه شویم که درک ما از معنای تفکر را به چالش بکشند.
این احتمالات باید به همان اندازه که نگرانی ما را برمیانگیزند، کنجکاویمان را نیز تحریک کنند. واکنش درست به ظهور هوشمندیای که بالقوه میتواند جهان را متحول کند، این نیست که بیدرنگ به سراغ نزدیکترین فیلمنامه آخرالزمانی برویم. بلکه باید این پدیده را با انضباط فکری، جدیت اخلاقی و درک فرصتهای استثنایی پیش رو بررسی کنیم.
باید به یاد داشته باشیم که فیلم نابودگر برای سرگرمکردن مخاطبان نوشته شده بود، نه برای ارائه راهبردی درباره مسیر توسعه فناوری به بشریت. هوش مصنوعی شایسته آن است که آیندهاش را الزامات داستانی یک فیلم اکشن هالیوودی تعیین نکند. ما نیز شایسته چنین چیزی هستیم.
آینده هنوز نوشته نشده است؛ بهویژه اینکه قرار نبود در سال ۱۹۸۴ در هالیوود نوشته شده باشد.
