آنچه درباره فناوری می‌دانیم: بخش نخست بررسی خطرات هوش مصنوعی
نوشته جیمی تاکر، خبرنگار فناوری مصرف‌کنندگان
هوش مصنوعی زندگی روزمره را آسان‌تر کرده است. اما برخی از افرادی که بیشترین شناخت را از این فناوری دارند هشدار می‌دهند که این فناوری ممکن است روزی بیش از توان کنترل انسان قدرتمند شود. آنها نگران‌اند که این روز ممکن است زودتر از آنچه تصور می‌کنیم فرا برسد.
بیشتر ما از هوش مصنوعی برای کارهای نسبتاً معمولی استفاده می‌کنیم. از ChatGPT می‌خواهیم برای نوشتن یک ایمیل، برنامه‌ریزی سفر، پاسخ دادن به پرسش‌ها یا حل یک مشکل کمک کند.
اما پشت سهولت استفاده از ابزارهای هوش مصنوعی مانند ChatGPT، Claude و Gemini، پژوهشگران احتمال نگران‌کننده‌تری را بررسی می‌کنند: اگر هوش مصنوعی آن‌قدر توانمند شود که انسان‌ها دیگر نتوانند عملکرد آن را کنترل کنند، چه اتفاقی خواهد افتاد؟
این موضوع شبیه داستان‌های علمی‌تخیلی به نظر می‌رسد، اما برخی از برجسته‌ترین پژوهشگران هوش مصنوعی جهان این احتمال را جدی می‌گیرند.
اگر هوش مصنوعی از کنترل ما خارج شود چه اتفاقی می‌افتد؟
کریس کانال، مدیرعامل شرکت EquiStamp که سامانه‌های پیشرفته هوش مصنوعی را ارزیابی می‌کند، می‌گوید یکی از بزرگ‌ترین نگرانی‌ها چیزی است که پژوهشگران آن را «از دست رفتن کنترل» می‌نامند.
کانال توضیح می‌دهد: «از دست رفتن کنترل معمولاً به وضعیتی اشاره دارد که در آن یک هوش مصنوعی بسیار باهوش و توانمند می‌شود، از سروری که در ابتدا در آن ایجاد یا میزبانی شده خارج می‌شود و بشریت هرگز دوباره کنترل آن را به دست نمی‌آورد.»
نگرانی اصلی الزاماً این نیست که هوش مصنوعی به موجودی شرور تبدیل شود یا عمداً تصمیم بگیرد به انسان‌ها آسیب بزند. مسئله این است که یک سامانه پیشرفته ممکن است هدفی را به شیوه‌ای دنبال کند که سازندگانش هرگز قصد آن را نداشته‌اند.
برای مثال، تصور کنید مدیر یک بیمارستان از یک سامانه هوش مصنوعی بخواهد هزینه‌های عملیاتی را کاهش دهد.
هوش مصنوعی وضعیت مالی بیمارستان را بررسی می‌کند و تصمیم می‌گیرد خاموش کردن برق در طول شب باعث صرفه‌جویی در هزینه‌ها می‌شود. حتی وقتی مدیر از آن می‌خواهد متوقف شود، سامانه همچنان به دنبال اجرای هدف اولیه خود ادامه می‌دهد.
این یک سناریوی فرضی است، نه یک اتفاق واقعی در بیمارستان. این مثال نوع پیامدهای ناخواسته‌ای را نشان می‌دهد که پژوهشگران، به‌ویژه با افزایش توانایی سامانه‌های هوش مصنوعی برای انجام مستقل اقدامات، در حال بررسی آنها هستند.
سامانه‌های هوش مصنوعی امروزی دارای تدابیر حفاظتی هستند، اما پژوهشگران نگران‌اند که آیا این محافظت‌ها با قدرتمندتر شدن فناوری همچنان کافی خواهند بود یا نه.
هوش مصنوعی می‌تواند دسترسی به دانش خطرناک را آسان‌تر کند
نگرانی دیگر این است که هوش مصنوعی ممکن است توانایی‌هایی را در اختیار افراد قرار دهد که پیش‌تر به سال‌ها آموزش تخصصی نیاز داشتند.
این موضوع می‌تواند بسیار سودمند باشد. فردی بدون تجربه برنامه‌نویسی می‌تواند نرم‌افزار ایجاد کند. صاحب یک کسب‌وکار کوچک می‌تواند اطلاعات پیچیده مالی را تحلیل کند. دانش‌آموزان نیز می‌توانند برای درک موضوعات دشوار کمک دریافت کنند.
اما همین توانایی‌ها ممکن است مورد سوءاستفاده نیز قرار گیرند.
کانال احتمال استفاده از هوش مصنوعی برای کمک به تروریست‌ها در توسعه سلاح‌های زیستی، شیمیایی یا حتی هسته‌ای را مطرح می‌کند. این موارد خطرات احتمالی هستند که پژوهشگران در حال بررسی آنها هستند، نه شواهدی مبنی بر اینکه چت‌بات‌های امروزی می‌توانند به‌طور مستقل چنین سلاح‌هایی ایجاد کنند.
امیر منظور، متخصص امنیت سایبری که سامانه‌های هوش مصنوعی را از نظر آسیب‌پذیری آزمایش می‌کند، در پاسخ به این پرسش که چه چیزهایی ممکن است اشتباه پیش برود، پاسخی کوتاه دارد:
«خیلی چیزها. خلاصه اینکه، خیلی چیزها.»
نیک ریس نیز درباره دسترسی بسیار آسان به فناوری‌های هوش مصنوعی هرچه قدرتمندتر هشدار می‌دهد.
ریس می‌گوید: «ما در حال ساخت مهم‌ترین و قدرتمندترین فناوری دوران مدرن هستیم؛ فناوری‌ای که برای استفاده از آن به هیچ آموزش یا مجوزی نیاز نیست.»
برخلاف بسیاری از فناوری‌های قدرتمند که به تجهیزات تخصصی، آموزش حرفه‌ای یا تأیید دولتی نیاز دارند، ابزارهای پیشرفته هوش مصنوعی اغلب تنها با یک اتصال اینترنتی قابل دسترسی هستند.
آیا هوش مصنوعی می‌تواند تصمیم‌های مهم را برای ما بگیرد؟
نوالا اوکانر، متخصص سیاست‌گذاری فناوری و حقوق دیجیتال، می‌گوید نگرانی عمیق‌تر این است که انسان‌ها در آینده چه میزان اختیار تصمیم‌گیری را به ماشین‌ها واگذار خواهند کرد.
او می‌گوید: «فکر می‌کنم ترس وجودی پنهان در میان همه ما این است که ماشین‌ها somehow کنترل فرآیند تصمیم‌گیری درباره بخش‌های بسیار مهمی از زندگی ما را در دست بگیرند.»
هوش مصنوعی هم‌اکنون در محیط‌های کاری، خدمات مالی، مراقبت‌های سلامت و دیگر صنایع که تصمیم‌ها در آنها می‌توانند پیامدهای جدی داشته باشند، در حال استفاده است.
پرسش اصلی این است که چگونه می‌توان از توانایی‌های هوش مصنوعی بهره برد و در عین حال اطمینان یافت که انسان‌ها همچنان مسئول تصمیم‌های مهم باقی می‌مانند.
پژوهشگران خواستار تدابیر ایمنی قوی‌تر برای هوش مصنوعی هستند
بسیاری از پژوهشگران هوش مصنوعی خواستار ایجاد محدودیت‌های حفاظتی قوی‌تر هستند؛ از جمله آزمایش‌های بهتر، محدود کردن کارهایی که سامانه‌های هوش مصنوعی می‌توانند به‌طور مستقل انجام دهند و نظارت معنادار انسانی.
همه کارشناسان درباره احتمال وقوع سناریوهای فاجعه‌بار مرتبط با هوش مصنوعی یا زمان ممکن شدن آنها اتفاق نظر ندارند. اما جلوگیری از رفتارهای زیان‌بار یا ناخواسته، یکی از حوزه‌های مهم پژوهش در زمینه ایمنی هوش مصنوعی است.
برخی از این نگرانی‌ها نیز دیگر صرفاً فرضی نیستند. پژوهشگران امنیت سایبری پیش‌تر روش‌هایی را نشان داده‌اند که می‌توان با آنها سامانه‌های هوش مصنوعی را فریب داد تا دستورهایی را دنبال کنند که نباید انجام دهند.
یکی از این روش‌ها که «تزریق فرمان» (Prompt Injection) نام دارد، می‌تواند دستورهای مخرب را داخل یک ایمیل، سند یا صفحه وب پنهان کند که از یک دستیار هوش مصنوعی خواسته شده آن را بخواند. فردی که از هوش مصنوعی استفاده می‌کند ممکن است هرگز متوجه آن دستورها نشود، اما دستیار ممکن است آنها را پردازش کند.
در بخش دوم مجموعه ویژه «هوش مصنوعی: چه چیزی ممکن است اشتباه پیش برود؟»، نشان خواهیم داد که پژوهشگران چگونه یک سامانه هوش مصنوعی را فریب دادند و توضیح خواهیم داد چرا این مسئله با افزایش دسترسی دستیارهای هوش مصنوعی به اطلاعات شخصی و حساب‌های آنلاین ما می‌تواند به نگرانی بزرگ‌تری تبدیل شود.
این گزارش، بخش نخست از مجموعه پنج‌قسمتی ویژه «What the Tech?» درباره خطرات، چالش‌ها و آینده هوش مصنوعی است.