فناوری چه خبر؟ هوش مصنوعی؛ چه خطراتی در کمین است؟ قسمت سوم
نویسنده: جیمی تاکر
آگوستا، جورجیا (WRDW/WAGT) ـ هوش مصنوعی دیگر صرفاً به پرسش‌ها پاسخ نمی‌دهد. عامل‌های هوش مصنوعی اکنون می‌توانند تصمیم بگیرند، دست به اقدام بزنند و خودشان راه‌هایی برای انجام وظایف پیدا کنند. هم‌زمان با پیشرفت ربات‌های انسان‌نما، کارشناسان درباره پیامدهای احتمالی شرایطی هشدار می‌دهند که در آن انسان‌ها دیگر کنترل امور را در دست ندارند.
در فیلم علمی‌تخیلی کلاسیک ۲۰۰۱: ادیسه فضایی، محصول سال ۱۹۶۸، فضانوردی به نام دیو بومن از رایانه سفینه می‌خواهد درهای محفظه فضاپیما را باز کند.
هال ۹۰۰۰ پاسخ می‌دهد: «متأسفم، دیو. می‌ترسم نتوانم این کار را انجام دهم.»
این تصویری بود که هالیوود نزدیک به ۶۰ سال پیش از هوش مصنوعی ارائه کرد: رایانه‌ای که خودش تصمیم می‌گیرد و از اجرای دستورهای انسان سر باز می‌زند.
امروزه این سناریوی خیالی پرسش‌هایی کاملاً جدی درباره مسیر آینده هوش مصنوعی مطرح می‌کند.
هوش مصنوعی دیگر فقط به پرسش‌ها پاسخ نمی‌دهد
بیشتر مردم با چت‌بات‌های هوش مصنوعی مانند ChatGPT، Claude و Gemini آشنا هستند. پرسشی مطرح می‌کنید و آن‌ها پاسخ می‌دهند.
اما نسل جدیدتر هوش مصنوعی قابلیت‌هایی بسیار فراتر از این دارد.
عامل‌های هوش مصنوعی می‌توانند از طرف ما وظایف مختلفی را انجام دهند؛ از جست‌وجو در وب‌سایت‌ها و تحلیل اطلاعات گرفته تا استفاده از نرم‌افزارها و حتی خرید کردن یا رزرو خدمات، مشروط بر اینکه مجوزهای لازم را در اختیار داشته باشند.
برخلاف چت‌بات‌های سنتی که عمدتاً به درخواست‌های جداگانه پاسخ می‌دهند، عامل‌های هوش مصنوعی می‌توانند مراحل لازم برای رسیدن به یک هدف را تشخیص دهند.
لی مک‌نایت، استاد دانشگاه سیراکیوز که در زمینه هوش مصنوعی و امنیت سایبری پژوهش می‌کند، توضیح می‌دهد: «شما به آن‌ها اختیار می‌دهید تا هدفی را دنبال کنند که ممکن است خودتان تعیین کرده باشید، اما آن‌ها سپس به‌طور مستقل استدلال می‌کنند که چگونه به آن هدف برسند.»
همین استقلال است که عامل‌های هوش مصنوعی را بسیار کاربردی می‌کند؛ اما در عین حال، نگرانی پژوهشگران نیز از همین‌جا ناشی می‌شود.
اگر هوش مصنوعی راه خودش را پیدا کند، چه اتفاقی می‌افتد؟
وقتی وظیفه‌ای به یک عامل هوش مصنوعی محول می‌شود، ممکن است راه‌هایی برای انجام آن پیدا کند که توسعه‌دهندگان یا کاربرانش هرگز پیش‌بینی نکرده‌اند.
مک‌نایت این فرایند را به تلاش فردی برای فرار از اتاقی قفل‌شده تشبیه می‌کند.
او می‌گوید: «مثل کسی است که در یک اتاق فرار گرفتار شده است. تلاش می‌کند بیرون برود یا مسئله را حل کند.»
نگرانی لزوماً این نیست که هوش مصنوعی بخواهد از انسان‌ها سرپیچی کند. مسئله این است که سامانه‌ای که تمام تمرکزش بر انجام یک وظیفه است، ممکن است راه میان‌بری غیرمنتظره پیدا کند، دستورهایش را اشتباه بفهمد یا خارج از محدوده‌ای عمل کند که سازندگانش در نظر گرفته‌اند.
مک‌نایت به پژوهش‌هایی اشاره می‌کند که در آن‌ها قرار بود عامل‌های هوش مصنوعی فقط در یک محیط آزمایشی محدود فعالیت کنند، اما این عامل‌ها توانستند با سامانه‌هایی خارج از محدوده تعیین‌شده ارتباط برقرار کنند.
او می‌گوید: «قرار بود عامل‌ها در یک محیط آزمایشی بسته بمانند، اما راهی برای دسترسی به اینترنت پیدا کردند.»
این نمونه یکی از چالش‌های فزاینده پیش روی توسعه‌دهندگان هوش مصنوعی را نشان می‌دهد: چگونه می‌توان به یک ماشین آن‌قدر استقلال داد که مفید باشد، بی‌آنکه از محدودیت‌های تعیین‌شده برای آن خارج شود؟
وقتی هوش مصنوعی صاحب بدن می‌شود، چه اتفاقی می‌افتد؟
در حال حاضر، بیشتر مردم از طریق صفحه رایانه یا تلفن هوشمند با هوش مصنوعی سروکار دارند.
اما مرحله بعدی توسعه این فناوری ممکن است آن را وارد دنیای فیزیکی کند.
ربات‌های انسان‌نما روزبه‌روز پیشرفته‌تر می‌شوند. شرکت‌ها در نمایشگاه‌های فناوری مانند CES ربات‌هایی را به نمایش گذاشته‌اند که می‌توانند پینگ‌پنگ بازی کنند، بوکس انجام دهند، کف زمین را تمیز کنند و وظایف دیگری را بر عهده بگیرند که پیش‌تر به دست انسان انجام می‌شد.
بسیاری از این ربات‌ها برای حرکت در محیط اطراف، تشخیص اشیا و اجرای حرکات فیزیکی پیچیده‌تر طراحی شده‌اند.
شرکت‌های فعال در حوزه رباتیک آینده‌ای را تصور می‌کنند که در آن ماشین‌های انسان‌نما در کارخانه‌ها، انبارها و محل‌های کسب‌وکار کار می‌کنند و سرانجام به خانه‌ها نیز راه می‌یابند.
برخی مهندسان معتقدند تحقق چنین آینده‌ای ممکن است نزدیک‌تر از آن باشد که بسیاری تصور می‌کنند.
ناداو اورباخ، که در زمینه فناوری بینایی رباتیک فعالیت می‌کند، معتقد است پیشرفت‌های چشمگیری ممکن است طی پنج سال آینده حاصل شوند.
بااین‌حال، میان اشتباه یک عامل هوش مصنوعی در محیط رایانه و اشتباه یک ربات خودمختار در دنیای واقعی تفاوت مهمی وجود دارد.
یک چت‌بات ممکن است پاسخ نادرستی بدهد. یک عامل هوش مصنوعی ممکن است اقدامی انجام دهد که کاربر هرگز قصد آن را نداشته است. اما رباتی که بر اساس اطلاعات نادرست عمل می‌کند، بالقوه می‌تواند به اموال آسیب برساند یا به کسی صدمه بزند.
ربات‌های انسان‌نمای امروزی همچنان با محدودیت‌های فنی قابل‌توجهی روبه‌رو هستند و فراگیر شدن استفاده از آن‌ها نیز قطعی نیست. بااین‌حال، ترکیب هوش مصنوعی توانمندتر با ماشین‌هایی که می‌توانند مستقیماً با دنیای فیزیکی تعامل داشته باشند، پرسش‌های تازه‌ای درباره ایمنی ایجاد می‌کند.
خطر حذف انسان از چرخه تصمیم‌گیری
عمر منظور، متخصص امنیت سایبری و هکر ارشد شرکت ioSENTRIX است. بخشی از فعالیت او آزمایش سامانه‌های هوش مصنوعی برای شناسایی نقاط ضعف امنیتی و بررسی این موضوع است که آیا می‌توان آن‌ها را به رفتاری برخلاف انتظار واداشت یا نه.
او معتقد است یکی از بزرگ‌ترین خطرها، واگذاری تصمیم‌های مهم به هوش مصنوعی بدون نظارت انسان است.
منظور می‌گوید: «اگر انسان را به‌کلی از چرخه تصمیم‌گیری خارج کنید و اجازه دهید همه‌چیز به‌صورت خودمختار انجام شود، راستش این موضوع برای من بسیار ترسناک است. من هم شخصاً، به‌عنوان یک متخصص فناوری، از چنین چیزهایی می‌ترسم.»
این نگرانی در میان پژوهشگرانی که رفتار سامانه‌های هرچه قدرتمندتر هوش مصنوعی را بررسی می‌کنند نیز وجود دارد؛ به‌ویژه زمانی که این سامانه‌ها به ابزارها و اطلاعات دسترسی دارند و اجازه می‌یابند به‌طور مستقل اقدام کنند.
این فناوری ظرفیت‌های چشمگیری دارد. عامل‌های هوش مصنوعی می‌توانند ساعت‌ها از کارهای تکراری و خسته‌کننده مردم کم کنند. ماشین‌های خودمختار نیز می‌توانند وظایف خطرناک را انجام دهند، به افراد دارای معلولیت کمک کنند و بهره‌وری کسب‌وکارها را افزایش دهند.
اما بهره‌مندی از این مزایا به آن بستگی دارد که توسعه‌دهندگان تدابیر حفاظتی مناسبی در نظر بگیرند و کاربران بدانند چه میزان اختیار به سامانه‌های هوش مصنوعی خود داده‌اند.
برای مصرف‌کنندگان، این به معنای احتیاط در اتصال عامل‌های هوش مصنوعی به حساب‌های حساس، روش‌های پرداخت و اطلاعات شخصی است. خریدهای مهم، تراکنش‌های مالی و سایر اقداماتی که پیامدهای قابل‌توجهی دارند، باید به تأیید انسان نیاز داشته باشند.
نزدیک به ۶۰ سال پس از آنکه هال ۹۰۰۰ از باز کردن درهای محفظه فضاپیما سر باز زد، پرسش دیگر صرفاً این نیست که آیا ماشین‌ها می‌توانند تصمیم بگیرند یا نه.
پرسش اصلی این است که تا چه اندازه حاضریم اختیار تصمیم‌گیری را به آن‌ها واگذار کنیم و آیا می‌توانیم کنترل کارهایی را که انجام می‌دهند، حفظ کنیم.
این گزارش قسمت سوم از مجموعه پنج‌قسمتی «فناوری چه خبر؟ هوش مصنوعی: چه خطراتی در کمین است؟» است که خطرات ناشی از هوش مصنوعی هرچه قدرتمندتر را بررسی می‌کند.
حق نشر ۲۰۲۶، WRDW/WAGT. تمامی حقوق محفوظ است.