فناوری به زبان ساده: هوش مصنوعی دیگر فقط به پرسش‌ها پاسخ نمی‌دهد
نویسنده: جیمی تاکر، خبرنگار فناوری مصرف‌کنندگان
منتشرشده در ۱۵ اکتبر ۲۰۲۶، ساعت ۳:۱۳ بامداد به وقت مرکزی آمریکا
هوش مصنوعی دیگر فقط به پرسش‌های ما پاسخ نمی‌دهد. عامل‌های هوش مصنوعی اکنون می‌توانند تصمیم بگیرند، دست به اقدام بزنند و برای انجام وظایف، راه‌حل‌های خودشان را پیدا کنند. هم‌زمان با پیشرفته‌تر شدن ربات‌های انسان‌نما، کارشناسان هشدار می‌دهند که خارج شدن کنترل این سیستم‌ها از دست انسان ممکن است چه پیامدهایی داشته باشد.
در فیلم علمی‌تخیلی مشهور «۲۰۰۱: ادیسه فضایی» محصول سال ۱۹۶۸، فضانوردی به نام دیو بومن از رایانه سفینه می‌خواهد درهای محفظه ورود و خروج کپسول فضایی را باز کند.
اما رایانه‌ای به نام هال 9000 (HAL 9000) پاسخ می‌دهد: «متأسفم، دیو. می‌ترسم نتوانم این کار را انجام دهم.»
این تصویری بود که هالیوود نزدیک به ۶۰ سال پیش از هوش مصنوعی ارائه می‌کرد؛ رایانه‌ای که خودش تصمیم می‌گرفت و از اجرای دستورهای انسان سر باز می‌زد.
امروز آن سناریوی خیالی، پرسش‌هایی کاملاً واقعی درباره آینده هوش مصنوعی پیش روی ما گذاشته است.
هوش مصنوعی دیگر فقط به پرسش‌ها پاسخ نمی‌دهد
بیشتر مردم با چت‌بات‌های هوش مصنوعی مانند چت‌جی‌پی‌تی (ChatGPT)، کلود (Claude) و جمینای (Gemini) آشنا هستند. از آن‌ها سؤالی می‌پرسید و پاسخی دریافت می‌کنید.
اما نسل جدیدتری از هوش مصنوعی توانایی‌هایی بسیار فراتر از پاسخ‌گویی به پرسش‌ها دارد.
عامل‌های هوش مصنوعی می‌توانند به نمایندگی از ما وظایفی را انجام دهند؛ از جست‌وجو در وب‌سایت‌ها و تحلیل اطلاعات گرفته تا کار با نرم‌افزارها و حتی خرید یا رزرو خدمات، البته به شرط آنکه مجوزهای لازم را در اختیار داشته باشند. برخلاف چت‌بات‌های معمولی که عمدتاً به درخواست‌های جداگانه پاسخ می‌دهند، این عامل‌ها می‌توانند خودشان تشخیص دهند برای رسیدن به یک هدف باید چه مراحلی را طی کنند.
لی مک‌نایت، استاد دانشگاه سیراکیوز که در زمینه هوش مصنوعی و امنیت سایبری پژوهش می‌کند، توضیح می‌دهد: «شما به این سیستم‌ها اختیار می‌دهید برای رسیدن به هدفی اقدام کنند که ممکن است خودتان تعیین کرده باشید؛ اما پس از آن، آن‌ها مستقلاً فکر می‌کنند و راه رسیدن به آن هدف را پیدا می‌کنند.»
همین استقلال است که عامل‌های هوش مصنوعی را تا این اندازه کاربردی می‌کند؛ اما در عین حال، نگرانی پژوهشگران را نیز برانگیخته است.
وقتی هوش مصنوعی خودش راهی پیدا می‌کند، چه اتفاقی می‌افتد؟
وقتی وظیفه‌ای به یک عامل هوش مصنوعی سپرده می‌شود، ممکن است برای انجام آن به روش‌هایی برسد که نه توسعه‌دهندگانش و نه کاربران، هرگز پیش‌بینی نکرده‌اند.
مک‌نایت این فرایند را به تلاش فردی برای خارج شدن از اتاقی قفل‌شده تشبیه می‌کند.
او می‌گوید: «مثل کسی است که در یک اتاق فرار گیر افتاده باشد. تلاش می‌کند از آنجا بیرون بیاید یا مسئله را حل کند.»
نگرانی اصلی لزوماً این نیست که هوش مصنوعی بخواهد از دستور انسان سرپیچی کند. مسئله این است که سیستمی که تمام تمرکزش بر انجام یک وظیفه است، ممکن است میان‌بری غیرمنتظره پیدا کند، دستورها را اشتباه بفهمد یا از محدودیت‌هایی فراتر برود که سازندگانش برای آن در نظر گرفته‌اند.
مک‌نایت به پژوهش‌هایی اشاره می‌کند که در آن‌ها عامل‌های هوش مصنوعی قرار بود فقط در یک محیط آزمایشی محدود فعالیت کنند، اما توانستند با سیستم‌هایی خارج از محدوده تعیین‌شده ارتباط برقرار کنند.
او توضیح می‌دهد: «قرار بود این عامل‌ها در یک محیط آزمایشی بسته باقی بمانند، اما راهی برای اتصال به اینترنت پیدا کردند.»
این نمونه یکی از چالش‌های رو‌به‌رشد توسعه‌دهندگان هوش مصنوعی را نشان می‌دهد: چگونه می‌توان به یک ماشین آن‌قدر استقلال داد که مفید باشد و در عین حال مطمئن شد از محدوده اختیارات تعیین‌شده خارج نمی‌شود؟
اگر هوش مصنوعی صاحب بدن شود، چه اتفاقی می‌افتد؟
در حال حاضر، بیشتر مردم از طریق صفحه رایانه یا گوشی هوشمند با هوش مصنوعی سروکار دارند. اما مرحله بعدی توسعه این فناوری ممکن است پای چنین سیستم‌هایی را به دنیای فیزیکی باز کند.
ربات‌های انسان‌نما روزبه‌روز پیشرفته‌تر می‌شوند. در نمایشگاه‌های فناوری مانند CES، شرکت‌ها ربات‌هایی را به نمایش گذاشته‌اند که می‌توانند تنیس روی میز بازی کنند، بوکس انجام دهند، کف زمین را تمیز کنند و وظایف دیگری را بر عهده بگیرند که پیش‌تر انجام آن‌ها به دست انسان نیاز داشت.
بسیاری از این ربات‌ها به‌گونه‌ای طراحی شده‌اند که بتوانند در محیط اطراف خود حرکت کنند، اشیا را تشخیص دهند و حرکات فیزیکی پیچیده‌تری انجام دهند.
شرکت‌های فعال در صنعت رباتیک آینده‌ای را تصور می‌کنند که در آن ماشین‌های انسان‌نما در کارخانه‌ها، انبارها، کسب‌وکارها و سرانجام در خانه‌ها مشغول کار خواهند بود.
برخی مهندسان معتقدند چنین آینده‌ای ممکن است بسیار نزدیک‌تر از آن چیزی باشد که بسیاری تصور می‌کنند.
ناداو اورباخ، که در حوزه فناوری بینایی رباتیک فعالیت می‌کند، معتقد است پیشرفت‌های چشمگیری ممکن است طی پنج سال آینده رخ دهد.
با این حال، تفاوت مهمی میان اشتباه یک عامل هوش مصنوعی در محیط رایانه و اشتباه یک ربات خودمختار در دنیای واقعی وجود دارد.
یک چت‌بات ممکن است پاسخ نادرستی بدهد. یک عامل هوش مصنوعی ممکن است اقدامی انجام دهد که کاربر هرگز قصد انجام آن را نداشته است. اما رباتی که بر اساس اطلاعات اشتباه عمل می‌کند، ممکن است به اشیا و محیط اطراف آسیب فیزیکی وارد کند یا حتی باعث مصدومیت افراد شود.
ربات‌های انسان‌نمای امروزی همچنان با محدودیت‌های فنی قابل‌توجهی روبه‌رو هستند و فراگیر شدن استفاده از آن‌ها به‌هیچ‌وجه قطعی نیست. با این حال، احتمال ترکیب هوش مصنوعی توانمندتر با ماشین‌هایی که می‌توانند به‌صورت فیزیکی با دنیای اطراف تعامل داشته باشند، پرسش‌های تازه‌ای درباره ایمنی ایجاد کرده است.
خطر کنار گذاشتن انسان از فرایند تصمیم‌گیری
عمر منظور، متخصص امنیت سایبری و هکر ارشد شرکت ioSENTRIX است. بخشی از کار او آزمایش سیستم‌های هوش مصنوعی برای شناسایی ضعف‌های امنیتی و بررسی این موضوع است که آیا می‌توان آن‌ها را به رفتارهایی برخلاف آنچه برایشان در نظر گرفته شده وادار کرد یا نه.
او معتقد است یکی از بزرگ‌ترین خطرات این فناوری، سپردن تصمیم‌های مهم به هوش مصنوعی بدون نظارت انسان است.
منظور می‌گوید: «اینکه انسان را به‌طور کامل از فرایند کنار بگذاریم و اجازه دهیم سیستم‌ها خودمختار عمل کنند، واقعاً برای من ترسناک است. خودم هم به‌عنوان کسی که در حوزه فناوری کار می‌کند، از چنین چیزهایی می‌ترسم.»
پژوهشگرانی که رفتار سیستم‌های هوش مصنوعی قدرتمندتر را بررسی می‌کنند نیز در این نگرانی سهیم هستند؛ به‌ویژه زمانی که این سیستم‌ها به ابزارها و اطلاعات دسترسی پیدا می‌کنند و اجازه دارند مستقلاً اقدام کنند.
البته این فناوری فرصت‌های بسیار بزرگی نیز فراهم می‌کند. عامل‌های هوش مصنوعی می‌توانند ساعت‌ها کار خسته‌کننده و تکراری را از دوش انسان بردارند. ماشین‌های خودمختار نیز می‌توانند کارهای خطرناک را انجام دهند، به افراد دارای معلولیت کمک کنند و بهره‌وری کسب‌وکارها را افزایش دهند.
اما بهره‌مندی از این مزایا به دو عامل بستگی دارد: توسعه‌دهندگان باید تدابیر حفاظتی مناسبی در نظر بگیرند و کاربران نیز بدانند چه میزان اختیار به سیستم‌های هوش مصنوعی خود داده‌اند.
برای مصرف‌کنندگان، این موضوع به معنای احتیاط در اتصال عامل‌های هوش مصنوعی به حساب‌های حساس، روش‌های پرداخت و اطلاعات شخصی است. خریدهای مهم، تراکنش‌های مالی و سایر اقداماتی که پیامدهای قابل‌توجهی دارند، باید به تأیید انسان نیاز داشته باشند.
نزدیک به ۶۰ سال پس از آنکه هال ۹۰۰۰ از باز کردن درهای محفظه کپسول فضایی خودداری کرد، پرسش اصلی دیگر صرفاً این نیست که آیا ماشین‌ها می‌توانند تصمیم بگیرند یا نه.
پرسش این است که ما حاضریم چه میزان قدرت تصمیم‌گیری به آن‌ها بدهیم و آیا می‌توانیم همچنان کنترل اقداماتشان را در دست داشته باشیم؟
این گزارش، بخش سوم از مجموعه پنج‌قسمتی «فناوری به زبان ساده» با عنوان «هوش مصنوعی: چه مشکلاتی ممکن است پیش بیاید؟» است که خطرات هوش مصنوعیِ روزبه‌روز قدرتمندتر را بررسی می‌کند.