آیا تعداد عامل‌های هوش مصنوعی از انسان‌ها بیشتر می‌شود؟ کارشناسان از آینده مشاغل، مدرک دانشگاهی و ضرورت نظارت می‌گویند
پس از آنکه مایک والش، آینده‌پژوه، در اجلاس جهانی ان‌دی‌تی‌وی گفت ممکن است تعداد عامل‌های هوش مصنوعی به‌زودی از جمعیت انسان‌ها بیشتر شود، از کارشناسان هوش مصنوعی هند پرسیدیم این اتفاق چقدر نزدیک است و چه محدودیت‌هایی باید برای آن در نظر گرفت.
جایی در هند، نوجوانی به دو صفحه‌نمایش خیره شده است. روی یکی، نامه پذیرش از دانشگاهی معتبر قرار دارد؛ مدرک چهارساله علوم کامپیوتر که هزینه سنگینی بر خانواده تحمیل خواهد کرد. روی صفحه دیگر، مجموعه‌ای از عامل‌های هوش مصنوعی در حال تدوین طرح کسب‌وکار، ساخت نمونه اولیه محصول و حتی مکاتبه با مشتریان احتمالی هستند. این تصویری بود که مایک والش، آینده‌پژوه، در اجلاس جهانی ان‌دی‌تی‌وی ۲۰۲۶ ترسیم کرد. او پیش‌بینی کرد که تعداد عامل‌های هوش مصنوعی ممکن است به‌زودی از انسان‌ها بیشتر شود و جوانان هندی شاید پیش از یافتن نخستین شغل خود، نخستین کارمند دیجیتالشان را به کار بگیرند.
این چشم‌انداز چشمگیر است، اما کارشناسان می‌گویند واقعیت محتاطانه‌تر و پیچیده‌تر از این تصویر است.
والش در این اجلاس گفت: «یکی از جالب‌ترین تحولات احتمالی این است که به‌زودی تعداد عامل‌های هوش مصنوعی در جهان از تعداد انسان‌ها بیشتر شود. نشانه‌های اولیه این روند را هم‌اکنون در ابزارهایی مانند چت‌جی‌پی‌تی و دیگر دستیارهای هوش مصنوعی می‌بینیم و هند احتمالاً یکی از مهم‌ترین بازارها در تعیین چگونگی پیشرفت این تحول خواهد بود.»
دکتر سرینیواس پادمانابونی، دارای مدرک دکتری هوش مصنوعی از دانشگاه آلبرتا در شهر ادمونتون کانادا و مدیر ارشد فناوری شرکت AiEnsured، نیز با ارزیابی کلی والش موافق است. او برای توضیح مسیر پیش رو به شرکت انویدیا اشاره می‌کند. جنسن هوانگ، مدیرعامل انویدیا، گفته است این شرکت انتظار دارد طی دهه آینده حدود ۷.۵ میلیون عامل هوش مصنوعی را در کنار تقریباً ۷۵ هزار کارمند انسانی به کار گیرد؛ یعنی به‌ازای هر نیروی انسانی، حدود ۱۰۰ عامل هوش مصنوعی.
پادمانابونی در توضیح اینکه چه چیزی یک عامل هوش مصنوعی را از دستیار معمولی متمایز می‌کند، به ان‌دی‌تی‌وی گفت: «عامل‌ها برخلاف دستیارهای واکنشی، کارکنان دیجیتال پیش‌فعالی هستند که وضعیت و زمینه کار را حفظ می‌کنند و از رابط‌های برنامه‌نویسی کاربردی (API) بهره می‌برند. آن‌ها می‌توانند هدف‌های چندمرحله‌ای، مانند مدیریت صورت‌حساب تأمین‌کنندگان یا انجام تراکنش‌های خرد، را به‌طور مستقل اجرا کنند؛ بدون آنکه برای تک‌تک تصمیم‌ها به تأیید دستی انسان نیاز داشته باشند.»
اما تا رسیدن به استقلال واقعی چقدر فاصله داریم؟
پادمانابونی گفت: «اکنون در مرحله خودمختاری تحت نظارت قرار داریم؛ وضعیتی شبیه به خودروهای خودران در سطح دوم. مطالعات موردی مک‌کنزی نشان می‌دهند که عامل‌ها می‌توانند جریان‌های کاری پیچیده را خودکار کنند، اما خطاها در انجام وظایف چندمرحله‌ای روی هم انباشته می‌شوند. بنابراین، همچنان به سازوکارهای حفاظتی با حضور انسان در فرایند و چارچوب‌های مشخص برای تعیین مسئولیت حقوقی نیاز داریم.» سطح دوم خودران که او به آن اشاره می‌کند، به معنای خودکارسازی نسبی رانندگی است: خودرو می‌تواند هم‌زمان فرمان و سرعت را کنترل کند، اما راننده باید همچنان مراقب جاده باشد و هر لحظه آماده کنترل خودرو شود.
این فناوری ابتدا در کدام بخش‌های هند فراگیر خواهد شد؟
به گفته پادمانابونی، خدمات مشتریان و فعالیت‌های اداری پشت‌صحنه در اولویت قرار دارند و پس از آن برنامه‌نویسی قرار می‌گیرد. انجام امور شخصی احتمالاً در مراحل بعدی گسترش می‌یابد؛ زیرا محیط‌های سازمانی ساختاریافته امکان توسعه گروه‌های بزرگی از عامل‌ها را فراهم می‌کنند، پیش از آنکه افراد به‌اندازه کافی به سپردن امور مالی خود به این سامانه‌ها اعتماد کنند.
او تأکید کرد: «بخش‌های برون‌سپاری فرایندهای کسب‌وکار (BPO) و برون‌سپاری فرایندهای دانش‌محور (KPO) هم‌اکنون در حال فاصله گرفتن از الگوی محاسبه هزینه بر مبنای تعداد کارکنان و حرکت به‌سوی برون‌سپاری فرایندهای عامل‌محور (APO) و هماهنگ‌سازی فرایندها با حضور انسان هستند. وظایف پرتکرار و تحلیلی به گروه‌های عامل‌های هوش مصنوعی سپرده می‌شوند و انسان‌ها نقش مدیر و ناظر را بر عهده می‌گیرند.»
والش نیز گفته است عامل‌های هوش مصنوعی به‌زودی قادر خواهند بود پرداخت‌های کم‌مبلغ را بدون نیاز به تأیید کاربر در هر نوبت انجام دهند؛ قابلیتی که زمینه را برای شکل‌گیری «یک زیست‌بوم کامل از هوش مصنوعی شخصی خودمختار» فراهم می‌کند.
مرزهای استفاده از هوش مصنوعی را کجا باید تعیین کرد؟
در حالی که پادمانابونی بر گسترش کاربرد این فناوری تأکید دارد، ساگار ویشنوی، مشاور هوش مصنوعی و از بنیان‌گذاران شرکت Future Shift Labs، خواستار احتیاط است.
او گفت: «کسب‌وکارها و نهادهای ناظر باید مرز استفاده از عامل‌ها را در وظایفی مانند زمان‌بندی و مدیریت تقویم مشخص کنند؛ کارهایی که شامل پرداخت وجه یا ورود به وب‌سایت‌های دیگر نمی‌شوند و برای انجام آن‌ها نیز نباید نظارت انسانی یا رعایت پروتکل‌ها کنار گذاشته شود. اخیراً تهدیدها و آسیب‌های متعددی شناسایی شده‌اند و پیش از تدوین هرگونه سیاست، باید این خطرها شناسایی، بررسی و مهار شوند.»
به بیان دیگر، از نظر او فعلاً باید استفاده از عامل‌ها به کارهای کم‌خطر، مانند تنظیم برنامه‌ها و قرارها، محدود بماند و انجام پرداخت‌ها یا ورود به وب‌سایت‌های دیگر بدون نظارت انسان به آن‌ها سپرده نشود.
آشوینی وایشناو، وزیر فناوری اطلاعات هند، نیز در اجلاس جهانی ان‌دی‌تی‌وی بار دیگر تأکید کرد که دولت این کشور در حال تدوین سیاستی برای هوش مصنوعی است و طی هفته‌های آینده برای دریافت پیشنهادها، سندی مشورتی منتشر خواهد کرد.
ویشنوی به ان‌دی‌تی‌وی گفت: «پس از تدوین سیاست، سازمان‌ها نیز باید سیاست‌های داخلی خود را برای نظارت انسانی بر عامل‌ها مشخص کنند. ابتدا باید این چارچوب برای کسب‌وکارها تدوین شود و آن‌ها پیش از استفاده از عامل‌هایی که شرکت‌های هوش مصنوعی عرضه کرده‌اند، بررسی کنند که پیش‌نیازهای لازم را فراهم کرده‌اند یا نه.»
او همچنین به تغییر شیوه یادگیری مردم در هند اشاره کرد و گفت: «دانش‌آموزان، جوانان و صاحبان مغازه‌های کوچک از طریق ویدئوها و کلیپ‌های کوتاه آموزش می‌بینند و آموخته‌هایشان را با انجام عملی کارها امتحان می‌کنند. آن‌ها تا پایان امسال یا سال آینده عامل‌های خودشان را به کار خواهند گرفت.»
با این حال، به گفته او، حتی در نبود سیاست رسمی هوش مصنوعی، مسئولیت حفاظت از سامانه‌ها و اطلاعات مالی بر عهده خود افراد است. ویشنوی هشدار داد: «آن‌ها هرگز نباید گذرواژه‌ها، رمزهای یک‌بارمصرف (OTP) یا اطلاعات مالی دیگرشان را در اختیار یک عامل قرار دهند.»
ویشنوی همچنین گفت عامل‌هایی که شرکت‌ها در حال حاضر عرضه می‌کنند، به نظارت دقیق نیاز دارند و مردم باید از استفاده از هر عاملی که فاقد دستورالعمل، توصیه‌نامه یا چارچوب سیاستی در سطح ملی و سازمانی است، با احتیاط برخورد کنند.
آیا هنوز گرفتن مدرک دانشگاهی ارزش دارد؟
در حالی که پادمانابونی و ویشنوی بر کاربرد سازمانی عامل‌ها و ضرورت ایجاد سازوکارهای حفاظتی تمرکز دارند، آنش مهرا، مدرس هوش مصنوعی و بنیان‌گذار گروه The Cutting Edge Group، به پرسشی پرداخت که در مرکز تصویر نوجوان ترسیم‌شده از سوی والش قرار داشت: آیا گذراندن یک دوره دانشگاهی چهارساله هنوز ارزش دارد؟
مهرا به ان‌دی‌تی‌وی گفت: «من هم موافقم که نباید چهار سال از بهترین سال‌های زندگی یک نوجوان صرف گرفتن مدرک کارشناسی فناوری (B.Tech) شود؛ زیرا صنعت برای گواهی‌نامه‌ها پاداش قائل نیست، بلکه توانایی شما در دستیابی به نتایج واقعی را ارج می‌نهد.»
با این حال، او هشدار داد که ارزش مدرک دانشگاهی فراتر از انتقال اطلاعات است. مهرا گفت: «هوش مصنوعی به هر دانشجویی کمک می‌کند سریع‌تر یاد بگیرد، اما نمی‌تواند تجربه تحصیل در کنار گروهی از دانشجویان را جایگزین کند. مدرک چهارساله فقط وعده انتقال اطلاعات را نمی‌دهد؛ بلکه محیطی فراهم می‌کند که فرد در آن بتواند خود را پرورش دهد و توانایی مواجهه با زندگی را به دست آورد.»
مهرا در واکنش به گفته والش مبنی بر اینکه استفاده از هوش مصنوعی در بسیاری از درس‌ها می‌تواند مجازات‌های آموزشی در پی داشته باشد، گفت مؤسسات آموزشی باید به‌جای برخورد با هوش مصنوعی به‌عنوان موضوعی جداگانه، از آن برای یادگیری و درک بهتر درس‌های موجود استفاده کنند. به اعتقاد او، تغییر اساسی باید در شیوه ارزیابی دانشجویان صورت گیرد.
او گفت: «همه معلمان باید شیوه ارزیابی دانش‌آموزان و دانشجویان را تغییر دهند. در حال حاضر، امتحان‌ها به رویدادی تبدیل شده‌اند که دانش‌آموزان برای پیدا کردن راه‌های دور زدن نظام ارزیابی و کسب بیشترین نمره در آن آماده می‌شوند. آن‌ها تلاش خود را بر گرفتن نمره متمرکز می‌کنند، نه بر درک موضوعی که قرار است آن نمره میزان تسلط بر آن را نشان دهد. تا زمانی که شیوه ارزیابی توانایی‌های ذهنی را تغییر ندهیم، افراد همچنان به دنبال نمره خواهند بود و در همین مسیر از هوش مصنوعی به‌عنوان میان‌بری برای رسیدن به هدف استفاده خواهند کرد.»
مهرا در پاسخ به این پرسش که چه مهارت‌هایی اهمیت بیشتری دارند، به عادت‌های فردی اشاره کرد، نه ابزارها. او گفت: «کودکانی که بیشتر مطالعه می‌کنند، بیشتر می‌نویسند و بهتر می‌توانند افکارشان را بیان کنند، در عصر هوش مصنوعی همواره یک گام جلوتر خواهند بود؛ زیرا حتی بیش از مهارت‌های فنی، این دایره واژگان شماست که تعیین می‌کند تا چه اندازه می‌توانید از ابزارهای هوش مصنوعی استفاده کنید. تناقض ماجرا این است که مردم کمتر از گذشته مطالعه می‌کنند، می‌نویسند و توانایی بیان مطالب را پرورش می‌دهند.»
او افزود: «آینده متعلق به کسانی است که از سلامت جسمانی برخوردارند، سلیقه‌ای پرورش‌یافته دارند، در تشخیص الگوها توانمندند و می‌توانند آن الگوها را با واژگان مناسب توصیف کنند.»
با بازگشت به تصویر آن نوجوان و دو صفحه‌نمایش، روشن می‌شود که انتخاب پیش روی او شاید به‌اندازه آنچه والش ترسیم کرده، دوگانه و قطعی نباشد. عامل‌های هوش مصنوعی در راه‌اند و کارشناسان نیز در این باره اتفاق نظر دارند. پرسش اصلی این است که این تحول با چه سرعتی پیش خواهد رفت و تحت چه قواعدی انجام خواهد شد.