چرا باید درباره استفاده از هوش مصنوعی به‌عنوان همیار مطالعه دوباره فکر کنید
هوش مصنوعی (AI) این روزها ذهن بسیاری را به خود مشغول کرده است. حتی دونالد ترامپ اخیراً گفته است که باید نام آن به «SI» تغییر کند؛ مخفف «Super Intelligence» یا «ابرهوش». با توجه به وابستگی روزافزون جهان به هوش مصنوعی، این پرسش مطرح می‌شود که آیا هوش مصنوعی مولد به بشریت کمک می‌کند یا مانع پیشرفت آن می‌شود؟
انواع مختلف هوش مصنوعی چیست؟
هوش مصنوعی، برخلاف چیزی که گاهی به نظر می‌رسد، یک ابزار جادویی نیست. انواع مختلف ابزارهای هوش مصنوعی بر اساس داده‌های ورودی متفاوت، روش‌های پردازش گوناگون و اهداف مشخصی که برای آن‌ها طراحی شده‌اند، شکل می‌گیرند. نمونه‌هایی از این ابزارها عبارت‌اند از:
هوش مصنوعی مولد: این مدل‌ها می‌توانند بر اساس درخواست‌های کوتاه متنی، محتوای جدید تولید کنند؛ مانند مدل‌های زبانی بزرگ (LLM) از جمله ChatGPT، Grok و Microsoft Copilot.
هوش مصنوعی پیش‌بینی‌کننده: این نوع هوش مصنوعی که برندهای بزرگی مانند استارباکس و نتفلیکس از آن استفاده می‌کنند، با بررسی الگوها و تحلیل‌های آماری، نتایج احتمالی آینده را پیش‌بینی می‌کند؛ برای مثال اینکه تبلیغات شبکه‌های اجتماعی چگونه می‌توانند بر اساس پست‌هایی که پیش‌تر با آن‌ها تعامل داشته‌اید، شخصی‌سازی شوند.
هوش مصنوعی مبتنی بر شبکه‌های عصبی: این مدل‌ها با هزاران نمونه آموزش می‌بینند تا موارد موردنظر را شناسایی کنند. یکی از نمونه‌های اخیر، هوش مصنوعی تشخیص سرطان پستان است که می‌تواند سرطان‌هایی را شناسایی کند که ممکن است از چشم رادیولوژیست‌ها دور مانده باشند.
این فناوری‌ها بسیار کاربردی به نظر می‌رسند، اما چرا باید نسبت به رشد سریع استفاده از هوش مصنوعی محتاط باشیم؟
مدل‌های زبانی بزرگ چه کاری می‌توانند انجام دهند؟
مدل‌های زبانی بزرگ (LLM) به‌سرعت در حال گسترش هستند و انعطاف‌پذیری آن‌ها باعث شده است تقریباً برای هر هدف قابل تصوری، نوعی هوش مصنوعی متناسب پیدا شود. از کمک به انجام تکالیف و نوشتن کد گرفته تا اشکال‌زدایی برنامه‌ها و حتی ایفای نقش یک هم‌صحبت، مدل‌هایی مانند ChatGPT کاربردهای متنوعی دارند.
این فناوری‌ها در نگاه نخست ابزارهایی بسیار مفید به نظر می‌رسند، اما مشکلات هوش مصنوعی مولد بسیار جدی‌تر از چیزی است که در ابتدا به نظر می‌رسد.
وابستگی روزافزون به هوش مصنوعی برای تولید مقاله و نوشته‌های دانشگاهی نشان داده است که می‌تواند باعث کاهش رشد مهارت‌های تفکر انتقادی و پیشرفت تحصیلی شود. پژوهشی از دانشگاه ایست آنگلیا نیز نشان داد که مقاله‌های نوشته‌شده توسط دانشجویان بسیار بهتر از نمونه‌های تولیدشده توسط هوش مصنوعی بودند.
استفاده از هوش مصنوعی به‌عنوان جایگزین تعامل انسانی یا حتی مشاور روان‌شناختی ممکن است در کوتاه‌مدت احساس بهتری در فرد ایجاد کند، اما می‌تواند در بلندمدت تأثیرات منفی جدی بر مهارت‌های اجتماعی و سلامت کلی افراد داشته باشد.
حتی زمانی که از هوش مصنوعی برای اهداف مثبت استفاده می‌شود، انرژی و آبی که برای راه‌اندازی این مدل‌ها نیاز است، در حال حاضر اثرات زیان‌بارتری بر محیط زیست نسبت به بسیاری از دستاوردهای مثبت آن‌ها دارد.
چرا نمی‌توانیم به هوش مصنوعی مولد اعتماد کنیم؟
هوش مصنوعی مولد اغلب دچار «توهم» می‌شود؛ زیرا باید بر اساس داده‌هایی که با آن‌ها آموزش دیده است، متن جدید تولید کند. این داده‌ها معمولاً توسط انسان‌ها ایجاد شده‌اند و هوش مصنوعی ممکن است بر اساس آن‌ها نتایج نادرست یا جانبدارانه تولید کند.
درخواست‌هایی که کاربران به هوش مصنوعی ارائه می‌کنند نیز می‌توانند این نتایج偏دار را تقویت کنند.
برای نمونه، نویسنده از Grok 3 پرسیده است که آیا عدد ۵۸۴۳۹ عددی اول است یا خیر؛ در حالی که پاسخ درست مثبت است. این مدل به اشتباه اعلام کرده که این عدد اول نیست و سپس بر اساس اطلاعات نادرست ارائه‌شده توسط کاربر، تلاش کرده پاسخ خود را اصلاح کند.
ماهیت «جعبه سیاه» هوش مصنوعی مولد به این معناست که نمی‌توان مراحل رسیدن آن به یک تصمیم را به‌طور کامل دنبال کرد. نمی‌توان دید که این سیستم چگونه نتیجه گرفته است که حاصل ضرب ۷۱ در ۸۲۳ برابر با ۵۸۴۳۹ است، در حالی که پاسخ درست ۵۸۴۳۳ است.
زیرمجموعه‌ای از مدل‌های زبانی بزرگ با نام «مدل‌های استدلالی بزرگ» (LRM) برای حل این مشکل طراحی شده‌اند و تلاش می‌کنند مسیر تصمیم‌گیری خود را به‌صورت آشکار نشان دهند. با این حال، این مدل‌ها نیز هنوز به این هدف دست نیافته‌اند و در انجام وظایفی که اساساً برای آن‌ها طراحی شده‌اند، با مشکل روبه‌رو هستند.
در نهایت، نمی‌توان به هوش مصنوعی مولد اعتماد کامل داشت تا تصمیم‌های مهم را اتخاذ کند؛ به‌ویژه زمانی که یک جمله ساده می‌تواند به‌راحتی آن را گمراه کند. وابستگی بیش از حد به هوش مصنوعی باید پیش از آنکه مسئولیت تصمیم‌های مهم زندگی ما به آن سپرده شود، پایان یابد.
نظارت انسانی و وضع قوانین سخت‌گیرانه برای استفاده از هوش مصنوعی تنها تا حدی می‌تواند این مشکل را کنترل کند.
