هوش مصنوعی خون‌ریزی نمی‌کند
نوشته جان کلینتون
باوری رواج دارد که شواهد چندانی از آن پشتیبانی نمی‌کنند: اینکه هوش مصنوعی ناگزیر جامعه را به سوی وضعیتی بهتر دگرگون خواهد کرد. کانادایی‌ها باید درباره اجتناب‌ناپذیر دانستن هوش مصنوعی دوباره فکر کنند. کانادا چارچوب نظارتی عمومی و مؤثری برای مقابله با خطرهای این فناوری ندارد. لایحه C-27 دولت فدرال که قانون هوش مصنوعی و داده‌ها (AIDA) را نیز در بر می‌گرفت، در ژانویه ۲۰۲۵ و در پی تعویق فعالیت‌های پارلمان از دستور کار خارج شد. بااین‌حال، در ژوئن امسال لایحه C-34 با عنوان «قانون رسانه‌های اجتماعی ایمن» ارائه شد که دسترسی افراد زیر ۱۶ سال را به برخی شبکه‌های اجتماعی محدود می‌کند.
واژه «مصنوعی» ممکن است این تصور را ایجاد کند که با پدیده‌ای خارج از دخالت انسان روبه‌رو هستیم؛ اما سامانه‌های هوش مصنوعی را انسان‌ها طراحی می‌کنند، به کار می‌گیرند و می‌آزمایند. نیروی کار انسانی نیز این فعالیت‌ها را انجام می‌دهد و هزینه آن را شرکت‌هایی می‌پردازند که محور اصلی فعالیتشان کسب سود است. بخش بزرگی از ارزش ادعایی جنبش هوش مصنوعی نصیب شرکت‌های مستقر در کشورهای ثروتمند نیمکره شمالی شده است؛ شرکت‌هایی که میلیاردها دلار سرمایه خطرپذیر جذب کرده‌اند، از جمله OpenAI، سازنده ChatGPT؛ آنتروپیک، سازنده Claude؛ انویدیا، تولیدکننده سخت‌افزار؛ متا ای‌آی؛ اپل اینتلیجنس؛ جمنای گوگل و MAI مایکروسافت. بااین‌حال، بر اساس مطالعه مؤسسه فناوری ماساچوست (MIT) با عنوان «وضعیت هوش مصنوعی در کسب‌وکارها در سال ۲۰۲۵»، ۹۵ درصد شرکت‌هایی که سامانه‌های هوش مصنوعی مولد می‌سازند، از افزایش قابل‌اندازه‌گیری سود خود خبر نداده‌اند.
خطرهای شناسایی‌شده:
- سفته‌بازی مالی.
- افت کیفیت مشاغل بر اثر نظارت بر کارکنان و در نهایت حذف شغل‌ها از طریق خودکارسازی نیروی کار انسانی، به‌ویژه اگر هزینه‌های گذار فناورانه بر دوش کارگران گذاشته شود.
- پیامدهای مصرف انرژی برای محیط‌زیست و جوامع محلی.
- تضعیف نظام سلامت عمومی در نتیجه تجاری‌سازی خدمات.
- تضعیف توانایی‌های شناختی انسان، از جمله تفکر، حافظه و توجه.
- استفاده از آثار و کار انسان‌های واقعی بدون رضایت یا پرداخت غرامت به آنان.
- به‌کارگیری هوش مصنوعی در خدمات و نهادهای عمومی، بدون نظارت عمومی بر این سامانه‌ها.
- گسترش هوش مصنوعی در سیاست، به‌گونه‌ای که فرایندهای دموکراتیک را تهدید کند.
- نادیده گرفتن حقوق بشر در پلیس، امور مهاجرتی و استخدام.
معماری‌های هوش مصنوعی:
- هوش مصنوعی مبتنی بر منطق (سامانه‌های خبره): این سامانه‌ها از نخستین انواع هوش مصنوعی بودند که توسعه یافتند. آن‌ها به داده‌هایی با متغیرهای کنترل‌شده نیاز داشتند و در حوزه‌هایی مانند امور مالی و علوم نتایج دقیقی ارائه می‌کردند، اما در دیگر وظایف دنیای واقعی قابل‌اعتماد نبودند.
- هوش مصنوعی مبتنی بر یادگیری ماشین: این سامانه‌ها با استفاده از حجم زیادی از داده‌ها، الگوها را شناسایی می‌کنند. آن‌ها با آثار و داده‌های گوناگون، مانند متون انگلیسی یا تصاویر چهره، آموزش می‌بینند و بر پایه تشخیص الگو خروجی تولید می‌کنند؛ بی‌آنکه لزوماً آنچه را پیش‌بینی می‌کنند بفهمند. به همین دلیل ممکن است خطاهایی مرتکب شوند که پیش‌بینی آن‌ها دشوار است.
- هوش مصنوعی مبتنی بر یادگیری عمیق: این رویکرد بر یادگیری ماشین تکیه دارد، اما از «شبکه‌های عصبی» استفاده می‌کند؛ یعنی لایه‌هایی از سامانه‌های یادگیری ماشین که تشخیص الگو را بهبود می‌بخشند. بااین‌حال، شناسایی الگو به معنای درک آن نیست.
- هوش مصنوعی عصبی‌نمادین: این رویکرد، برنامه‌نویسی مبتنی بر منطق یا نمادها را با دستیارهایی ترکیب می‌کند که بر پایه‌ای مشخص، کد جدید تولید می‌کنند. هرچند این فناوری سهم کوچکی از کاربردهای هوش مصنوعی را تشکیل می‌دهد، توجه و فعالیت‌های توسعه‌ای در این زمینه رو به افزایش است.
- هوش مصنوعی مولد: این نوع هوش مصنوعی بر معماری یادگیری عمیق استوار است و می‌تواند محتوای چندرسانه‌ای مانند متن، تصویر، صدا و ویدئو تولید کند؛ از جمله دیپ‌فیک‌ها. این توانایی ممکن است افراد را در برابر اطلاعات نادرست و اطلاعات گمراه‌کننده آسیب‌پذیرتر کند یا اعتماد عمومی به اطلاعات معتبر را کاهش دهد.
- هوش مصنوعی مبتنی بر مدل‌های زبانی بزرگ (LLM): این مدل‌ها عمدتاً با متن کار می‌کنند و بیشتر در سامانه‌های چت‌بات به کار می‌روند. بر اساس تعریف انسانی از هوش، نمی‌توان آن‌ها را هوشمند دانست؛ زیرا دنیای واقعی را درک نمی‌کنند و صرفاً واژه بعدی جمله را پیش‌بینی می‌کنند. این مدل‌ها به دلیل نداشتن حافظه کاری به معنای متعارف، در استدلال با دشواری روبه‌رو هستند. توانایی آن‌ها در حفظ و پردازش اطلاعات نیز به محدوده‌ای موسوم به «پنجره زمینه» محدود است که با توکن اندازه‌گیری می‌شود. افزون بر این، عملکردشان به داده‌های آموزشی وابسته است و ممکن است دچار توهم یا جعل اطلاعات شوند.
سامانه‌های هوش مصنوعی مبتنی بر دستور یا پرامپت، هنگام اجرا به ورودی فعال کاربر نیاز دارند؛ چت‌بات‌ها نمونه‌ای از این سامانه‌ها هستند. در مقابل، سامانه‌های هوش مصنوعی عامل‌محور، خواسته کلی کاربر را دریافت می‌کنند و خودشان تصمیم می‌گیرند چگونه وظیفه را انجام دهند. پژوهش و تجاری‌سازی هوش مصنوعی عامل‌محور رو به افزایش است.
فرض‌های رایج درباره هوش مصنوعی امروز:
- ادعاهای مربوط به افزایش عظیم بهره‌وری در آینده، تا حد زیادی بر حدس و گمان استوارند.
- این تصور که سامانه‌های هوش مصنوعی از قضاوت انسانی برترند و از سوگیری و پیش‌داوری مصون هستند، افسانه‌ای بیش نیست. در واقع، این سامانه‌ها تحت تأثیر داده‌های آموزشی و طراحی خود سوگیری دارند.
- این ادعا که در رقابت جهانی هوش مصنوعی هر کشوری که سریع‌تر این فناوری را توسعه دهد و به کار گیرد برنده خواهد شد، محل تردید است؛ به‌ویژه آنکه معلوم نیست منظور از «پیروزی» دقیقاً چیست.
- این تصور که نوآوری در هوش مصنوعی اجتناب‌ناپذیر است و به پیشرفت اجتماعی می‌انجامد، این فناوری را به‌عنوان امری ذاتاً اخلاقی و سودمند جلوه می‌دهد؛ آن هم در شرایطی که شرکت‌های آمریکایی برای تضعیف مقررات لابی می‌کنند. در بسیاری از موارد، هوش مصنوعی راه‌حلی است که هنوز مسئله مشخصی برای حل کردن ندارد.
کاربردهای هوش مصنوعی:
- نیروی کار: الگوریتم‌ها اطلاعات مربوط به سرعت و رفتار کارکنان را جمع‌آوری می‌کنند؛ برای مثال، عادت‌های رانندگی یا ارزیابی عملکرد کارکنان اداری را زیر نظر می‌گیرند. این روند می‌تواند کیفیت مشاغل را کاهش دهد. چگونگی سازگاری کارکنان با از دست رفتن شغل‌هایشان نیز نگرانی مهمی است.
- مراکز داده: گسترش سریع زیرساخت‌های مراکز داده به مقادیر عظیمی از انرژی در مقیاس مگاوات، آب برای خنک‌سازی و مواد معدنی حیاتی مورد نیاز پردازنده‌های گرافیکی (GPU)، پردازنده‌های عصبی (NPU) و پردازنده‌های تانسوری (TPU) نیاز دارد. این زیرساخت‌ها هزینه‌های زیست‌محیطی چشمگیری دارند، درحالی‌که اطلاعات شفاف چندانی درباره آن‌ها منتشر نمی‌شود.
- سلامت: بیمارستان‌های دولتی برای کمک به درمان بیماری‌هایی مانند سرطان، آلزایمر و پارکینسون از هوش مصنوعی استفاده می‌کنند. این فناوری در غربالگری زودهنگام و وظایف مشخصی که بر تشخیص الگو تکیه دارند، عملکرد موفقی داشته است؛ اما در انجام وظایفی که به قضاوت پیچیده انسانی نیاز دارند، توانایی کمتری دارد. همچنین ممکن است داده‌های سلامت بدون رضایت افراد فروخته شوند و آسیب‌پذیری‌های مرتبط با حریم خصوصی و امنیت ایجاد کنند.
- رشد شناختی و آموزش: مدارس و معلمان برای استفاده از هوش مصنوعی تحت فشار قرار دارند و دانش‌آموزان نیز برای انجام تکالیف خود به چت‌بات‌ها متوسل می‌شوند. اتکای بیش از حد به این ابزارها ممکن است مشارکت فعال مغز، توانایی بازیابی اطلاعات از حافظه و احساس مالکیت فرد بر اندیشه‌های خود را کاهش دهد. مدل‌های زبانی بزرگی که بیش از اندازه با کاربر موافقت می‌کنند، سوگیری‌ها و استدلال‌های نادرست او را تقویت می‌کنند. سلامت و رفاه بلندمدت انسان به توانایی تفکر انتقادی و مستقل وابسته است.
- فرهنگ: الگوریتم‌های هوش مصنوعی تولید مستقل محتوای کانادایی را تهدید می‌کنند و ممکن است خروجی‌هایی نادرست، سوگیرانه یا متوسط و کم‌کیفیت تولید کنند؛ محتوایی که گاه با عنوان «مزخرفات تولیدشده با هوش مصنوعی» یا AI Slop شناخته می‌شود. بنیاد نظارت بر اینترنت بریتانیا گزارش داده است که حجم محتوای سوءاستفاده‌گرانه تولیدشده با هوش مصنوعی در فاصله سال‌های ۲۰۲۴ تا ۲۰۲۵ به‌شدت افزایش یافته است. باید در استفاده از کمک هوش مصنوعی محتاط باشیم و در کنار آن برای استدلال انسانی نیز جایگاه قائل شویم.
- نهادهای عمومی: هوش مصنوعی به‌عنوان راهی برای رسیدگی به انباشت پرونده‌ها و تأخیر در ارائه خدمات عمومی پیشنهاد شده است، اما این سامانه‌ها به الگوهای موجود در داده‌های آموزشی محدودند و از قضاوت واقعی انسانی برخوردار نیستند. تصمیم‌گیری خودکار در کانادا در نهادهایی مانند آژانس درآمد کانادا (CRA)، اداره مهاجرت، پناهندگی و شهروندی کانادا (IRCC) و نظام کمک‌های اجتماعی کبک آسیب‌هایی به بار آورده است. چت‌بات «چارلی» متعلق به آژانس درآمد کانادا، بیش از نیمی از مواقع اطلاعات مالیاتی نادرست ارائه می‌کرد و ۱۸ میلیون دلار برای مالیات‌دهندگان هزینه داشت. افزون بر این، حاکمیت دیجیتال کانادا به خطر افتاده است؛ زیرا داده‌های عمومی، از جمله اطلاعات سلامت، مالیات و مهاجرت، عمدتاً از طریق شرکت‌های آمریکایی تهیه یا مدیریت می‌شوند و چارچوب‌های حقوقی مستحکمی مشابه مقررات عمومی حفاظت از داده‌های اتحادیه اروپا (GDPR) یا قانون هوش مصنوعی این اتحادیه وجود ندارد.
رشد شناختی؛ یادگیری، تفکر و تفسیر: قضاوت توانایی ترکیب دانش، تجربه و ویژگی‌های شخصیتی برای تصمیم‌گیری یا شکل دادن به یک نظر است. قضاوت صرفاً به معنای تصمیم‌گیری قاطعانه نیست؛ بلکه به‌طور ظریف با اعتماد، زمینه، بینش انسانی و حساسیت‌های فردی پیوند دارد. توانایی تفکر انتقادی و استدلال مستقل، یادگیری و آموزش دادن به دیگران، نشانه‌های رشد شناختی انسان‌اند. در قرن حاضر، ماشین‌ها به‌تدریج مسئولیت حل مسئله را بر عهده می‌گیرند.
هر انسانی تاریخچه زندگی منحصربه‌فرد خود را دارد؛ از والدین و آموزش گرفته تا حرفه، روابط، فرزندان و توانایی‌های فردی. هرکس در چارچوب تجربه‌های زیسته خود جهان را درک می‌کند. آیا تناقض‌آمیز نیست که شبکه‌های اجتماعی ما را کمتر اجتماعی و تنهاتر کرده‌اند و اکنون برای کنار آمدن با اضطراب‌های روانی مرتبط با همین فناوری، یک همراه هوش مصنوعی به ما پیشنهاد می‌شود؟ انسان‌ها موجوداتی زنده‌اند؛ احساس می‌کنند، لمس می‌کنند، بو می‌کشند، می‌بینند و می‌شنوند. آن‌ها از آگاهی، توجه و حساسیت برخوردارند.
به نظر می‌رسد هوش مصنوعی در شکل‌های گوناگون خود، در حال جایگزین کردن انسان‌بودن ما با الگویی الگوریتمی از زندگی است. قضاوتی که بر تجربه، گفت‌وگو، ارزیابی، اخلاق، اعتماد و بینش تکیه دارد، فرایندی پیچیده و آشفته است؛ درست مانند دموکراسی. جدیدترین مدل‌های هوش مصنوعی می‌کوشند شیوه‌های تفکر انسانی را تقلید کنند: از روان‌درمانی، همراهی عاطفی و ارائه توصیه درباره روابط گرفته تا تصمیم‌گیری، سامان دادن به زندگی، نوشتن ایمیل و تولید ایده. کاربران از هوش مصنوعی می‌خواهند به جای آن‌ها فکر کند.
هوش مصنوعی در فعالیت‌های هنری مانند تولید تصاویر دیجیتال، آهنگ‌سازی و ادبیات نیز به کار گرفته می‌شود و این مسئله نگرانی‌هایی برانگیخته است. آثار هنری صرفاً کالا نیستند؛ خلق آن‌ها به فرایندی زمان‌بر، تجربی، تأمل‌برانگیز و تخیل‌محور نیاز دارد که ماهیتی شخصی و ذهنی دارد. اکنون افرادی که آموزش و آمادگی چندانی ندارند نیز می‌توانند با استفاده از هوش مصنوعی مولد آثار هنری تولید کنند؛ موضوعی که بدیهی است هنرمندان خلاق را درباره آینده معیشت خود بدبین می‌کند. چنان‌که در یک گفته مشهور آمده است: ما می‌خواهیم فناوری لباس‌ها را بشوید تا وقت بیشتری برای خلق هنر داشته باشیم؛ اما ابزارهای مدرن هوش مصنوعی وعده می‌دهند که هنر را خلق کنند تا ما وقت بیشتری برای شستن لباس‌ها داشته باشیم. هنر چیزی است که انسان می‌آفریند و ارزش آن، هم برای هنرمند و هم برای مخاطب، در خودِ فرایند آفرینش نهفته است.
نتیجه‌گیری: این شیفتگی به هوش مصنوعی ما را به کجا می‌برد؟ گزارش اخبار دیجیتال سال ۲۰۲۵ مؤسسه رویترز نشان می‌دهد که بسیاری از کاربران، به‌ویژه افراد زیر ۲۵ سال، به‌جای موتورهای جست‌وجو از دستیارهای هوش مصنوعی استفاده می‌کنند. آیا این افراد به اطلاعاتی که دریافت می‌کنند اعتماد دارند؟ آیا اصلاً برایشان مهم است؟ بحث درباره منافع عمومی و اصول راهبری هوش مصنوعی در کانادا اهمیت دارد؛ زیرا در حال حاضر، مدیریت این فناوری تا حد زیادی تحت تأثیر تحولات بین‌المللی و ارزش‌های چین، اتحادیه اروپا و ایالات متحده شکل می‌گیرد.
مرکز کانادایی سیاست‌های جایگزین پیشنهادهایی سیاستی برای ایجاد چارچوبی ارائه کرده است که بتوان با آن تحول به سوی جهان هوش مصنوعی را توصیف و سامان‌دهی کرد. این پیشنهادها چند پرسش اساسی را مطرح می‌کنند:
- آیا باید هوش مصنوعی را یک ایدئولوژی، یک فناوری، یک فعالیت تجاری یا ترکیبی از هر سه بدانیم؟
- آیا واگذاری تفکر اصیل و متنوع خود به دیگران ارزشمند است، یا چنین کاری به شکل‌گیری نوعی هوش همگون می‌انجامد که تنوع کانادا را تضعیف می‌کند؟
- آیا می‌توان با آثار بی‌ثبات‌کننده هوش مصنوعی، مانند نحوه استفاده از داده‌ها، کاهش منابع و عملکرد سامانه‌های غیراخلاقی و فریبکارانه مقابله کرد؟
- آیا می‌توان به‌کارگیری سامانه‌های هوش مصنوعی را به‌گونه‌ای مدیریت کرد که منافع و حقوق نیروی کار در اولویت قرار گیرد؟
- آیا می‌توان صنعت فناوری را وادار کرد یا از نظر قانونی ملزم ساخت مدل‌های هوش مصنوعی را برای حل مسائل واقعی و در راستای منافع عمومی توسعه دهد؟
در ژوئن امسال، راهبرد ملی جدید کانادا در زمینه هوش مصنوعی با عنوان «هوش مصنوعی برای همه» (AI for All) معرفی شد. قرار است این راهبرد طی پنج سال آینده، قوانینی تصویب و برنامه‌هایی اجرا کند که به بسیاری از چالش‌های هوش مصنوعی برای جامعه کانادا بپردازند. نخست‌وزیر کانادا اصول راهنمای این راهبرد را چنین بیان کرده است: ایجاد اعتماد، فراهم کردن فرصت‌ها و تقویت حاکمیت کانادا.
یادداشت: حتی یک کلمه از این نوشته را هوش مصنوعی تولید نکرده است.
هر فضیلتی جمعی است،
هر شرّی فردی است.
آنچه پیوند برقرار می‌کند، خوب است.
آنچه تفرقه می‌اندازد، بد است.
پایان