آیا هوش مصنوعی مولد بیش از آنکه مفید باشد، زیان‌بار است؟
اوضاع چندان امیدوارکننده نیست
در اوایل مارس ۲۰۲۳، در مناظره‌ای با کیت تیر که به میزبانی سازمان «اوپن تو دیبیت» (Open to Debate) برگزار شد، درباره این پرسش بحث کردم که آیا چت‌جی‌پی‌تی بیش از آنکه مفید باشد، زیان‌بار خواهد بود. این پرسشی است که زیاد به آن فکر می‌کنم؛ تقریباً هر روز.
در حال حاضر، استدلال‌های منفی درباره هوش مصنوعی مولد، یعنی فهرست آسیب‌های آن، بسیار جدی است. با پدیده‌هایی مانند دیپ‌فیک‌های پورنوگرافیک ساخته‌شده بدون رضایت افراد، افزایش کلاهبرداری‌های فیشینگ، انتشار گسترده اطلاعات نادرست، واگذاری بی‌چون‌وچرای قوه تفکر به ماشین‌ها و تهدید دموکراسی بر اثر نفوذ نامحسوس دولت‌ها بر مدل‌های زبانی بزرگ روبه‌رو هستیم. استفاده از هوش مصنوعی مولد برای نظارت و پایش افراد نیز به این فهرست اضافه می‌شود. افزون بر این، سرقت گسترده مالکیت فکری هنرمندان و نویسندگان و پیامدهای احتمالی آن در بازار کار را نباید نادیده گرفت؛ هرچند خوشبختانه اثرات منفی این فناوری بر اشتغال تاکنون محدودتر از آن بوده که برخی انتظار داشتند.
و تازه، موج عظیم حملات سایبری هم وجود دارد؛ موجی که برخی آن را «اکتبر سیاه» نامیده‌اند.
پل کدروسکی این موج را «آغاز هک‌زدگی» (The Hackening) نامیده است.
مارک بنیوف، مدیرعامل شرکت سیلزفورس، با تأکید بر پیام هشدارآمیز جیسون کلینتون از شرکت آنتروپیک، وضعیت را «هشدار قرمز» توصیف کرد. به نظرم هر دوی آن‌ها درست می‌گویند؛ هرچند کلینتون معتقد است ممکن است این دوره بحرانی فقط یک یا دو سال طول بکشد.
مارک بنیوف، در پیامی در شبکه اجتماعی ایکس درباره هشدار جیسون کلینتون نوشت: «جیسون صددرصد حق دارد. هشدار قرمز. 🚨»
جیسون دی. کلینتون نیز در پیامی نوشت: «با وجود اینکه اوضاع در چهار روز گذشته تا این اندازه بد شده، پیش از آنکه بهتر شود، بسیار بدتر خواهد شد. مدیران امنیتی، نگذارید یک بحران بی‌استفاده بماند: همین حالا به هیئت‌مدیره‌های خود مراجعه کنید و درخواست کمک کنید؛ نه برای هوش مصنوعی، بلکه برای اصول اولیه. باید حدود ۱۸ ماه دوام بیاوریم.»
منبع: پیام مارک بنیوف در ایکس و پیام مرتبط با هشدار جیسون کلینتون.
اما جنبه مثبت ماجرا چیست؟ آیا ارزش دارد این همه خطر را بپذیریم؟ تورستن اسلوک، اقتصاددان ارشد شرکت مدیریت سرمایه آپولو که گاهی دیدگاهی نسبتاً مثبت به این فناوری داشته است، به‌تازگی استدلالی تند و صریح مطرح کرده و توضیح داده است که بسیاری از اثرات مثبتی که انتظار تحققشان را داشتیم، عملاً ظاهر نشده‌اند.
می‌توانید متن کامل این مطلب را اینجا بخوانید.
البته هنوز کار تمام نشده است. دوستانی دارم که واقعاً از هوش مصنوعی مولد بهره زیادی برده‌اند؛ عمدتاً در برنامه‌نویسی. بااین‌حال، در شرایط کنونی به‌سختی می‌توان انکار کرد که حاصل کلی استفاده از این فناوری برای جامعه بیشتر زیان‌بار بوده است تا سودمند.
همچنین هنوز این احتمال وجود دارد که هوش مصنوعی مولد کل اقتصاد را با خود به زیر بکشد.
خودتان را برای روزهای دشوار آماده کنید؛ مسیر پیش رو پر از تلاطم است.
نکته تکمیلی: روز سه‌شنبه بار دیگر در برنامه «اوپن تو دیبیت» شرکت خواهم کرد. این برنامه در بالتیمور و با همکاری کتی اونیل برگزار می‌شود. پخش زنده عمومی نخواهد داشت، اما نسخه‌های تدوین‌شده آن در آینده در یوتیوب و شماری از شبکه‌های وابسته به رادیوی ملی آمریکا (NPR)، از جمله WNYC، منتشر خواهند شد. اطلاعات بیشتر درباره این برنامه.