چقدر باید نگران هوش مصنوعی باشیم؟
ویژگی‌ها
نوشته: جوسلین برنهام
اخبار مربوط به احتمال نابودی بشریت توسط هوش مصنوعی در تابستان گذشته به تیتر رسانه‌ها راه یافت و موجی از نگرانی عمومی ایجاد کرد. به همین دلیل، «آرتس پروفشنال» از جوسلین برنهام، متخصص مستقل هوش مصنوعی که با بخش هنر و فرهنگ همکاری می‌کند، پرسید که تا چه اندازه باید این تهدید را جدی گرفت.
گفتمان عمومی درباره هوش مصنوعی اغلب بیش از آنکه واقعیت کنونی را بررسی کند، به پیش‌بینی آینده‌ای فرضی می‌پردازد و به نظر می‌رسد این روند در هفته‌ها و ماه‌های اخیر شدت بیشتری گرفته است.
چند تحول، هرچند برخی از آن‌ها محل بحث هستند، در شکل‌گیری این وضعیت نقش داشته‌اند. برای نمونه، در ماه سپتامبر خبرهایی گسترده درباره یک مدل داخلی شرکت OpenAI منتشر شد که گفته می‌شد توانسته مسئله جایزه هزاره ناویر–استوکس را حل کند؛ موضوعی که این تصور را تقویت کرد که مدل‌های هوش مصنوعی اکنون قادر به کشف‌های علمی هستند و شاید به سطح متخصصان انسانی در ریاضیات برسند یا حتی از آن‌ها پیشی بگیرند.
اما برای OpenAI این هیجان دوام چندانی نداشت؛ زیرا بعداً مشخص شد دو پژوهشگر انسانی نیز به‌طرز چشمگیری به حل این مسئله نزدیک شده بودند و رویکردی مشابه مدل هوش مصنوعی در پیش گرفته بودند. این موضوع شاید می‌توانست صرفاً یک تصادف تلقی شود، اما زمانی پیچیده‌تر شد که مشخص شد این پژوهشگران در تحقیقات خود به‌طور گسترده از ChatGPT استفاده کرده‌اند و هنوز روشن نیست که آیا این مدل بخشی از کارهای قبلی آن‌ها را در راه‌حل خود به‌کار گرفته است یا نه.
با این حال، جلب‌توجه‌کننده‌ترین اتفاق‌ها کمتر جنبه دانشگاهی داشته‌اند. حادثه تابستان امسال در Hugging Face، اگر واقعاً رخ نداده بود، می‌توانست سوژه‌ای مناسب برای یک فیلم علمی‌تخیلی آخرالزمانی باشد. به جای تکرار مطالب منتشرشده درباره آن، می‌توان به این ویدیوی جالب از آلبرتا دِوور، کارمند پیشین گوگل، مراجعه کرد. کافی است گفت این اتفاق بسیاری از افراد را نگران کرد؛ به‌ویژه زمانی که ایوان هوبینگر، مدیر علمی هم‌ترازی در Anthropic، اعلام کرد به باور او احتمال اینکه هوش مصنوعی در دهه آینده همه انسان‌ها را از بین ببرد، بیش از ۱۰ درصد است.
برداشت‌های متفاوت
در میان فعالان حوزه هوش مصنوعی و امنیت سایبری، درباره افزایش تمرکز بر خطرات هوش مصنوعی دیدگاه‌های متفاوتی وجود دارد. می‌توان این دیدگاه‌ها را به‌طور کلی چنین دسته‌بندی کرد:
- دیدگاه اول: توسعه هوش مصنوعی با سرعت فعلی، به‌خودی‌خود خطرناک است؛ زیرا توانایی‌های این سامانه‌ها افزایش یافته و ما نمی‌توانیم تضمین کنیم که آن‌ها از قوانین، ارزش‌ها و الزامات ایمنی انسانی پیروی کنند.
- دیدگاه دوم: خطرات هوش مصنوعی واقعی هستند، اما شکست‌های شرکت‌های پیشرو در این حوزه ناشی از ضعف مدیریت سازمانی و نبود استانداردهای ایمنی مناسب است. در نتیجه، زمانی که هوش مصنوعی «اشتباه عمل می‌کند»، مسئولیت اصلی متوجه این شرکت‌هاست.
- دیدگاه سوم: شرکت‌های هوش مصنوعی از خطرناک نشان دادن مدل‌های خود سود می‌برند و بخش زیادی از این نگرانی‌ها بیشتر تبلیغات بازاریابی است و باید با احتیاط به آن‌ها نگاه کرد.
این دیدگاه‌ها الزاماً با یکدیگر در تضاد نیستند و ممکن است بیش از یک مورد از آن‌ها هم‌زمان درست باشد.
چه چیزهایی را نادیده گرفته‌ایم؟
همه این بحث‌ها می‌تواند کمی گیج‌کننده باشد؛ تا جایی که برخی تحولات واقعاً مهم دیگر در حوزه هوش مصنوعی، به‌ویژه برای بخش هنر و فرهنگ، کمتر مورد توجه قرار گرفته‌اند. یکی از این موارد، مشخص شدن این موضوع است که متن تولیدشده توسط هوش مصنوعی اکنون توسط Anthropic و گوگل «نشان‌گذاری» می‌شود؛ یعنی الگوریتمی پنهان در آن قرار می‌گیرد که انتخاب هر واژه تولیدشده را بر اساس الگویی انجام می‌دهد که فقط خود این شرکت‌ها دسترسی کامل به آن دارند.
هرچند این اقدام در راستای هماهنگی با قانون هوش مصنوعی اتحادیه اروپا انجام شده است، اما موضوعی بسیار مهم به شمار می‌رود؛ به‌خصوص اگر نوعی قابلیت تشخیص این متن‌ها در اختیار عموم قرار گیرد. در حال حاضر این امکان فقط برای گروه محدودی از پژوهشگران، پلیس و رسانه‌ها فراهم است.
اگر این فناوری گسترده‌تر در دسترس قرار گیرد، ممکن است مشخص شود بسیاری از افراد بیش از آنچه پیش‌تر اعلام کرده‌اند، به‌طور مداوم از متن‌های تولیدشده توسط هوش مصنوعی استفاده می‌کنند. این مسئله می‌تواند برای سازمان‌هایی که حجم زیادی از محتوای تولیدشده با هوش مصنوعی منتشر می‌کنند، پیامدهای اعتباری داشته باشد.
آیا باید نگران باشیم؟
پیش از سال جاری نیز دلایل زیادی برای نگرانی درباره هوش مصنوعی وجود داشت: تأثیرات زیست‌محیطی آن، گسترش سوگیری‌های موجود در داده‌ها به حوزه‌های بیشتر جامعه، استفاده گسترده از آثار دارای حق نشر برای آموزش مدل‌ها، تأثیر این مدل‌ها بر خلاقان حرفه‌ای، نقش هوش مصنوعی در نظارت و جنگ، و تمرکز قدرت و سرمایه‌ای که این فناوری امکان‌پذیر می‌کند.
مقاومت در برابر برخی از این روندها در حال افزایش است؛ از جمله می‌توان به منابعی مانند فهرست مقاومت در برابر هوش مصنوعی یا، در حوزه هنرهای خلاق، ردیاب فعالیت‌های سازمان‌دهی‌شده توسط آزمایشگاه کار خلاق و آینده‌های انتقادی اشاره کرد.
اما در بازگشت به تمایل جامعه هوش مصنوعی برای پیش‌بینی آینده، آنچه به نظر می‌رسد تغییر کرده، شکل‌گیری این باور است که عامل‌های بسیار توانمند و خودمختار هوش مصنوعی ــ برنامه‌هایی که می‌توانند از رایانه استفاده کنند، به‌سرعت کد تولید کنند و در اینترنت جست‌وجو و فعالیت کنند ــ ممکن است خطرات جدی ایجاد کنند؛ از استفاده گسترده در حملات سایبری و حوادث امنیت ملی گرفته تا، در سناریوهای نگران‌کننده‌تر، کمک یا هدایت تولید سلاح‌های زیستی جدید یا دیگر انواع تخریب گسترده.
در یک گفت‌وگوی اخیر در اندیشکده Chatham House، برایم جالب بود که روایت مربوط به تغییر اساسی تجربه، امنیت و زیرساخت اینترنت توسط عامل‌های هوش مصنوعی، کمتر به‌عنوان یک احتمال و بیشتر به‌عنوان موضوعی اجتناب‌ناپذیر برای بررسی مطرح شد.
بخشی از این نگرانی‌ها قطعاً منطقی است.
از اینجا به بعد چه باید کرد؟
توانایی ما به‌عنوان افراد برای تأثیرگذاری واقعی بر این تحولات محدود به نظر می‌رسد، به‌ویژه از آنجا که تقریباً همه مدل‌های پیشرفته هوش مصنوعی در آمریکا یا چین توسعه می‌یابند. البته می‌توانیم صدای خود را در تلاش‌های ملی یا بخشی برای ایجاد تغییر بلندتر کنیم. فراتر از آن، شاید ارزش داشته باشد بر یادگیری فردی خود تمرکز کنیم تا بتوانیم در مواجهه با تحولات جدید، اختیار بیشتری داشته باشیم و بهتر از منافع خود دفاع کنیم.
یادگیری، ترس را کاهش می‌دهد و آن را به دیدگاهی انتقادی تبدیل می‌کند. همچنین انعطاف‌پذیری فکری و توانایی دریافت اطلاعات را تقویت می‌کند؛ مهارت‌هایی که در سازگاری با اتفاقات آینده اهمیت زیادی خواهند داشت.
روش یادگیری نیز می‌تواند برای هر فرد متفاوت باشد. من از کاوش مستقل، کم‌خطر، آزمایشی و مبتنی بر علاقه شخصی حمایت می‌کنم، اما راه‌های زیادی وجود دارد. برای برخی افراد، این مسیر می‌تواند گفت‌وگو، پیوستن به گروهی از همکاران در یک حوزه مشخص، خواندن یک کتاب یا پیدا کردن یک تولیدکننده محتوای یوتیوب باشد که موضوع را بهتر توضیح دهد.
هر روشی که انتخاب شود، باید به تقویت تفکر مستقل و سازگار کمک کند. در ماه‌ها و سال‌های آینده، بدون شک به هر دوی این توانایی‌ها نیاز بیشتری خواهیم داشت.