آنچه «تسویه‌حساب اجتماعی» درباره خطرات هوش مصنوعی پیشرفته به ما می‌آموزد
بخش زیادی از فیلم جدید آرون سورکین با عنوان «تسویه‌حساب اجتماعی» در اتاق‌های سرور می‌گذرد؛ جایی که ماشین‌آلات الگوریتمی شکل‌دهنده به زندگی انسان‌ها در دهه گذشته توسعه می‌یابند، نگهداری می‌شوند و تحت نظارت قرار دارند. تمرکز سورکین بر سامانه‌ای رتبه‌بندی به نام «تعاملات اجتماعی معنادار» (MSI) است؛ الگوریتمی که به نظرها و بازنشرها ده‌ها برابر بیشتر از پسندها وزن می‌دهد. نتیجه آن، تقویت خشم، اعتراض‌های افراطی و دروغ‌هاست. فیلم، MSI را به‌عنوان شتاب‌دهنده‌ای اجتماعی و سیاسی به تصویر می‌کشد؛ سامانه‌ای که خشم را پاداش می‌دهد، ظرافت و پیچیدگی را تنبیه می‌کند و باعث بی‌ثباتی می‌شود.
اما امروز این احساس وجود دارد که بحران اصلی این فیلم، یعنی آسیب‌های ناشی از رتبه‌بندی مبتنی بر میزان تعامل، در حال کنار رفتن زیر سایه چیزی بسیار قدرتمندتر است. جهانی که در آن زندگی می‌کنیم تحت سلطه الگوریتم‌های پیشرفته قرار دارد. آسیب‌های MSI تنها مقدمه‌ای برای مدل‌های هوش مصنوعی مولد هستند که شرکت‌های فناوری بسیار ثروتمند و قدرتمند در حال توسعه آن‌ها هستند؛ مدل‌هایی که می‌توانند متن، تصویر، صدا و ویدئوهایی تولید کنند که از خروجی انسانی قابل تشخیص نیستند. این سامانه‌ها فقط واقعیت را انتخاب و مرتب نمی‌کنند؛ بلکه آن را تولید می‌کنند. پیامدهای آن‌ها فراتر از انسجام اجتماعی یا قطبی‌شدن سیاسی است و به حوزه‌های خطرناکی مانند علم جعلی و تهدیدهای امنیت ملی ساختگی می‌رسد؛ موضوعی که می‌تواند ثبات سیاره را نیز تحت تأثیر قرار دهد.
مدل‌های پیشرفته و عصر جدید خطر
در حالی که فیلم سورکین بر گذشته الگوریتمی تمرکز دارد، حال و آینده با مدل‌های مولد بزرگ و پیشرفته‌ای تعریف خواهد شد که توسط شرکت‌هایی مانند OpenAI، Anthropic، Google DeepMind و دیگران توسعه یافته‌اند. این سامانه‌ها جهشی بزرگ در توانایی‌های هوش مصنوعی به شمار می‌روند. آن‌ها می‌توانند پیام‌های سیاسی متقاعدکننده‌ای تولید کنند که برای ویژگی‌های روان‌شناختی افراد مختلف تنظیم شده‌اند؛ ویدئوهای مصنوعی واقع‌گرایانه‌ای بسازند که از تصاویر واقعی قابل تشخیص نباشند؛ گفت‌وگوهای انسانی را با ظرافت احساسی شبیه‌سازی کنند؛ کدنویسی کنند، مولکول طراحی کنند و راهبردها را بهینه سازند.
آن‌ها می‌توانند بر ذهن جوانان و بزرگسالان اثر بگذارند یا آن‌ها را تخریب کنند (و در برخی موارد، همین حالا نیز چنین تأثیراتی دارند). همچنین می‌توانند به‌صورت مستقل، مجموعه‌ای طولانی از وظایف را اجرا کنند.
به بیان دیگر، آن‌ها صرفاً ابزار نیستند؛ بلکه به نوعی به مشارکت‌کنندگان تبدیل شده‌اند.
در دنیای سیاست و تأثیرگذاران اجتماعی، مدل‌هایی مانند GPT-4 از OpenAI و Claude 3 Opus از Anthropic می‌توانند حجم عظیمی از اطلاعات را تحلیل کنند، روایت‌های منسجم بسازند و لحن و سبک خود را برای بیشینه‌کردن اثرگذاری تغییر دهند. آن‌ها می‌توانند تبلیغات سیاسی، اطلاعات نادرست و محتوای دستکاری‌کننده تولید کنند. یک کارزار انتخاباتی می‌تواند از هوش مصنوعی برای تولید میلیون‌ها پیام شخصی‌سازی‌شده استفاده کند که هرکدام برای بهره‌برداری از آسیب‌پذیری‌های احساسی یک رأی‌دهنده طراحی شده‌اند. یک دشمن خارجی نیز می‌تواند با کمک هوش مصنوعی هزاران کنشگر مصنوعی شبیه‌سازی‌شده ایجاد کند که هرکدام روایت‌های تفرقه‌افکنانه یا تهدیدهای ساختگی را در جوامع محلی منتشر کنند.
این موضوع کاملاً جدید نیست. رسوایی داده‌های کمبریج آنالیتیکا که در سال ۲۰۱۸ علنی شد و به استفاده از داده‌های فیسبوک در ارتباط با انتخابات ریاست‌جمهوری آمریکا در سال ۲۰۱۶ مربوط بود، نمونه‌ای اولیه و نگران‌کننده از چگونگی استفاده از داده‌های شخصی و تحلیل‌های روان‌شناختی برای هدف‌گیری سیاسی ارائه کرد. این رسوایی به نقطه عطفی در بحث عمومی درباره قدرت پلتفرم‌های دیجیتال تبدیل شد و نشان داد اطلاعات جمع‌آوری‌شده از میلیون‌ها کاربر فیسبوک چگونه می‌تواند برای ساخت پروفایل‌های سیاسی مورد استفاده قرار گیرد.
هوش مصنوعی پیشرفته می‌تواند این روش‌ها را بسیار فراتر ببرد. اطلاعات نادرست دیگر به انسان‌ها نیاز ندارد؛ می‌تواند به‌صورت خودکار، بی‌پایان و متقاعدکننده تولید شود. این سامانه‌ها می‌توانند شبیه‌سازی اجرا کنند، راهبردها را آزمایش کنند و خروجی‌های خود را بر اساس بازخوردها بهبود دهند.
خطرات علمی و امنیتی
این مسئله نه‌تنها برای سیاست و جامعه، بلکه برای امنیت و به بیان دیگر، ثبات خود سیاره پیامدهای عمیقی دارد. چنین سامانه‌هایی می‌توانند پژوهش‌های علمی را سرعت ببخشند یا کاهش دهند، موانع ورود به آزمایش‌های زیستی را پایین بیاورند و دستورالعمل‌های گام‌به‌گام برای ساخت عوامل آسیب‌زا ارائه کنند. پژوهشگران تاکنون نشان داده‌اند که مدل‌های مولد می‌توانند پروتکل‌های ظاهراً معتبر برای سنتز ویروس‌ها، تغییر عوامل بیماری‌زا یا دور زدن سامانه‌های ایمنی آزمایشگاهی تولید کنند. هرچند شرکت‌های مسئول هوش مصنوعی تدابیر حفاظتی اعمال کرده‌اند، این خطر همچنان وجود دارد که مدل‌های آینده یا نسخه‌های غیرمجاز آن‌ها بتوانند راهنمایی‌های عملی در اختیار افراد دارای نیت مخرب قرار دهند.
پیامدهای امنیت ملی نیز نگران‌کننده است. هوش مصنوعی پیشرفته می‌تواند آسیب‌پذیری‌های زیرساخت‌های حیاتی را شناسایی کند، راهبردهایی برای بی‌ثبات‌کردن رقبای ژئوپلیتیکی تولید کند یا سناریوهای تشدید درگیری را شبیه‌سازی کند؛ سناریوهایی که خطر بروز جنگ را افزایش می‌دهند. در شدیدترین حالت‌ها، اطلاعات نادرست تولیدشده توسط هوش مصنوعی یا ارتباطات نظامی جعلی می‌تواند باعث سوءتفاهم میان کشورهای دارای سلاح هسته‌ای شود. یک ویدئوی مصنوعی از پرتاب موشک، یک فایل صوتی جعلی از دستورهای یک فرمانده نظامی یا یک گزارش اطلاعاتی ساختگی می‌تواند شرایطی برای یک محاسبه اشتباه فاجعه‌بار ایجاد کند.
ثبات اقلیمی نیز در معرض خطر قرار دارد، زیرا سامانه‌های هوش مصنوعی پیشرفته ممکن است اقداماتی را پیشنهاد دهند که در کوتاه‌مدت سودمند به نظر برسند اما در بلندمدت پیامدهای مخربی داشته باشند. آن‌ها می‌توانند کارایی اقتصادی را به شکلی بهینه کنند که تخریب محیط‌زیست را سرعت ببخشد. همچنین ممکن است روایت‌های متقاعدکننده‌ای تولید کنند که علم اقلیم را تضعیف کند یا آزمایش‌های خطرناک مهندسی اقلیم را تشویق کند.
خلأ نهادی
یکی از برجسته‌ترین جنبه‌های داستان «تسویه‌حساب اجتماعی»، نمایش شکست نهادهاست؛ شکستی که اساساً به مارک زاکربرگ، هم‌بنیان‌گذار فیسبوک و شرکت مادر آن که اکنون متا نام دارد، نسبت داده می‌شود. تیم‌های ایمنی داخلی فیسبوک نیروی انسانی و بودجه کافی نداشتند و نادیده گرفته می‌شدند. مدیران، رشد مالی را بر مسئولیت‌پذیری ترجیح دادند. قانون‌گذاران نیز در برابر سرعت و پیچیدگی این پلتفرم ناتوان بودند.
اما خلأ نهادی پیرامون هوش مصنوعی پیشرفته حتی شدیدتر است. هنوز حداقل چارچوب نظارتی برای توسعه یا استقرار این فناوری‌ها وجود ندارد. استانداردهای الزام‌آور ایمنی، حسابرسی‌های اجباری یا الزامات شفافیت قابل اجرا وجود ندارد. شرکت‌هایی مانند OpenAI و Anthropic در محیطی عمدتاً خودتنظیم‌گر فعالیت می‌کنند. دنیلا آمودی، رئیس Anthropic، گفته است که «سلامت جهانی در حال تبدیل‌شدن به یکی از تمرکزهای Anthropic است»؛ موضوعی که در صورت پذیرش آن به‌عنوان مبنای سیاست شرکت، نشان‌دهنده اهداف «نوع‌دوستی مؤثر» این شرکت خواهد بود.
فیسبوک کارکنانی مانند فرانسیس هاگن داشت که اسناد داخلی را افشا کردند، اما شرکت‌های فعال در حوزه هوش مصنوعی پیشرفته حتی محرمانه‌تر، فنی‌تر و متمرکزتر هستند. خطرات آن‌ها دشوارتر توضیح داده می‌شود، اثبات آن‌ها سخت‌تر است و آشکارسازی آن‌ها نیز پیچیده‌تر خواهد بود.
عموم مردم دید محدودی نسبت به نحوه آموزش مدل‌های پیشرفته، داده‌های مورد استفاده آن‌ها یا رفتارشان در شرایط بحرانی دارند. این سامانه‌ها اختصاصی، غیرشفاف و تحت کنترل تعداد محدودی از شرکت‌ها هستند. تصمیم‌هایی که آینده هوش مصنوعی را شکل می‌دهند، توسط مدیران عامل شرکت‌ها و هیئت‌مدیره‌های آن‌ها گرفته می‌شود، نه مقام‌های منتخب. مردم نقش معناداری در تعیین نحوه استفاده از این سامانه‌ها، سطح ریسک قابل قبول یا تدابیر حفاظتی لازم ندارند. دونالد جی. ترامپ، رئیس‌جمهور ایالات متحده، مخالفت کرده است که برای شرکت‌های هوش مصنوعی پیشرفته قوانین فدرال یا الزامات قانونی وضع شود و به جای آن، به کنترل‌های داوطلبانه و اخلاقی صنعت تکیه دارد.
تسویه‌حساب پیش رو
به بیان دیگر، «تسویه‌حساب اجتماعی» کیفرخواستی قدرتمند علیه آسیب‌های ناشی از رتبه‌بندی مبتنی بر تعامل و شکست‌های نهادی و طمعی است که به رشد فیسبوک اجازه داد. اما این تنها سایه‌ای از چیزی است که در پیش رو داریم: جهانی که در آن الگوریتم‌ها نه‌تنها رفتار، بلکه خود واقعیت را شکل خواهند داد.
هوش مصنوعی مولد تغییری بنیادین در ماهیت اطلاعات ایجاد می‌کند. این فناوری ابزاری است که می‌تواند خلاقیت را تقویت کند، نوآوری را سرعت بخشد و توانایی‌های انسانی را گسترش دهد. اما می‌تواند برای دستکاری، فریب و نابودی نیز به کار رود. این فناوری تاکنون جامعه را دگرگون کرده است؛ پرسش این است که آیا بشریت می‌تواند سامانه‌هایی را که خود ساخته، دوباره شکل دهد و مهار کند. باید چنین کند.
یادداشت سردبیر: دیدگاه‌های مطرح‌شده در این مقاله متعلق به نویسندگان آن است و الزاماً بیانگر دیدگاه‌های Impakter.com نیست.