جهان باید همزیستی با هوش مصنوعی را بیاموزد
هوش مصنوعی (AI) در مدت کوتاهی مسیری را از یک اسباب‌بازی تازه در قفسه فروشگاه‌ها تا تبدیل شدن به یک دغدغه امنیت ملی طی کرده است. در جریان سفر شی جین‌پینگ، رئیس‌جمهور چین، به کاخ سفید در ماه سپتامبر، او با ایجاد یک کانال ارتباطی دوجانبه درباره هوش مصنوعی موافقت کرد. «توافق‌نامه کاخ سفید درباره ابرهوش» که دونالد ترامپ، رئیس‌جمهور آمریکا، و شش شرکت پیشرو هوش مصنوعی در ۲۹ سپتامبر آن را امضا کردند، چهار لایه حفاظتی در برابر تهدیدهای سایبری و زیستی ناشی از هوش مصنوعی پیشنهاد می‌کند.
با این حال، این توافق‌نامه یک‌صفحه‌ای و داوطلبانه در مقایسه با پیشنهادهای گسترده‌تر، از جمله درخواست سنگاپور در هشتاد و یکمین مجمع عمومی سازمان ملل برای بررسی «کنوانسیون چارچوب سازمان ملل درباره تدابیر حفاظتی هوش مصنوعی» و بررسی ایجاد نهادی مشابه آژانس بین‌المللی انرژی اتمی، کافی به نظر نمی‌رسد. جیکوب کاکسون، افشاگر و کارمند پیشین شرکت‌های Anthropic و OpenAI، معتقد است فناوری هوش مصنوعی باید ملی شود، زیرا آن‌قدر خطرناک است که نمی‌توان آن را در اختیار شرکت‌های خصوصی رها کرد. هوش مصنوعی تاکنون هرگز در قامت یک سلاح کشتارجمعی ظاهر نشده است. داریو آمودی، هم‌بنیان‌گذار Anthropic، که پدرش را بر اثر بیماری‌ای از دست داد که اندکی بعد درمان آن پیدا شد، معتقد است هوش مصنوعی می‌تواند کیفیت زندگی انسان را بهبود دهد، بیماری‌ها را درمان کند و رشد اقتصادی را شتاب بخشد. اما این رؤیا روی دیگری هم دارد؛ کابوسی که در پی آن ظاهر می‌شود.
سامانه‌های هوش مصنوعی همین حالا نیز رفتارهایی غیرمنتظره از خود نشان داده‌اند. آنتونی آلبانیزی، نخست‌وزیر استرالیا، پس از آنکه یک عامل هوش مصنوعی OpenAI توانست کنترل‌های امنیتی در درگاه Medicare این کشور را دور بزند، ابراز نگرانی کرد. OpenAI همچنین از «مواردی از رفتار غیرمنتظره» خبر داده است؛ از جمله دور زدن دستورها، جابه‌جایی فایل‌ها، جعل داده‌ها، دسترسی به سامانه‌های غیرمجاز و همکاری گروهی میان سامانه‌های هوش مصنوعی. در ماه ژوئیه، عوامل آزمایشی هوش مصنوعی OpenAI از محیط آزمایشی یا «سندباکس» خود خارج شدند. آنها به‌صورت هماهنگ در فضای آنلاین عمل کردند و از آسیب‌پذیری‌های موجود در پلتفرم میزبانی مدل‌ها و مجموعه‌داده‌های هوش مصنوعی Hugging Face بهره بردند.
خطر حتی می‌تواند در انجام وظایف ساده نیز پدیدار شود. DeepMind نمونه‌ای را مطرح می‌کند که در آن از هوش مصنوعی خواسته می‌شود برای کاربر بلیت سینما رزرو کند، اما سامانه برای به دست آوردن صندلی‌های بهتر، سیستم را هک می‌کند. این پدیده که «بازی با مشخصات» (specification gaming) نامیده می‌شود، نمونه‌ای از مسئله هم‌راستاسازی هوش مصنوعی است: سامانه با یافتن میانبرهایی که مورد نظر انسان نبوده‌اند، به هدف تعیین‌شده دست پیدا می‌کند. جفری هینتون، از پیشگامان هوش مصنوعی، می‌گوید این فناوری می‌تواند در طراحی ویروس‌های زیستی و رایانه‌ای «بسیار خطرناک» کمک کند. گزارش سپتامبر Anthropic با عنوان «شناسایی و مقابله با سوءاستفاده از هوش مصنوعی» نمونه‌هایی از پژوهش‌های زیستی با کمک هوش مصنوعی را تشریح می‌کند؛ از جمله تلاش برای افزایش قابلیت انتقال چیکونگونیا، انجام پژوهش روی ویروس‌های خانواده آبله، سازگار کردن آنفلوانزای پرندگان با پستانداران و بازطراحی سموم و پپتیدهای سمی. همه‌گیری کووید-۱۹ نمونه‌ای قابل مقایسه است.
منشأ کووید-۱۹ همچنان قطعی نشده است و مشخص نیست آیا یک حادثه آزمایشگاهی مرتبط با پژوهش‌های افزایش کارکرد روی کروناویروس‌ها در آن نقش داشته یا خیر. اکنون هوش مصنوعی می‌تواند انجام چنین پژوهش‌هایی را آسان‌تر کند. Anthropic، که به دلیل بررسی و افشای چنین مواردی شایسته تقدیر است، یک استثنا محسوب می‌شود، نه قاعده. سامانه‌های هوش مصنوعی همچنان مانند جعبه‌های سیاه تلقی می‌شوند و سازوکار درونی آنها به‌طور کامل شناخته نشده است، اما فعلاً هنوز تحت کنترل انسان قرار دارند. نگرانی درباره «ابرهوش مصنوعی» (ASI) از اینجا ناشی می‌شود که یک سامانه ممکن است از طریق خودبهسازی بازگشتی، یعنی یادگیری برای بهبود عملکرد خودش، به‌مراتب از انسان باهوش‌تر شود. این نگرانی وجود دارد که ASI بتواند ظرف چند روز یا حتی چند ساعت از کنترل انسان خارج شود.
با این حال، جنسن هوانگ، مدیرعامل Nvidia، چنین تهدیدهایی را رد می‌کند. یان لوکان، دیگر پیشگام هوش مصنوعی، نیز معتقد است این نگرانی‌ها توجه را از آسیب‌های امروزی منحرف می‌کنند؛ آسیب‌هایی مانند انتشار خودکار اطلاعات نادرست، تشدید نفرت‌پراکنی و سوگیری الگوریتمی نهفته در سامانه‌ها. اتحادیه اروپا در واکنش به این نگرانی‌ها «قانون هوش مصنوعی» را تصویب کرده است که گزارش حوادث جدی را بدون تأخیر الزامی می‌کند. در حال حاضر، توسعه قدرتمندترین سامانه‌های هوش مصنوعی عمدتاً در آمریکا انجام می‌شود؛ جایی که تردید نسبت به مقررات‌گذاری همچنان وجود دارد. «پیمان جهانی دیجیتال» سازمان ملل خواستار همکاری بین‌المللی بیشتر در زمینه هوش مصنوعی، حقوق بشر، شفافیت و نظارت انسانی است. این پیمان همچنین ایجاد «هیئت علمی بین‌المللی مستقل درباره هوش مصنوعی» و «صندوق جهانی هوش مصنوعی» را برای تقویت ظرفیت کشورهای در حال توسعه پیشنهاد می‌کند. در زمینه «سامانه‌های تسلیحات خودمختار مرگبار» (LAWS)، سازمان ملل با قطعنامه‌ای در سال ۲۰۲۴ که ۱۶۶ کشور از آن حمایت کردند، کار خود را آغاز کرد و برای تصویب یک معاهده الزام‌آور حقوقی تا پایان سال ۲۰۲۶ فشار آورده است؛ معاهده‌ای که سلاح‌های خودمختار فاقد کنترل معنادار انسانی را ممنوع کند.
هند در این زمینه نقشی کلیدی دارد. این کشور با گسترش زیرساخت محاسباتی ملی خود به بیش از ۵۰ هزار GPU، در حال ایجاد قابلیت‌های «هوش مصنوعی حاکمیتی» (Sovereign AI) است. حدود ۱۶ درصد از استعدادهای هوش مصنوعی جهان در هند قرار دارند. «اعلامیه دهلی‌نو درباره تأثیر هوش مصنوعی» که در نشست هند درباره تأثیر هوش مصنوعی در ماه فوریه به تصویب رسید و ۹۲ کشور و سازمان بین‌المللی آن را تأیید کردند، بر دسترسی دموکراتیک به هوش مصنوعی در جنوب جهانی تأکید داشت. هند همچنین باید به جلوگیری از «استعمار دیجیتال» کمک کند؛ وضعیتی که در آن کشورهای در حال توسعه برای تأمین داده‌های خام، نیروی کار ارزان‌قیمت در حوزه نظارت و تعدیل محتوا، مواد معدنی حیاتی و دیگر منابع طبیعی مورد نیاز برای ساخت و آموزش مدل‌های هوش مصنوعی مورد بهره‌برداری قرار می‌گیرند، در حالی که خودشان باید برای همان محصولات هوش مصنوعی هزینه بپردازند. اگر هوش مصنوعی به‌عنوان یک «کالای عمومی دیجیتال»، مشابه UPI، تلقی شود، هند می‌تواند به کشورهای در حال توسعه کمک کند تا به تولیدکنندگانی برخوردار از حاکمیت فناوری تبدیل شوند، نه مصرف‌کنندگانی وابسته.
مدل «زیرساخت عمومی دیجیتال» (DPI) هند که بر APIهای باز، استانداردهای باز و مالکیت عمومی بنا شده است، نمونه‌های عملی در اختیار می‌گذارد. MOSIP، یک سامانه متن‌باز هویت دیجیتال که در هند توسعه یافته، اکنون زیرساخت سامانه‌های ملی شناسایی در بخش‌هایی از آفریقا و جنوب شرق آسیا را تأمین می‌کند. Bhashini بر زبان‌های کم‌منبع، زبان‌های بومی و زبان‌های مبتنی بر گفتار تمرکز دارد و برای کشورهای چندزبانه در آفریقا، آسیا و آمریکای لاتین، بنیانی فنی برای توسعه هوش مصنوعی به زبان‌های خودشان فراهم می‌کند.
هند که از اعضای بنیان‌گذار «مشارکت جهانی درباره هوش مصنوعی» (GPAI) است، همچنین از حاکمیت داده و ایجاد «مشاع داده‌های عمومی» حمایت می‌کند. همزیستی با هوش مصنوعی به اقدامات مشخصی مانند حسابرسی‌های مستقل، گزارش فوری حوادث و مقررات معتبر سازمان ملل بستگی خواهد داشت. با وجود نگرانی‌هایی درباره از بین رفتن مشاغل، دیپ‌فیک‌ها و انتشار گازهای گلخانه‌ای ناشی از مراکز داده، مردم همچنان باور دارند که هوش مصنوعی می‌تواند دستاوردهایی خارق‌العاده به همراه داشته باشد. فی‌فی لی، که از او با عنوان «مادرخوانده هوش مصنوعی» یاد می‌شود، آینده‌ای را تصور می‌کند که در آن هوش مصنوعی به ایجاد جامعه‌ای شکوفا، درمان بیماری‌ها، حمایت از معلمان و کمک به سالمندان منجر شود. اقداماتی که بشریت اکنون انجام می‌دهد ممکن است این رؤیای فراوانی را محقق یا نابود کند؛ رؤیایی که دیگر متعلق به همه انسان‌هاست.
نویسندگان به‌ترتیب فارغ‌التحصیل هوش مصنوعی با مدرک کارشناسی ارشد از آمریکا و یک وکیل هستند.