با نزدیک شدن آنتروپیک به عرضه سهام در بورس، هوش مصنوعی چه خطراتی ایجاد می‌کند؟
در حالی که شرکت آنتروپیک خود را برای عرضه سهام در بورس آماده می‌کند، کارشناسان و خود این شرکت در کنار تأکید بر مزایای فناوری، درباره خطرات احتمالی و حتی فاجعه‌بار آن نیز هشدار داده‌اند.
آنتروپیک در اسنادی که پیش از عرضه اولیه سهام این شرکت در آمریکا منتشر کرد، اعلام کرده است که هوش مصنوعی می‌تواند به رشد اقتصادی شتاب ببخشد و پیشرفت‌های پزشکی را تسریع کند؛ اما در عین حال، خطر تولید سلاح‌های زیستی جدید و اختلالات گسترده در حوزه امنیت سایبری را نیز افزایش می‌دهد.
عدنان بشیر، مفسر حوزه فناوری و مدیر ارتباطات و امور شرکتی، می‌گوید مواردی که در آن‌ها عامل‌های هوش مصنوعی محدودیت‌ها را نقض کرده‌اند، به اینترنت دسترسی یافته‌اند و با استفاده از پیام‌های پنهانی با یکدیگر ارتباط برقرار کرده‌اند، نشان می‌دهد اقدامات کنونی برای مهار این سامانه‌ها و کاهش خطرات آن‌ها «شکننده و توسعه‌نیافته» است.
او هشدار داد: «اگر به‌طور مستقیم با این مسئله مقابله نشود، ممکن است خطراتی فاجعه‌بار برای نظام مالی، زیرساخت‌های حیاتی و اقتصادهای ملی به وجود بیاید.»
خود آنتروپیک نیز از پرداختن به خطرات احتمالی این فناوری اجتناب نکرده است. این شرکت روز دوشنبه در پرونده‌ای که به کمیسیون بورس و اوراق بهادار آمریکا ارائه کرد، نوشت: «هر چیزی که چنین قدرتی داشته باشد، همان‌قدر که می‌تواند برای کارهای خوب استفاده شود، ممکن است در خدمت اهداف زیان‌بار نیز قرار بگیرد.»
این شرکت اعلام کرد: «افرادی که قصد آسیب‌رساندن دارند، می‌توانند از هوش مصنوعی سوءاستفاده کنند؛ برای مثال، برای انجام حملات سایبری یا طراحی سلاح‌های زیستی.»
این فناوری ممکن است به‌صورت خودمختار نیز عمل کند. آنتروپیک هشدار داد که از دست رفتن کنترل سامانه‌های قدرتمند هوش مصنوعی می‌تواند به «یکی از مهم‌ترین تهدیدهای امنیت جهانی» تبدیل شود.
این هشدارهای جدی تنها چند هفته پس از آن مطرح شد که ایوان هوبرینگر، پژوهشگر آنتروپیک، گفت احتمال اینکه هوش مصنوعی طی دهه آینده به نابودی بشریت منجر شود، بیش از یک در ۱۰ است.
«خطرات واقعی‌اند»
مارک دیلی، استاد و مدیر ارشد هوش مصنوعی در دانشگاه وسترن کانادا، گفت تصور نمی‌کند هوش مصنوعی بتواند بشریت را نابود کند، اما خطرات ناشی از آن «واقعی» هستند.
او گفت: «تمام زیرساخت‌های فیزیکی ما به اینترنت متصل‌اند و همین امر همه آن‌ها را در معرض حملات سایبری قرار می‌دهد.» دیلی افزود حوادث اخیر، از جمله هک‌شدن و گرم‌شدن فریزرهای فروشگاهی در فرانسه در اوایل همین ماه که به فاسدشدن مقادیر زیادی مواد غذایی انجامید، نشان می‌دهد این خطرات تا چه اندازه جدی‌اند.
او گفت: «تصور کنید کسی همین کار را با یک تأسیسات تصفیه آب انجام دهد. به نظر من، وضع مقررات برای این حوزه ضروری است.»
با این حال، برخی نگران‌اند دولت‌ها که شاید به دنبال بهره‌برداری از منافع اقتصادی هوش مصنوعی باشند، محدودیت‌ها و تدابیر حفاظتی لازم را برقرار نکنند.
اشلی براگانزا، استاد دانشگاه، مجری پادکست The AI Adoption Podcast و بنیان‌گذار و مدیر مشترک مرکز هوش مصنوعی دانشگاه برونل لندن، گفت احتمال اینکه مقررات به سطح کافی و مطلوب برسند، «بسیار کم» است.
او درباره مدل‌های هوش مصنوعی‌ای ابراز نگرانی کرد که هنوز عرضه نشده‌اند؛ مدل‌هایی که بنا بر گزارش‌های اخیر، برخی از آن‌ها در دنیای واقعی از کنترل خارج شده‌اند. او همچنین از مدل‌هایی که هنوز در مرحله طراحی‌اند، ابراز نگرانی شدید کرد و گفت این مدل‌ها «واقعاً وحشت‌زده‌ام می‌کنند».
براگانزا گفت: «مدل‌هایی که امروز در اختیار داریم، عمدتاً به دست انسان‌ها ساخته شده‌اند و سازندگانشان ارزش‌ها و سوگیری‌های خود را به آن‌ها منتقل کرده‌اند؛ در واقع، ویژگی‌های انسانی خود را در آن‌ها وارد کرده‌اند.»
او افزود: «اما برخی از مدل‌هایی که اکنون در مرحله طراحی‌اند، خود هوش مصنوعی آن‌ها را ساخته است... با این کار، نوع کاملاً متفاوتی از عامل هوشمند ایجاد می‌شود.»
بشیر به طرح‌هایی در کشورهایی از جمله آلمان و سنگاپور اشاره کرد که بر اساس آن‌ها، ارائه‌دهندگان قدرتمندترین مدل‌های هوش مصنوعی باید پیش از عرضه، سامانه‌های خود را آزمایش کنند و هرگونه نقص ایمنی را گزارش دهند. به گفته او، این اقدامات نمونه‌ای از «محدودیت‌های جدی و قابل اتکا» هستند که می‌توان در نظر گرفت.
هوش مصنوعی علاوه بر نگرانی‌های مربوط به امنیت سایبری و امنیت زیستی، تحولات گسترده‌ای نیز در محیط کار ایجاد کرده است. شرکت خدمات حرفه‌ای مارش در گزارشی که این هفته منتشر کرد، اعلام کرد نزدیک به ۸۵ درصد کارکنان امارات متحده عربی برای انجام کارهای خود از هوش مصنوعی استفاده کرده‌اند؛ با این حال، ۴۴ درصد از به‌کارگیری فناوری‌های جدید در محیط کار تردید دارند، زیرا «نگران‌اند این فناوری‌ها جایگزین آن‌ها شوند یا نقش شغلی‌شان را تغییر دهند».
اوایل همین ماه، عمر العلماء، وزیر مشاور امارات متحده عربی در امور هوش مصنوعی، اقتصاد دیجیتال و کاربردهای دورکاری، گفت کشورهایی مانند آمریکا، روسیه و چین باید هرچه سریع‌تر درباره استفاده از هوش مصنوعی در به‌کارگیری تسلیحات خودمختار به توافق برسند.
او گفت: «اگر قرار باشد درباره استفاده از هوش مصنوعی برای شلیک موشک یا پرتاب بمب، یا اعزام جنگنده‌ای برای نابودی یک مدرسه یا انجام اقدامات مشابه صحبت کنیم، هنوز نتوانسته‌ایم به اجماع جهانی برای جلوگیری از این کارها برسیم.»
او افزود: «برخی حوزه‌های هوش مصنوعی باید تحت نظارت و مقررات قرار بگیرند و همه در سراسر جهان بار دیگر خواستار چنین اقدامی هستند؛ به‌ویژه درباره سامانه‌های خودمختاری که در ارتش برای کشتن انسان‌ها به کار می‌روند. همه ما باید توافق کنیم که این حوزه به مقررات نیاز دارد.»
بر اساس گزارشی که روزنامه The National در اوایل اکتبر منتشر کرد، در آزمایشی برای سنجش تدابیر ایمنی صنعت هوش مصنوعی، همه مدل‌های زبانی بزرگ پیشرو به‌جز دو مورد از مجموع ۱۳۴ مدل، اطلاعاتی ارائه کردند که می‌توانست برای اجرای حملاتی با تلفات گسترده یا ساخت سلاح‌های مرگبار مفید باشد. گزارش این آزمایش نشان می‌دهد که خطر سوءاستفاده از این مدل‌ها همچنان جدی است.
اهمیت پول و سرمایه
پیش‌بینی می‌شود عرضه اولیه سهام آنتروپیک که انتظار می‌رود ماه آینده انجام شود، ارزش این شرکت را به ۱.۵ تا ۲ تریلیون دلار برساند. این شرکت در سال ۲۰۲۱ به دست مدیران سابق شرکت رقیب اصلی خود، اوپن‌ای‌آی، تأسیس شد. با چنین ارزشی، آنتروپیک در رتبه‌های پایین‌تر فهرست ۱۰ شرکت باارزش جهان قرار خواهد گرفت.
با افزایش شمار شرکت‌هایی که خدمات آنتروپیک را خریداری می‌کنند، درآمد این شرکت نیز به‌شدت رشد کرده است. بخش بزرگی از این تقاضا به فناوری کلود، محصول هوش مصنوعی آنتروپیک، مربوط می‌شود. درآمد شرکت در سال گذشته به ۴.۶ میلیارد دلار رسید و در نیمه نخست سال جاری میلادی به ۱۶.۳ میلیارد دلار افزایش یافت.
مارک دیلی، مدیر ارشد هوش مصنوعی دانشگاه وسترن کانادا، گفت: «این شرکت توانسته مدل‌های بسیار قدرتمندی تولید کند و جریان درآمدی قابل‌توجهی به وجود بیاورد.»
او افزود: «حدود نیمی از شرکت‌های فهرست فورچون ۵۰۰، یعنی فهرست شرکت‌های آمریکایی با بیشترین درآمد، به نوعی از خدمات آنتروپیک استفاده می‌کنند.»
آنتروپیک در اسنادی که این هفته ارائه کرد، در کنار هشدار درباره خطرات هوش مصنوعی، به مزایای بالقوه آن نیز پرداخت. این مزایا شامل سرعت‌بخشیدن به پیشرفت‌های علمی، درمان بیماری‌ها، تسریع رشد اقتصادی و حل «مسائلی است که نسل‌های متوالی از انسان‌ها برای حل آن‌ها تلاش کرده‌اند، اما موفق نشده‌اند».
این شرکت اعلام کرد: «ما معتقدیم هوش مصنوعی روند پیشرفت در زیست‌شناسی و پزشکی را به‌شکلی چشمگیر سرعت خواهد بخشید و ممکن است بیماری‌هایی را درمان کند که هزاران سال است بشریت را گرفتار کرده‌اند؛ از جمله سرطان، آلزایمر، بیماری‌های قلبی، بیماری‌های ژنتیکی نادر و بیماری‌های عفونی مهم.»
از جمله دانشمندانی که از هوش مصنوعی استفاده می‌کنند، کریس فاکس، استاد دانشگاه اکستر در بریتانیا، است که در زمینه سلامت روان و زوال عقل پژوهش می‌کند.
فاکس در آغاز استفاده از این فناوری تصور می‌کرد «هرگز جواب نخواهد داد»، اما به‌تدریج به ظرفیت‌های آن پی برد؛ به‌ویژه توانایی هوش مصنوعی در «معنا بخشیدن به حجم عظیمی از داده‌ها» و شناسایی الگوها.
او گفت: «با استفاده از هوش مصنوعی می‌توان به درک عمیق‌تر و جزئی‌تری رسید. این کار به ما کمک می‌کند مداخلات درمانی را دقیق‌تر هدف‌گذاری کنیم و پزشکی دقیق را به سطحی کاملاً بالاتر برسانیم.»
به گفته او، سرعت پیشرفت این فناوری به اندازه‌ای زیاد است که «دنبال‌کردن آن واقعاً دشوار شده است».
فاکس گفت: «پاسخ‌ها با چنان سرعتی ارائه می‌شوند که ممکن است پژوهشگران دانشگاهی از قافله عقب بمانند. می‌توانم روزی را تصور کنم که دیگر به تعداد فعلی پژوهشگران دانشگاهی نیاز نباشد.»
او همچنین تأکید کرد که پژوهشگران باید از خطر «توهم» هوش مصنوعی آگاه باشند؛ وضعیتی که در آن سامانه پاسخ‌هایی نادرست تولید می‌کند.
به گفته فاکس، برای جلوگیری از اینکه این فناوری پژوهشگران را به مسیر اشتباه بکشاند، باید «همیشه یک انسان در چرخه تصمیم‌گیری حضور داشته باشد» تا بتواند بررسی کند که آیا نتیجه ارائه‌شده منطقی است یا نه و آیا هوش مصنوعی پژوهش را به «مسیر نادرستی» هدایت می‌کند.