فناوری و هوش مصنوعی: چه اتفاقات مثبتی ممکن است رخ دهد؟
نویسنده: جیمی تاکر، گزارشگر فناوری‌های مصرفی
پس از یک هفته بررسی خطرات هوش مصنوعی، کارشناسان امنیت سایبری و هوش مصنوعی توضیح می‌دهند که چرا همچنان به آینده این فناوری امیدوارند و برای ایمن نگه داشتن آن چه اقداماتی باید انجام شود.
هوش مصنوعی ممکن است روزی به درمان سرطان، تولید داروهای نجات‌بخش و دستیابی به اکتشافاتی کمک کند که در شرایط عادی، کشف آن‌ها دهه‌ها زمان می‌برد.
بااین‌حال، برخی از افرادی که بیش از دیگران با این فناوری آشنایی دارند، هشدار می‌دهند که هوش مصنوعی می‌تواند تهدیدی جدی برای بشریت باشد.
پس کدام دیدگاه درست است؟ آیا باید از هوش مصنوعی هیجان‌زده باشیم یا از آنچه ممکن است در آینده به آن تبدیل شود، بترسیم؟
پس از گفت‌وگو با هشت کارشناس هوش مصنوعی و امنیت سایبری برای مجموعه پنج‌قسمتی «فناوری و ما: چه چیزهایی ممکن است در هوش مصنوعی اشتباه پیش برود؟»، در پایان یک پرسش دیگر از هرکدام پرسیدم:
با توجه به آنچه می‌دانید، آیا بیشتر به آینده هوش مصنوعی امیدوارید یا درباره آن نگران هستید؟
پاسخ‌هایشان ممکن است شما را غافلگیر کند.
نگران، اما نه هراسان
نوال اوکانر، کارشناس حریم خصوصی و فناوری، گفت: «نگرانم، اما نمی‌ترسم. دلواپسم، اما هراسی ندارم.»
لی مک‌نایت، استاد دانشگاه سیراکیوز، پذیرفت که تحولات اخیر دلایلی برای نگرانی در اختیارش گذاشته‌اند، اما گفت نگاهش به آینده رو به بهبود است.
او گفت: «با توجه به رویدادهای امسال، می‌توانم بگویم که حق داشتم نگران باشم. اما حالا خوش‌بین‌تر شده‌ام، چون می‌دانید چیست؟ ما می‌توانیم بهتر عمل کنیم.»
ترکیب نگرانی و خوش‌بینی، یکی از مضمون‌های تکرارشونده در این گفت‌وگوها بود. حتی کارشناسانی که برای هوش مصنوعی آینده‌ای بسیار امیدوارکننده متصورند، معتقدند خطرات احتمالی آن باید جدی گرفته شود.
چه چیزهایی ممکن است اشتباه پیش برود؟
هوش مصنوعی همین حالا نیز شیوه فعالیت مجرمان را تغییر می‌دهد.
ابزارهای هوش مصنوعی می‌توانند ایمیل‌های جعلی، پیامک‌ها و کلاهبرداری‌های اینترنتی را باورپذیرتر کنند. این ابزارها همچنین به هکرها امکان می‌دهند سریع‌تر کار کنند و شاید بدون نیاز به سطح بالایی از تخصص فنی، حملات پیچیده‌تری انجام دهند.
پژوهشگران امنیت سایبری درباره احتمال استفاده از هوش مصنوعی برای شناسایی نقاط ضعف شبکه‌های برق، سامانه‌های آبرسانی و دیگر زیرساخت‌های حیاتی ابراز نگرانی کرده‌اند.
کارشناسان دیگری هشدار می‌دهند که پیشرفته‌تر شدن سامانه‌های هوش مصنوعی ممکن است به افراد بدخواه کمک کند تا سلاح‌های زیستی یا عوامل بیماری‌زای خطرناک تولید کنند.
نگرانی دیگری نیز وجود دارد: عامل‌های هوش مصنوعی.
چت‌بات‌های معمولی به پرسش‌ها پاسخ می‌دهند، اما عامل‌های هوش مصنوعی را می‌توان برای انجام مأموریت‌هایی مشخص به کار گرفت. این عامل‌ها می‌توانند تصمیم بگیرند و برای تکمیل وظایف خود اقدام کنند. برخی از آن‌ها قادرند از ابزارهای دیگر استفاده کنند و با عامل‌های دیگری نیز هماهنگ شوند.
با افزایش توانایی و استقلال این سامانه‌ها، پژوهشگران نگران‌اند که اگر دست به اقداماتی بزنند که سازندگانشان هرگز در نظر نداشته‌اند، چه اتفاقی رخ خواهد داد.
هیچ‌یک از این نگرانی‌ها به این معنا نیست که بدترین سناریوها حتماً اتفاق خواهند افتاد. بااین‌حال، کارشناسانی که در این مجموعه با آن‌ها گفت‌وگو شده است، معتقدند باید همین حالا به این خطرات توجه کرد، نه اینکه منتظر بمانیم اتفاق ناگواری رخ دهد.
استیو ویلسون، کارشناس امنیت سایبری، گفت: «باید درباره این موضوع فکر کنیم. این فناوری‌ها نیز مانند دیگر تحولات علمی‌اند. خطرناک هستند و اگر از پیش درباره آن‌ها نیندیشیم، مردم آسیب خواهند دید.»
نیک ریس، مقام پیشین وزارت امنیت داخلی آمریکا، توسعه هوش مصنوعی قدرتمند را به سپردن کلید خودرویی بسیار سریع به یک نفر، بدون تجهیزات ضروری ایمنی، تشبیه کرد.
او گفت: «مثل این است که یک فراری با سرعت ۲۰۰ مایل در ساعت به شما بدهند، اما نه ترمزی داشته باشد، نه کمربند ایمنی و نه کیسه هوا.»
این تشبیه یکی از نگرانی‌های اصلی را روشن می‌کند: توانایی‌های هوش مصنوعی با سرعت در حال پیشرفت‌اند و پژوهشگران می‌خواهند تدابیر حفاظتی نیز هم‌پای این پیشرفت‌ها توسعه پیدا کنند.
چه اتفاقات مثبتی ممکن است رخ دهد؟
با وجود این هشدارها، چندین نفر از کارشناسان از فرصت‌هایی که هوش مصنوعی فراهم می‌کند، با اشتیاق سخن گفتند.
ویلسون معتقد است می‌توان سامانه‌های هوش مصنوعی را که هر روز پیچیده‌تر می‌شوند، ایمن‌تر ساخت و در نهایت از آن‌ها برای حل برخی از دشوارترین مشکلات بشر، از جمله سرطان، کمک گرفت.
آلون ناخمانی، کارشناس امنیت سایبری که در این مجموعه نمونه‌هایی از آسیب‌پذیری‌های احتمالی زیرساخت‌ها را نشان داد، هوش مصنوعی را شمشیری دولبه توصیف کرد.
او گفت: «فقط باید مطمئن شویم که به جنبه دیگر این شمشیر کمک می‌کنیم تا آسیب کمتری وارد کند.»
کریس کانال که توانایی‌ها و خطرات احتمالی سامانه‌های پیشرفته هوش مصنوعی را بررسی می‌کند، چشم‌اندازهای فوق‌العاده‌ای برای پزشکی متصور است.
کانال گفت: «اگر این کار را درست انجام دهیم، نتیجه می‌تواند شگفت‌انگیز باشد. ممکن است به روش‌های درمانی جدید و داروهایی دست پیدا کنیم که روند پیری را کند کنند یا سرطان را درمان کنند. به نظر من، چنین دستاوردهایی واقعاً امکان‌پذیرند.»
این موارد احتمالاتی هستند، نه نتایجی تضمین‌شده. بااین‌حال، همین فرصت‌ها توضیح می‌دهند که چرا کارشناسانی که درباره خطرات هوش مصنوعی هشدار می‌دهند، لزوماً خواستار توقف توسعه آن نیستند.
آن‌ها می‌خواهند این فناوری به‌اندازه‌ای ایمن پیشرفت کند که جامعه بتواند از دستاوردهای بالقوه آن بهره‌مند شود.
چه کسی ایمنی هوش مصنوعی را تضمین می‌کند؟
یکی دیگر از موضوعاتی که در گفت‌وگوها مطرح شد، ضرورت پاسخ‌گویی بود. کارشناسان از نشانه‌هایی استقبال کردند که حاکی از پذیرش خطرات ناشی از قدرتمندتر شدن سامانه‌ها از سوی شرکت‌های هوش مصنوعی است. بااین‌حال، آن‌ها بر اهمیت نظارت، آزمایش و ایجاد تدابیر حفاظتی نیز تأکید کردند.
چندین کارشناس از شهروندان عادی خواستند روند توسعه این فناوری را دنبال کنند و از نمایندگان خود در سطوح محلی، ایالتی و فدرال بپرسند که چه اقداماتی برای حفاظت از مردم در دست بررسی است.
چالش اصلی این است که راه‌هایی پیدا کنیم تا هم نوآوری تشویق شود و هم احتمال آسیب‌های جدی مورد توجه قرار گیرد.
هوش مصنوعی همین حالا نیز به بخشی از زندگی روزمره تبدیل شده است؛ از تلفن‌های هوشمند و موتورهای جست‌وجو گرفته تا خدمات درمانی و نرم‌افزارهای محیط کار. تصمیم‌هایی که امروز درباره نحوه عملکرد این سامانه‌ها گرفته می‌شوند، ممکن است تا سال‌ها پیامد داشته باشند.
پس از یک هفته گفت‌وگو درباره اتفاقات ناگواری که ممکن است در زمینه هوش مصنوعی رخ دهند، یک نکته روشن شد: اغلب همان کارشناسانی که نگران آینده این فناوری‌اند، به فرصت‌های آن نیز امید دارند.
آن‌ها خطرات را می‌بینند، اما در عین حال، فرصت‌ها را هم نادیده نمی‌گیرند.
شاید مهم‌ترین پرسش فقط این نباشد که چه چیزهایی ممکن است اشتباه پیش برود.
بلکه این باشد که چه اتفاقات مثبتی ممکن است رخ دهد.
جیمی تاکر مجری برنامه «فناوری و ما» است؛ گزارشی درباره فناوری‌های مصرفی که از شبکه‌های تلویزیونی سراسر کشور پخش می‌شود.