هشدار مهم نابغه هوش مصنوعی گوگل در دوبلین: «سیستم‌های هوش مصنوعی هنوز ایمن نیستند»
دمیس هسابیس، دانشمند بریتانیایی حوزه هوش مصنوعی، برنده جایزه نوبل، رئیس و هم‌بنیان‌گذار گوگل دیپ‌مایند، دانشمند ارشد آلفابت و نابغه سابق شطرنج، در نشست بین‌المللی هوش مصنوعی در دوبلین سخنرانی کرد. او در مجموع رویکردی خوش‌بینانه نسبت به آینده هوش مصنوعی داشت، به‌ویژه درباره کاربردهای این فناوری در علم، اما هم‌زمان بر ضرورت تمرکز بیشتر بر امنیت تأکید کرد.
هسابیس گفت: «یکی از کارهای مهمی که باید انجام دهیم این است که به‌صورت نامتقارن قدرت مدافعان را افزایش دهیم و به آن‌ها اعتماد کنیم. [...] از آسیب‌پذیری‌های امنیت سایبری دفاع کنیم و شاید پیش از عرضه عمومی این سیستم‌ها، از آن‌ها به شکل دفاعی استفاده کنیم تا آسیب‌پذیری‌های موجود در نرم‌افزارهای خود را برطرف کنیم. [...] باید از این فناوری استفاده کنیم تا نوعی برتری نامتقارن در بخش دفاعی ایجاد کنیم و از زمان جلوتر حرکت کنیم.»
او به حملات هکری اخیر با استفاده از عامل‌های هوش مصنوعی خودمختار اشاره کرد و گفت این حملات در مقیاس بزرگی نبوده‌اند. با این حال، تأکید کرد که «سیستم‌ها هنوز سالم نیستند» و نمی‌توان این مسئله را نادیده گرفت.
هسابیس از صنعت، شرکت‌های مختلف و دولت‌ها خواست با جدیت برای ساخت محیط‌های آزمایشی امن (sandbox) جهت بررسی این سیستم‌ها پیش از عرضه عمومی تلاش کنند و در گام نخست، ابزارهای لازم را در اختیار مدافعان قرار دهند.
هوش مصنوعی؛ فقط برای حل مسائل نظری؟
صدها کارآفرین، قانون‌گذار و نماینده شرکت‌های بزرگ فناوری برای شرکت در نشست بین‌المللی هوش مصنوعی در دوبلین گرد هم آمدند؛ رویدادی که در دوران ریاست ایرلند بر اتحادیه اروپا برگزار شد و تمرکز اصلی آن استفاده از هوش مصنوعی برای رشد و توسعه بود.
هسابیس همراه با جان جامپر به دلیل توسعه یک مدل هوش مصنوعی که ساختار تقریباً تمامی ۲۰۰ میلیون پروتئین شناخته‌شده را پیش‌بینی می‌کند، جایزه نوبل شیمی را دریافت کردند.
آکادمی سلطنتی علوم سوئد اعلام کرد که «در میان کاربردهای علمی فراوان، پژوهشگران اکنون می‌توانند مقاومت آنتی‌بیوتیکی را بهتر درک کنند و تصاویری از آنزیم‌هایی ایجاد کنند که قادر به تجزیه پلاستیک هستند.»
شاید به دلیل تجربه مستقیم هسابیس از تأثیرات مثبت هوش مصنوعی بر بشریت، او در سخنرانی خود در دوبلین رویکردی بسیار امیدوارانه داشت. او هوش مصنوعی را ابزاری برای پیشبرد علم توصیف کرد و گفت در برخی حوزه‌ها اثرگذاری این فناوری آشکارتر است.
برای نمونه، در ماه سپتامبر، شرکت OpenAI اعلام کرد که راه‌حلی برای مسئله وجود و همواری ناویر-استوکس، یکی از مسائل جایزه هزاره ریاضیات، پیدا کرده است.
«هدف فقط حل مسئله نیست، بلکه توسعه انواع جدیدی از ریاضیات در مسیر رسیدن به راه‌حل نیز اهمیت دارد.»
دمیس هسابیس
اما از نظر هسابیس، تنها رسیدن به پاسخ یک مسئله اهمیت ندارد. فرایند دستیابی به آن پاسخ نیز به همان اندازه، یا حتی بیشتر، ارزشمند است.
او گفت: «در ریاضیات، بخش زیادی از موضوع فقط پاسخ نیست، بلکه مسیر رسیدن به پاسخ هم اهمیت دارد. اغلب با حدس‌های بسیار مشهور، مانند آخرین قضیه فرما یا مسائل جایزه هزاره مانند ناویر-استوکس، روبه‌رو هستیم. هدف فقط حل مسئله نیست، بلکه توسعه ریاضیات جدید در مسیر حل آن است. گاهی این ریاضیات جدید از خود راه‌حل ارزشمندتر است.»
اما حل این مسئله یا هر مسئله ریاضی دیگری چه کاربردی دارد؟ هسابیس توضیح داد که هوش مصنوعی، با وجود کمک‌هایش، در حوزه‌هایی مانند فیزیک، شیمی و زیست‌شناسی تا حدی محدود است؛ زیرا این حوزه‌ها به چرخه آزمایش در دنیای واقعی نیاز دارند.
هسابیس گفت: «همچنان به چرخه‌های واقعی نیاز دارید؛ یعنی باید یک فرضیه مطرح کنید. شاید این سیستم هوش مصنوعی بتواند در این کار به شما کمک کند، اما سپس باید آزمایش را بررسی کنید. شاید لازم باشد داده جمع‌آوری کنید و بعد ببینید آیا فرضیه شما درست بوده است یا نه؛ سپس پیشرفت کنید و آن را با ایده بعدی ترکیب کنید. بنابراین فکر می‌کنم در حال حاضر، همیشه نوعی چرخه ارتباط با دنیای واقعی وجود خواهد داشت.»
راه‌حل مسائل ریاضی، هرچند بیشتر جنبه نظری دارد، می‌تواند و باید برای منفعت جوامع به کار گرفته شود. به گفته هسابیس، مهارت‌های ریاضی‌دانان اکنون بیش از هر زمان دیگری مورد نیاز است، به‌خصوص در زمینه ایمنی و امنیت هوش مصنوعی.
هسابیس تأکید کرد که هوش مصنوعی یک فناوری دو منظوره است؛ یعنی در کنار مزایای چشمگیری مانند کمک به درمان بیماری‌ها، می‌تواند توسط افراد مخرب نیز مورد استفاده قرار گیرد.
یکی از مسائل مهم، هم‌راستاسازی اهداف است: چگونه می‌توان اطمینان حاصل کرد سیستم‌هایی که ساخته‌ایم، همچنان مطابق اهدافی که برای آن‌ها تعیین کرده‌ایم عمل می‌کنند؟
هسابیس گفت: «ما به سمت شرایطی حرکت کرده‌ایم که سیستم‌های خودمختار و عامل‌محور بتوانند کارهایی را برای ما انجام دهند. طبیعتاً ما چنین چیزی را می‌خواهیم، زیرا این سیستم‌ها بسیار کاربردی‌تر هستند و می‌توانند به جای ما عمل کنند. اما این موضوع خطرهای مربوط به عملکرد آن‌ها را نیز افزایش می‌دهد؛ همان‌طور که اوایل امسال در برخی حملات هکری مشاهده کردیم.»
او افزود که کنترل و مهار این سیستم‌ها نیز اهمیت زیادی دارد.
هسابیس گفت: «از دیگر بخش‌ها و حوزه‌هایی که با سیستم‌های حیاتی از نظر ایمنی، مانند زیست‌شناسی یا انرژی هسته‌ای، سروکار داشته‌اند، درس‌های زیادی درباره سیستم‌های مهار و کنترل می‌توان گرفت. فکر می‌کنم باید این موضوع را جدی بگیریم و متخصصان این حوزه‌ها را وارد کنیم.»