همکاری OpenAI و مؤسسه تحقیقاتی NASK لهستان در زمینه ایمنی هوش مصنوعی

شرکت OpenAI روز جمعه اعلام کرد توافق‌نامه‌ای با مؤسسه ملی تحقیقات NASK لهستان امضا کرده است تا زمینه‌های همکاری در حوزه ایمنی و امنیت هوش مصنوعی و پژوهش‌های فنی مرتبط با این فناوری را بررسی کند.

رادوسواف نیلک، مدیر مؤسسه NASK، درباره محورهای این همکاری گفت: «این فعالیت‌ها شامل توسعه راهکارهای حفاظتی در برابر خطرات نوظهور، شناسایی محتوای مصنوعی تولیدشده با هوش مصنوعی و بررسی کاربردهای مخرب این فناوری و همچنین ابعاد چندزبانه این چالش‌ها می‌شود.» او افزود: «تأمین ایمنی هوش مصنوعی به‌تنهایی امکان‌پذیر نیست و به همکاری مشترک نیاز دارد.» به گفته نیلک، همکاری میان مؤسسات دولتی فعال در حوزه ایمنی هوش مصنوعی و توسعه‌دهندگان پیشرو این فناوری می‌تواند به ساخت سامانه‌های هوش مصنوعی کمک کند که «واقعاً قابل اعتماد و برای استفاده ایمن باشند».

این توافق‌نامه دامنه همکاری‌های پیشین OpenAI با تیم واکنش به رخدادهای امنیت رایانه‌ای لهستان (CERT Polska)، از زیرمجموعه‌های NASK، را گسترش می‌دهد. این تیم در ماه ژوئیه با استفاده از مدل‌های OpenAI موفق به شناسایی شش آسیب‌پذیری امنیتی در سیستم‌عامل RouterOS شرکت MikroTik شد. برخی از این نقص‌ها می‌توانستند به مهاجمان اجازه دهند بدون نیاز به احراز هویت، کنترل دستگاه‌های آسیب‌دیده را در دست بگیرند.