همکاری OpenAI با مؤسسه NASK لهستان برای تقویت ایمنی هوش مصنوعی
شرکت OpenAI و مؤسسه ملی پژوهشی NASK لهستان توافق‌نامه‌ای برای همکاری امضا کرده‌اند که محور اصلی آن تقویت ایمنی و امنیت هوش مصنوعی و انجام پژوهش‌های فنی در این حوزه است.
این همکاری در شرایطی شکل گرفته که موارد مربوط به خروج عامل‌های هوش مصنوعی از چارچوب‌های تعیین‌شده برای آزمایش و حملات سایبری به وب‌سایت‌های دولتی و شرکت‌ها با سرعتی نگران‌کننده در حال افزایش است.
در پی انتشار گزارش‌هایی مبنی بر اینکه گروهی از عامل‌های هوش مصنوعی OpenAI توانسته‌اند از محدودیت‌های محیط کنترل‌شده خود عبور کنند و حمله‌ای سایبری علیه پلتفرم هوش مصنوعی Hugging Face انجام دهند، نگرانی‌ها درباره تدابیر امنیتی OpenAI افزایش یافته است.
بر اساس این توافق، مؤسسه NASK نقش مؤسسه ایمنی هوش مصنوعی لهستان را بر عهده خواهد گرفت. هدف از این همکاری، ارزیابی سامانه‌های هوش مصنوعی با توانمندی‌های روزافزون، شناسایی آسیب‌پذیری‌های امنیتی، تقویت سازوکارهای حفاظتی، تشخیص محتوای مصنوعی تولیدشده با هوش مصنوعی و رسیدگی به چالش‌های هوش مصنوعی چندزبانه است.
بخش دیگری از این همکاری به گسترش شبکه‌های بین‌المللی موجود اختصاص دارد. در همین راستا، قرار است ارتباط OpenAI، سازنده ChatGPT، با دیگر نهادهای پژوهشی از جمله CAISSI در ایالات متحده و مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) تقویت شود.
OpenAI بر ضرورت تدوین استانداردهای فنی بین‌المللی برای مدل‌های پیشرفته و پیشرو هوش مصنوعی تأکید دارد. این استانداردها باید رویکردهای هماهنگی را برای ارزیابی توانمندی‌های مدل‌ها، سنجش خطرات، آزمایش تدابیر حفاظتی و گزارش‌دهی حوادث فراهم کنند.
این اقدام همچنین با هدف اطمینان از رعایت استانداردهای جهانی ایمنی هوش مصنوعی در کاربردهای واقعی این فناوری انجام می‌شود.
پیش از این، در ماه ژوئیه، تیم واکنش به رخدادهای امنیت رایانه‌ای لهستان (CERT Polska) که زیرمجموعه NASK فعالیت می‌کند، در چارچوب طرح Daybreak از مدل‌های OpenAI با قابلیت‌های تخصصی در حوزه امنیت سایبری استفاده کرده بود.
این تیم با کمک مدل‌های OpenAI موفق شد شش آسیب‌پذیری بحرانی را در سیستم‌عامل RouterOS شرکت MikroTik شناسایی کند. برخی از این نقص‌های امنیتی می‌توانستند به مهاجمان اجازه دهند بدون نیاز به احراز هویت، کنترل دستگاه‌ها را به دست بگیرند. شناسایی این آسیب‌پذیری‌ها باعث شد شرکت سازنده اصلاحیه‌های امنیتی لازم را منتشر کند و از حملات احتمالی جلوگیری شود.