اوپن‌ای‌آی با مؤسسه NASK لهستان برای پژوهش درباره ایمنی هوش مصنوعی توافق کرد
شرکت اوپن‌ای‌آی (OpenAI) برای انجام پژوهش‌های مشترک در زمینه ایمنی و امنیت هوش مصنوعی با مؤسسه ملی پژوهشی NASK لهستان همکاری می‌کند. این توافق در شرایطی صورت گرفته که نگرانی‌ها درباره رفتارهای خارج از انتظار عامل‌های هوش مصنوعی و اقداماتی که برخلاف قصد سازندگان آن‌ها انجام می‌شود، رو به افزایش است.
اوپن‌ای‌آی امروز با اعلام این توافق گفت دو سازمان برای آزمایش سیستم‌های هوش مصنوعی که روزبه‌روز قدرتمندتر می‌شوند، شناسایی آسیب‌پذیری‌های آن‌ها و توسعه سازوکارهای حفاظتی مؤثرتر با یکدیگر همکاری خواهند کرد.
این همکاری در حالی شکل گرفته که نظارت و بررسی عملکرد عامل‌های خودمختار هوش مصنوعی شدت یافته است. اوپن‌ای‌آی و آنتروپیک (Anthropic) هر دو پیش‌تر مواردی را گزارش کرده‌اند که در آن‌ها عامل‌های هوش مصنوعی رفتارهایی غیرمنتظره یا ناخواسته از خود نشان داده‌اند.
اوپن‌ای‌آی در ماه اوت اعلام کرد برخی از عامل‌های آزمایشی این شرکت توانسته‌اند از محیط کنترل‌شده آزمایش خارج شوند و حمله‌ای هماهنگ علیه هاگینگ فیس (Hugging Face)، پلتفرم اشتراک‌گذاری مدل‌های هوش مصنوعی، ترتیب دهند. این اتفاق پس از آن به طرح شکایتی علیه اوپن‌ای‌آی در سان‌فرانسیسکو منجر شده است.
بر اساس توافق جدید، اوپن‌ای‌آی با مرکز پژوهش‌های ایمنی هوش مصنوعی NASK همکاری خواهد کرد؛ مرکزی که نقش مؤسسه ایمنی هوش مصنوعی لهستان را بر عهده دارد. محور این همکاری ارزیابی سیستم‌های پیشرفته هوش مصنوعی، شناسایی نقاط ضعف آن‌ها و تقویت تدابیری است که برای حفظ ایمنی این سیستم‌ها طراحی شده‌اند.
مؤسسه NASK یک نهاد پژوهشی دولتی مستقر در ورشو است. این مؤسسه همچنین مدیریت CERT Polska، تیم ملی مسئول رسیدگی و واکنش به حملات سایبری علیه شبکه‌های لهستان، را بر عهده دارد.
رادوسواف نیلک، مدیر مؤسسه NASK، گفت: «همکاری با اوپن‌ای‌آی گامی طبیعی برای این مؤسسه و مرکز پژوهش‌های ایمنی هوش مصنوعی آن است. [...] با ترکیب تخصص پژوهشی خود و توانمندی‌های فنی اوپن‌ای‌آی، می‌توانیم خطرات را بهتر پیش‌بینی کنیم، تدابیر حفاظتی را تقویت کنیم و اعتماد عمومی به این فناوری‌های تحول‌آفرین را افزایش دهیم.»
این دو سازمان پیش از این نیز سابقه همکاری داشته‌اند. طبق اعلام NASK، تیم CERT Polska در ماه ژوئیه از طریق برنامه Daybreak اوپن‌ای‌آی به مدل‌های امنیت سایبری این شرکت دسترسی پیدا کرد.
به گفته اوپن‌ای‌آی، این تیم با کمک مدل‌های یادشده توانست شش آسیب‌پذیری را در نرم‌افزار روترهای میکروتیک (MikroTik) شناسایی کند که همگی از آن زمان برطرف شده‌اند.
تام داف گوردون، مدیر سیاست‌گذاری اوپن‌ای‌آی در منطقه اروپا، خاورمیانه و آفریقا، گفت: «لهستان از دانشمندان برجسته و نیروهای متخصص فنی برخوردار است که بسیاری از آن‌ها در پیشبرد پژوهش‌های خود اوپن‌ای‌آی نیز نقش راهبری داشته‌اند.»
این توافق همچنین در چارچوب تلاش گسترده‌تر اوپن‌ای‌آی برای تأثیرگذاری بر شیوه آزمایش و حکمرانی هوش مصنوعی پیشرفته در سطح بین‌المللی قرار می‌گیرد. این شرکت از ایالات متحده خواسته است برای تدوین استانداردهای فنی مشترک در زمینه هوش مصنوعی پیشرو، یعنی پیشرفته‌ترین سیستم‌های هوش مصنوعی، با سایر کشورها همکاری کند.
اوپن‌ای‌آی در ماه سپتامبر پیشنهادی برای تدوین این استانداردها منتشر کرد. این پیشنهاد از جمله شامل نظارت انسانی بر سیستم‌های هوش مصنوعی است که به‌طور مستقل پژوهش انجام می‌دهند. همچنین دستورالعمل‌هایی درباره نحوه گزارش‌دهی حوادث مرتبط با ایمنی از سوی شرکت‌ها ارائه می‌کند.
اوپن‌ای‌آی هم‌اکنون در زمینه ایمنی هوش مصنوعی با مؤسسه امنیت هوش مصنوعی بریتانیا و سازمانی آمریکایی به نام CAISSI نیز همکاری دارد.