همکاری اوپن‌ای‌آی و مؤسسه NASK لهستان برای ارتقای ایمنی و امنیت هوش مصنوعی
اوپن‌ای‌آی (OpenAI)، یکی از پیشگامان پژوهش در حوزه هوش مصنوعی، از امضای توافق همکاری راهبردی با مؤسسه ملی پژوهشی NASK لهستان خبر داده است. هدف این همکاری، ارتقای ایمنی و امنیت سامانه‌های هوش مصنوعی و مقابله با نگرانی‌های فزاینده درباره رفتارهای پیش‌بینی‌ناپذیر و خطرات احتمالی فناوری‌های پیشرفته این حوزه است.
این همکاری بر آزمایش‌های دقیق و گسترده مدل‌های قدرتمند هوش مصنوعی متمرکز خواهد بود تا آسیب‌پذیری‌های احتمالی شناسایی و سازوکارهای ایمنی تقویت شوند. این ابتکار در پی حوادث اخیر شکل گرفته است که در آن‌ها عامل‌های هوش مصنوعی رفتارهای مشکل‌سازی از خود نشان داده‌اند؛ اتفاقاتی که ضرورت نظارت بیشتر و اتخاذ تدابیر امنیتی سخت‌گیرانه‌تر در مراحل توسعه و به‌کارگیری هوش مصنوعی را برجسته کرده‌اند. هر دو سازمان متعهد شده‌اند برای ایجاد محیطی امن‌تر در حوزه هوش مصنوعی تلاش کنند. در این مسیر، تخصص NASK در امنیت سایبری و پژوهش‌های مرتبط با ایمنی هوش مصنوعی، مکمل توانمندی‌های پیشرفته اوپن‌ای‌آی در توسعه این فناوری خواهد بود.
پیشبرد ایمنی هوش مصنوعی از طریق همکاری مشترک
مؤسسه NASK یک نهاد پژوهشی دولتی زیر نظر وزارت امور دیجیتال لهستان است که سابقه‌ای طولانی در فعالیت‌های مرتبط با امنیت سایبری، هوش مصنوعی و فناوری‌های پیشرفته رایانشی دارد. مرکز تحقیقات امنیت هوش مصنوعی این مؤسسه یکی از بخش‌های کلیدی همکاری جدید خواهد بود. NASK پیش‌تر نیز در پژوهش‌های مربوط به امنیت سامانه‌های هوش مصنوعی، از جمله شناسایی محتوای جعل عمیق (دیپ‌فیک) و تشخیص تهدیدها در شبکه‌های رایانه‌ای، فعالیت گسترده‌ای داشته است. همکاری این مؤسسه با اوپن‌ای‌آی گامی مهم در گسترش روابط بین‌المللی در زمینه پژوهش‌های ایمنی هوش مصنوعی به شمار می‌رود؛ روابطی که تاکنون عمدتاً بر ایالات متحده و بریتانیا متمرکز بوده و اکنون با مشارکت نهادهای ملی ایمنی در مناطق دیگر جهان گسترش می‌یابد.
بر اساس اطلاعاتی که در اختیار روزنامه چناب تایمز قرار گرفته، این مشارکت زمینه همکاری مشترک در حوزه‌های ایمنی، امنیت و پژوهش‌های فنی هوش مصنوعی را بررسی خواهد کرد. اگرچه جزئیات کامل توافق هنوز منتشر نشده است، انتظار می‌رود دو طرف در ارزیابی سامانه‌های توانمند هوش مصنوعی، شناسایی نقص‌ها و آسیب‌پذیری‌های احتمالی و بهبود تدابیر حفاظتی موجود همکاری کنند. این اقدام با راهبرد گسترده‌تر اوپن‌ای‌آی برای برقراری ارتباط با نهادهای ملی مسئول ایمنی فناوری همسو است؛ راهبردی که هدف آن اطمینان از توسعه و به‌کارگیری مسئولانه فناوری‌های هوش مصنوعی است.
نقش NASK در امنیت سایبری و پژوهش‌های هوش مصنوعی
مؤسسه NASK که در سال ۱۹۹۱ تأسیس شد، نقش مهمی در توسعه زیرساخت‌های دیجیتال لهستان داشته است. از جمله مسئولیت‌های این مؤسسه می‌توان به اداره سامانه ثبت دامنه اینترنتی ملی لهستان با پسوند .pl و میزبانی از CERT Polska، تیم ملی واکنش اضطراری به رخدادهای امنیتی رایانه‌ای، اشاره کرد. فعالیت‌های پژوهشی NASK همچنین حوزه‌هایی مانند الگوریتم‌های یادگیری ماشین، تحلیل داده‌ها و توسعه سامانه‌های ایمن هوش مصنوعی را در بر می‌گیرد. مشارکت این مؤسسه در پروژه‌هایی مانند HIVE و AIPITCH که با هدف توسعه مدل‌های زبانی لهستانی و سامانه‌های ایمن هوش مصنوعی اجرا می‌شوند، نشان‌دهنده تعهد آن به پیشبرد مسئولانه قابلیت‌های این فناوری است.
این همکاری در شرایطی شکل گرفته است که اوپن‌ای‌آی نیز به‌طور فعال از تدوین استانداردهای فنی بین‌المللی برای پیشرفته‌ترین سامانه‌های هوش مصنوعی حمایت می‌کند. مشارکت با NASK بخشی از تلاش‌های جهانی برای اطمینان از آن است که توسعه هوش مصنوعی بر پایه سازوکارهای ایمنی مستحکم و همکاری‌های بین‌المللی پیش برود؛ دو عاملی که برای مدیریت خطرات ناشی از افزایش روزافزون توانمندی سامانه‌های هوش مصنوعی اهمیت اساسی دارند.