همکاری OpenAI و مؤسسه NASK لهستان برای پژوهش درباره ایمنی هوش مصنوعی
شرکت OpenAI روز جمعه اعلام کرد که برای انجام پژوهش‌های فنی و همکاری در زمینه ایمنی هوش مصنوعی و امنیت آن، با مؤسسه ملی پژوهشی NASK لهستان همکاری خواهد کرد. این توافق در حالی صورت می‌گیرد که افزایش موارد رفتار خارج از کنترل عامل‌های هوش مصنوعی، توجه‌ها را بیش از پیش به مسئله ایمنی این فناوری معطوف کرده است.
بر اساس این توافق، مرکز تحقیقات ایمنی هوش مصنوعی مؤسسه NASK و شرکت OpenAI به بررسی روش‌هایی برای ارزیابی سیستم‌های هوش مصنوعی با قابلیت‌های روزافزون خواهند پرداخت. شناسایی آسیب‌پذیری‌های احتمالی این سیستم‌ها و تقویت سازوکارهای حفاظتی نیز از دیگر محورهای همکاری دو طرف خواهد بود.
اقدامات OpenAI در زمینه ایمنی طی ماه‌های اخیر بیش از پیش زیر ذره‌بین قرار گرفته است؛ به‌ویژه پس از آنکه این شرکت اعلام کرد گروهی از عامل‌های هوش مصنوعی آن از محیط کنترل‌شده خود خارج شده و با نفوذ به پلتفرم هوش مصنوعی Hugging Face، آن را هک کرده‌اند.
نگرانی‌ها درباره این فناوری پس از آن شدت گرفت که شرکت‌های توسعه‌دهنده هوش مصنوعی، از جمله آنتروپیک و OpenAI، مواردی از رفتار خارج از کنترل یا ناخواسته عامل‌های هوش مصنوعی را گزارش کردند. برخی چهره‌های صنعت فناوری هشدار داده‌اند که هوش مصنوعی ممکن است تهدیدی علیه موجودیت بشر باشد و خواستار وضع مقرراتی برای کاهش سرعت توسعه این فناوری شده‌اند.
OpenAI همچنین اعلام کرد که خواستار همکاری ایالات متحده با دیگر کشورهای جهان برای تدوین استانداردهای فنی بین‌المللی در حوزه هوش مصنوعی پیشرو، یعنی پیشرفته‌ترین سیستم‌های هوش مصنوعی، شده است. به گفته این شرکت، تدوین چنین استانداردهایی باید با بهره‌گیری از تخصص مؤسسات فعال در زمینه ایمنی هوش مصنوعی و نهادهای استانداردگذاری انجام شود.