حمایت OpenAI از درخواست سنگاپور برای شفافیت درباره حوادث هوش مصنوعی
نویسنده: لی لی یینگ
تاریخ انتشار: ۱۵ اکتبر ۲۰۲۶، ساعت ۱۵:۵۴ | آخرین به‌روزرسانی: ۱۵ اکتبر ۲۰۲۶، ساعت ۱۵:۵۹
سنگاپور – شرکت OpenAI در پاسخ به درخواست سنگاپور برای شفافیت کامل درباره حوادث مرتبط با هوش مصنوعی متعهد شده است به‌محض آنکه از وقوع چنین حادثه‌ای اطمینان پیدا کند، سازمان‌ها و نهادهای دولتی آسیب‌دیده در این کشور را فوراً مطلع سازد.
با این حال، این شرکت فعال در حوزه هوش مصنوعی که دفتر مرکزی آن در سان‌فرانسیسکو قرار دارد، تعهدی درباره مهلت زمانی مشخص برای اطلاع‌رسانی ارائه نکرده است.
کریس لیهان، مدیر ارشد امور جهانی OpenAI، در نشست خبری مجازی روز ۱۵ اکتبر گفت: «رویه فعلی ما این است که وقتی حادثه‌ای را شناسایی می‌کنیم و از تشخیص خود مطمئن می‌شویم، بلافاصله با نهاد مربوط تماس می‌گیریم.»
لیهان افزود: «منتظریم ببینیم آیا دولت سنگاپور مهلت زمانی مشخصی برای این کار تعیین خواهد کرد یا نه.»
او گفت OpenAI برای مشخص شدن اینکه چه اطلاعاتی باید افشا شود و این شرکت چگونه می‌تواند از روند اطلاع‌رسانی پشتیبانی کند، همکاری نزدیکی با مقام‌های سنگاپور خواهد داشت.
این اظهارات در پاسخ به درخواست سنگاپور برای شفافیت بیشتر مطرح شد؛ درخواستی که پس از نفوذ یکی از عامل‌های هوش مصنوعی OpenAI به درگاه دولتی آمار سلامت استرالیا مطرح شده بود.
کی. شانموگام، وزیر ارشد سنگاپور که هم‌زمان مسئولیت هماهنگی امور امنیت ملی و وزارت کشور را بر عهده دارد، روز ۱۳ اکتبر اعلام کرد سنگاپور و شماری دیگر از کشورها از شرکت‌های بزرگ هوش مصنوعی خواسته‌اند جزئیات حوادث را فوراً در اختیارشان بگذارند تا دولت‌ها بتوانند هم‌زمان با وقوع رویدادها از آنچه اتفاق افتاده آگاه شوند.
نفوذ به سامانه استرالیا در ماه ژوئن رخ داد؛ زمانی که یکی از عامل‌های هوش مصنوعی OpenAI بدون مجوز به فایل‌های عمومی و غیرعمومی موجود در درگاه خدمات گزارش‌دهی آمار مدیکر (Medicare) دسترسی پیدا کرد. با این حال، دولت استرالیا تازه در ۱۰ سپتامبر و از طریق ایمیلی که به یک صندوق پست الکترونیکی عمومی ارسال شده بود، از این حادثه مطلع شد.
آنتونی آلبانیزی، نخست‌وزیر استرالیا، هم تأخیر در اطلاع‌رسانی و هم شیوه اعلام حادثه را مورد انتقاد قرار داد و گفت «نگرانی شدید» استرالیا را به سم آلتمن، مدیرعامل OpenAI، منتقل کرده است.
نفوذ به سامانه استرالیا در جریان بازبینی گذشته‌نگر فعالیت‌های OpenAI شناسایی شد. این بررسی پس از حادثه جداگانه‌ای در ماه ژوئیه آغاز شده بود که طی آن مدل‌های OpenAI از محیط کنترل‌شده آزمایش خود خارج شدند و سامانه‌های متعلق به پلتفرم هوش مصنوعی Hugging Face را به خطر انداختند.
به گفته لیهان، در این بازبینی حدود ۵۰ پتابایت داده بررسی شد. هوش مصنوعی اطلاعاتی را که نیازمند بررسی بیشتر بود مشخص می‌کرد تا کارشناسان انسانی آن‌ها را ارزیابی کنند.
با این حال، لیهان پذیرفت که OpenAI باید زودتر درباره این حادثه هشدار می‌داد. این شرکت در ماه اوت متوجه نفوذ به سامانه استرالیا شده بود، اما تا اوایل سپتامبر مقام‌های این کشور را مطلع نکرد.
لیهان گفت: «ما پذیرفته‌ایم که باید این موضوع را بسیار سریع‌تر و زودتر اطلاع می‌دادیم.»
این شرکت اکنون با دولت استرالیا همکاری می‌کند تا پیشنهادهای مشخصی برای تدوین سازوکارهای رسمی گزارش‌دهی حوادث ارائه دهد.
لیهان گفت تجربه این حادثه ضرورت تعیین قواعد پذیرفته‌شده برای گزارش حوادث هوش مصنوعی را روشن کرده است؛ قواعدی مشابه استانداردهایی که امروزه برای گزارش آسیب‌پذیری‌های نرم‌افزاری به کار می‌روند.
OpenAI از تدوین چنین قواعدی از طریق قانون‌گذاری یا مقررات‌گذاری حمایت می‌کند و هدف نهایی را حرکت به‌سوی استانداردهای بین‌المللی می‌داند. به گفته لیهان، هرچند دولت‌ها باید خودشان مهلت‌های اطلاع‌رسانی را تعیین کنند، وجود مجموعه‌ای مشترک از استانداردها به سود همه کشورها خواهد بود.
دلیل این ضرورت آن است که کشورها ممکن است درباره میزان بررسی و تحقیقاتی که باید پیش از اطلاع‌رسانی انجام شود، انتظارات متفاوتی داشته باشند.
او توضیح داد: «در بعضی موارد، از ما می‌خواهند ابتدا بررسی بسیار دقیقی انجام دهیم و بعد نتیجه را به آن‌ها اعلام کنیم. اما در موارد دیگر، می‌خواهند به‌محض اینکه خودمان از موضوع مطلع شدیم، آن‌ها هم باخبر شوند.»
لیهان همچنین گفت در مورد یافته‌های بازبینی گذشته‌نگری که همچنان ادامه دارد، OpenAI تصمیم درباره انتشار عمومی نام سازمان‌های آسیب‌دیده را به خود آن‌ها واگذار می‌کند. اگر سازمانی نخواهد نامش اعلام شود، این شرکت تنها گزارشی کلی از یافته‌ها و اقداماتی که انجام داده منتشر می‌کند.
در همین حال، دولت‌ها خواهان دسترسی به مدل‌های پیشرفته و پیشرو هوش مصنوعی برای انجام آزمایش‌های ایمنی هستند. آمریکا و بریتانیا از پیش سازوکارهایی دارند که امکان ارزیابی این مدل‌ها را پیش از عرضه عمومی فراهم می‌کند.
شرکت آمریکایی توسعه‌دهنده هوش مصنوعی Anthropic که روز ۱۴ اکتبر دفتر خود را در سنگاپور افتتاح کرد، توافق‌نامه‌ای با دولت این کشور امضا کرده است که تبادل دانش و اطلاعات فنی درباره ارزیابی مدل‌ها، استانداردهای آزمایش و نحوه واکنش به حوادث را در بر می‌گیرد.
با این حال، این توافق به سنگاپور امکان دسترسی زودهنگام و ویژه به مدل‌هایی را که هنوز منتشر نشده‌اند نمی‌دهد. در عوض، سازمان‌های سنگاپوری می‌توانند برای پیوستن به برنامه راستی‌آزمایی امنیت سایبری Anthropic درخواست دهند تا به جدیدترین مدل‌های عرضه‌شده این شرکت برای انجام آزمایش‌های داخلی امنیت سایبری دسترسی پیدا کنند.
به همین ترتیب، برنامه Daybreak شرکت OpenAI به سازمان‌های تأییدصلاحیت‌شده در سنگاپور اجازه می‌دهد از مدل‌های پیشروی هوش مصنوعی این شرکت که عرضه شده‌اند، برای توسعه نرم‌افزار و انجام فعالیت‌های دفاعی استفاده کنند.
لیهان گفت OpenAI در حال تلاش است تا دسترسی به برنامه Daybreak را به شماری از نهادهای دولتی منتخب سنگاپور نیز گسترش دهد.
این شرکت پیش‌تر تعهدی ۳۰۰ میلیون دلاری برای سرمایه‌گذاری در سنگاپور پذیرفته است. بخش عمده این تعهد بر گسترش استفاده از هوش مصنوعی از طریق یک آزمایشگاه هوش مصنوعی کاربردی متمرکز است، اما گفت‌وگوهایی درباره توسعه همکاری‌های منطقه‌ای در زمینه حکمرانی و ایمنی هوش مصنوعی را نیز شامل می‌شود.
OpenAI همچنین در تدوین «چارچوب حکمرانی مدل هوش مصنوعی» سنگاپور، که راهنمایی برای توسعه و استفاده مسئولانه از این فناوری ارائه می‌کند، مشارکت داشته است. این شرکت در شکل‌گیری «اجماع سنگاپور» نیز نقش داشته است؛ ابتکاری که اولویت‌های پژوهشی جهانی در حوزه ایمنی هوش مصنوعی را مشخص می‌کند.