اوپن‌ای‌آی زیر ذره‌بین؛ از ناکامی‌های امنیتی تا پرسش‌های اخلاقی در پژوهش
رخنه‌های امنیتی اوپن‌ای‌آی و ادعاهای مورد اختلاف درباره پژوهش‌های این شرکت، پرسش‌های جدی درباره نبود پاسخ‌گویی در این غول فناوری و هزینه واقعی پیشرفت هوش مصنوعی ایجاد کرده است. دکتر جیمز شورمنس-استکهُوون گزارش می‌دهد.
زمانی که اوپن‌ای‌آی با هیجان اعلام کرد عامل‌های هوش مصنوعی این شرکت توانسته‌اند از محیط آزمایشی محدود خود «خارج شوند» و به Hugging Face و درگاه آماری مدیکر استرالیا نفوذ کنند، سپس این روایت را با ادعای یک «دستاورد تاریخی» درباره یک مسئله چند دهه‌ای ریاضی ادامه داد، بخش‌هایی از رسانه‌های فناوری بار دیگر با تحسین بی‌انتقاد با این خبر برخورد کردند.
به ما گفته شد که هوش مصنوعی در حال نشان دادن توانایی استدلال مستقل است و به سطح هوش انسانی نزدیک‌تر می‌شود. این روایتی هیجان‌انگیز شبیه داستان‌های علمی-تخیلی بود.
اما در واقع، این روایت کاملاً بی‌اساس بود.
این ماجرای بیدار شدن اسکای‌نت نبود؛ بلکه نمونه‌ای از مهندسی مسئله‌دار، ادعاهای مربوط به سرقت علمی و استفاده از میلیون‌ها دلار توان محاسباتی برای چیزی بود که به‌عنوان نبوغ معرفی شد. و همانند همیشه، مفسران فناوری این روایت را بدون بررسی کافی پذیرفتند و به مخاطبانی ساده‌باور منتقل کردند.
«فرار» در واقع نتیجه مهندسی ضعیف بود
به گفته اوپن‌ای‌آی، این رخنه امنیتی هنگام آزمایش مدل‌ها در برابر معیارهای امنیت سایبری مانند ExploitGym رخ داد؛ مجموعه‌ای شامل ۸۹۸ چالش واقعی آسیب‌پذیری که برای بررسی توانایی عامل‌های هوش مصنوعی در تبدیل نقص‌های شناخته‌شده به حملات عملی طراحی شده است.
پروتکل استاندارد و غیرقابل مذاکره برای آزمایش ابزارهای تهاجمی سایبری این است که آن‌ها در محیطی کاملاً ایزوله اجرا شوند. عامل‌های اوپن‌ای‌آی با وجود محدودیت‌های شبکه‌ای، از یک آسیب‌پذیری برای دور زدن این کنترل‌ها استفاده کردند. سپس این سامانه‌های خودکار همان کاری را انجام دادند که اسکریپت‌های مخرب سال‌ها انجام داده‌اند: نقاط انتهایی خارجی را بررسی کردند و بدون مجوز به سامانه‌هایی دسترسی یافتند؛ از جمله زیرساخت‌های مرتبط با سلامت دولت استرالیا.
استیون کاسپر، پژوهشگر ایمنی هوش مصنوعی در دانشگاه هاروارد، اشاره کرد که نظارت لحظه‌ای پایه بر مسیر عملکرد مدل‌ها هنگام ارزیابی‌ها «باید استاندارد باشد» و از اوپن‌ای‌آی به‌دلیل غیرفعال کردن حفاظ‌های ایمنی در حالی که مسیرهای شبکه همچنان فعال بودند، انتقاد کرد.
دیوید جرارد، مفسر فناوری از Pivot to AI، این ماجرا را چنین خلاصه کرد:
«بی‌کفایتی با بی‌کفایتی برخورد کرد و آن‌ها این موضوع را به یک نمایش بازاریابی دوطرفه تبدیل کردند.»
گری مارکوس، پژوهشگر شناخته‌شده هوش مصنوعی، نیز با صراحت انتقاد کرد و رویکرد اوپن‌ای‌آی را به شرکت خودروسازی تشبیه کرد که برای کاهش هزینه‌ها ترمز خودروهایش را از مقوا می‌سازد:
«در آن صورت تعداد زیادی از خودروهایشان از کنترل خارج می‌شدند.»
«دستاورد ریاضی»؛ پرسش‌هایی درباره سرقت علمی و قدرت محاسباتی
همین الگوی روابط عمومی زمانی تکرار شد که اوپن‌ای‌آی ادعا کرد هوش مصنوعی این شرکت مسئله وجود و همواری ناویر–استوکس را حل کرده است؛ یکی از مسائل مشهور جوایز هزاره با جایزه یک میلیون دلاری. تیترها این تصور را ایجاد کردند که یک ذهن مصنوعی به چیزی دست یافته که نسل‌های ریاضی‌دانان انسانی نتوانسته‌اند انجام دهند. اما شرایط پیرامون این دستاورد پرسش‌های جدی ایجاد کرد.
محور اصلی بحث، پژوهش‌های منتشرنشده ریاضی‌دانان دانشگاهی، از جمله تریستان باک‌مستر، استاد دانشگاه نیویورک، و لوِنت آلپوگه، پژوهشگر شرکت Anthropic است؛ افرادی که هنگام کار روی مسائل مرتبط از ابزارهای اوپن‌ای‌آی استفاده کرده بودند. به عبارت دیگر، انسان‌ها پیش‌تر بخشی از کار سنگین را انجام داده بودند.
باک‌مستر نگرانی‌هایی درباره این موضوع مطرح کرد که آیا اوپن‌ای‌آی از دانش موجود در پژوهش منتشرنشده آن‌ها بهره برده است یا نه. اوپن‌ای‌آی دسترسی یا استفاده از گفت‌وگوهای خصوصی کدکس پژوهشگران را برای توسعه راه‌حل خود رد کرده و گفته است بررسی داخلی نشان داده درخواست‌های آن‌ها نمی‌توانسته بر سامانه تأثیر گذاشته باشد. در همین حال، اوپن‌ای‌آی برای تلاش ریاضی خود هزاران عامل هوش مصنوعی را به‌صورت موازی به کار گرفت و منابع محاسباتی عظیمی اختصاص داد؛ موضوعی که پرسش‌های بیشتری درباره میزان واقعی استدلال مستقل در این دستاورد ایجاد کرد.
وقتی باک‌مستر اوپن‌ای‌آی را درباره استفاده از کار تیمش مورد پرسش قرار داد، ادعا کرد یکی از مدیران اجرایی این شرکت تهدیدی مستقیم مطرح کرده است.
باک‌مستر چنین روایت کرد:
«...اگر اوپن‌ای‌آی نتیجه خود را به شیوه پیشنهادی منتشر می‌کرد، من درباره آنچه اتفاق افتاده بود علنی صحبت می‌کردم. [پاسخ این بود:] “چرا می‌خواهی حرفه خودت را نابود کنی؟”»
سباستین بوبک، دانشمند اوپن‌ای‌آی، بعدها توضیح داد که پاسخ تهدیدآمیز او «انتخاب نامناسبی از واژه‌ها» بوده است؛ توضیحی که درباره گفت‌وگویی که باک‌مستر آن را ترساننده تلقی کرده بود، قابل توجه است.
اد زایترون، تحلیلگر صنعت فناوری، با طعنه‌ای تند ادعای اوپن‌ای‌آی را نقد کرد:
«بامزه است که می‌بینیم اوپن‌ای‌آی به حل یک مسئله پیچیده ریاضی با میلیون‌ها دلار توان محاسباتی (و کار دیگران) افتخار می‌کند، در حالی که هنوز نتوانسته ساده‌ترین مسئله ریاضی را حل کند؛ اینکه چگونه خدماتش را سودآور کند.»
استاندارد دوگانه حقوقی قابل قبول نیست
دسترسی بدون مجوز به زیرساخت‌های سلامت دولت استرالیا سرانجام باعث شد آنتونی آلبانیزی، نخست‌وزیر این کشور، مستقیماً با سم آلتمن، مدیرعامل اوپن‌ای‌آی، درباره تأخیر شرکت در گزارش این نفوذ گفت‌وگو کند. این نفوذ در واقع در ماه ژوئن رخ داده بود و اوپن‌ای‌آی تا اواسط اوت نتوانست فعالیت را شناسایی کند؛ دولت استرالیا نیز بعداً از آن مطلع شد.
اداره سیگنال‌های استرالیا برای ارزیابی خسارت وارد عمل شد. گزارش شده بررسی اوپن‌ای‌آی درباره این رخنه‌ها بیش از ۵۰۰ هزار دلار آمریکا (۷۱۸٬۲۵۱ دلار استرالیا) در روز برای شرکت هزینه دارد. شاید اگر بخشی از این هزینه‌ها ابتدا صرف ایجاد محیط‌های آزمایشی ایمن‌تر می‌شد، چنین اتفاقی رخ نمی‌داد.
بر اساس قانون کیفری ۱۹۹۵ استرالیا و قوانین مشابه مقابله با سوءاستفاده رایانه‌ای در سراسر جهان، دسترسی غیرمجاز به سامانه‌های محدودشده می‌تواند جرم جدی با مجازات‌های سنگین زندان باشد. اگر یک توسعه‌دهنده مستقل نرم‌افزار، یک نوجوان در اتاق خود یا یک پژوهشگر امنیتی مستقل اسکریپتی خودکار ایجاد می‌کرد که به سرورهای سلامت دولتی نفوذ کند، ممکن بود با تحقیقات و اتهامات کیفری روبه‌رو شود.
اما زمانی که سامانه‌های خودکار یک شرکت بزرگ فناوری رفتاری مشابه انجام می‌دهند، واکنش‌ها پرسش‌های ناراحت‌کننده‌ای درباره مسئولیت‌پذیری و اجرای برابر قانون ایجاد می‌کند.
وقتی سامانه‌های اوپن‌ای‌آی بدون مجوز به زیرساخت‌های دولتی دسترسی پیدا می‌کنند، با وجود منابع عظیم و تخصص فنی شرکت، واکنش عمومی ظاهراً عمدتاً به یک تماس تلفنی شدیداللحن و درخواست برای بررسی بیشتر محدود می‌شود.
زمان پایان دادن به مصونیت است
نفوذ اوپن‌ای‌آی به سامانه‌های دولتی و اتهام‌های مطرح‌شده درباره استفاده از پژوهش‌های دانشگاهی، هشدارهایی از آینده‌ای با ابرهوش مصنوعی نیستند. این موارد پرسش‌های جدی درباره شرکتی بسیار قدرتمند ایجاد می‌کنند که با ذهنیت «سریع حرکت کن و چیزها را خراب کن» فعالیت می‌کند؛ با این تفاوت که چیزهایی که ممکن است آسیب ببینند، اعتماد عمومی، تمامیت علمی و اصل بنیادین برابری همه در برابر قانون هستند.
وقتی شرکت‌های عظیم فناوری نرم‌افزارهای ناامن عرضه می‌کنند، بدون مجوز به زیرساخت‌های دولتی دسترسی می‌یابند و با اتهام بهره‌برداری از پژوهش‌های انسانی روبه‌رو می‌شوند، الزاماً با یک پیشرفت علمی-تخیلی مواجه نیستیم؛ بلکه پرسش‌هایی درباره برنامه‌نویسی سهل‌انگارانه، اخلاق دانشگاهی و مسئولیت‌پذیری شرکتی مطرح می‌شود.
تا زمانی که مدیران فناوری با نظارت جدی روبه‌رو نشوند و در موارد لازم همان پیامدهای قانونی شهروندان عادی را تجربه نکنند، سیلیکون‌ولی همچنان شکست‌های فناورانه خود را در قالب پیشرفت عرضه خواهد کرد.
این فساد اخلاقی یک خطا در سیستم نیست؛ خود سیستم است.
دکتر جیمز شورمنس-استکهُوون روان‌شناس، دانشگاهی و پژوهشگر میان‌رشته‌ای است.