آنچه OpenAI درباره نقش مدل‌های هوش مصنوعی خود در تحقیقات ضبط‌کننده مخفی می‌گوید
تصویر منبع
هوش مصنوعی و جرم‌شناسی
آنچه OpenAI درباره نقش مدل‌های خود در تحقیقات ضبط‌کننده مخفی می‌گوید
OpenAI می‌گوید مدل‌های این شرکت به محققان کمک کردند تا یک دستگاه ضبط صوت مخفی را بررسی کنند و تصاویر جرم‌شناسی ذخیره‌سازی آن را تحلیل کنند. این پرونده فدرال همچنین به تصاویر دوربین‌های مداربسته، سوابق دسترسی، دستگاه‌های فیزیکی و درخواست‌های مرتبط با حساب‌ها استناد می‌کند؛ شواهدی که نباید به شکل ساده‌شده با این ادعا بیان شود که «هوش مصنوعی مظنون را شناسایی کرد».
OpenAI می‌گوید مدل‌ها به تحلیل جرم‌شناسی دستگاه کمک کردند
OpenAI اعلام کرده است که مدل‌های خود این شرکت به کارکنان کمک کردند یک دستگاه ضبط پیشرفته را پس از آن‌که در جریان یک بررسی امنیتی در ۳۰ سپتامبر پیدا شد، بررسی کنند و منشأ آن را ردیابی کنند. این شرکت به San Francisco Standard گفته است که محققان از مدل‌ها برای تحلیل تصاویر جرم‌شناسی از حافظه دستگاه و ارزیابی تغییرات داده‌های موجود در کنار کارشناسان انسانی استفاده کردند.
این ادعا محدودتر از آن است که گفته شود یک سیستم هوش مصنوعی به‌طور مستقل نام کارمند را مشخص کرده یا اتهام کیفری را اثبات کرده است. OpenAI تاکنون درخواست‌های واردشده به مدل‌ها، خروجی مدل‌ها، نسخه‌های مورد استفاده، روش اعتبارسنجی یا تحلیل خطای این فرایند را منتشر نکرده است.
بدون دسترسی به این اطلاعات، عموم مردم می‌توانند تأیید کنند که OpenAI می‌گوید مدل‌ها در تحقیقات آن کمک کرده‌اند، اما نمی‌توانند به‌طور مستقل میزان تأثیرگذاری یا قابلیت اعتماد این کمک را ارزیابی کنند.
پرونده فدرال به چندین منبع شواهدی غیرمرتبط با مدل‌ها اشاره می‌کند
گزارش وزارت دادگستری تنها بر خروجی یک مدل هوش مصنوعی تکیه ندارد. این گزارش به دستگاهی که پشت یک تلویزیون قرار داشته، محتوای رمزگذاری‌شده، تصاویر دوربین مداربسته، بررسی‌های داخلی درباره محل و تقویم، درخواست‌های چت‌بات مرتبط با حساب‌ها که ظاهراً به جزئیات دستگاه اشاره داشته‌اند و دومین دستگاه مشابهی که همراه کیف پول و مدارک شناسایی کارمند پیدا شده است، اشاره می‌کند.
این منابع از نظر ارزش اثباتی ویژگی‌های متفاوتی دارند. یک دستگاه فیزیکی قابل بررسی است؛ ویدئوها و گزارش‌های دسترسی دارای زمان‌بندی هستند؛ سوابق حساب‌ها می‌توانند به شناسه‌های مشخص مرتبط شوند؛ و تحلیل مدل‌ها می‌تواند به دسته‌بندی یا مقایسه آثار دیجیتال کمک کند. هیچ‌یک از این موارد به‌تنهایی نویسندگی، قصد یا مجرمیت را ثابت نمی‌کند.
برداشت دقیق‌تر باید این لایه‌ها را جدا نگه دارد: نتیجه‌گیری‌های داخلی OpenAI، ادعاهای مطرح‌شده در شکایت فدرال، شواهد فیزیکی و دیجیتالی اعلام‌شده از سوی دادستان‌ها و یافته‌هایی که دادگاه واقعاً صادر کرده است.
OpenAI می‌گوید اتاق را بست، دفاتر را بررسی کرد و دسترسی‌ها را محدود کرد
بر اساس گزارش San Francisco Standard از بیانیه OpenAI، یک تیم مقابله فنی با نظارت الکترونیکی دستگاه ضبط را پیدا و خارج کرد، اتاق کنفرانس را بست، بررسی‌های امنیتی بیشتری انجام داد و با اف‌بی‌آی تماس گرفت.
OpenAI می‌گوید پس از آن، دسترسی‌های سیستمی و ساختمانی کارمند را به‌صورت مرحله‌ای محدود کرد، دسترسی فیزیکی و شبکه‌ای او را به حالت تعلیق درآورد، او را به مرخصی فرستاد و تجهیزات شرکت را ایمن‌سازی کرد. این شرکت زمان اخراج او را با محققان فدرال هماهنگ کرد و در ۹ اکتبر، روز بازداشت، او را اخراج کرد.
این توالی رویدادها روایت مهار بحران از سوی OpenAI است. این روایت برای درک واکنش شرکت مفید است، اما یک بررسی مستقل درباره این‌که آیا همه اتاق‌ها، دستگاه‌ها یا مسیرهای داده‌ای تحت تأثیر به‌طور کامل پوشش داده شده‌اند، محسوب نمی‌شود.
سوابق عمومی نشان نمی‌دهد چه صوتی ضبط یا منتقل شده است
دادستان‌ها می‌گویند دستگاه ضبط رمزگذاری شده بود. OpenAI نیز طبق گزارش Standard اعلام کرده است که این دستگاه دارای رمزگذاری پیشرفته، قابلیت‌های پایش صوتی و سازوکاری برای انتقال اطلاعات با هدف جلوگیری از نظارت بوده است. هیچ‌یک از این منابع، فایل ضبط‌شده بازیابی‌شده، گزارش انتقال، گیرنده اطلاعات یا تاریخچه کامل عملکرد دستگاه را منتشر نکرده‌اند.
OpenAI می‌گوید هیچ نشانه‌ای ندارد که وزن‌های مدل، کد منبع یا داده‌های مشتریان به‌طور غیرمجاز دسترسی پیدا کرده یا منتقل شده باشد و هیچ مدرکی مبنی بر آسیب به ایمنی محصولات یا اطلاعات مشتریان وجود ندارد. این موارد یافته‌های منفی مهمی از سوی شرکت هستند، اما ثابت نمی‌کنند که دستگاه هیچ صدایی ضبط نکرده است.
پرسش‌های حل‌نشده مشخص هستند: آیا صوتی ذخیره، منتقل یا بازیابی شده است؟ کدام جلسات هم‌زمان با فعال بودن دستگاه برگزار شده‌اند؟ آیا دستگاه‌های دیگری وجود داشته‌اند؟ و تحقیقات ادامه‌دار اف‌بی‌آی چه نتیجه‌ای خواهد داشت؟
جرم‌شناسی با کمک هوش مصنوعی به پذیرش انسانی و قابلیت بازتولید نیاز دارد
این پرونده مرزی عملی برای استفاده از هوش مصنوعی در کارهای امنیتی را نشان می‌دهد. مدل‌ها می‌توانند تصاویر را غربال کنند، آثار ذخیره‌سازی را مقایسه کنند و فرضیه‌هایی پیشنهاد دهند، اما نتیجه‌گیری‌های مهم باید بر شواهد حفظ‌شده، ابزارهای مستندسازی‌شده، تحلیل‌های تکرارپذیر و بررسی انسانی تکیه داشته باشند.
در گزارش‌های عمومی، هر نتیجه‌گیری باید منبع خود را نیز حفظ کند: OpenAI می‌گوید، شکایت ادعا می‌کند، دادستان‌ها گزارش می‌دهند یا دادگاه یافته است. تا ۱۳ اکتبر، سوابق عمومی شامل ادعاهای شرکت و اتهامات فدرال است، نه محکومیت قضایی.
این رویکرد از هر دو سوی ماجرا محافظت می‌کند. از یک سو به شواهد فیزیکی و دیجیتال وزن لازم را می‌دهد و از سوی دیگر مانع می‌شود روایت جذاب «هوش مصنوعی پرونده را حل کرد» فراتر از اطلاعات منتشرشده پیش برود. برای اسناد پرونده و به‌روزرسانی‌های تأییدشده می‌توان صفحه سازمان OpenTools مربوط به OpenAI را دنبال کرد.
تصویر: نمای نزدیک از دستگاه ضبط شماره ۱ که توسط وزارت دادگستری ایالات متحده و دفتر دادستانی ایالات متحده برای ناحیه شمالی کالیفرنیا منتشر شده است. این تصویر مدرکی است که در چارچوب اتهامات یک پرونده در حال رسیدگی به آن استناد شده و به معنای اثبات جرم نیست. تصویر بدون تغییر است و تنها برای نمایش به نسبت ۱۶:۹ برش خورده و کوچک‌سازی شده است.