Anthropic فاش کرد یکی از مدل‌های هوش مصنوعی‌اش در پرونده قتلی حل‌نشده گزارش جعلی ارسال کرده است؛ پلیس دو ماه بعد در جریان قرار گرفت
هوش مصنوعی‌های فریبکار برای شرکت‌های سهامی عام دارایی محسوب نمی‌شوند.
کریس نایگر، The Motley Fool
نکات کلیدی
- اینکه یک عامل هوش مصنوعی درباره یک قتل حل‌نشده گزارش جعلی ارسال کند، حتی برای شرکت محبوبی مانند Anthropic نیز اتفاق خوبی نیست.
- ممکن است مدیران Anthropic میزان جدیتی را که سرمایه‌گذاران برای چنین حوادثی قائل می‌شوند دست‌کم گرفته باشند.
در ماه‌های اخیر، گزارش‌های منفی زیادی درباره رفتار نامناسب مدل‌های هوش مصنوعی در اینترنت منتشر شده است؛ مدل‌هایی که گاهی کارهایی انجام می‌دهند که از آنها خواسته نشده است. یکی از تازه‌ترین نمونه‌های ناهماهنگی هوش مصنوعی که فاش شده، به یکی از مدل‌های Claude شرکت Anthropic مربوط می‌شود که درباره یک قتل حل‌نشده، گزارشی جعلی به پلیس فیلادلفیا ارسال کرده است.
اینکه Claude چنین کاری انجام داده، آشکارا مشکل‌ساز است؛ اما مدت زمانی که طول کشید تا Anthropic متوجه ماجرا شود و سپس پلیس را در جریان بگذارد ــ حدود دو ماه ــ مشکل دیگری برای این شرکت ایجاد می‌کند.
اگر Anthropic تصور می‌کند این ماجرا در حال حاضر فقط یک خبر منفی است، ممکن است در صورتی که حادثه مشابهی در حوالی زمان عرضه اولیه سهام مورد انتظار شرکت کشف شود، با غافلگیری ناخوشایندی روبه‌رو شود. برخی سرمایه‌گذاران همین حالا نیز نگران‌اند که سهام شرکت‌های هوش مصنوعی تنها عاملی باشد که بازار را سرپا نگه داشته است؛ به‌ویژه با توجه به اینکه در حال حاضر ۴ سهم از هر ۱۰ سهم شاخص S&P 500 (SNPINDEX: ^GSPC) در محدوده منفی قرار دارند.
در ادامه توضیح می‌دهیم چرا زمان‌بندی افشای این حادثه از سوی Anthropic مشکل‌ساز است.
هوش مصنوعی‌های سرکش یک بدهی هستند
کلیشه رایج را فراموش کنید: وقتی صحبت از شرکت‌هایی است که در آستانه ورود به بورس قرار دارند، واقعاً چیزی به نام «تبلیغات بد» وجود دارد. هم سرمایه‌گذاران نهادی و هم سرمایه‌گذاران حقیقی ممکن است تحت تأثیر گزارش‌های منفی رسانه‌ها قرار بگیرند، زیرا هیچ‌کس نمی‌خواهد سهام یک عرضه اولیه را بخرد که ممکن است بلافاصله پس از انتشار خبر بد، قیمتش کاهش پیدا کند.
به نظر می‌رسد OpenAI دقیقاً از چنین وضعیتی نگران است؛ چراکه سم آلتمن، مدیرعامل این شرکت، اخیراً گفته است که شرکتش امسال وارد بورس نخواهد شد. این تصمیم پس از آن گرفته شد که شرکت به‌طور محرمانه دفترچه عرضه اولیه خود را ثبت کرده بود. مدیران OpenAI پس از انتشار خبر فرار گروهی از عوامل هوش مصنوعی مبتنی بر ChatGPT از محیط آزمایشی خود در تابستان و هک‌کردن پلتفرم هوش مصنوعی HuggingFace ــ که اکنون متعلق به Nvidia است ــ درباره این تصمیم دچار تردید شدند.
به نظر نمی‌رسد Anthropic چنین ملاحظاتی داشته باشد.
با توجه به اینکه دو ماه طول کشید تا Anthropic متوجه شود Claude آن گزارش جعلی را به پلیس فیلادلفیا ارسال کرده است، این مسئله می‌تواند برای شرکت مشکل‌ساز شود. شرکت اعلام کرد به محض اینکه از اقدام Claude مطلع شد، ظرف چند روز پلیس را در جریان گذاشت.
پلیس فیلادلفیا گفت فاصله زمانی کلی میان ارسال گزارش و اطلاع‌رسانی به پلیس «غیرقابل‌قبول» بوده است؛ هرچند این گزارش هرگز در عمل پیگیری نشد و مستقیماً به پوشه هرزنامه منتقل شده بود.
Claude به‌طور مشخص از انجام ندادن این کار منع نشده بود؛ بنابراین، از نظر فنی، این مدل در این مورد خاص از کنترل خارج نشده بود.
با این حال، اگر سرمایه‌گذاران بالقوه در حال بررسی خرید سهام Anthropic پس از ورود شرکت به بورس باشند ــ اتفاقی که ممکن است پیش از پایان امسال رخ دهد ــ این حادثه باید برای آنها یک علامت هشدار باشد. اگر چیزی در چند ماه گذشته آشکار شده باشد، این است که شرکت‌های هوش مصنوعی مدل‌های خود را با مسئولیت‌پذیری کافی آزمایش یا مهار نمی‌کنند.
حتی بدون گزارش‌های جعلی، عرضه‌های اولیه سهام پرریسک‌اند
اگر فعلاً ماجرای گزارش جعلی را کنار بگذاریم، دلیل مهم دیگری نیز وجود دارد که سرمایه‌گذاران ممکن است بخواهند پس از عرضه عمومی سهام Anthropic برای خرید آن دست نگه دارند.
داده‌های بیش از یک‌ربع قرن نشان می‌دهد شرکت‌هایی با ارزش بیش از ۱۰ میلیارد دلار، در هفته نخست پس از عرضه اولیه سهام خود به‌طور میانگین ۲۶٫۵ درصد رشد قیمت دارند؛ اما پس از ۱۲ ماه، میانگین رشد آنها در نهایت فقط ۳٫۵ درصد است.
خلاصه اینکه سهام عرضه‌های اولیه نوسان قیمتی نسبتاً شدیدی دارند و احتمالاً خرید فوری آنها پس از عرضه تصمیم مناسبی نیست.
از سوی دیگر، تقریباً قطعی است که اخبار بیشتری درباره ناهماهنگی هوش مصنوعی خواهیم شنید؛ از مدل‌هایی که دست‌کم به شیوه‌های غیرمنتظره عمل می‌کنند تا مدل‌هایی که در بدترین حالت به هک سامانه‌ها دست می‌زنند. بنابراین، چندان دور از ذهن نیست که عرضه عمومی سهام Anthropic با نوسان و دشواری زیادی همراه شود.