سم آلتمن سه سناریو برای آینده رقابت بر سر ایمنی هوش مصنوعی ترسیم کرد
نویسنده: زک مینک | ۲۱ اکتبر ۲۰۲۶
صبح بخیر، علاقه‌مندان به هوش مصنوعی! به ۴۷۶۱ خواننده جدیدی که به جمع ما پیوسته‌اند خوشامد می‌گوییم. رویکرد فعلی اوپن‌ای‌آی به ایمنی هوش مصنوعی، یعنی عرضه مدل‌ها پس از عبور از آزمون‌های ایمنی و اعلام هرگونه نگرانی، همان چیزی است که به گزارش‌ها، سم آلتمن آن را «نسخه ۱.۰ تنظیم سرعت» می‌نامد. گزینه‌های مرحله بعدی بسیار افراطی‌ترند.
گفته می‌شود آلتمن سه نتیجه احتمالی را با کارکنانش در میان گذاشته است: تشکیل یک نهاد نظارتی جهانی، ادغام آزمایشگاه‌های پیشرو در یک ابرآزمایشگاه واحد یا پیشتازی یک آزمایشگاه در رقابتی که به تعبیر او، «پردازنده‌های گرافیکی همه را دیگران ذوب کند». او این گزینه آخر را «وحشتناک» خوانده است. اوپن‌ای‌آی اکنون یک سال فرصت دارد تا مسیر خود را انتخاب کند.
تحولات تازه
اوپن‌ای‌آی
سم آلتمن سه سناریوی نهایی برای آینده صنعت هوش مصنوعی را تشریح کرد
خلاصه: به گزارش وب‌سایت The Information، سم آلتمن، مدیرعامل اوپن‌ای‌آی، هفته گذشته در جلسه‌ای داخلی با کارکنان درباره سه سناریوی احتمالی برای دستیابی به هوش مصنوعی ایمن صحبت کرده است. این سناریوها از ایجاد نهادی نظارتی در سطح جهان تا ادغام آزمایشگاه‌های پیشرو و در نهایت پیشتازی بی‌رقیب یک شرکت را در بر می‌گیرند.
جزئیات:
- بر اساس این گزارش، آلتمن از طرح نخست حمایت می‌کند: ایجاد نهادی جهانی با قدرت نظارتی و اجرایی، مشابه آژانس بین‌المللی انرژی اتمی. اوپن‌ای‌آی از سال ۲۰۲۳ برای شکل‌گیری چنین نهادی تلاش کرده است.
- طرح موسوم به «طرح دمیس»، که نامش را از دمیس هاسابیس، هم‌بنیان‌گذار دیپ‌مایند، گرفته است، آزمایشگاه‌های پیشرو را در یک مجموعه واحد ادغام می‌کند تا به کشورهای شریک خدمت‌رسانی کند. این الگو به فعالیت‌های پژوهشی مرکز اروپایی پژوهش‌های هسته‌ای (CERN) در حوزه فیزیک ذرات شباهت دارد.
- آلتمن سناریوی سوم را که به نام الیزر یودکوفسکی، پژوهشگر هوش مصنوعی، نام‌گذاری شده است، «وحشتناک» خواند. در این سناریو، یک آزمایشگاه با اتکا به هوش مصنوعی خودبهبوددهنده چنان از رقبا پیش می‌افتد که به تعبیر او، «پردازنده‌های گرافیکی همه را دیگران ذوب می‌کند».
- آلتمن انتخاب مسیر نهایی طی یک سال آینده را «نسخه ۲.۰ تنظیم سرعت» نامیده است. به گفته او، این مسیر باید شامل تعیین یک «محدودیت سرعت» یا نقطه توقف برای هوش مصنوعی خودبهبوددهنده باشد.
چرا اهمیت دارد: جک کلارک از شرکت آنتروپیک نیز اخیراً درباره تعیین سقفی برای سطح هوش سامانه‌ها صحبت کرده و گفته است جهان فقط «چند سال» برای اقدام در زمینه ایمنی فرصت دارد. سناریوهای آلتمن ظاهراً با دیدگاه رقیب اصلی او هم‌راستا هستند. گرد هم آوردن آزمایشگاه‌های پیشرو زیر یک سقف، شبیه تیمی از ابرقهرمانان، ایده‌ای جذاب برای یک داستان است؛ اما همان‌طور که تجربه توافق‌های پیشین نشان داده، همراه کردن سایر بازیگران این حوزه کار آسانی نیست.
آردا
استارتاپ آردا متعلق به مدیر پیشین تحقیقات اوپن‌ای‌آی با ارزش‌گذاری ۱.۵ میلیارد دلاری معرفی شد
خلاصه: باب مک‌گرو، مدیر ارشد پیشین تحقیقات اوپن‌ای‌آی، از استارتاپ آردا رونمایی کرده است. این شرکت هوش مصنوعی‌ای می‌سازد که به کارخانه‌ها کمک می‌کند خطوط مونتاژ محصولات جدید را بسیار سریع‌تر راه‌اندازی کنند. آردا فعالیت خود را با ارزش‌گذاری ۱.۵ میلیارد دلاری آغاز کرده و در دور تأمین مالی سری A، مبلغ ۱۶۰ میلیون دلار جذب کرده است.
جزئیات:
- مک‌گرو می‌گوید آردا برای مهندسان تولید همان کاری را انجام می‌دهد که کلود یا کورسر برای برنامه‌نویسان انجام می‌دهند: این سامانه با استفاده از فایل‌های طراحی، فرایند تولید را برنامه‌ریزی می‌کند.
- نمونه مقایسه‌ای مورد اشاره، کارخانه‌های آسیایی هستند که در آن‌ها گروه‌های بزرگی از کارکنان می‌توانند در یک روز با طراحی جدیدی سازگار شوند؛ در مقابل، برنامه‌ریزی مجدد یک ایستگاه خودکار ممکن است نزدیک به یک میلیون دلار هزینه داشته باشد.
- شرکت دفاعی آندوریل، نخستین مشتری آردا، می‌گوید تهیه دستورالعمل‌های اولیه مونتاژ که پیش‌تر ۱۰ ساعت زمان می‌برد، اکنون فقط ۱۵ دقیقه طول می‌کشد. این شرکت همچنین گفته است بدون این فناوری از رقبا عقب می‌ماند.
- هدف بعدی مک‌گرو وارد کردن ربات‌ها به خطوط تولید است؛ به‌گونه‌ای که عامل‌های هوش مصنوعی آردا بتوانند ظرف چند روز آن‌ها را دوباره برنامه‌ریزی کنند. او هدف نهایی را «نسخه‌ای کاملاً خودکار از شنژن در غرب تگزاس» توصیف کرده است.
چرا اهمیت دارد: مک‌گرو به فهرست مدیران و پژوهشگران جداشده از اوپن‌ای‌آی، از جمله میرا موراتی و ایلیا سوتسکور، پیوسته است که اکنون استارتاپ‌هایی با ارزش میلیارد دلاری اداره می‌کنند. با این حال، آردا از معدود شرکت‌هایی در این گروه است که به‌جای ساخت مدل‌های پیشرفته هوش مصنوعی، بر ایجاد کارخانه‌ها تمرکز دارد. این رونمایی همچنین چند ماه پس از آن صورت می‌گیرد که شرکت پرومتئوس متعلق به جف بزوس، برای توسعه نوعی «مهندس عمومی مصنوعی» با تمرکز بر طراحی محصولات فیزیکی، ۱۲ میلیارد دلار سرمایه جذب کرد.
هوش مصنوعی و کشف دارو
کلود آنتروپیک به مقابله با زهر عقرب کمک می‌کند
خلاصه: شرکت آنتروپیک پژوهش تازه‌ای منتشر کرده است که در آن یک سامانه هوش مصنوعی داخلی، پروتئین‌هایی طراحی کرده تا به سموم موجود در زهر عقرب متصل شوند و آن‌ها را خنثی کنند. این پژوهش با همکاری شرکت سرمایه‌گذاری سیترینـی ریسرچ انجام شد و دو آزمایشگاه مستقل تأیید کردند که ۱۷ مورد از ۲۱۱ طرح بررسی‌شده عملکرد موفقی در اتصال به سموم داشته‌اند.
جزئیات:
- پنج نفر از کارکنان سیترینـی پس از آنکه نتوانستند محدودیت ایمنی را در رایانه‌های شخصی خود برطرف کنند، کار را در دفاتر آنتروپیک ادامه دادند. بودجه این پروژه حدود ۲۰۰ هزار دلار برآورد شده است.
- کلود به مدت ۶۴ ساعت و با دریافت تنها پنج پیام از انسان فعالیت کرد. این سامانه ۳۱۸٬۴۸۴ طرح پیشنهادی تولید کرد و ۲۱۱ مورد را برای آزمایش‌های آزمایشگاهی به شرکت‌های توئیست بایوساینس و آداپتیو بایو فرستاد.
- از میان این طرح‌ها، ۱۷ مورد آزمون‌های اتصال را با موفقیت پشت سر گذاشتند. با این حال، هر پروتئین فقط به یکی از سموم متصل می‌شود و هنوز آزمایشی انجام نشده است که نشان دهد این پروتئین‌ها واقعاً می‌توانند اثر زهر را خنثی کنند.
- سیترینـی آزمایش بلندپروازانه خود برای ساخت پادزهر عمومی را «ناموفق» اعلام کرد، اما نتیجه‌گیری اصلی این بود که «مرز توانمندی‌ها جابه‌جا شده است» و هوش مصنوعی اکنون نقش متفاوتی در کشف دارو ایفا می‌کند.
چرا اهمیت دارد: کلود توانسته است پروتئین‌هایی طراحی کند که به مولکول‌های هدف متصل می‌شوند و در فرایند آزمایشگاهی نیز مشارکت داشته باشد. نکته مهم این است که هدایت کار با افرادی بوده که از کارکنان یک خبرنامه سرمایه‌گذاری بوده‌اند، بودجه‌ای ۲۰۰ هزار دلاری داشته‌اند و تجربه عمیقی در توسعه دارو نداشته‌اند. با در نظر گرفتن پیشرفت مداوم هوش مصنوعی، روند تولید پژوهش‌های علمی ممکن است به‌طور چشمگیری تغییر کند.
خبرهای کوتاه
نمونه کاربرد هوش مصنوعی در میان مخاطبان
جیمز با کمک کلود، مهره‌ای رزوه‌دار را با چاپ سه‌بعدی ساخت.
نمونه امروز را یکی از خوانندگان، جیمز میلر، فرستاده است:
«یک مهره استوانه‌ای سفارشی با رزوه ساختم و آن را با چاپ سه‌بعدی تولید کردم، بی‌آنکه حتی یک بار اتوکد را باز کنم. از چاپگر سه‌بعدی برای ساخت قطعات پروژه‌های مختلف، از جمله یک دستگاه پین‌بال و یک قایق، استفاده می‌کنم، اما کار با اتوکد برایم دشوار است.
در عوض، قطعه را با زبان ساده برای کلود توضیح دادم و از آن خواستم یک فایل با فرمت .3mf بسازد. سپس فایل را در نرم‌افزار بامبو استودیو باز کردم و قطعه را چاپ کردم.»
دیگر تحولات روز هوش مصنوعی
رادیکال نومریکس ادعا کرده است به دستاوردی بی‌سابقه در زمینه داروی طراحی‌شده با هوش مصنوعی رسیده است. این شرکت می‌گوید سازمان غذا و داروی آمریکا (FDA) استفاده از ویروسی را تأیید کرده که هوش مصنوعی Omnii-1 آن را برای بیماری طراحی کرده است که عفونتش به درمان مقاوم بوده است.
تور گراپل، پژوهشگر پیشین دیپ‌مایند، از استارتاپ متیس ریزنینگ رونمایی کرد. این شرکت می‌خواهد با به‌کارگیری روش‌هایی الهام‌گرفته از آلفاگو، به چت‌بات‌ها امکان دهد پاسخ‌های خود را با شواهد موجود تطبیق دهند و صحت آن‌ها را بررسی کنند.
دیپ‌سیک، آزمایشگاه هوش مصنوعی چین، کد منبع DeepInfer را منتشر کرد؛ موتوری که هوش مصنوعی V4.1-Flash این شرکت را اجرا می‌کند. پشتیبانی از تراشه‌های هواوی به شرکت‌ها امکان می‌دهد این مدل را بدون سخت‌افزار انویدیا اجرا کنند.
اسکای‌فال ای‌آی از SKY-001 رونمایی کرد؛ سامانه‌ای که طرح‌های سه‌بعدی قطعات و ساختمان‌ها را بیش از ۵۱ برابر سریع‌تر و با هزینه‌ای به‌مراتب کمتر از مدل‌های پیشرفته هوش مصنوعی تولید می‌کند.
اوپن‌ای‌آی خرید شرکت اورکسترا بایو را اعلام کرد. این استارتاپ عامل‌های هوش مصنوعی‌ای توسعه می‌دهد که مطالعات را پیگیری و پایش می‌کنند و قرار است به مجموعه ابزارهای علمی هوش مصنوعی روزالیند در اوپن‌ای‌آی اضافه شود.