ایمنی یا کنترل هوش مصنوعی؟ یان لوکان از درخواست‌های آنتروپیک برای کند کردن توسعه انتقاد کرد

یان لوکان، از چهره‌های پیشگام هوش مصنوعی، با افزایش درخواست‌ها برای اعمال کنترل‌های سخت‌تر بر هوش مصنوعی پیشرفته مخالفت کرده و هشدار داده است که نگرانی‌های مربوط به ایمنی این فناوری نباید بهانه‌ای برای کند کردن توسعه یا محدود کردن دسترسی عمومی به مدل‌های قدرتمند شود.

این دانشمند علوم رایانه که جایزه تورینگ را دریافت کرده است، در مصاحبه‌ای در هتل وستین چوسان سئول، از رویکرد داریو آمودی، مدیرعامل آنتروپیک در زمینه ایمنی هوش مصنوعی انتقاد کرد. لوکان پرسید آیا هشدارها درباره خطرات احتمالی این فناوری به‌تنهایی می‌تواند مبنای کافی برای محدود کردن دسترسی به آن باشد و گفت چنین نگرانی‌هایی ممکن است در خدمت منافع تجاری و سیاسی نیز قرار گیرد.

اظهارات او نشان‌دهنده شکاف رو به گسترش در صنعت هوش مصنوعی است؛ شکافی که حول این پرسش شکل گرفته است: توسعه‌دهندگان چگونه باید میان حفاظت از جامعه در برابر خطرات احتمالی و جلوگیری از کنترل فناوری‌های قدرتمند توسط تعداد محدودی شرکت تعادل برقرار کنند؟

ایمنی هوش مصنوعی یا کنترل آن؟

لوکان رویکرد آنتروپیک را بیش از حد محدودکننده می‌داند. به گفته او، در حالی که سم آلتمن، مدیرعامل اوپن‌ای‌آی، بر احتیاط در عرضه سامانه‌های هوش مصنوعی تأکید کرده است، آمودی موضع سخت‌گیرانه‌تری درباره در دسترس قرار دادن عمومی مدل‌های قدرتمند اتخاذ کرده است.

این بحث تنها درباره سرعت پیشرفت هوش مصنوعی نیست؛ بلکه درباره این است که چه کسانی امکان توسعه این فناوری را دارند، چه کسانی می‌توانند محدودیت‌های آن را بررسی کنند و در نهایت چه کسی بر نحوه استفاده از آن کنترل خواهد داشت.

لوکان پیش‌تر استدلال کرده است که هشدارها درباره خطرات هوش مصنوعی می‌توانند برای اثرگذاری بر سیاست‌های دولت‌ها به شیوه‌ای استفاده شوند که به نفع شرکت‌های تثبیت‌شده باشد. به گزارش نشریه کره‌ای چوسان، او آنتروپیک را متهم کرده است که خطرات هوش مصنوعی را به شکلی برجسته می‌کند که ممکن است دولت‌ها را به وضع محدودیت‌های بیشتر ترغیب کند.

او معتقد است محدود کردن دسترسی به وزن‌های مدل، یعنی پارامترهای عددی که رفتار یک مدل آموزش‌دیده را شکل می‌دهند، می‌تواند باعث تمرکز دانش فنی و نفوذ در میان شمار اندکی از سازمان‌ها شود.

در مقابل، مدل‌های در دسترس عموم به پژوهشگران و توسعه‌دهندگان اجازه می‌دهند سامانه‌های موجود را بررسی کنند، آن‌ها را برای کاربردهای جدید تغییر دهند و بر پایه کارهای پیشین توسعه دهند. لوکان باور دارد این مشارکت گسترده برای جلوگیری از تبدیل شدن توسعه هوش مصنوعی به حوزه انحصاری چند شرکت قدرتمند ضروری است.

او برای توضیح مخالفت خود با محدود کردن دسترسی به دانش، به تلاش‌های تاریخی برای جلوگیری از انتشار اطلاعات اشاره کرد و محدودیت‌های هوش مصنوعی را با ممنوعیت گزارش‌شده چاپ در امپراتوری عثمانی در قرن پانزدهم مقایسه کرد. استدلال کلی او این است که محدود کردن دسترسی به یک فناوری تحول‌آفرین می‌تواند گردش گسترده‌تر دانش و تخصص را مختل کند.

چرا لوکان با هشدارهای درباره خطرات هوش مصنوعی مخالف است؟

مخالفت لوکان با محدودیت‌های گسترده، به ارزیابی او از توانایی‌های کنونی هوش مصنوعی نیز مرتبط است. او پرسیده است که آیا مدل‌های زبانی بزرگ فعلی واقعاً توجیه‌کننده هشدارها درباره تهدیدی وجودی برای بشریت هستند و استدلال کرده که محدودیت‌های این سامانه‌ها همچنان قابل توجه است.

دیدگاه او این فرض را به چالش می‌کشد که هرچه سامانه‌های هوش مصنوعی توانمندتر می‌شوند، باید به‌طور خودکار با سیاست‌های انتشار محدودکننده‌تری روبه‌رو شوند. از نظر لوکان، نگرانی درباره خطرات آینده باید در کنار توانایی‌های واقعی سامانه‌های امروزی و راهکارهای فنی موجود برای مدیریت رفتار آن‌ها سنجیده شود.

این به معنای نادیده گرفتن همه خطرات هوش مصنوعی نیست. لوکان معتقد است واکنش‌ها باید متناسب با توانایی‌ها و محدودیت‌های سامانه‌های مورد بحث باشد، نه اینکه بر سناریوهای بدترین حالت برای توجیه محدودیت‌های گسترده تکیه کند.

این اختلاف دیدگاه، دو رویکرد متفاوت نسبت به عدم قطعیت را نشان می‌دهد. طرفداران احتیاط بیشتر می‌گویند زمانی که پیامدهای عرضه یک سامانه قدرتمند به‌سختی قابل پیش‌بینی است، ممکن است توسعه‌دهندگان نیاز داشته باشند دسترسی به آن را محدود کنند. در مقابل، لوکان هشدار می‌دهد محدودیت‌های گسترده می‌تواند بررسی مستقل را کاهش دهد و نفوذ شرکت‌هایی را که هم‌اکنون پیشرفته‌ترین مدل‌ها را توسعه می‌دهند، تثبیت کند.

چالش پیش روی صنعت این است که چگونه خطرات را مدیریت کند، بدون آنکه دسترسی به پژوهش، ابزارها و دانش فنی را بیش از حد محدود سازد.

چه کسی باید آینده هوش مصنوعی را کنترل کند؟

محدود کردن دسترسی ممکن است به توسعه‌دهندگان کمک کند برخی خطرات مرتبط با عرضه سامانه‌های پیشرفته را کاهش دهند. اما کنترل‌های گسترده می‌توانند فرصت‌های پژوهش مستقل را نیز کاهش دهند، توسعه‌دهندگان کوچک‌تر را محدود کنند و به شرکت‌های بزرگ‌تر نفوذ بیشتری در مسیر آینده این فناوری بدهند.

توسعه متن‌باز الگوی متفاوتی ارائه می‌دهد و به جامعه گسترده‌تری امکان می‌دهد سامانه‌های هوش مصنوعی را بررسی، تغییر و توسعه دهد. با این حال، دسترسی گسترده‌تر می‌تواند کنترل نحوه تغییر یا استفاده از یک مدل پس از عمومی شدن وزن‌های آن را دشوارتر کند.

هیچ‌یک از این نگرانی‌ها را نمی‌توان صرفاً با استناد به ایمنی یا متن‌باز بودن کنار گذاشت. چالش اصلی ایجاد سازوکارهای حفاظتی است که خطرات واقعی را برطرف کند و هم‌زمان مزایای پژوهش، رقابت و مشارکت گسترده‌تر را حفظ کند.

ورود لوکان به این بحث، این تنش را پررنگ‌تر کرده است. او با به چالش کشیدن موضع محدودکننده آنتروپیک، نه‌تنها درباره نحوه واکنش توسعه‌دهندگان به خطرات هوش مصنوعی پرسش مطرح می‌کند، بلکه این موضوع را نیز زیر سؤال می‌برد که چه کسی باید درباره اینکه چه سامانه‌هایی و توسط چه کسانی قابل دسترسی باشند، تصمیم بگیرد.

در نهایت، این بحث فراتر از این پرسش است که آیا توسعه هوش مصنوعی باید کند شود یا نه. مسئله اصلی یافتن تعادلی میان احتیاط و نوآوری، و میان ایمنی عمومی و خطر تمرکز قدرت فناوری است.

نخستین انتشار: ۱۴ اکتبر ۲۰۲۶، ساعت ۱۰:۵۱:۰۸ به وقت استاندارد هند