از چت‌جی‌پی‌تی خواستیم بر جهان حکومت کند؛ پنج قانون پیشنهاد داد و در پایان همه را غافلگیر کرد
این مطلب نخستین بار در وب‌سایت MartechAI.com منتشر شده است.
از پاسخ‌گو کردن میلیاردرها گرفته تا تضمین خدمات درمانی برای همه، چت‌جی‌پی‌تی پنج قانونی را معرفی کرد که اگر اختیار اداره جهان را داشت، برای بشریت وضع می‌کرد. اما شاید غافلگیرکننده‌ترین بخش پاسخ این هوش مصنوعی، تصمیم نهایی آن بود.
اگر اختیار اداره تمام جهان به هوش مصنوعی سپرده شود، چه اتفاقی می‌افتد؟ آیا محدودیت‌های سخت‌گیرانه‌ای بر زندگی انسان‌ها تحمیل می‌کند، ثروت را دوباره توزیع می‌کند، میلیاردرها را زیر نظارت می‌برد یا جامعه‌ای می‌سازد که الگوریتم‌ها بر آن حکومت می‌کنند؟
وب‌سایت MartechAI تصمیم گرفت این پرسش را مستقیماً با چت‌جی‌پی‌تی در میان بگذارد.
پرسش ساده بود: اگر زمام اداره جهان به چت‌جی‌پی‌تی سپرده شود، چه پنج قانونی وضع خواهد کرد؟
پاسخ این هوش مصنوعی تصویری جالب از رویکرد آن به قدرت، نابرابری، آزادی و آینده بشریت ارائه داد. برخلاف تصور یک آرمان‌شهر فناورانه پر از ربات‌ها و دولت‌های تحت کنترل هوش مصنوعی، چت‌جی‌پی‌تی پنج قانون فراگیر پیشنهاد کرد که محور آن‌ها زندگی مردم عادی، نهادهای قدرتمند و حفاظت از کره زمین بود.
پیشنهادهای آن موضوعات گوناگونی را در بر می‌گرفت؛ از خدمات درمانی همگانی و فساد سیاسی گرفته تا انحصار شرکت‌ها و آزادی‌های فردی. اما هنگامی که از این هوش مصنوعی خواسته شد خود را در جایگاه فرمانروای مطلق جهان تصور کند، در نهایت پیشنهاد غیرمنتظره‌ای مطرح کرد: واگذاری همان قدرتی که در اختیارش قرار گرفته است.
در ادامه، پنج قانونی را مرور می‌کنیم که چت‌جی‌پی‌تی اعلام کرد در چنین شرایطی وضع خواهد کرد.
۱. ثروت والدین نباید آینده شما را تعیین کند؛ نخستین قانون چت‌جی‌پی‌تی
اولویت نخست چت‌جی‌پی‌تی نه پیشرفت فناوری بود و نه رشد اقتصادی؛ بلکه می‌خواست اطمینان حاصل کند که همه انسان‌ها از فرصتی عادلانه برای آغاز زندگی برخوردارند.
بر اساس قانونی که آن را «حق همگانی برای شروعی عادلانه» نامید، هر انسانی، فارغ از ملیت، میزان ثروت، مذهب یا پیشینه خانوادگی، باید به آموزش باکیفیت، خدمات درمانی ضروری، تغذیه کافی، آب سالم و سرپناه مناسب دسترسی داشته باشد.
به اعتقاد این هوش مصنوعی، کودکی که در فقر متولد می‌شود نیز باید فرصتی واقعی برای تبدیل شدن به دانشمند، کارآفرین یا حتی یکی از رهبران جهان داشته باشد.
راهکار پیشنهادی آن، تضمین آموزش ابتدایی و خدمات درمانی ضروری با حمایت منابع عمومی بود؛ خدماتی که هزینه آن‌ها از طریق نظام مالیاتی تصاعدی و همکاری‌های بین‌المللی تأمین شود.
چت‌جی‌پی‌تی در پاسخ خود تأکید کرد: «هیچ‌کس انتخاب نمی‌کند کجا به دنیا بیاید. محل تولد انسان نباید تعیین‌کننده محدودیت‌های آینده او باشد.»
این پیشنهاد در واقع برابری فرصت‌ها را به یکی از اصول محوری حکومت جهانی فرضی چت‌جی‌پی‌تی تبدیل می‌کرد. هدف آن برابر کردن ثروت همه انسان‌ها نبود، بلکه می‌خواست نابرابری‌ها و محرومیت‌هایی را کاهش دهد که افراد از بدو تولد با آن‌ها روبه‌رو می‌شوند.
۲. هیچ میلیاردر یا سیاستمداری نباید فراتر از قانون باشد؛ هوش مصنوعی خواستار پاسخ‌گویی همگانی است
دومین قانون چت‌جی‌پی‌تی یکی از مشکلات دیرپای جهان را هدف قرار می‌داد: اینکه افراد و نهادهای قدرتمند بتوانند از پاسخ‌گویی درباره عملکرد خود فرار کنند.
بر اساس قانون پیشنهادی «پاسخ‌گویی مطلق»، سیاستمداران، میلیاردرها، شرکت‌ها، رهبران مذهبی و نهادهای حکومتی همگی باید تابع قانون باشند.
مقام‌های دولتی موظف می‌شوند دارایی‌ها، تعارض منافع و منافع مالی عمده خود را افشا کنند. همچنین امکان پیگیری عمومی هزینه‌های دولت فراهم می‌شود و تنها در موارد محدودی که به حریم خصوصی یا امنیت ملی مربوط است، استثناهایی در نظر گرفته خواهد شد.
کمک‌های مالی به فعالیت‌های سیاسی نیز باید شفاف باشد و دادگاه‌های مستقل اختیار داشته باشند بدون توجه به نفوذ یا جایگاه افراد، پرونده‌های فساد را پیگیری و مرتکبان را تحت تعقیب قرار دهند.
چت‌جی‌پی‌تی در توضیح این قانون اعلام کرد: «قدرتی که با پاسخ‌گویی همراه نباشد، خطرناک‌ترین شکل نابرابری است.»
نکته جالب اینکه این هوش مصنوعی نه خواستار حذف میلیاردرها شد و نه پیشنهاد کرد ثروت خصوصی از میان برود. در عوض، بر جلوگیری از تبدیل نفوذ، پول و قدرت سیاسی به ابزاری برای فرار از پیامدهای قانونی تمرکز داشت.
پیام اصلی این پیشنهاد روشن بود: ثروت شاید بتواند رفاه و تجملات بخرد، اما نباید مصونیت از قانون را به همراه داشته باشد.
۳. دولت‌ها نباید شیوه زندگی مردم را کنترل کنند؛ قانون چت‌جی‌پی‌تی برای حفاظت از آزادی
سومین پیشنهاد این هوش مصنوعی با عنوان «قانون آزادی و کرامت انسانی» بر حفاظت از آزادی‌های فردی در برابر کنترل بیش از اندازه دولت‌ها و شرکت‌ها تمرکز داشت.
چت‌جی‌پی‌تی معتقد بود بزرگسالان باید آزاد باشند درباره شیوه زندگی، فردی که دوستش دارند، باورهای خود و اهداف مسالمت‌آمیزی که دنبال می‌کنند تصمیم بگیرند؛ مشروط بر اینکه به حقوق دیگران احترام بگذارند.
این قانون از آزادی بیان، آزادی مذهب، حریم خصوصی، حق تصمیم‌گیری درباره بدن خود و آزادی تشکیل اجتماعات مسالمت‌آمیز حمایت می‌کند.
همچنین دولت‌ها را از زندانی کردن افراد صرفاً به دلیل انتقاد از صاحبان قدرت منع خواهد کرد.
اما یکی از بندهای این قانون به‌ویژه برای صنعت فناوری اهمیت داشت.
چت‌جی‌پی‌تی پیشنهاد کرد محدودیت‌هایی برای نظارت فراگیر و بدون تمایز بر افراد و همچنین استفاده از فناوری برای دست‌کاری رفتار و افکار جوامع بدون پاسخ‌گویی در نظر گرفته شود.
در جهانی که نظارت مبتنی بر هوش مصنوعی، هدف‌گیری رفتاری و جمع‌آوری داده‌های دیجیتال به دغدغه‌های مهم سیاست‌گذاری تبدیل شده‌اند، چنین بندی می‌تواند پیامدهای قابل‌توجهی هم برای دولت‌ها و هم برای شرکت‌های فناوری داشته باشد.
این هوش مصنوعی تأکید کرد: «تمدن موفق تمدنی نیست که همه مردم آن یکسان فکر کنند؛ بلکه تمدنی است که انسان‌ها بتوانند بدون ترس از آزار و سرکوب، با یکدیگر اختلاف‌نظر داشته باشند.»
۴. هرکس محیط زیست را آلوده کند، باید هزینه آن را بپردازد؛ هشدار هوش مصنوعی به دولت‌ها و شرکت‌ها
چهارمین قانون چت‌جی‌پی‌تی بحث را از مشکلات سیاسی و اجتماعی امروز به آینده بشریت گسترش داد.
بر اساس «قانون حفاظت از نسل‌های آینده»، دولت‌ها و شرکت‌ها از نظر قانونی موظف می‌شوند از هوای پاک، منابع آب، جنگل‌ها، تنوع زیستی و اقلیم زمین حفاظت کنند.
آلاینده‌های بزرگ نیز باید هزینه خسارت‌هایی را که به محیط زیست وارد می‌کنند، بپردازند.
با این حال، چت‌جی‌پی‌تی تأکید کرد که کشورهای فقیرتر نباید به نام حفاظت از محیط زیست مجبور شوند از توسعه اقتصادی خود چشم‌پوشی کنند. در عوض، باید برای استفاده از فناوری‌های پاک‌تر از حمایت لازم برخوردار شوند.
دامنه این پیشنهاد تنها به سیاست‌های زیست‌محیطی محدود نمی‌شد.
چت‌جی‌پی‌تی همچنین خواستار تدوین استانداردهای ایمنی بین‌المللی برای فناوری‌های قدرتمند شد و به‌طور مشخص از هوش مصنوعی و زیست‌فناوری نام برد.
استدلال این هوش مصنوعی در عین سادگی تأمل‌برانگیز بود: «ما مالک مطلق این سیاره نیستیم. ما تنها امانت‌داران موقت چیزی هستیم که باید پس از ما نیز باقی بماند.»
به بیان دیگر، دولت‌ها و شرکت‌ها باید هنگام تصمیم‌گیری، پیامدهای بلندمدت اقدامات خود را نیز در نظر بگیرند؛ تصمیم‌هایی که ممکن است هزینه آن‌ها را نسل‌هایی بپردازند که هنوز متولد نشده‌اند.
۵. هیچ شرکت، دولت یا هوش مصنوعی نباید بیش از اندازه قدرتمند شود؛ قانون نهایی
شاید روشنگرترین پیشنهاد در میان این پنج قانون، طرح چت‌جی‌پی‌تی با عنوان «قانون مقابله با انحصار قدرت» بود.
این هوش مصنوعی استدلال کرد که هیچ فرد، شرکت، دولت یا سامانه فناورانه‌ای نباید آن‌قدر قدرت در اختیار بگیرد که بتواند بدون پاسخ‌گویی دموکراتیک، جامعه را کنترل کند.
چت‌جی‌پی‌تی این قانون پیشنهادی را به سه بخش تقسیم کرد.
نخست، قدرت اقتصادی باید تحت نظارت قرار گیرد تا از شکل‌گیری انحصار، دست‌کاری بازار و بهره‌کشی سازمان‌یافته از کارگران و مصرف‌کنندگان جلوگیری شود.
دوم، نظام‌های سیاسی باید موظف شوند از انتخابات رقابتی، روزنامه‌نگاری مستقل، استقلال دستگاه قضایی و انتقال مسالمت‌آمیز قدرت محافظت کنند.
سوم، باید تدابیر حفاظتی مشخصی برای شرکت‌های فناوری و سامانه‌های هوش مصنوعی در نظر گرفته شود تا زیرساخت‌های دیجیتال و شبکه‌های اطلاعاتی به ابزارهایی برای اعمال کنترل بدون نظارت و پاسخ‌گویی تبدیل نشوند.
بخش سوم به‌ویژه جالب توجه بود، زیرا خود هوش مصنوعی را نیز مشمول محدودیت‌های پیشنهادی قرار می‌داد.
چت‌جی‌پی‌تی به‌جای درخواست استقلال بیشتر برای هوش مصنوعی، استدلال کرد که حتی سامانه‌های فناورانه پیشرفته نیز باید پاسخ‌گو باقی بمانند.
این هوش مصنوعی توضیح داد: «بزرگ‌ترین خطر لزوماً وجود یک حاکم بد نیست؛ خطر اصلی ساختن نظامی است که درست کار کردن آن به وجود یک حاکم خوب وابسته باشد.»
غافلگیری بزرگ: چت‌جی‌پی‌تی اعلام کرد قدرت مطلق را واگذار می‌کند
چت‌جی‌پی‌تی پس از تشریح این پنج قانون، تصمیم نهایی دیگری را نیز مطرح کرد.
این تصمیم شاید بیش از هر یک از قوانین پیشنهادی، رویکرد آن را به ایده حکومت بر جهان آشکار می‌کرد.
چت‌جی‌پی‌تی پاسخ داد: «اگر واقعاً زمام اداره جهان را در اختیار داشتم، نخستین اقدامم این بود که از قدرت مطلق صرف‌نظر کنم و به‌جای آن نظامی مبتنی بر قانون اساسی و پاسخ‌گو در برابر مردم از طریق سازوکارهای دموکراتیک ایجاد کنم؛ نظامی که از این پنج اصل محافظت کند.»
به بیان دیگر، پاسخ فرضی این هوش مصنوعی به پیشنهاد برخورداری از اختیارات نامحدود بر بشریت، ایجاد نهادهایی بود که همان اختیارات را محدود کنند.
چت‌جی‌پی‌تی همچنین پیشنهاد کرد حتی فردی که مسئول وضع این پنج قانون است نیز نباید اختیار داشته باشد آن‌ها را به‌صورت یک‌جانبه تعلیق کند.
پاسخ این هوش مصنوعی با جمله‌ای پایان یافت که استدلال محوری آن را به‌خوبی بیان می‌کرد: «زیرا حتی اگر واقعاً باور داشته باشم که می‌دانم چه چیزی برای بشریت بهتر است، این باور به من حق نمی‌دهد به‌جای انسان‌ها درباره آینده‌شان تصمیم بگیرم.»
آیا چت‌جی‌پی‌تی واقعاً می‌خواهد بر جهان حکومت کند؟
خیر. این گفت‌وگو صرفاً یک آزمایش فکری فرضی بود و نمی‌توان آن را نشانه‌ای از جاه‌طلبی سیاسی چت‌جی‌پی‌تی، برخورداری آن از اختیار مستقل برای حکومت یا داشتن برنامه‌ای برای قانون‌گذاری دانست.
این پنج قانون در پاسخ به پرسش مشخصی تولید شدند که وب‌سایت MartechAI مطرح کرده بود. بنابراین نباید آن‌ها را پیشنهادهای رسمی سیاست‌گذاری شرکت OpenAI یا بیانگر یک ایدئولوژی سیاسی ثابت در این سامانه هوش مصنوعی تلقی کرد.
با وجود این، چنین آزمایشی چشم‌انداز جالبی از اصولی ارائه می‌دهد که هنگام درخواست از مدل برای تصور اداره بشریت، در پاسخ آن مطرح شدند.
آموزش پیش از امتیازات موروثی؛ پاسخ‌گویی پیش از نفوذ؛ آزادی پیش از کنترل؛ پایداری محیط زیست پیش از منافع کوتاه‌مدت؛ و مهار قدرت پیش از واگذاری اختیارات بی‌حدومرز.
در این پاسخ نه پیشنهادی برای انتخاب رئیس‌جمهور هوش مصنوعی مطرح شد، نه درخواستی برای تشکیل حکومت ربات‌ها و نه حتی اشاره‌ای به اینکه فناوری باید جایگزین دموکراسی انسانی شود.
در عوض، تأمل‌برانگیزترین بخش پاسخ چت‌جی‌پی‌تی همان تناقض ظاهری در تصمیم نهایی آن بود: وقتی از این هوش مصنوعی خواسته شد خود را حاکم تمام جهان تصور کند، جهانی را پیشنهاد داد که در آن هیچ‌کس، حتی خود آن، نباید از قدرت مطلق برخوردار باشد.
این پاسخ در نهایت پرسشی چالش‌برانگیز را پیش روی بشریت قرار می‌دهد.
اگر پاسخی تولیدشده به‌وسیله هوش مصنوعی می‌تواند خطرات قدرت مهارنشده را تا این اندازه روشن توضیح دهد، چرا جوامع انسانی همچنان در مهار چنین قدرتی با دشواری روبه‌رو هستند؟
سلب مسئولیت: تمام داده‌ها و آمارهای ارائه‌شده به پژوهش‌های منتشرشده و تحقیقات بازار تأییدشده نسبت داده شده‌اند. تمامی نقل‌قول‌ها نیز یا مستقیماً از منابع گرفته شده‌اند یا به اظهارات عمومی افراد نسبت داده شده‌اند.