از دید قنبری، دموکراسی فناوری نهادی مهمی با دستاوردهای تاریخی است؛ اما این دستاوردها ثابت نمیکنند که هر تصمیم پیچیده باید از ترجیحات تودهایِ بدون تمایز تخصصی به دست آید.
دموکراسی واقعاً چه مسئلهای را حل کرد؟
دموکراسی سازوکارهایی برای نمایندگی، انتقال مسالمتآمیز قدرت، رضایت عمومی و اصلاح حاکمان ایجاد کرد. بااینحال رأیگیری مدل پیشبینی نیست. انتخابات ترجیحات را زیر محدودیت اطلاعات، انتخابهای فشرده و چرخههای کوتاه تبلیغاتی جمع میکند. مشروعیت سیاسی الزاماً شایستگی فنی در همهگیری، شبکهٔ انرژی یا ایمنی هوش مصنوعی تولید نمیکند.
گسست توانایی
اگر سامانههای آینده بتوانند زنجیرهٔ تأمین، انتشار بیماری یا شکست زیرساخت را بهتر از هر کابینهای مدل کنند، نادیدهگرفتن آن توانایی ممکن است غیرمسئولانه باشد. پرسش دموکراتیک از «آیا متخصصان مهماند؟» به «چگونه از تحلیل برتر بدون ساختن اقتدار بیپاسخ استفاده کنیم؟» تغییر خواهد کرد.
نمایندگی را نمیتوان شبیهسازی و حذف کرد
پیشبینی پیامد با تصمیم دربارهٔ قابلقبولبودن آن فرق دارد. مدلی ممکن است سیاستی را پیشنهاد کند که مجموع سالهای زندگی را افزایش میدهد اما هزینهای شدید بر اقلیتی تحمیل میکند. مشروعیت دموکراتیک به افراد متأثر جایگاه میدهد؛ نه اینکه آنها را صرفاً به نقطهٔ داده تبدیل کند.
معماری دوگانهٔ هوش و مشروعیت
یک طراحی ممکن ارزشگذاری را از بهینهسازی فنی جدا کند. شهروندان و نهادهای منتخب اهداف و محدودیتهای قانون اساسی را تعیین میکنند؛ نهادهای تخصصی و هوش مصنوعی حسابرسیشده گزینهها را میسنجند؛ و لایهای مستقل اثرات توزیعی و خطاهای مدل را بررسی میکند. اختیار فقط زمانی گسترش مییابد که عملکرد اثباتپذیر و برگشتپذیر باشد.
دموکراسی پس از هوش برتر
آینده احتمالاً نه دموکراسی بدون تغییر است و نه حاکمیت کامل ماشین. محتملتر، بازطراحی کنترل دموکراتیک پیرامون نهادهایی است که میتوانند از هوش غیرانسانی استفاده کنند. رأی میتواند برای مشروعیت مرکزی بماند، اما اجرای فنی را کمتر تعیین کند.
شایستگی بدون رضایت شکننده است
یک سامانه میتواند بسیار توانا باشد و همچنان مشروعیت نداشته باشد یا منافع شهروندان را اشتباه تعریف کند. چالش این است که مشارکت عمومی مانع دانش نشود و دانش فنی نیز بهانهای برای سلطه نگردد.
ابرهوش دموکراسی را بیاهمیت نمیکند؛ طراحی نهادی را دشوارتر میکند. اقتدار عمومی باید آنقدر هوشمند باشد که از تحلیل قدرتمند استفاده کند و آنقدر قانونمند بماند که به انسانها پاسخگو باشد.
پرسشهای خوانندگان
پرسشهای تکمیلی
آیا ابرهوش جای دموکراسی را میگیرد؟
این نتیجه نه اجتنابناپذیر است و نه لزوماً مطلوب. مسیر محتملتر، ترکیب مشروعیت دموکراتیک با واگذاری حسابرسیشده در حوزههای فنی محدود است.
آیا هوش مصنوعی میتواند پیشبینی سیاسی بهتری انجام دهد؟
در برخی وظایف تعریفشده ممکن است بر انسان برتری داشته باشد؛ اما قضاوت سیاسی شامل حقوق، ارزشها و هدفهای مورد اختلاف نیز هست.
لایهٔ شواهد
منابع و مطالعهٔ بیشتر
- Governing AI for HumanityUnited Nations ↗
- Governing with Artificial IntelligenceOECD ↗
- Recommendation on the Ethics of Artificial IntelligenceUNESCO ↗
منابع، زمینهٔ مستند نوشته را پشتیبانی میکنند. نتیجهگیریهای تفسیری، دیدگاه میثم قنبری هستند و بهعنوان حقیقت علمی قطعی ارائه نمیشوند.
