قنبری از نقش عمیقتر AI در حوزههایی حمایت میکند که هدف روشن، عملکرد سنجشپذیر و خطا قابل اعتراض باشد؛ اما دقت پیشبینی را مجوزی برای اقتدار نامحدود سیاسی نمیداند.
سه سطح قدرت ماشین
سامانهٔ مشورتی گزینهها را رتبهبندی میکند و مقام انسانی تصمیم میگیرد. سامانهٔ تفویضشده در حدود از پیش تعیینشده اجرا میکند؛ مانند تنظیم چراغهای ترافیک یا تشخیص ناهنجاری در خرید دولتی. سامانهٔ حاکمیتی هدف را انتخاب میکند یا تصمیم نهایی را بدون امکان مداخلهٔ واقعی انسان تحمیل میکند. بحث عمومی اغلب این سه سطح را با هم مخلوط میکند.
کجا واگذاری محدود قابلدفاع است؟
کنترل ترافیک نمونهای مناسب است: هدف قابل تعریف، بازخورد سریع و اقدام برگشتپذیر است. توازن شبکهٔ برق، اولویتبندی بازرسی مالیاتی و نگهداری پیشگیرانه نیز ویژگیهایی مشابه دارند. حتی در این حوزهها امتیاز خطر باید به بررسی انسانی منجر شود، نه مجازات خودکار.
کجا واگذاری خطرناک میشود؟
صدور حکم کیفری، پناهندگی، حمایت از کودک و نظارت قهری با حقوق بنیادین، شواهد ناقص و آسیب نامتقارن سروکار دارند. اطمینان مدل جای دادرسی عادلانه را نمیگیرد. هرچه تصمیم برگشتناپذیرتر و تضاد ارزشی شدیدتر باشد، نیاز به قضاوت انسانی پاسخگو و امکان تجدیدنظر بیشتر میشود.
عملکرد باید عمومی باشد
اختیار خودکار باید مجوز حوزهای داشته باشد: هدف مستند، مقایسه با عملکرد انسان، تحلیل خطا میان گروهها، آزمون امنیت، ثبت رخداد و تاریخ انقضا. اعتمادپذیری یک برچسب تبلیغاتی نیست؛ مسئلهای در سراسر چرخهٔ عمر سامانه است.
اختیار باید در هر حوزه کسب شود
دلیل منسجمی برای اعطا یا رد کلی اختیار به «هوش مصنوعی» وجود ندارد. سامانهای ممکن است در زمانبندی آمبولانس عالی و در تشخیص گفتار سیاسی غیرقابلقبول باشد. واگذاری باید با شواهد گسترش یابد، نه با پرستیژ فناوری.
عدم تقارن خودکارسازی
تصمیمهای خودکار سریعتر از سازوکارهای اعتراض مقیاس میگیرند. یک خطای کوچک مدل میتواند پیش از دیدهشدن به الگوی ملی تبدیل شود. هر سامانهای که با سرعت ماشین عمل میکند به لایهٔ حسابرسی و جبران به همان اندازه سریع نیاز دارد.
پرسش آینده این نیست که آیا AI وارد دولت میشود؛ این اتفاق آغاز شده است. پرسش این است که کدام تصمیمها مشورت میمانند، کدام به خودکارسازی محدود تبدیل میشوند و کدام باید زیر اقتدار مستقیم و قابل اعتراض انسان باقی بمانند.
پرسشهای خوانندگان
پرسشهای تکمیلی
آیا هوش مصنوعی میتواند جای سیاستمداران را بگیرد؟
ممکن است بخشهایی از تحلیل و اداره را جایگزین کند، اما هدفگذاری، قضاوت قانون اساسی و نمایندگی مشروع کارکردهای متفاوتی هستند.
کدام وظایف دولت برای AI مناسبترند؟
وظایفی با هدف روشن، بازخورد سنجشپذیر، اقدام برگشتپذیر و مسیر اعتراض قوی، مناسبتر از تصمیمهای قهری و حساس به حقوقاند.
لایهٔ شواهد
منابع و مطالعهٔ بیشتر
- Governing with Artificial IntelligenceOECD ↗
- AI Risk Management FrameworkNIST ↗
- European approach to artificial intelligenceEuropean Commission ↗
منابع، زمینهٔ مستند نوشته را پشتیبانی میکنند. نتیجهگیریهای تفسیری، دیدگاه میثم قنبری هستند و بهعنوان حقیقت علمی قطعی ارائه نمیشوند.
