الرجوع إلى الأسئلة

القرار الآلي وحق الاعتراض

السؤال

السلام عليكم. هل يجوز للجهة الحكومية أن تعتمد على نظام آلي لترتيب طلبات الناس أو تحديد من يستحق خدمة معينة، إذا كان النظام أسرع من الموظف؟ وماذا لو كان القرار دقيقًا غالبًا لكنه يخطئ أحيانًا في حالات لا يستطيع الشخص فهم سببها أو الاعتراض عليها؟

الجواب

وعليكم السلام ورحمة الله وبركاته، يجوز أن تساعد الأنظمة الآلية في تنظيم المعلومات أو كشف الأنماط، لكن لا ينبغي أن تتحول السرعة إلى مبرر لإلغاء حق الإنسان في معرفة سبب القرار والطعن فيه. كلما مسّ القرار حقًا أساسيًا أو فرصة مهمة، ازدادت الحاجة إلى شفافية المعايير ومراجعة بشرية مستقلة وإمكانية تصحيح البيانات الخاطئة. كما يجب فحص أثر النظام على فئات مختلفة، لا الاكتفاء بنسبة الدقة الإجمالية؛ فقد يخفي المتوسط ظلمًا متكررًا لمجموعة معينة. وتوصي اليونسكو بأن تقوم حوكمة الذكاء الاصطناعي على حقوق الإنسان والشفافية والمساءلة والإشراف البشري. المراجع: UNESCO, Recommendation on the Ethics of Artificial Intelligence: https://www.unesco.org/ethics-ai/en/recommendation. سدد الله خطاكم إلى العدل وحسن استخدام التقنية.

الرجوع إلى الأسئلة