على مدى يومين نظمت المؤسسة الوطنية لحقوق الإنسان بالتعاون مع الشبكة العربية للمؤسسات الوطنية لحقوق الإنسان وبرنامج الأمم المتحدة الإنمائي، وبالشراكة مع المنظمة العربية لتكنولوجيا المعلومات والاتصالات، أعمال الورشة الإقليمية حول «الحوكمة المسؤولة للذكاء الاصطناعي في الدول العربية»، بمشاركة واسعة من ممثلي الحكومات والمؤسسات الوطنية لحقوق الإنسان والمنظمات الإقليمية والدولية ووكالات الأمم المتحدة والقطاع الخاص ومنظمات المجتمع المدني.
وخلال المؤتمر قدم النائب السابق المستشار د. عبدالله الذوادي، عضو مجلس المفوضين بالمؤسسة الوطنية لحقوق الإنسان ورقة عمل أكد خلالها أن التوسع المتسارع في استخدام تقنيات الذكاء الاصطناعي يفتح آفاقًا واسعة للتنمية والابتكار وتحسين جودة الخدمات، لكنه في الوقت ذاته يفرض تحديات حقوقية جديدة تستوجب تطوير أدوات الرصد والحوكمة والوقاية، بما يضمن أن يبقى الإنسان وحقوقه في قلب التحول الرقمي.
وتناول في ورقته عددًا من المخاطر المرتبطة باستخدام الذكاء الاصطناعي، وفي مقدمتها الخصوصية والمراقبة والتتبع، والتزييف العميق، وهلوسة الذكاء الاصطناعي، إلى جانب التحديات المرتبطة بالقرارات الآلية والتضليل وإدارة المحتوى الرقمي.
وأوضح الذوادي أن قدرة الأنظمة الذكية على جمع وتحليل وربط كميات ضخمة من البيانات تثير تساؤلات جوهرية حول الخصوصية وحماية البيانات الشخصية وحدود المراقبة والتتبع، مؤكدًا أهمية وجود ضمانات واضحة بشأن الغرض من جمع البيانات، وطرق استخدامها، ومدد الاحتفاظ بها، والجهات التي تستطيع الوصول إليها.
وأشار إلى أن التطور المتسارع في تقنيات الذكاء الاصطناعي يجعل حماية الخصوصية وحوكمة البيانات من القضايا الأساسية التي ينبغي أن ترافق دورة حياة النظام منذ مراحل التصميم والتطوير، وصولًا إلى الاستخدام والتقييم، بما يحد من المخاطر المحتملة على حقوق الأفراد وحرياتهم.
التزييف العميق..
وفيما يتعلق بالتزييف العميق (Deepfake)، أشار الذوادي إلى أنه يمثل نموذجًا واضحًا لكون الذكاء الاصطناعي أداة ذات استخدامات مزدوجة؛ إذ يمكن توظيف التقنيات التوليدية بصورة إيجابية في مجالات متعددة، كما يمكن إساءة استخدامها في انتحال الهوية وإنتاج محتوى صوتي أو مرئي مضلل، بما قد يمس الخصوصية والسمعة والثقة بالمعلومات.
ولفت إلى أن تقنيات الذكاء الاصطناعي نفسها أصبحت في المقابل جزءًا من الأدوات المستخدمة في تحليل المحتوى والكشف عن مؤشرات التلاعب والتزييف، وهو ما يبرز الحاجة إلى تطوير القدرات التقنية والمؤسسية بالتوازي مع تطور أدوات إنتاج المحتوى الاصطناعي.
هلوسة الذكاء الاصطناعي
وفيما يتعلق بهلوسة الذكاء الاصطناعي (AI Hallucination)، بيّن الذوادي أن الخطر الحقوقي لا يقتصر على إنتاج معلومة غير صحيحة، وإنما يتضاعف عندما تُقبل المخرجات الآلية باعتبارها حقائق موثوقة، ثم تُستخدم في اتخاذ قرارات تمس الأفراد أو حقوقهم.
وشدد على ضرورة التحقق من مخرجات أنظمة الذكاء الاصطناعي، وتعزيز الرقابة البشرية، وعدم إحلال القرار الخوارزمي محل المسؤولية البشرية، وخصوصًا في القرارات ذات الأثر المرتفع على الأفراد.
وأشار إلى أن القرارات الآلية تفرض بدورها ضرورة توفير ضمانات تتيح فهم كيفية الوصول إلى القرار، ومراجعته والاعتراض عليه عند الحاجة، بما يعزز مبادئ الإنصاف والمساءلة وعدم التمييز.
من رصد الانتهاكات إلى
الحوكمة الوقائية
وأكد الذوادي أن المرحلة المقبلة تتطلب الانتقال من رصد المخاطر بعد وقوعها إلى الحوكمة الوقائية، من خلال تحديد أنظمة الذكاء الاصطناعي واستخداماتها، وربطها بالحقوق المحتمل تأثرها، ووضع مؤشرات للمخاطر، وجمع الأدلة ورصد الآثار، ثم تقييم مستوى الخطورة وصولًا إلى التوصيات والضمانات وسبل الانتصاف.
وأوضح أن هذا النهج يضع حقوق الإنسان ضمن مختلف مراحل دورة حياة أنظمة الذكاء الاصطناعي، بحيث لا تقتصر الحماية على معالجة الضرر بعد وقوعه، وإنما تبدأ من مرحلة تصميم النظام وتطويره، وتستمر خلال النشر والاستخدام والمتابعة والتقييم.
المؤسسات الوطنية شريك في حوكمة الذكاء الاصطناعي
وتناول الذوادي الدور الذي يمكن أن تضطلع به المؤسسات الوطنية لحقوق الإنسان في منظومة حوكمة الذكاء الاصطناعي، باعتبارها جهات مستقلة تضطلع بمهام تعزيز حقوق الإنسان وحمايتها، مشيرًا إلى أن التطور المتسارع للتكنولوجيا يفرض عليها تطوير قدراتها وخبراتها في المجالات التقنية والقانونية والحقوقية.
وبيّن أن مراقبة الذكاء الاصطناعي أصبحت مجالًا متعدد التخصصات يجمع بين القانون وحقوق الإنسان والبيانات والخوارزميات والأمن السيبراني، الأمر الذي يتطلب بناء قدرات متخصصة تمكن المؤسسات الوطنية من فهم الأنظمة الحديثة وتقييم آثارها الحقوقية.
وأشار إلى عدد من التحديات التي تواجه المؤسسات الوطنية، من بينها الفجوة التقنية والمعرفية، وصعوبة فهم بعض الأنظمة التي توصف بـ«الصندوق الأسود»، وسرعة تطور التكنولوجيا مقارنة بسرعة تطوير التشريعات والإجراءات المؤسسية، فضلًا عن الدور المتزايد للقطاع الخاص وامتلاكه جانبًا كبيرًا من البيانات والخوارزميات والنماذج والبنية التحتية المرتبطة بالذكاء الاصطناعي.
ستة مسارات للحوكمة الحقوقية
وأكد الذوادي أهمية العمل على مجموعة من المسارات لتعزيز الحوكمة الحقوقية للذكاء الاصطناعي، في مقدمتها «ضمان الرقابة البشرية والشفافية والمساءلة»، خصوصًا بالنسبة إلى الأنظمة التي يمكن أن يكون لها تأثير كبير على الأفراد وحقوقهم، مع تعزيز قابلية التفسير والتتبع خلال مراحل تطوير النظام ونشره واستخدامه.
كما تشمل هذه المسارات «تعزيز الخصوصية وحماية البيانات والأمن السيبراني»، من خلال توفير ضمانات قوية لحماية البيانات الشخصية والخصوصية، إلى جانب «معالجة التحيز والتمييز الخوارزمي» عبر وضع آليات فعالة للكشف عن أوجه التحيز والتمييز ومعالجتها بما يعزز العدالة والمساواة وعدم التمييز.
وتتضمن كذلك «تعزيز المشاركة العامة والتعاون متعدد الأطراف»، من خلال إشراك المجتمع المدني والأكاديميين والشباب والفئات المتأثرة في عمليات حوكمة الذكاء الاصطناعي، بصورة مستمرة وذات تأثير فعلي.
وأكد أهمية «الاستثمار في بناء القدرات والبحث والابتكار الأخلاقي»، وتعزيز المعرفة والمهارات لدى المؤسسات الوطنية لحقوق الإنسان في مجال الذكاء الاصطناعي، ودعم البحث والابتكار المسؤول، بما يساعد على فهم الأنظمة ورصد وتقييم آثارها الحقوقية.
الإنسان في قلب التحول الرقمي
وشدد الذوادي على أن إدماج حقوق الإنسان في حوكمة الذكاء الاصطناعي لا يعني الحد من الابتكار أو إيقاف التطور التقني، وإنما يستهدف إيجاد توازن يضمن الاستفادة من الإمكانات التي توفرها هذه التقنيات مع وضع الضمانات اللازمة لحماية الإنسان.
وقال: «التحدي ليس في إيقاف الذكاء الاصطناعي، وإنما في بناء حوكمة تضمن أن يعمل الذكاء الاصطناعي في خدمة الإنسان، لا على حساب حقوقه وكرامته؛ فالابتكار وحماية حقوق الإنسان ليسا مسارين متعارضين، بل يجب أن يتقدما معًا».
ويؤكد هذا الطرح أهمية أن تصبح حقوق الإنسان جزءًا أصيلًا من منظومة الذكاء الاصطناعي، وليس مجرد استجابة لاحقة للمخاطر، بحيث ترافق الاعتبارات الحقوقية مراحل التصميم والتطوير والاستخدام والتقييم، وصولًا إلى ضمان المساءلة وسبل الانتصاف عند حدوث أي آثار سلبية.
وفي ختام أعمال الورشة، خلصت المناقشات إلى مجموعة من التوصيات التي أكدت أهمية تعزيز التعاون الإقليمي وتبادل الخبرات في مجال الحوكمة المسؤولة للذكاء الاصطناعي، وتطوير أطر وأدوات عملية قائمة على حقوق الإنسان، إلى جانب بناء القدرات وتعزيز آليات الرصد والمتابعة والشفافية والمساءلة، وتوسيع الشراكة بين الحكومات والمؤسسات الوطنية لحقوق الإنسان والمنظمات الإقليمية والدولية والمجتمع المدني والأوساط الأكاديمية والقطاع الخاص، بما يدعم الابتكار المسؤول ويواكب التطورات المتسارعة في تقنيات الذكاء الاصطناعي.
هل ترغب بالتعليق على الموضوع؟
لا تتردد في إعطاء تعليقك ومشاركة رأيك