قبل سنوات قليلة، كان استخدام الذكاء الاصطناعي داخل المؤسسات يقتصر على تنفيذ بعض المهام الروتينية، مثل أتمتة العمليات، أو تحليل البيانات، أو تقديم توصيات تساعد الموظفين على اتخاذ القرار. أما اليوم، فقد أصبح الذكاء الاصطناعي يشارك بصورة مباشرة في قرارات تؤثر على العملاء، والاستثمارات، والائتمان، والتوظيف، وإدارة المخاطر، وحتى إعداد التقارير المالية.
هذا التحول غيّر نظرة المؤسسات إلى الذكاء الاصطناعي. فلم يعد مجرد تقنية لتحسين الكفاءة، بل أصبح عنصرًا مؤثرًا في الحوكمة، والامتثال، وإدارة المخاطر، وصنع القرار.
ومع هذا التوسع، ظهرت تساؤلات لم تكن مطروحة من قبل. ماذا يحدث إذا اتخذ نظام ذكاء اصطناعي قرارًا خاطئًا؟ ومن يتحمل المسؤولية إذا أدى هذا القرار إلى خسائر مالية أو مخالفة تنظيمية؟ وكيف يمكن للمؤسسة أن تثق في نتائج نظام لا تستطيع تفسير طريقة وصوله إلى بعض القرارات؟
هذه الأسئلة دفعت الهيئات التنظيمية والمنظمات الدولية إلى التأكيد على أن نجاح المؤسسات في تبني الذكاء الاصطناعي لن يعتمد على سرعة استخدامه، بل على قدرتها على إدارته ضمن إطار واضح من الحوكمة يضمن أن تكون قراراته موثوقة، وقابلة للتفسير، ومتوافقة مع القوانين وأهداف المؤسسة.
ولهذا لم يعد الحديث اليوم يدور حول ما إذا كانت المؤسسات ستستخدم الذكاء الاصطناعي، وإنما حول ما إذا كانت تمتلك إطارًا يحكم استخدامه ويحد من مخاطره.
لماذا لا يكفي أن يكون الذكاء الاصطناعي ذكيًا؟
غالبًا ما تُقاس كفاءة أنظمة الذكاء الاصطناعي بمدى سرعة معالجتها للبيانات أو دقة توقعاتها، لكن هذه المؤشرات وحدها لا تكفي لضمان أن النظام مناسب للاستخدام داخل بيئة الأعمال.
فقد يكون النظام دقيقًا من الناحية التقنية، لكنه يعتمد على بيانات غير مكتملة. وقد يحقق نتائج جيدة في ظروف معينة، ثم يفشل عند تغير البيئة التشغيلية. كما قد يقدم توصيات يصعب تفسيرها أو مراجعة الأساس الذي بُنيت عليه.
وهذا يعني أن جودة النموذج لا تُقاس فقط بأدائه، بل أيضًا بمدى شفافيته، وإمكانية تفسير قراراته، وعدالته، وأمن البيانات التي يستخدمها، وقدرته على الامتثال للأنظمة واللوائح.
ومن هنا ظهر مفهوم حوكمة الذكاء الاصطناعي (AI Governance) باعتباره الإطار الذي يضمن استخدام هذه الأنظمة بطريقة آمنة ومسؤولة، وليس مجرد وسيلة للحد من المخاطر بعد وقوعها.
ما المقصود بحوكمة الذكاء الاصطناعي؟
تشير حوكمة الذكاء الاصطناعي إلى مجموعة السياسات، والأدوار، والإجراءات، وآليات الرقابة التي تضعها المؤسسة لضمان تصميم أنظمة الذكاء الاصطناعي وتطويرها وتشغيلها واستخدامها بصورة تتسم بالمسؤولية والشفافية والامتثال.
وبعبارة أخرى، فإن حوكمة الذكاء الاصطناعي لا تهدف إلى تنظيم التقنية نفسها، وإنما إلى تنظيم الطريقة التي تُستخدم بها داخل المؤسسة، بما يضمن تحقيق قيمة حقيقية للأعمال دون الإخلال بالمتطلبات القانونية أو الأخلاقية أو التشغيلية.
وتغطي حوكمة الذكاء الاصطناعي دورة حياة النظام بالكامل، بداية من اختيار البيانات، وتصميم النماذج، واختبارها، ونشرها، ومراقبة أدائها، وحتى تحديثها أو إيقافها عند الحاجة.
وبذلك تصبح الحوكمة عنصرًا أساسيًا لضمان أن يظل الذكاء الاصطناعي أداة تدعم أهداف المؤسسة، لا مصدرًا لمخاطر يصعب السيطرة عليها.
حوكمة الذكاء الاصطناعي ليست حوكمة تقنية المعلومات
من الأخطاء الشائعة الاعتقاد بأن حوكمة الذكاء الاصطناعي هي مجرد امتداد لحوكمة تقنية المعلومات أو إدارة البيانات، بينما الواقع أن لكل منها نطاقًا مختلفًا.
فتركز حوكمة تقنية المعلومات على إدارة البنية التحتية الرقمية، والأنظمة، والخدمات التقنية، وضمان توافقها مع احتياجات الأعمال.
أما حوكمة البيانات فتهتم بجودة البيانات، وتوافرها، وتصنيفها، وخصوصيتها، وآليات إدارتها.
في المقابل، تمتد حوكمة الذكاء الاصطناعي إلى ما هو أبعد من ذلك، إذ تتناول كيفية اتخاذ الأنظمة الذكية للقرارات، ومدى عدالتها، وإمكانية تفسيرها، وآليات مساءلة المسؤولين عنها، إضافة إلى إدارة المخاطر المرتبطة باستخدامها.
ولهذا تُعد حوكمة الذكاء الاصطناعي نقطة التقاء بين الحوكمة المؤسسية، وإدارة المخاطر، والأمن السيبراني، والامتثال، والبيانات، والتقنية، وليست مسؤولية قسم تقنية المعلومات وحده.
ما المخاطر التي تمنعها حوكمة الذكاء الاصطناعي؟
كلما توسعت المؤسسات في استخدام الذكاء الاصطناعي، اتسعت أيضًا دائرة المخاطر المرتبطة به. ولا تتمثل هذه المخاطر في حدوث أخطاء تقنية فقط، بل تمتد إلى قرارات قد تؤثر على السمعة، والامتثال، وحقوق العملاء، واستمرارية الأعمال.
ولهذا فإن الهدف من حوكمة الذكاء الاصطناعي ليس الحد من الابتكار، وإنما ضمان أن يظل الابتكار ضمن حدود يمكن التحكم فيها وإدارتها.
أولًا: مخاطر التحيز في القرارات
تعتمد أنظمة الذكاء الاصطناعي على البيانات التي تُدرَّب عليها، وإذا كانت تلك البيانات غير متوازنة أو تعكس تحيزات تاريخية، فمن المحتمل أن تنتقل هذه التحيزات إلى القرارات التي ينتجها النظام.
وقد يظهر ذلك في قرارات التوظيف، أو منح الائتمان، أو تقييم العملاء، أو حتى في تصنيف المخاطر.
ولا تكمن المشكلة في وجود التحيز فقط، بل في صعوبة اكتشافه إذا لم تكن هناك آليات رقابية تراجع أداء النماذج بصورة مستمرة.
ثانيًا: غياب الشفافية وصعوبة تفسير القرارات
تستخدم بعض تطبيقات الذكاء الاصطناعي نماذج معقدة للغاية، تجعل من الصعب فهم الكيفية التي توصلت بها إلى قرار معين، وهي الظاهرة المعروفة باسم Black Box AI.
وقد يمثل ذلك تحديًا كبيرًا للمؤسسات، خاصة في القطاعات الخاضعة لرقابة تنظيمية صارمة، حيث لا يكفي اتخاذ القرار الصحيح، بل يجب أيضًا القدرة على تفسير الأساس الذي بُني عليه.
ولهذا أصبح مفهوم “الذكاء الاصطناعي القابل للتفسير” أحد الركائز الأساسية في أطر الحوكمة الحديثة.
ثالثًا: مخاطر الخصوصية وحماية البيانات
لا يمكن لأي نظام ذكاء اصطناعي أن يعمل بكفاءة دون بيانات، لكن جمع البيانات وتحليلها واستخدامها يفرض على المؤسسات مسؤوليات قانونية وأخلاقية متزايدة.
فقد يؤدي استخدام بيانات شخصية دون ضوابط واضحة، أو مشاركة البيانات مع أطراف غير مصرح لها، إلى انتهاك التشريعات الخاصة بحماية البيانات، فضلًا عن فقدان ثقة العملاء.
ولهذا تتطلب حوكمة الذكاء الاصطناعي وضع سياسات واضحة لإدارة البيانات، تحدد مصادرها، وآليات استخدامها، وفترات الاحتفاظ بها، والجهات المخولة بالوصول إليها.
رابعًا: ضعف المساءلة
إذا اتخذ الذكاء الاصطناعي قرارًا تسبب في خسارة مالية أو مخالفة تنظيمية، فمن المسؤول؟
هل هي الشركة المطورة للنظام؟ أم الإدارة التي اعتمدت عليه؟ أم الموظف الذي استخدمه؟
هذا السؤال أصبح من أكثر القضايا التي تناقشها الهيئات التنظيمية حول العالم.
ولهذا تؤكد أطر حوكمة الذكاء الاصطناعي على ضرورة تحديد المسؤوليات بوضوح، بحيث يظل الإنسان مسؤولًا عن القرارات النهائية، حتى وإن استعان بأنظمة ذكية في الوصول إليها.
خامسًا: مخاطر الأمن السيبراني
كلما زادت أهمية الذكاء الاصطناعي داخل المؤسسة، أصبح هدفًا أكثر جاذبية للهجمات السيبرانية.
فقد يحاول المهاجمون التلاعب ببيانات التدريب، أو التأثير في مخرجات النموذج، أو استغلال الثغرات الموجودة في الأنظمة الذكية.
ولهذا يجب أن ترتبط حوكمة الذكاء الاصطناعي ارتباطًا وثيقًا باستراتيجية الأمن السيبراني، لضمان حماية النماذج والبيانات من أي محاولات للتلاعب أو الاختراق.
من المسؤول عن حوكمة الذكاء الاصطناعي داخل المؤسسة؟
من أكثر المفاهيم الخاطئة انتشارًا أن حوكمة الذكاء الاصطناعي تقع بالكامل على عاتق إدارة تقنية المعلومات. لكن الواقع مختلف تمامًا.
فالذكاء الاصطناعي لم يعد قضية تقنية فقط، بل أصبح قضية تتعلق بالحوكمة المؤسسية وإدارة المخاطر، ولذلك فإن نجاح تطبيقه يتطلب مشاركة عدة جهات داخل المؤسسة.
يقع على مجلس الإدارة مسؤولية الإشراف العام على استخدام الذكاء الاصطناعي، والتأكد من توافقه مع استراتيجية المؤسسة ومستوى المخاطر المقبول لديها، إضافة إلى اعتماد السياسات العامة والإطار الحاكم لاستخدامه.
أما الإدارة التنفيذية فتتولى تحويل هذه السياسات إلى ممارسات عملية، وتوفير الموارد اللازمة، وضمان تطبيق الضوابط المعتمدة في جميع مراحل تطوير واستخدام الأنظمة الذكية.
وتؤدي إدارة المخاطر دورًا محوريًا في تحديد المخاطر المرتبطة بالذكاء الاصطناعي، وتقييم آثارها المحتملة، ووضع خطط للحد منها، مع متابعة التغيرات المستمرة في بيئة الأعمال والتقنيات المستخدمة.
كما تسهم إدارة الامتثال في التأكد من توافق استخدام الذكاء الاصطناعي مع الأنظمة واللوائح المحلية والدولية، بينما تتولى إدارة الأمن السيبراني حماية النماذج والبيانات من التهديدات الإلكترونية.
ولا يقل دور المراجعة الداخلية أهمية عن ذلك، إذ تتحقق بصورة مستقلة من فاعلية إطار الحوكمة، ومدى الالتزام بالسياسات والإجراءات، وتقييم كفاءة الضوابط الرقابية المرتبطة بالذكاء الاصطناعي.
ويعكس هذا التكامل حقيقة مهمة، وهي أن حوكمة الذكاء الاصطناعي ليست مسؤولية إدارة واحدة، بل مسؤولية مؤسسية مشتركة تتطلب تعاون جميع الأطراف ذات العلاقة.
كيف تبني المؤسسات إطارًا فعالًا لحوكمة الذكاء الاصطناعي؟
لا تتحقق الحوكمة بمجرد إصدار سياسة داخلية أو تشكيل لجنة مختصة، بل تحتاج إلى إطار متكامل يواكب دورة حياة الذكاء الاصطناعي منذ مرحلة التخطيط وحتى التشغيل والمراجعة المستمرة.
وتبدأ هذه العملية بتحديد الغرض من استخدام الذكاء الاصطناعي، بحيث يكون مرتبطًا بأهداف الأعمال، وليس مجرد تبني تقنية جديدة لمواكبة السوق.
بعد ذلك، ينبغي تقييم المخاطر المحتملة قبل تشغيل أي نموذج، مع الأخذ في الاعتبار تأثيره على العملاء، والموظفين، والبيانات، والقرارات التي سيدعمها.
كما يجب وضع معايير واضحة لجودة البيانات المستخدمة، لأن موثوقية مخرجات الذكاء الاصطناعي ترتبط ارتباطًا مباشرًا بجودة البيانات التي يعتمد عليها.
ومن الممارسات الأساسية أيضًا التحقق من أداء النماذج بصورة دورية، ومراقبة نتائجها، وإعادة تقييمها عند حدوث تغييرات في بيئة العمل أو في طبيعة البيانات.
ولا يكتمل إطار الحوكمة دون وجود آليات واضحة لتوثيق القرارات، وتحديد المسؤوليات، والتعامل مع الحوادث، إضافة إلى تدريب الموظفين على الاستخدام المسؤول للذكاء الاصطناعي وفهم حدوده، وليس فقط إمكاناته.
بهذه الطريقة تتحول الحوكمة من وثيقة نظرية إلى نظام عملي يدعم الابتكار ويقلل المخاطر في الوقت نفسه.
ماذا تقول المعايير العالمية عن حوكمة الذكاء الاصطناعي؟
لم تعد حوكمة الذكاء الاصطناعي مفهومًا نظريًا أو توجهًا اختياريًا، بل أصبحت جزءًا من الأطر التنظيمية والمعايير الدولية التي تهدف إلى ضمان الاستخدام المسؤول للتقنيات الذكية داخل المؤسسات. وخلال السنوات الأخيرة، أصدرت العديد من الجهات الدولية معايير وإرشادات متخصصة تساعد المؤسسات على بناء أنظمة حوكمة فعالة، تتوازن فيها فرص الابتكار مع متطلبات إدارة المخاطر والامتثال.
ومن أبرز هذه الأطر:
ISO/IEC 42001، وهو أول معيار دولي مخصص لنظام إدارة الذكاء الاصطناعي، ويقدم إطارًا يساعد المؤسسات على إدارة دورة حياة أنظمة الذكاء الاصطناعي، وتحديد المسؤوليات، وتقييم المخاطر، وتحسين الأداء بصورة مستمرة.
كما طوّر المعهد الوطني الأمريكي للمعايير والتقنية (NIST) إطار AI Risk Management Framework (AI RMF)، الذي يركز على دمج إدارة المخاطر في جميع مراحل تصميم وتطوير وتشغيل أنظمة الذكاء الاصطناعي، مع التأكيد على مبادئ الثقة، والشفافية، وقابلية التفسير، والمساءلة.
وعلى المستوى الدولي، وضعت منظمة التعاون الاقتصادي والتنمية (OECD) مجموعة من المبادئ التي تدعو إلى تطوير أنظمة ذكاء اصطناعي تركز على الإنسان، وتحترم حقوق الأفراد، وتحقق العدالة والشفافية، مع وجود آليات واضحة للمساءلة.
أما قانون الذكاء الاصطناعي الأوروبي (EU AI Act)، فقد مثّل نقطة تحول مهمة، إذ اعتمد نهجًا قائمًا على مستوى المخاطر، حيث تختلف المتطلبات التنظيمية باختلاف درجة خطورة استخدام الذكاء الاصطناعي. فكلما ارتفع تأثير النظام على الأفراد أو المجتمع، زادت متطلبات الحوكمة والرقابة والشفافية.
وتشير هذه المبادرات مجتمعة إلى حقيقة مهمة، وهي أن العالم لم يعد يناقش ما إذا كانت حوكمة الذكاء الاصطناعي ضرورية، بل أصبح يعمل على توحيد أفضل الممارسات لضمان استخدامها بصورة مسؤولة وآمنة.
أخطاء شائعة تقع فيها المؤسسات عند تطبيق الذكاء الاصطناعي
على الرغم من تسارع تبني الذكاء الاصطناعي، فإن كثيرًا من المؤسسات لا تزال ترتكب أخطاء قد تقلل من القيمة المتوقعة لهذه التقنيات أو تزيد من المخاطر المرتبطة بها.
من أبرز هذه الأخطاء:
- التعامل مع الذكاء الاصطناعي باعتباره مشروعًا تقنيًا فقط، دون إشراك إدارات الحوكمة، وإدارة المخاطر، والامتثال، والمراجعة الداخلية.
- الاعتماد على بيانات غير مكتملة أو منخفضة الجودة، مما ينعكس مباشرة على دقة مخرجات النماذج.
- غياب سياسات واضحة تحدد ضوابط استخدام الذكاء الاصطناعي، والمسؤوليات المرتبطة به.
- تشغيل النماذج دون مراجعة دورية أو اختبار مستمر للتأكد من استمرار دقتها وملاءمتها للمتغيرات الجديدة.
- الاعتماد الكامل على توصيات الذكاء الاصطناعي دون ممارسة الحكم المهني أو التحقق من النتائج، وهو ما قد يؤدي إلى اتخاذ قرارات غير دقيقة أو غير عادلة.
وتجنب هذه الأخطاء لا يتطلب بالضرورة استثمارات ضخمة، بقدر ما يحتاج إلى ثقافة مؤسسية تدرك أن نجاح الذكاء الاصطناعي يعتمد على جودة إدارته، وليس على قوة التقنية وحدها.
الختام
يمثل الذكاء الاصطناعي اليوم أحد أهم محركات التحول في بيئة الأعمال، إلا أن الاستفادة الحقيقية منه لا تتحقق بمجرد امتلاك التقنيات أو توسيع نطاق استخدامها، بل تعتمد على وجود إطار حوكمة يضمن استخدامها بصورة مسؤولة، وآمنة، ومتوافقة مع أهداف المؤسسة.
فحوكمة الذكاء الاصطناعي لا تهدف إلى تقييد الابتكار، وإنما إلى توجيهه، من خلال وضع ضوابط واضحة لإدارة المخاطر، وتعزيز الشفافية، وتحديد المسؤوليات، وضمان الامتثال للأنظمة والمعايير.
وفي ظل التطورات المتسارعة التي يشهدها هذا المجال، لن يكون التميز من نصيب المؤسسات التي تتبنى الذكاء الاصطناعي أولًا، بل للمؤسسات التي تنجح في إدارته ضمن إطار حوكمة متكامل يوازن بين الابتكار والثقة، وبين اغتنام الفرص وإدارة المخاطر، بما يدعم استدامة الأعمال ويعزز قدرتها على اتخاذ قرارات أكثر مسؤولية وفاعلية.
