أصبح استخدام الخوارزميات والذكاء الاصطناعي داخل الوظائف المالية والمحاسبية أكثر اتساعًا، ولم يعد مقتصرًا على تحليل البيانات أو إعداد التقارير الإدارية. فالمؤسسات تستخدم النماذج الخوارزمية في التنبؤ بالإيرادات، وتقييم مخاطر الائتمان، واكتشاف الاحتيال، وتحليل سلوك العملاء، وتقدير بعض البنود المحاسبية، ودعم قرارات التسعير والاستثمار، بل وبدأت تطبيقات الذكاء الاصطناعي تدخل بصورة مباشرة في عمليات الإقفال المالي والتسويات وإعداد الإفصاحات.
هذا التحول يخلق فرصة كبيرة لرفع سرعة العمليات وتحسين قدرتها على معالجة كميات ضخمة من البيانات، لكنه يطرح في الوقت نفسه سؤالًا أكثر تعقيدًا من مجرد سؤال: هل الخوارزمية دقيقة؟ السؤال الأهم هو: هل الرقم الذي تنتجه الخوارزمية محايد ويمكن الاعتماد عليه في اتخاذ قرار مالي؟
فقد ينتج النظام رقمًا دقيقًا من الناحية الحسابية، لكنه يظل غير موثوق من الناحية المالية إذا كانت البيانات التي بُني عليها منحازة، أو إذا كانت الافتراضات التي يعتمد عليها النموذج غير مناسبة، أو إذا كانت العلاقات التي اكتشفها النموذج لا تعكس العلاقة الاقتصادية الحقيقية. وهذه النقطة تحديدًا تجعل التحيز الخوارزمي قضية تتجاوز التكنولوجيا لتصبح قضية تتعلق بجودة المعلومات المالية والحوكمة والرقابة.
وتشير منظمة التعاون الاقتصادي والتنمية إلى أن النماذج القائمة على التعلم الآلي قد ترث التحيزات الموجودة في البيانات، بل قد تضيف إليها تحيزات جديدة نتيجة العلاقات غير الظاهرة بين المتغيرات أو استخدام متغيرات بديلة تعكس خصائص حساسة بصورة غير مباشرة. كما أن المشكلة لا تقتصر على البيانات؛ فقد يظهر التحيز أيضًا أثناء بناء النموذج أو تطبيقه أو تفسير مخرجاته.
أين يبدأ التحيز الخوارزمي داخل البيئة المالية؟
الخطأ الشائع هو التعامل مع التحيز الخوارزمي باعتباره مشكلة تحدث عندما تكون البيانات “سيئة” فقط. الواقع أكثر تعقيدًا. فالبيانات قد تكون صحيحة تاريخيًا، ومكتملة من الناحية الإحصائية، ومع ذلك قد تنتج عنها مخرجات متحيزة إذا كانت تعكس قرارات أو ممارسات تاريخية لم تكن محايدة في الأصل.
على سبيل المثال، إذا تم تدريب نموذج للتنبؤ بمخاطر التعثر باستخدام بيانات تاريخية تعكس فترة كانت فيها بعض شرائح العملاء تحصل على شروط ائتمانية مختلفة عن غيرها، فقد يتعلم النموذج هذه الأنماط باعتبارها مؤشرات طبيعية على المخاطر. وعندما يستخدم لاحقًا لاتخاذ قرارات جديدة، فإنه قد يعيد إنتاج النمط التاريخي نفسه، حتى لو لم يكن هذا النمط يعكس المخاطر الاقتصادية الفعلية في الوقت الحالي.
وهنا تظهر إحدى أخطر خصائص التحيز الخوارزمي: النموذج قد لا يخطئ في قراءة البيانات، بل قد يقرأها بطريقة صحيحة ويستنتج منها نتيجة غير عادلة أو غير مناسبة للقرار الذي نريد اتخاذه.
وتزداد المشكلة تعقيدًا عندما يستخدم النموذج متغيرات تبدو محايدة في ظاهرها، لكنها تعمل كبدائل غير مباشرة لمتغيرات أخرى حساسة. وهذا ما يجعل اكتشاف التحيز أكثر صعوبة، خصوصًا في النماذج المعقدة التي تعتمد على عدد كبير من المتغيرات والعلاقات المتشابكة.
كيف يمكن أن ينتقل التحيز من الخوارزمية إلى الرقم المالي؟
لا يحتاج التحيز الخوارزمي إلى إصدار قيد محاسبي خاطئ حتى يؤثر على القوائم المالية. وقد تكون آلية التأثير أكثر تدريجية وأقل وضوحًا.
فإذا كانت الخوارزمية تستخدم لتقدير احتمالات التعثر، فإن التحيز في هذه الاحتمالات يمكن أن ينتقل إلى تقديرات الخسائر الائتمانية المتوقعة. وإذا كان النموذج يستخدم لتوقع الطلب، فقد يؤثر انحراف التوقعات في تقديرات الإيرادات والمخزون والقدرة الإنتاجية. وإذا دخلت الخوارزميات في تقييم الأصول أو نماذج انخفاض القيمة، فإن التحيز في الافتراضات أو البيانات المستخدمة قد ينعكس على القيمة الدفترية للأصول والمخصصات والنتائج المالية.
وهنا يجب التمييز بين الخطأ الحسابي والتحيز في المدخلات أو المنهجية. الخطأ الحسابي يمكن اكتشافه غالبًا من خلال إعادة الحساب أو اختبارات الاتساق، بينما قد ينتج التحيز رقمًا صحيحًا حسابيًا لأنه ناتج عن معادلة تعمل كما صُممت، لكن المشكلة تكمن في أن التصميم نفسه أو المدخلات التي يعتمد عليها لا تعكس الواقع الاقتصادي بصورة سليمة.
ولهذا تشير ممارسات التدقيق الحديثة إلى ضرورة النظر إلى الخوارزميات باعتبارها جزءًا من بيئة المعلومات التي قد تؤثر في أرصدة الحسابات والتقديرات والإفصاحات، وليس باعتبارها مجرد أدوات تقنية تقع خارج نطاق الرقابة المالية. وتوصي ممارسات التدقيق بفحص جودة البيانات، والافتراضات، والتحيز المحتمل في المدخلات، ومنهجية الخوارزمية، والبيئة التقنية التي تعمل داخلها.
التقديرات المحاسبية
تزداد أهمية التحيز الخوارزمي عندما تدخل مخرجات النماذج في المجالات التي تتطلب أصلًا قدرًا من الحكم المهني.
فالأرقام المرتبطة بالمخصصات، وانخفاض قيمة الأصول، والقيم العادلة، والخسائر الائتمانية، والتنبؤات المالية، وغيرها من التقديرات، لا تنتج دائمًا من معادلة واحدة يمكن التحقق من صحتها بشكل ميكانيكي. وإنما تعتمد على مجموعة من الافتراضات والبيانات والتقديرات المستقبلية.
إذا أصبحت الخوارزمية جزءًا من هذه العملية، فإن الخطر لا يكمن فقط في أن يكون النموذج “خاطئًا”، وإنما في أن يمنح النموذج الإدارة شعورًا بأن التقدير أصبح أكثر موضوعية لمجرد أنه خرج من نظام متقدم.
وهذا ما يمكن وصفه بـ “وهم الموضوعية الخوارزمية”.
فالرقم الناتج عن نموذج رياضي قد يبدو أكثر حيادًا من تقدير بشري مباشر، لكنه في الحقيقة يعكس البيانات التي تم اختيارها، والمتغيرات التي تم تضمينها، والعلاقات التي تم تصميم النموذج لاكتشافها، والافتراضات التي بُني عليها. لذلك فإن نقل الحكم البشري إلى داخل نموذج لا يلغي الحكم؛ بل قد يجعله أقل وضوحًا.
وتزداد هذه المسألة أهمية في بيئة التقارير المالية لأن لجنة المراجعة والمدقق والإدارة لا يحتاجون فقط إلى معرفة النتيجة النهائية، بل إلى فهم الأساس الذي أدى إليها. ولهذا تؤكد التوجهات الحديثة في الرقابة على استخدام الذكاء الاصطناعي داخل التقارير المالية على أهمية التوثيق، والمراجعة البشرية، وإمكانية تتبع المخرجات، وإثبات كيفية اعتماد النتائج التي تؤثر في المعلومات المالية.
المشكلة لا تنتهي عند النموذج: البيانات نفسها قد تكون مصدر الخطر
قد تنفق المؤسسة موارد كبيرة على شراء نموذج متطور، ثم تتعامل مع البيانات التي تغذيه باعتبارها أمرًا مفروغًا منه. وهنا قد يبدأ الخلل الحقيقي.
فالبيانات المالية والتشغيلية لا تصل إلى النموذج بصورة محايدة تلقائيًا. قد تكون هناك فترات ناقصة، أو اختلافات في طريقة التسجيل بين الإدارات، أو تغييرات في تعريف المتغيرات، أو بيانات تاريخية لا تعكس البيئة الحالية، أو اعتماد مفرط على مصدر واحد للمعلومات.
وفي بيئات الأعمال المتغيرة، يمكن أن تصبح البيانات التاريخية أقل قدرة على تفسير المستقبل. النموذج الذي تعلم من سلوك السوق في ظروف معينة قد ينتج توقعات غير مناسبة عندما تتغير الأسعار أو سلوك العملاء أو سلاسل الإمداد أو البيئة التنظيمية.
وهنا يظهر مفهوم Model Drift؛ أي أن النموذج الذي كان يؤدي بصورة جيدة عند تطويره قد تتراجع ملاءمته بمرور الوقت نتيجة تغير البيانات أو الظروف الاقتصادية أو طبيعة العلاقة بين المتغيرات. ولذلك فإن اختبار النموذج عند إطلاقه لا يكفي. فالنموذج المالي يحتاج إلى مراقبة مستمرة، واختبارات دورية، ومراجعة لمدى استمرار صلاحية الافتراضات التي يعتمد عليها.
وتشير المناقشات الرقابية الحديثة حول الذكاء الاصطناعي في القطاع المالي إلى أن مخاطر البيانات والنماذج لا تنفصل عن مخاطر الحوكمة، لأن صعوبة تفسير بعض النماذج تجعل اكتشاف البيانات غير الملائمة أو العلاقات غير الصحيحة أكثر تعقيدًا.
هل يستطيع التدقيق اكتشاف التحيز الخوارزمي؟
الإجابة ليست بسيطة، لأن التدقيق التقليدي قد يثبت أن العملية اتبعت الإجراءات المحددة دون أن يكتشف بالضرورة أن المنطق الذي يقف خلف النموذج يحمل تحيزًا.
ولهذا فإن دخول الذكاء الاصطناعي إلى العمليات المالية يفرض توسعًا في نطاق تقييم المخاطر. لم يعد كافيًا أن يسأل المدقق: هل تمت الموافقة على العملية؟ وهل توجد مستندات مؤيدة؟ بل قد يحتاج أيضًا إلى معرفة أين تستخدم الخوارزميات، وما البيانات التي تعتمد عليها، ومن المسؤول عن النموذج، وكيف تم اختباره، وما التغييرات التي طرأت عليه، وكيف تتم مراقبة مخرجاته.
وتشير الممارسات المهنية الحديثة إلى ضرورة إدراج استخدام الذكاء الاصطناعي ضمن تقييم مخاطر التقارير المالية والرقابة الداخلية، خصوصًا عندما تؤثر مخرجاته على القيود المحاسبية أو التسويات أو التقديرات أو الإفصاحات. كما أن وجود سجل تدقيق واضح، ومراجعة بشرية مناسبة، واختبارات مستمرة للنموذج أصبحت عناصر أساسية في بناء الثقة في المخرجات التي تدخل البيئة المالية.
وهذا لا يعني أن المدقق يجب أن يتحول إلى عالم بيانات، وإنما يعني أن تقييم المخاطر يجب أن يتغير عندما تصبح الخوارزمية جزءًا من سلسلة إنتاج المعلومة المالية.
الحوكمة: خط الدفاع الحقيقي
من الخطأ التعامل مع التحيز الخوارزمي باعتباره مسؤولية إدارة تقنية المعلومات وحدها. فإذا كانت مخرجات نموذج ما تدخل في أرقام مالية أو قرارات تؤثر في القوائم المالية، فإن المخاطر الناتجة عنه تصبح جزءًا من مسؤولية الحوكمة والرقابة المالية.
وهنا يأتي دور مجلس الإدارة ولجنة المراجعة والإدارة التنفيذية والتدقيق الداخلي في تحديد المسؤوليات بوضوح. يجب أن يكون معروفًا من يوافق على استخدام النموذج، ومن يحدد الغرض منه، ومن يراجع بياناته، ومن يختبر دقته، ومن يقرر متى يجب إيقافه أو إعادة تدريبه، ومن يتحمل المسؤولية عندما تكون مخرجاته مؤثرة في قرار مالي جوهري.
وتشير منظمة التعاون الاقتصادي والتنمية في أحدث أعمالها حول الإشراف على الذكاء الاصطناعي في القطاع المالي إلى أن صعوبة تحديد المسؤولية تصبح أكبر كلما ازدادت استقلالية الأنظمة، ولذلك فإن وجود خطوط واضحة للمساءلة والحوكمة يظل عنصرًا أساسيًا حتى مع تطور الأنظمة الأكثر استقلالية.
المسألة إذن ليست أن يكون هناك “مسؤول عن الذكاء الاصطناعي”، وإنما أن تكون هناك مسؤولية واضحة عن القرار الذي يعتمد على الذكاء الاصطناعي.
لماذا لا تكفي المراجعة البشرية وحدها؟
قد يبدو الحل بسيطًا: نضع موظفًا يراجع مخرجات الخوارزمية قبل اعتمادها. لكن وجود الإنسان في نهاية العملية لا يعني بالضرورة وجود رقابة فعالة.
إذا كان المراجع لا يفهم كيف وصل النموذج إلى النتيجة، أو يثق في النظام بصورة مفرطة، أو يراجع الحالات الاستثنائية فقط دون اختبار منهجي، فقد يتحول وجوده إلى إجراء شكلي.
وتؤكد الاتجاهات المهنية الحديثة في تدقيق الذكاء الاصطناعي أن المراجعة البشرية والمساءلة يجب أن تظل في مركز الحوكمة، خصوصًا في العمليات التي تؤثر في التقارير المالية.
دقة النموذج وموثوقية الأرقام
قد يكون النموذج دقيقًا وفقًا لمقاييس الأداء التي صُمم عليها، لكن ذلك لا يعني تلقائيًا أن الرقم الذي ينتجه صالح للاستخدام في التقارير المالية.
هناك فرق بين Model Accuracy وFinancial Reliability.
الأولى تسأل: هل النموذج يتنبأ أو يصنف بصورة جيدة وفقًا للبيانات والمعايير التي تم اختياره عليها؟
أما الثانية فتسأل: هل يمكن الاعتماد على مخرجاته عندما تصبح جزءًا من معلومة مالية يتخذ المستثمر أو مجلس الإدارة أو الدائن قرارًا بناءً عليها؟
وهذا الفرق هو الذي يجب أن تنقله المؤسسات إلى مستوى الحوكمة. فاختبار النموذج لا ينبغي أن يتوقف عند الأداء الإحصائي، بل يجب أن يشمل ملاءمة البيانات، واستقرار النموذج، واحتمالات التحيز، وقابلية تفسير المخرجات، وأثرها المالي، ووجود ضوابط تمنع استخدامها خارج النطاق الذي صُممت له.
التحيز الخوارزمي ليس خطرًا تقنيًا فقط
كلما توسع استخدام الذكاء الاصطناعي داخل المؤسسات، أصبح من الخطأ وضع مخاطر التحيز داخل صندوق “المخاطر التقنية” فقط.
فإذا أثرت الخوارزمية في تقدير مالي، فإن المشكلة قد تصبح محاسبية. وإذا أثرت في عملية خاضعة للرقابة الداخلية، فإنها تصبح مشكلة رقابية. وإذا لم تكن المسؤولية عنها واضحة، فإنها تصبح مشكلة حوكمة. وإذا نتج عنها إفصاح غير موثوق، فإنها تصبح مشكلة تتعلق بثقة المستثمر والسوق.
ولهذا تتجه الممارسات الحديثة نحو دمج مخاطر الذكاء الاصطناعي داخل أطر المخاطر والرقابة القائمة بدل إنشاء منظومة منفصلة تمامًا عنها. وتوصي الممارسات المهنية بربط استخدام الذكاء الاصطناعي بأطر إدارة المخاطر المؤسسية وتقييمات الرقابة الداخلية، مع تحديد الاستخدامات التي قد تؤثر بشكل جوهري على التقارير المالية وإخضاعها لمستوى أعلى من الرقابة والاختبار.
في الختام …
التحيز الخوارزمي لا يعني أن الذكاء الاصطناعي غير صالح للاستخدام في المحاسبة أو المالية، ولا يعني أن الأحكام البشرية أكثر موضوعية بطبيعتها. الخطر الحقيقي يبدأ عندما تتعامل المؤسسة مع مخرجات الخوارزمية باعتبارها محايدة لمجرد أنها ناتجة عن نموذج رياضي.
الأرقام المالية لا تصبح أكثر موثوقية لأنها خرجت من نظام ذكي، كما أنها لا تصبح أقل موثوقية لمجرد أن جزءًا من عملية إنتاجها أصبح آليًا. المعيار الحقيقي هو جودة البيانات، وسلامة المنهجية، وملاءمة الافتراضات، واختبار النموذج، وإمكانية تتبع المخرجات، ووجود رقابة بشرية حقيقية، والأهم من ذلك وجود حوكمة واضحة تحدد من يملك القرار ومن يتحمل مسؤوليته.
ومع انتقال الذكاء الاصطناعي من أدوات مساعدة إلى أنظمة تشارك بصورة مباشرة في إنتاج المعلومات المالية، فإن السؤال الذي يجب أن تطرحه المؤسسات لم يعد: هل الخوارزمية تعمل؟
بل أصبح: هل يمكننا تفسير ما تنتجه، واختباره، ومساءلة من يعتمد عليه، والتأكد من أن الرقم الذي يصل إلى القوائم المالية يعكس الواقع الاقتصادي فعلًا؟
