تخطّ إلى المحتوى
جديد: اسأل وكيل المحلّل من Rexfin عن نموذجك، وكل رقم يعود مدعومًا بمصدره.
· 8 دقائق قراءة

سلّم نضج الذكاء الاصطناعي في المالية: من اللصق اليدوي إلى الاستقلالية المحكومة

معظم المزوّدين يذكرون أخلاقيات الذكاء الاصطناعي بشكل عابر. هذا سلّم من أربع مراحل لنضج وظيفة المالية، مع ما يتعطّل في كل مرحلة وما يؤهّلك للمرحلة التالية.

بقلم فريق Rexfin

اسأل أي قائد مالي عن مدى نضج تبنّي مؤسسته للذكاء الاصطناعي، وغالبًا ستحصل على قائمة أدوات: “لدينا Copilot، وأحد المحلّلين يستخدم ChatGPT لصياغة المسودات، ونجرّب وكيلًا للتسويات.” هذه قائمة جرد، لا تقييم نضج. النضج ليس عدد الأدوات المثبَّتة. إنه معرفتك، بالنسبة لأي رقم لمسه الذكاء الاصطناعي في عرض تقديمي أمام مجلس الإدارة، من راجعه، وماذا كان مسموحًا للنموذج أن يطّلع عليه، وهل تستطيع إعادة إنتاج الإجابة نفسها لو سألك مدقّق حسابات. معظم المؤسسات المالية اليوم لا تستطيع الإجابة عن هذا، ومعظم محتوى المزوّدين لن يخبرك بذلك، لأن حجب هذا البحث خلف مكالمة مبيعات أسهل من الاعتراف بأن الإجابة الصادقة غالبًا “لا.”

هذا سلّم من أربع مراحل يبيّن أين تقف وظيفة المالية فعليًا، وما الذي يجب أن يتحقق بنيويًا للانتقال إلى الدرجة التالية. تظهر الأخلاقيات في كل مرحلة كشيء ملموس، لا كبيان قيم: من يُخبَر أن رقمًا ما جاء من نموذج، وماذا كان مسموحًا للنموذج أن يلمس، ومن يملك القرار الناتج، ومن يراقب النموذج نفسه مع مرور الوقت.

المرحلة الأولى: عشوائية

هنا تبدأ كل فرق المالية تقريبًا، سواء اعترفت بذلك أم لا. محلّل يلصق جدول إيرادات في روبوت محادثة لصياغة تعليق تحليلي. مراقب مالي يطلب من أداة ذكاء اصطناعي التحقق من معقولية انحراف. لم يوافق أحد على استخدام الأداة لهذا الغرض، ولا يوجد سجل يوثّق أن الذكاء الاصطناعي لمس المخرجات، والأرقام الأساسية التي تُلصق أصلًا نُسخت يدويًا من ثلاثة أنظمة مختلفة، فلا أحد يستطيع الجزم أنها كانت صحيحة من البداية.

ما يتعطّل هنا هو الإسناد والإفصاح في آن واحد. إذا بدت سردية المجلس أفضل هذا الربع، فلا أحد يستطيع الجزم إن كان ذلك لأن الأعمال تحسّنت فعلًا أم لأن نموذجًا اختار صياغة مُجمّلة لرقم لم يُعاد التحقق منه. هناك أيضًا فجوة حقيقية في حوكمة البيانات: بيانات عملاء أو صفقات حساسة تنتهي في أداة استهلاكية عامة دون عقد يضبط الاحتفاظ بها أو استخدامها في التدريب. هذه المرحلة ليست “بلا ذكاء اصطناعي.” إنها ذكاء اصطناعي بلا أي رؤية، وهذا أسوأ من غيابه تمامًا، لأن الإدارة تظن أن لديها سيطرة أكبر مما تملك فعلًا.

الوصول إلى المرحلة الثانية لا يحتاج مذكرة سياسات. يحتاج اختيار أداة أو أداتين معتمدتين، وتحديد ما يجوز وما لا يجوز لصقه فيهما، وإلزام شخص محدد بالاسم بمراجعة كل مخرَج قبل استخدامه. هذا سقف منخفض، لكنه خطوة حقيقية للأمام، لأنه يحوّل مخاطرة غير مرئية إلى مخاطرة مرئية ومحدودة.

المرحلة الثانية: مراقَبة

الآن أصبح لدى الوظيفة أدوات معتمدة، وقاعدة للتعامل مع البيانات (مثلًا: لا بيانات عملاء شخصية تُدخل في أداة محادثة استهلاكية)، وعُرف عملي بمراجعة إنسان لكل مخرَج لمسه الذكاء الاصطناعي قبل إصداره. هنا تقف معظم فرق المالية جيدة الإدارة اليوم، وهو موقع مشروع يمكن الدفاع عنه، لا مرحلة يجب تجاوزها بسرعة لمجرد التجاوز.

ما يتعطّل هنا هو الحجم والاتساق. المراجعة تنجح عندما يكون الحجم منخفضًا. تتعثّر حين تريد الفريق أن يصيغ الذكاء الاصطناعي عشرين تفسيرًا للانحرافات أسبوعيًا أو أن يفحص مئة فاتورة مورّد، لأن “إنسان يراجع كل شيء” تتحول بصمت إلى “إنسان يتصفّح معظم الأشياء بسرعة”، دون أن يقرّر أحد هذه المقايضة عن قصد. الإخفاق الآخر أن المراجعة بلا ذاكرة: يمكن أن يُكتشف الخطأ نفسه ويُغضّ الطرف عنه عشرات المرات لأن لا سجل يربط خطأ هذا الشهر بنظيره شبه المطابق من الشهر الماضي.

الوصول إلى المرحلة الثالثة يعني تحديد أي فئات من مخرَجات الذكاء الاصطناعي تحتاج فعلًا مراجعة إنسانية كاملة مقابل فحص أخف، والبدء بتسجيل كل قرار بمساعدة الذكاء الاصطناعي: ليس فقط الرقم، بل أي نموذج، وأي مدخلات، وأي إنسان وقّع عليه. بدون هذا السجل لا تستطيع التمييز بين مراجعة فعلية وختم موافقة شكلي، ولا تستطيع بعد كتابة قواعد مبنية على أدلة تُظهر أين تتجمّع الأخطاء فعليًا.

المرحلة الثالثة: محكومة

هذه هي المرحلة التي تصفها معظم المؤسسات المالية بأنها هدفها، وقليل منها بنتها فعليًا. لها ثلاث سمات ملموسة. أولًا: درجات استقلالية محدَّدة: ليست كل مهمة للذكاء الاصطناعي تستحق التدقيق نفسه، لأن ليست كل مهمة تحمل المخاطرة نفسها. فقرة تعليق مسودة وتحويل مالي معتمد ليسا في الفئة نفسها، ومعاملتهما كأنهما كذلك إما يُفرط في ضبط التافه أو يقصّر في ضبط الخطير. ثانيًا: تسجيل القرارات كبنية تحتية، لا كفكرة لاحقة: كل رقم لمسه الذكاء الاصطناعي يحمل سجلًا بمصدره، وإصدار النموذج، والإنسان المسؤول، قابلًا للاستعلام لاحقًا، لا لإعادة تركيبه من الذاكرة أثناء تدقيق. ثالثًا: بوابات التحقق من المصدر: لا يُسمح للذكاء الاصطناعي أن يجيب برقم لا يمكن تتبّعه إلى رقم مُسوّى في النظام الأساسي للسجلّات. في هذه المرحلة تتوقف أسئلة الأخلاقيات عن كونها مجردة وتصبح متطلبات هندسية: الإفصاح حقل في السجل، لا تنويهًا في تذييل بريد إلكتروني، والموافقة وحوكمة البيانات يفرضهما نطاق ما يُسمح لاتصال النموذج فعليًا أن يراه، لا سياسة لا يعيد أحد قراءتها.

ما يتعطّل في هذه المرحلة، إن حاولت بلوغها مبكرًا، هو أن حوكمة المخرجات مستحيلة بنيويًا إن لم تكن المدخلات مُسوّاة. لا يمكنك بناء بوابة تحقق من المصدر فوق جدول بيانات فيه ثلاث نسخ متضاربة لـ”الإيرادات”، لأنه لا يوجد رقم مُسوّى واحد تقيس عليه، لا يملك الذكاء الاصطناعي حقيقة أساسية يتحقق منها، فتصبح البوابة عرضًا شكليًا. هذا هو السبب الجوهري وراء تعثّر الحوكمة باستمرار في وظائف المالية التي لم تُصلح طبقة بياناتها أولًا: سلّم النضج وأساس البيانات مشكلة واحدة تُرى من زاويتين. ركيزتنا عن حوكمة الذكاء الاصطناعي ومخاطر النماذج تتوسّع في هذا، وخطوط الدفاع الثلاثة للذكاء الاصطناعي يغطّي من يملك فعليًا مسؤولية التحقق حين يصبح النموذج مُنتِجًا للأرقام لا مجرد أداة صياغة.

بلوغ المرحلة الرابعة يعني إثبات، على مدى زمني حقيقي، أن درجات الاستقلالية تصمد تحت الحجم: الدرجة منخفضة المخاطر تبقى فعلًا منخفضة المخاطر، والسجلات تلتقط الحالات الاستثنائية التي صُمّمت لالتقاطها، قبل أن تتوسّع أي درجة نحو عمل غير مراقَب.

المرحلة الرابعة: مستقلة ضمن حدود

في هذه المرحلة، تتصرّف الوكلاء فعليًا: تبدأ تسوية، تُشير إلى استثناء وتوجّهه، تصيغ تفسير انحراف وتودعه، كل ذلك ضمن ضوابط صارمة محددة مسبقًا: عتبات مالية، متطلبات قابلية التراجع، فئات مستثناة صراحة من النطاق. كل إجراء يُنسب إلى تشغيلة وكيل محددة وقابل لإعادة العرض، بمعنى أنك تستطيع إعادة بناء ما رآه النموذج فعليًا ولماذا تصرّف، لا فقط ما استنتجه. هذا قريب مما يصفه بتفصيل أكبر إطار درجات استقلالية الوكلاء الماليين والاستقلالية المحكومة مقابل الإنسان في الحلقة: استقلالية تتوسّع بعد سقف الموافقة اليدوية دون التخلي عن مسار التدقيق الذي كانت الموافقة تؤمّنه.

قليل من وظائف المالية بلغت هذه المرحلة فعليًا حتى الآن، ولا بأس بذلك، هذه ليست مرحلة يُدَّعى بلوغها. الخطأ الذي نراه هو فرق تسوّق نفسها كمرحلة رابعة بينما تعمل تحتها ضوابط المرحلة الأولى أو الثانية: وكيل “مستقل” مُلحق ببيانات غير محكومة وبلا سجل قرارات حقيقي ليس أكثر نضجًا، بل هو المرحلة الأولى بعلامة تجارية أفضل. المرحلة الرابعة الحقيقية تتطلب أن يكون كل ما تحتها راسخًا فعلًا.

ما يتعطّل، وما يؤهّلك للمرحلة التالية

المرحلةما يتعطّلما يؤهّل للمرحلة التالية
عشوائيةلا إسناد، لا إفصاح، مدخلات غير موثّقة تُلصق بحريةأدوات معتمدة، قاعدة بيانات، فحص إنساني إلزامي
مراقَبةجودة المراجعة تتآكل مع الحجم، لا ذاكرة للأخطاء السابقةدرجات استقلالية حسب المخاطرة، بدء تسجيل القرارات
محكومةالبوابات تحتاج مدخلات مُسوّاة قد لا تكون موجودة بعدأداء مُثبَت ومُسجَّل للدرجات تحت حجم حقيقي
مستقلة ضمن حدودالضوابط تنحرف إن لم تُراقَب المدخلات أو العتباتحوكمة نماذج مستمرة: إعادة تحقق، مراقبة، سحب من الخدمة

هذا الصف الأخير يهم حتى بعد بلوغ أعلى درجة. حوكمة النماذج لا تنتهي عند النشر. النماذج تُعاد مراجعتها مقابل بيانات جديدة، وتُراقَب بحثًا عن انحراف مع تغيّر شكل الأعمال، وتُسحَب من الخدمة عندما يظهر نموذج أنسب أو عندما تتجاوز الأسئلة المطروحة عليها ما بُني للإجابة عنه. تجاهل هذا هو كيف يتراجع نظام في المرحلة الرابعة بصمت إلى ما يشبه المرحلة الثانية بعلامة تجارية أكثر ثقة.

الخلاصة

النضج ليس قائمة أدوات، والأخلاقيات ليست بيان قيم. النضج هو ما إذا كان الإفصاح والموافقة والإسناد وحوكمة النماذج سمات بنيوية في كيفية لمس الذكاء الاصطناعي لأرقامك، لا عادات تأمل أن تصمد تحت الضغط. ولا يمكن بلوغ أي من المراحل الأعلى دون الشرط المسبق الذي نادرًا ما يصرّح به المزوّدون: لا يمكنك حوكمة مخرجات مبنية على مدخلات غير مُسوّاة. بوابة التحقق من المصدر تحتاج مصدر حقيقة تتحقق منه.

إن أردت أن تعرف بصدق في أي مرحلة تقف وظيفتك المالية فعليًا، فهذا الحديث يبدأ من طبقة البيانات تحت الذكاء الاصطناعي، لا من الذكاء الاصطناعي نفسه. احجز عرضًا توضيحيًا وسنريك كيف يبدو أساس مُسوّى مقابل أرقامك أنت.

جزء من حوكمة الذكاء الاصطناعي في المالية: مخاطر النماذج والضوابط والتحقق في عصر نماذج اللغة الكبيرة

تابع القراءة

احجز عرضًا توضيحيًا

شاهد أرقامك وهي تتوازن.

احجز عرضًا توضيحيًا مدته 30 دقيقة. أحضر سؤالًا يصعب عليك الإجابة عنه بسرعة، وسننمذجه مباشرةً على بيانات مالية حقيقية.