هلوسات الذكاء الاصطناعي في البيانات المالية: أوقِف اختلاق الأرقام

يسأل مراقب مالي مساعدًا بالذكاء الاصطناعي عن هامش الربح الإجمالي للربع الماضي. يأتي الرد خلال ثانيتين: 61.4%. رقم أنيق، نبرة واثقة، مُنسَّق إلى خانة عشرية واحدة. المشكلة الوحيدة أن لا أحد يستطيع تحديد من أين جاء هذا الرقم. دفتر الأستاذ يقول 58.9%. النموذج لم يسحب خلية خاطئة، بل أنتج رقمًا لم يكن له وجود في أي مكان على الإطلاق.

هذه هي الهلوسة، وفي عالم المال ليست مجرد شذوذ عابر، بل هي نمط الفشل نفسه.

الجزء المقلق هو مدى معقولية الرقم المزيّف. رقم الإيرادات المُهلوَس لا يصلك مُحاطًا بإشارة حمراء، بل يصلك في الجملة الهادئة ذاتها التي تحمل الأرقام الصحيحة، وغالبًا داخل جدول مرتّب، وغالبًا مع استشهاد بمصدر يقول شيئًا مختلفًا قليلًا. النموذج لا يكذب بالمعنى البشري؛ إنه يفعل بالضبط ما صُمّم لأجله: التنبؤ بأرجح كلمة تالية. والأرجح ليس مرادفًا للصحيح. وحين يكون الموضوع قائمة أرباحك وخسائرك، فإن هذه الفجوة هي المشكلة برمّتها.

ماذا تعني “الهلوسة” فعلًا حين يتعلق الأمر بالأرقام

حين يسمع الناس كلمة “هلوسة” يتخيلون نموذجًا لغويًا يختلق قضية قانونية وهمية أو استشهادًا غير موجود. مع البيانات المالية يكون الأمر أكثر خفاءً وأشد خطرًا، لأن الأرقام تحمل هالة دقة لا تستحقها.

ثلاثة أمور تختل، وهي تتراكم على بعضها:

• الاختلاق. ينتج النموذج رقمًا لا يظهر في أي مصدر. لقد استنتجه بالاستيفاء، أو طابقه نمطيًا مع رقم “يبدو” وكأنه هامش ربح إجمالي مناسب لشركة مثل شركتك.
• سوء النسبة. الرقم حقيقي لكن النموذج ينسبه إلى فترة أو كيان أو بند خاطئ. فيُصنَّف الربع الثاني على أنه الربع الثالث، ويُذكر نقد إحدى الشركات التابعة على أنه نقد المجموعة.
• حساب خاطئ. المُدخلات صحيحة ومع ذلك يحسب النموذج المجموع خطأً، لأن النماذج اللغوية الكبيرة تعامل الأرقام كنصوص (tokens) وتطابق العمليات الحسابية نمطيًا بدل أن تحسبها فعلًا. تعمّقنا في هذه الآلية في لماذا يخطئ الذكاء الاصطناعي في الحسابات المالية.

وهناك أيضًا فشل جدولي بعينه. البيانات المالية تعيش داخل شبكات. الأبحاث في الاستدلال الجدولي، بما فيها أعمال خط تقييم FAITH حول الأمانة في الإجابة على الأسئلة المستندة إلى الجداول، تكشف باستمرار الضعف ذاته: تفقد النماذج تتبّع أي صف يقابل أي عمود، خصوصًا في البيانات الكثيفة ذات الترويسات المدمجة والحواشي والمجاميع الفرعية. والميزانية العمومية هي بالضبط النوع من المستندات الذي يُربكها. يقرأ النموذج المستند الصحيح ومع ذلك يعيد الخلية الخاطئة.

الأدلة لم تعد شحيحة

لفترة من الوقت كان بإمكانك تجاهل هذا بوصفه ضجيج مرحلة مبكرة. لم يعد ذلك ممكنًا.

انخفضت معدلات الهلوسة لدى أقوى النماذج العامة إلى آحاد منخفضة من النسب المئوية في مهام القياس المرجعية، لكن حقيقتين تفسدان هذا الارتياح. الأولى: “منخفض” لا يعني صفرًا، ومعدل خطأ بنسبة 2% عبر عرض تقديمي لمجلس الإدارة يحوي مئة رقم يعني أنك تطرح أرقامًا خاطئة بانتظام. الثانية: ترتفع معدلات الخطأ ارتفاعًا حادًا خارج ظروف القياس المرجعي النظيفة، مع المستندات المالية الواقعية الفوضوية وسلاسل الاستدلال الأطول. بل إن بعض النماذج المُركِّزة على الاستدلال تهلوس أكثر في مهام معيّنة لا أقل، لأن كثرة خطوات الاستنتاج تعني مزيدًا من المواضع التي قد ينحرف فيها المسار.

والواقع التشغيلي يطابق المختبر. استطلاع تلو الآخر لفرق البيانات والتحليلات يجد أن الغالبية العظمى قد اكتوت من أدوات ذكاء اصطناعي أنتجت بيانات غير دقيقة أو مُختلقة مرة واحدة على الأقل. حين تكون المُدخلات غير مُسوّاة، لا يجد النموذج حقيقة مرجعية يرتكز إليها، فيختلق واحدة معقولة.

والإخفاقات ليست أكاديمية. القصص التحذيرية التي تتداولها أوساط العاملين في المال تتشابه عادة في إيقاعها: مقياس مُهلوَس مرّ خلال العناية الواجبة حتى دقّق أحدهم في المصدر، وتوقّع واثق بُني على رقم اختلقه النموذج، ورقم لمجلس الإدارة لم يتطابق مع دفتر الأستاذ. نستعرض إحدى هذه الحالات في درس الـ 15 مليون دولار: رقم مُربِك واحد طفا على السطح قبل أيام من إغلاق جولة تمويل. النمط دائمًا واحد: الرقم بدا صحيحًا، فلم يدققه أحد، حتى أجبرت المخاطر العالية على التدقيق.

لماذا لا تلتقطها ضوابطك المعتادة

لو كانت الهلوسات خاطئة بشكل واضح لما كانت مشكلة أصلًا. كنت سترصد الخطأ وتمضي. إنها خطيرة تحديدًا لأنها تجتاز اختبار العين المجردة.

ثلاثة دفاعات يلجأ إليها الناس، ولمَ يقصر كل واحد منها وحده:

“سنراجع المُخرجات فحسب.” المراجعة تنجح حين تكون الأخطاء مرئية. رقم 61.4% المُهلوَس الجالس بجوار أربعين رقمًا صحيحًا ليس مرئيًا. سيتعين عليك إعادة اشتقاق كل رقم يدويًا، وهو ما يُبطل الغرض من استخدام الذكاء الاصطناعي أصلًا. الفحص العشوائي يلتقط الأخطاء الواضحة ويفوّت المعقولة منها. والمعقولة هي المُكلِفة.

“نحن نستخدم الاسترجاع، فهو مُؤسَّس على مستنداتنا.” الاسترجاع يساعد، لكنه ليس كافيًا. سحب المستند الصحيح يخبرك من أين ينبغي أن يأتي الرقم، لكنه لا يضمن أن يقرأ النموذج الخلية الصحيحة، أو ينسبها إلى الفترة الصحيحة، أو يجري الحساب بعدها بشكل صحيح. الإعدادات الساذجة المعزَّزة بالاسترجاع تتوقف عند سقف دقة أدنى بكثير مما يحتاجه عالم المال، ومع ذلك تسلّم الحساب النهائي إلى النموذج السيّئ في الحساب. تلك هي الفجوة التي نفككها في لماذا لا يكفي RAG في التمويل.

“النماذج الأحدث تهلوس أقل.” ببطء، وفي المتوسط، وفي ظروف القياس المرجعي. لكنك لا تعمل على المتوسطات، بل تعمل على ذلك الإقفال الفعلي لنهاية الربع حين خلط النموذج بين كيانين. انخفاض المعدل الأساسي أمر مرحَّب به، لكنه ليس ضابطًا. لا يمكنك أن تضع “النموذج عادةً ما يكون مُحقًا” في حاشية لمجلس الإدارة.

الخلاصة الصادقة: صياغة الأوامر، والمراجعة، وترقيات النماذج تقلّل تكرار الأرقام المُهلوَسة. لكن لا شيء منها يمنحك ما يحتاجه المدير المالي فعلًا، وهو القدرة على أن يعرف، لأي رقم بعينه، أنه صحيح، وأن يثبت من أين جاء.

الدفاع الوحيد الذي يصمد: ترسيخ الذكاء الاصطناعي في نموذج مُسوّى

هنا تكمن النقلة. كفّ عن محاولة جعل النموذج اللغوي جديرًا بالثقة في الأرقام. لن يكون كذلك، لأنه الأداة الخاطئة للحساب والنسبة. بدلًا من ذلك، ضع تحته طبقة جديرة بالثقة، ودع النموذج يعمل في مواجهتها.

تلك الطبقة هي نموذج مالي مُسوّى: مصدر واحد للحقيقة يتطابق مع دفتر الأستاذ. ليس كومة مستندات ينبش فيها الذكاء الاصطناعي، بل نموذجًا واحدًا مُهيكَلًا ومُسوّى حيث تساوي الإيراداتُ الإيراداتِ، وتتجمع المجاميع الفرعية بشكل صحيح، ويرتبط كل رقم بمعاملته المصدر.

مع وجود تلك الطبقة، تتغير ثلاثة أمور في سلوك الذكاء الاصطناعي:

1. يسترجع بدل أن يخترع. حين تكون إجابة سؤال “كم كان هامش الربح الإجمالي” قيمةً محددة في نموذج مُسوّى، تصبح مهمة الذكاء الاصطناعي أن يجلبها لا أن يولّد شيئًا على هيئة هامش. لقد أزلت المساحة المتاحة للاختلاق. وإن لم يكن الرقم موجودًا في النموذج، فالإجابة الصادقة هي “غير متاح”، لا تخمين.
2. يحسب بشكل حتمي. الهوامش، ومعدلات النمو، ومدة بقاء السيولة (runway)، وحسابات السيناريوهات: لا ينبغي لأي منها أن يمر عبر مُتنبّئ الكلمات. محرّك حتمي يجري الحساب على مُدخلات مُتحقَّق منها ويعيد الإجابة ذاتها في كل مرة. النموذج يُنسّق ويشرح، لكنه لا يحسب.
3. كل رقم يتتبّع رجوعًا إلى مصدره. لأن كل رقم مرتبط بالمعاملات والبيانات التي جاء منها، يمكنك النقر على أي مُخرَج لترى سلسلة نسبه. هذا ما يجعل الإجابة قابلة للدفاع عنها أمام مدقق، أو مستثمر، أو مجلس إدارة. نعامل قابلية التتبع بوصفها متطلبًا من الدرجة الأولى في بناء مسارات تدقيق للذكاء الاصطناعي في التمويل.

هذا ما تبنيه Rexfin. تتصل بمنصات المحاسبة والبيانات المالية لديك، أو بالبيانات المرفوعة، وتُسوّي كل شيء في نموذج واحد يتطابق مع دفتر الأستاذ، ثم تُتيح ذلك النموذج للذكاء الاصطناعي من أجل الاسترجاع، والحساب الحتمي، وسيناريوهات “ماذا لو”، والرؤى التي تتتبّع رجوعًا إلى المصدر. يبقى الذكاء الاصطناعي مفيدًا، لكنه لا يُسمح له باختلاق أرقامك.

كيف يبدو الجيّد، بشكل ملموس

إذا كنت تُقيّم أي أداة ذكاء اصطناعي للتمويل، فالمعيار سهل القول صعب التزييف. لكل رقم تطرحه الأداة، ينبغي أن تكون قادرًا على الإجابة بـ”نعم” على كل ما يلي:

• هل يوجد هذا الرقم في نموذج مُسوّى يتطابق مع دفتر الأستاذ، أم أن النموذج أنتجه من العدم؟
• هل أجرى الحساب محرّك حتمي، أم النموذج اللغوي؟
• هل يمكنني النقر على الرقم لأرى المستندات المصدر ومسار الحساب؟
• إن لم تكن البيانات موجودة، هل يقول النظام ذلك بدل أن يخمّن؟

الأداة التي لا تجتاز هذا المعيار لا تطرح أرقامك، بل تَرتجلها بقواعد نحوية ممتازة. أما الحجة الفئوية الأعمق حول سبب وجوب وجود هذه المنظومة بأكملها فتجدها في مقالنا الأساسي عن طبقة الموثوقية للذكاء الاصطناعي في التمويل.

الخلاصة

الهلوسة في البيانات المالية ليست خللًا يصلحه إصدار النموذج التالي بهدوء، بل هي نتيجة بنيوية لمطالبة نظام يتنبأ بالنص بأن يكون آلة حاسبة ونظام سجلات في آن. لا تحل المشكلة بالوثوق بالنموذج أكثر، بل تحلها بألّا تترك له شيئًا يختلقه: بترسيخه في مصدر حقيقة مُسوّى، وتسليم الحساب إلى محرّك حتمي، وربط كل رقم بمصدره.

السؤال المُشكِّك (هل يمكن الوثوق بالذكاء الاصطناعي في شؤونك المالية؟) له إجابة دقيقة: بقدر ما تستطيع تتبّع ما يخبرك به، لا أكثر. وكل ما عداه تخمين واثق.

إن أردت أن ترى أرقامًا تتطابق مع دفتر الأستاذ وتتتبّع رجوعًا إلى مصدرها، احجز عرضًا توضيحيًا وأحضِر رقمًا اعتدت أن تضطر إلى التحقق منه مرتين.