المادة 12 من قانون الذكاء الاصطناعي الأوروبي: لماذا يجب أن يُسجِّل كل قرار مالي يتخذه الذكاء الاصطناعي نفسه؟
تفرض المادة 12 التسجيل التلقائي للأحداث على أنظمة الذكاء الاصطناعي عالية المخاطر. وفي المجال المالي، يحوّل ذلك وجود مسار تدقيق قابل لإعادة البناء خلف كل رقم إلى التزام قانوني.
بقلم The Rexfin team
تتصل جهة رقابية في مارس 2027 وتطرح سؤالاً واحداً: أرِني كيف توصّل الذكاء الاصطناعي إلى قيمة انخفاض القيمة (Impairment) التي قيّدتها في سبتمبر الماضي. فإن كانت إجابتك لقطة شاشة من نافذة محادثة، فأنت أمام مشكلة. ليست مشكلة تتعلق بالسمعة، بل مشكلة قانونية.
هذا هو الواقع الذي تفرضه المادة 12 من قانون الذكاء الاصطناعي الأوروبي على أي إدارة مالية تشغّل نظام ذكاء اصطناعي عالي المخاطر. النص قصير وحاسم. فأنظمة الذكاء الاصطناعي عالية المخاطر “يجب أن تتيح تقنياً التسجيل التلقائي للأحداث (logs)” طوال دورة حياة النظام بأكملها. تسجيل تلقائي، لا يدوي. مدمج داخل النظام، لا مُلحَق به على هيئة مجلد من ملفات PDF المُصدَّرة يتذكر أحدهم حفظها. على مدى عقد كامل، كانت مسارات التدقيق في المجال المالي ممارسة فضلى يمكن تطبيقها بإتقان أو بإهمال. أمّا القانون فينقلها إلى خانة الالتزام.
ماذا تطلب المادة 12 فعلياً
الصياغة مهمة، فاقرأها كما يقرأها المدقّق. على النظام أن يسجّل من تلقاء نفسه. لا يمكنك الوفاء بالشرط عبر تكليف محلل بتدوين الملاحظات، لأن الملاحظات انتقائية، والانتقائية هي بالضبط ما كُتب التنظيم لمنعه. وعلى التسجيل أن يستمر طوال دورة حياة النظام، من يوم تشغيله إلى يوم إيقافه، لا لإصدار النموذج الحالي وحده.
كما يجب أن تكون السجلات ذات فائدة للأغراض المحددة التي يذكرها القانون. تربط المادة 12 التسجيل بثلاث وظائف: تحديد المواقف التي قد يشكّل فيها النظام خطراً، ودعم المراقبة بعد طرح المنتج في السوق، ودعم التزامات الإشراف البشري المنصوص عليها في مواضع أخرى من القانون. وبعبارة واضحة، السجل ليس ميزة تجميلية. إنه موجود كي يتمكن أحدهم من العودة، وإعادة بناء ما حدث، والحكم على ما إذا كان النظام قد تصرّف على النحو الصحيح.
ثم يأتي الجزء الذي تتجاوزه الفِرَق المالية. تحدد المادة 19 الحد الأدنى للاحتفاظ: يجب الاحتفاظ بالسجلات لمدة ملائمة لغرض النظام و”لمدة ستة أشهر على الأقل”، ما لم يفرض قانون حماية البيانات أو القواعد القطاعية مدة أطول. ستة أشهر هي الحد الأدنى، لا الهدف. وهناك بند مكتوب يكاد يكون موجَّهاً مباشرة إلى البنوك وشركات التأمين والكيانات الخاضعة للتنظيم: المزوّدون الذين هم مؤسسات مالية خاضعة أصلاً لمتطلبات الحوكمة الداخلية بموجب تشريعات الخدمات المالية الأوروبية ملزَمون بالاحتفاظ بسجلات الذكاء الاصطناعي هذه كجزء من الوثائق التي يحتفظون بها بالفعل بموجب ذلك القانون. لا يمنح القانون المجال المالي نظاماً منفصلاً أخفّ وطأة. بل يدمج تسجيل الذكاء الاصطناعي ضمن انضباط التوثيق الذي تخضعون للتدقيق عليه أصلاً.
لماذا لا يُعدّ سجل المحادثة مسار تدقيق؟
ها هو الفخ. تفترض فِرَق كثيرة أنها ممتثلة لأن أداة الذكاء الاصطناعي لديها تحتفظ بسجل للمحادثة. يمكنك التمرير إلى الأعلى لترى ما سألت عنه وما أجاب به. أليس هذا هو السجل المطلوب؟
كلّا، والفجوة هنا هي جوهر هذا المقال بأكمله. سجل المحادثة يحفظ الكلمات. أمّا المادة 12 فتعنى بإعادة بناء القرارات. وهما أمران مختلفان. حين يخبر الذكاء الاصطناعي مدير الحسابات لديك بأن EBITDA المعدّل انخفض 12% على أساس ربع سنوي، فإن الأسئلة ذات الأهمية القانونية ليست في المحادثة. أي أرقام مصدرية استخرجها؟ من أي نظام، وبأي إصدار، واعتباراً من أي إقفال؟ وأي عملية حسابية أنتجت نسبة الـ12%؟ هل أجرى تلك العملية بنفسه، أم استدعى محرّكاً حتمياً؟ ولو أعدت تشغيل الطلب نفسه اليوم، فهل ستحصل على الإجابة ذاتها؟
نص المحادثة لا يجيب عن أيٍّ من ذلك. والأسوأ، إن كان الذكاء الاصطناعي قد حسب النسبة داخلياً، فإن النص مضلِّل فعلياً، لأن الرقم الذي يعرضه عليك قد لا يكون قابلاً لإعادة الإنتاج إطلاقاً. سبق أن كتبنا عن فئة الأخطاء الخفية التي يصيب فيها النموذج الأرقام ويخطئ في الحسابات: نسب مقلوبة، وخلط بين القيمة المطلقة والنسبة المئوية، وأخطاء في إشارة التدفقات النقدية. سجل المحادثة يحفظ الإجابة الخاطئة بدقة متناهية، ولا يخبرك بشيء عن سبب خطئها.
ما تطلبه المادة 12 حقاً هو التسلسل المصدري (Lineage). ليس “الذكاء الاصطناعي قال X”، بل “الذكاء الاصطناعي رأى هذه المدخلات، وطبّق هذه العملية، وأنتج هذا المخرَج، وهذا هو المسار من المصدر إلى الرقم”. وهذا مُنتَج مختلف بنيوياً، ومعظم أدوات التمويل القائمة على نماذج اللغة الكبيرة لا تنتجه.
البنية المعمارية هي التي تقرر إن كنت قادراً على الامتثال
هنا يتوقف التنظيم عن كونه مشكلة سياسات ليصبح مشكلة هندسية. لا يمكنك تسجيل ما لم يعرفه نظامك قط. فإن قرأ نموذج لغوي كبير ملف PDF، واحتفظ ببعض الأرقام في نافذة سياقه، وأطلق إجابة في تمريرة واحدة غير مفصّلة، فلن يكون هناك حدث واضح يمكن تسجيله. يتشابك الاستدلال والحساب داخل نموذج احتمالي، فتحصل على جملة معقولة، لا على قرار قابل لإعادة البناء.
المخرج هو الفصل بين الطبقات. اربط الأنظمة المصدرية (دفتر الأستاذ، ونظام ERP، ومنصة المحاسبة) وسوِّها في نموذج واحد يتطابق مع الدفاتر. ودع الذكاء الاصطناعي يستخرج الأرقام من ذلك النموذج المسوَّى بدلاً من إعادة قراءة الكشوف الخام في كل مرة. ووجِّه كل عملية حسابية عبر محرّك حتمي بدلاً من النموذج اللغوي، لتكون الحسابات متطابقة في كل تشغيل. عندئذٍ تصبح كل خطوة من هذه الخطوات حدثاً منفصلاً قابلاً للتسجيل. للاستخراج مصدر وطابع زمني. وللحساب مدخلات مسمّاة وصيغة محددة. والمخرَج يعود أدراجه عبر الاثنين معاً.
حين تعمل البنية المعمارية على هذا النحو، يكون الامتثال للمادة 12 شبه تلقائي، لأن النظام صُمّم أصلاً لتسجيل القرارات. السجل ليس ميزة تذكّرت تفعيلها، بل ناتج عرضي لكيفية إنتاج الأرقام. المدخلات ذاتها، والمخرجات ذاتها، والمسار كاملاً، وهو بالضبط ما يقصده المدقّق بكلمة “قابل لإعادة التشغيل”.
يستحق الأمر اعترافاً هنا، فالمتشككون يستحقونه. لا شيء من هذا يجعل الذكاء الاصطناعي نفسه أكثر صدقاً. فطبقة مسوَّاة وحتمية ذات تسجيل كامل قد تُظهر مع ذلك رقماً يتبيّن أنه يستند إلى افتراض مصدري خاطئ. ما يتغير هو موقفك حين يحدث ذلك. فبدلاً من رفع الكتفين أمام الجهة الرقابية، يمكنك عرض المدخل، والإصدار، والحساب، ولحظة توليد الرقم. يمكنك إثبات ما فعله النظام. التنظيم لا يطالب بأن يكون الذكاء الاصطناعي معصوماً، بل يطالب بأن يكون خاضعاً للمساءلة، والمساءلة خيار معماري.
ماذا يعني ذلك قبل أن تَحُلّ المواعيد النهائية؟
الجدول الزمني يتحرك، والتزامات الفئة عالية المخاطر قد تبدّلت، لكن الاتجاه لم يتبدّل. أياً تكن مواعيد الإنفاذ النهائية، فإن السقف الذي ترسيه المادة 12 (التسجيل التلقائي، والاحتفاظ لمدة تتجاوز ستة أشهر، ودمج سجلات الذكاء الاصطناعي ضمن وثائق الخدمات المالية القائمة لديك) لن يخفّ. إنه من نوع المتطلبات التي يسهل تجاهلها حتى يحين التدقيق، ويصبح تكييفها لاحقاً باهظ التكلفة بعدما يكون لديك عام كامل من قرارات ذكاء اصطناعي غير مسجَّلة قابعة في بيئة الإنتاج.
الاختبار الصادق بسيط. اختر أي رقم وضعه الذكاء الاصطناعي أمام فريقك المالي في الربع الأخير. هل تستطيع، اليوم، أن تعيد بناء كيفية إنتاجه بالضبط (المصدر، والإصدار، والحساب، والطابع الزمني) دون أن تطلب من النموذج التخمين بعد وقوع الأمر؟ إن كانت الإجابة نعم، فأنت في معظم الطريق نحو الامتثال للمادة 12. وإن كانت لا، فأنت لا تعاني فجوة في التوثيق، بل فجوة في البنية المعمارية، وما الفجوة التوثيقية إلا عرَضٌ من أعراضها.
إن أردت أن ترى كيف يبدو مسار التدقيق القابل لإعادة البناء خلف كل رقم على أرض الواقع، احجز عرضاً توضيحياً واحضر معك أصعب سؤال لديك من نوع “أثبِت هذا الرقم”. فهذا هو السؤال الجدير بالإجابة قبل أن تطرحه عليك جهة رقابية.