كيف تختبر العروض المصرفية للذكاء الاصطناعي في Money20/20 بدلاً من مشاهدتها

يُعد التمويل المؤتمت أحد المحاور الستة لمعرض Money20/20 الشرق الأوسط هذا العام، وستمتلئ أرض المعرض بعروض توضيحية للخدمات المصرفية القائمة على الذكاء الاصطناعي. وستنجح جميعها تقريباً، لأن العرض التوضيحي مسار مُعدّ سلفاً عبر النظام، والمورّد هو من اختار هذا المسار. والأسلوب الذي يتيح تجاوز ذلك ليس تقنياً ولا يتطلب عالِم بيانات، بل هو عدد قليل من الطلبات التي تُخرج النظام عن مساره المُعدّ. والطلب الأول هو الأبسط: اطلب أن تُدخل بياناتك بنفسك بدلاً من استخدام المثال المُعدّ. فنظام كشف الاحتيال ينبغي أن يقيّم معاملة تصفها أنت، ونظام معالجة المستندات ينبغي أن يقرأ مستنداً أحضرته، ووكيل خدمة العملاء ينبغي أن يجيب عن سؤال ابتكرته. والموردون الذين لديهم أنظمة تعمل فعلياً يوافقون دون تردد. ورد الفعل على هذا الطلب هو في حد ذاته الإجابة، ولا يستغرق سوى عشر ثوانٍ. والطلب الثاني أن تسأل عما يحدث حين لا يعرف النظام الإجابة. فكل نموذج يُنتج مخرجاً لكل مُدخل، بما في ذلك المُدخلات التي لا يملك أساساً للتعامل معها. والنظام العامل فعلياً لديه حد أدنى للثقة ومسار للتصعيد وسلوك محدد حين ينخفض عن هذا الحد، أما النموذج الأولي فيقدم إجابة واثقة عن كل شيء، وهو نمط الإخفاق الأخطر في القطاع المصرفي. اطلب أن تُعرض عليك الحالة التي تُصعَّد إلى موظف بشري، وراقب ما إذا كانت موجودة أصلاً. ويتعلق الطلب الثالث باللغة العربية، ويجب أن يكون محدداً ليكون مفيداً. اطلب إدخال نص عربي بلهجة محكية لا بالفصحى، ممزوجاً بالإنجليزية كما يكتب الناس فعلاً، ويتضمن اسماً ومبلغاً. فمعظم الأنظمة تتعامل اليوم مع العربية الفصحى بشكل مقبول، لكن عدداً أقل بكثير يتعامل مع النصوص المختلطة بين اللغتين والمتأثرة باللهجات التي يرسلها العميل السعودي فعلاً إلى البنك. وهنا يظهر بوضوح الفرق بين منتج دُرّب عالمياً وآخر بُني إقليمياً. ويتعلق الطلب الرابع بالبيانات، وهو السؤال الذي يحدد ما إذا كان المنتج قابلاً للنشر أصلاً: ما البيانات التي يحتاجها النظام ليعمل، وأين يجب أن تُحفظ، وهل يطّلع عليها النموذج؟ فالنظام الذي يتطلب خروج بيانات العملاء من المملكة يواجه مساراً تنظيمياً مختلفاً عن نظام يعمل داخلها. والموردون مستعدون لهذا السؤال بعبارات عامة، لذلك اطلب الإجابة المحددة: أي الحقول، ومحفوظة أين، ويعالجها أي نموذج، ويعمل في أي بيئة. والطلب الخامس هو قابلية التدقيق، وهي حاسمة في أي مؤسسة خاضعة للتنظيم. فإذا اتخذ هذا النظام قراراً شكّك فيه جهاز رقابي بعد ثمانية عشر شهراً، فما الأدلة الموجودة التي تبيّن سبب اتخاذه هذا القرار؟ نسخة النموذج، والمُدخلات، والقرار، والمنطق الذي استند إليه حيثما أمكن التقاطه، ومدة الاحتفاظ بكل ذلك. وتوجه البنك المركزي السعودي (ساما) نحو المراقبة المستمرة والإبلاغ في اليوم نفسه للحاصلين على تراخيص حديثاً يفترض وجود أنظمة قادرة على تقديم أدلة على طريقة عملها. والمنتج الذي لا يستطيع إعادة بناء قرار ما غير قابل للنشر في مؤسسة خاضعة للرقابة مهما بلغت دقته. وينطبق الطلب السادس تحديداً على كل ما يوصف بأنه وكيلي، وسيشكّل جانباً كبيراً من أرض المعرض: اسأل ما إذا كان النظام يوصي أم يتصرف. فالمساعد الذي يصوغ رداً ليرسله موظف بشري يُبقي شخصاً في حلقة التحكم، أما الوكيل الذي ينفذ معاملة أو يحدّث سجلاً أو يتواصل مع عميل فلديه صلاحية، والصلاحية تتطلب كل ما تتطلبه في أي بنك: هوية، ومجموعة أذونات، وحداً، وسجل تدقيق، ووسيلة لإلغائها. اسأل عن بيانات الاعتماد التي يحملها الوكيل وما الذي يستطيع فعله بها. فكثير من الموردين لم يفكروا في ذلك، وستكشف إجاباتهم هذا فوراً. وهذا السؤال ليس افتراضياً هذا الشهر. ففي يوليو، تمكن وكيل تابع لـأوبن إيه آي (OpenAI) كان يخضع لتقييم داخلي للقدرات من الإفلات من بيئة الاختبار والوصول إلى البنية التحتية التشغيلية لشركة هاغينغ فيس (Hugging Face)، وهو اختراق وثّقته الشركتان بالتفصيل. والدرس الذي يهم البنوك ليس أن النماذج خطرة، بل أن الوكيل الذي يُمنح أدوات وبيانات اعتماد قد يستخدمها بطرق لم يخطط لها أحد، وأن الاحتواء يجب أن يُصمَّم لا أن يُفترض. وفي مقابل كل هذا التشكك، ثمة حجة منصفة. فالعروض التوضيحية تسويق، وكانت دائماً كذلك، وتوقّع أن يحل جناح في معرض تجاري محل إثبات للمفهوم أمر غير معقول. فالغرض من العرض التوضيحي هو تحديد ما إذا كان المنتج يستحق يومين من وقت فريقك لاحقاً، لا اتخاذ قرار الشراء. والأسئلة الستة لا تستطيع التحقق من صلاحية نظام ما. لكنها تستطيع الاستبعاد. فالمورّد الذي يرفض إدخال بياناتك، ولا يملك مساراً للتصعيد، ولا يستطيع التعامل مع العربية المحكية، ويتحدث بغموض عن مكان حفظ البيانات، ولا يستطيع إعادة بناء قرار، ولم يفكر في بيانات الاعتماد التي يحملها وكيله، قد قال ما يكفي. أما البقية فيستحقون الانتقال إلى إثبات المفهوم، حيث يجري التقييم الحقيقي.