خلفية المشروع
يقوم أحد البنوك التجارية بمعالجة أكثر من 100 ألف طلب ائتمان سنويًا. وكان التدقيق اليدوي لبيانات المقترضين وتقارير الائتمان والبيانات المالية يستغرق 3 أيام لكل طلب، مع وصول معدل الإفلات من المخاطر إلى 3%. فضلاً عن العدد الهائل لوثائق الامتثال التنظيمي وتحديثاتها المتكررة، مما كان يصعب على فريق الامتثال تحليلها بكفاءة. وكانت لدى البنك متطلبات صارمة لأمن البيانات، بحظر نقل أي بيانات أعمال إلى خارج الشبكة.
نقاط الألم الأساسية
الحلول
نشر النموذج الكبير الخاص
تم نشر نموذج Qwen2.5-72B الكبير على مجموعة GPU محلية للبنك (8×A100)، باستخدام إطار استدلال vLLM لتحسين سرعة المعالجة. تتم جميع عمليات استدلال النموذج وتدفق البيانات داخل الشبكة الداخلية للبنك، مع عدم تسرب أي بيانات، وهو ما يلبي تمامًا متطلبات هيئة تنظيم البنوك والتأمين الصينية بشأن أمن البيانات.
المراجعة الذكية لإدارة مخاطر الائتمان
تم بناء مساعد تدقيق ذكي لإدارة مخاطر الائتمان يعتمد على النموذج الكبير، لتحليل بيانات المقترض وتقارير الائتمان والبيانات المالية تلقائيًا، والتحقق من اتساق المعلومات عبر المصادر، وتحديد نقاط الخطر المحتملة، وإعداد تقارير التدقيق.
التحليل الذكي لوثائق الامتثال
تم تطوير نظام تحليل ذكي لوثائق الامتثال، يدعم التحليل التلقائي للوثائق التنظيمية، والتحقق من امتثال السياسات الداخلية، وتقييم أثر التغييرات في السياسات.
بيانات النتائج
| المؤشر | قبل التحسين | بعد التحسين | نسبة التحسن |
|---|---|---|---|
| وقت الموافقة على الائتمان | 3 أيام | 4 ساعات | ↓83% |
| معدل الإفلات من المخاطر | 3% | 0.5% | ↓83% |
| زمن تحليل وثيقة الامتثال | يومان/وثيقة | ساعتان/وثيقة | ↓88% |
| خطر تسرب البيانات | اعتماد على طرف ثالث | لا تسرب | ↓100% |
> ملخص كمي: ارتفعت كفاءة الموافقة على الائتمان بنسبة 83%، انخفض معدل الإفلات من المخاطر بنسبة 83%، وارتفعت كفاءة تحليل الامتثال بنسبة 88%، ولا يوجد أي تسرب للبيانات، مما يلبي تمامًا متطلبات هيئة تنظيم البنوك والتأمين الصينية.
المجموعة التكنولوجية
Qwen2.5-72B، إطار استدلال vLLM، مجموعة NVIDIA A100 GPU، LangChain، Python، Kubernetes، نشر معزول داخل الشبكة الداخلية للبنك
الأسئلة الشائعة
كم عدد موارد GPU المطلوبة لنشر النموذج الكبير الخاص في البنك؟
عادةً ما يتطلب الأمر من 2 إلى 8 بطاقات GPU بمستوى A100/H800. في هذا المشروع، تم نشر نموذج Qwen2.5-72B باستخدام 8×A100، والنماذج بحجم 7B يمكنها الاستدلال باستخدام بطاقة واحدة، أما نماذج 70B فالموصى به البدء بـ 4 بطاقات. تتم جميع عمليات الاستدلال داخل الشبكة الداخلية للبنك، مع عدم تسرب أي بيانات.
ما مقدار تحسن كفاءة الموافقة بعد النشر الخاص؟
انخفض وقت الموافقة من 3 أيام إلى 4 ساعات (بتحسن 83%)، وانخفض معدل الإفلات من المخاطر من 3% إلى 0.5% (انخفاض 83%)، وانخفض زمن تحليل وثائق الامتثال من يومين لكل وثيقة إلى ساعتين.
هل يلبي نشر النموذج الكبير الخاص متطلبات هيئة تنظيم البنوك والتأمين الصينية؟
نعم. جميع عمليات استدلال النموذج وتدفق البيانات تتم داخل الشبكة الداخلية للبنك، دون أي اعتماد على طرف ثالث، مما يلبي بالكامل متطلبات هيئة تنظيم البنوك والتأمين الصينية بعدم خروج البيانات من النطاق المصرح به.
