Antecedentes del proyecto
Un banco por acciones se enfrenta a enormes desafíos en el ámbito de la aprobación de créditos y la revisión de cumplimiento. La aprobación de crédito tradicional depende de la revisión manual de los datos del prestatario, informes de crédito y datos financieros, lo que lleva 3 días por solicitud, con una tasa de omisión de riesgos del 3%. Al mismo tiempo, los documentos de cumplimiento normativo son numerosos y se actualizan con frecuencia, lo que dificulta que el equipo de cumplimiento realice un análisis y una identificación de riesgos eficientes. El banco tiene estrictos requisitos de seguridad de datos: todos los datos empresariales no pueden salir de la red interna y la inferencia de IA debe realizarse localmente.
Principales puntos de dolor
Solución
Despliegue privado del LLM
Se despliega el modelo Qwen2.5-72B en el clúster de GPU local del banco (8×A100) utilizando el marco de inferencia vLLM para optimizar el rendimiento. Toda la inferencia del modelo y la transferencia de datos se realizan dentro de la red interna del banco, con cero fugas de datos, cumpliendo plenamente los requisitos de seguridad de datos del regulador bancario.
Revisión inteligente del control de riesgos crediticios
Se construye un asistente de revisión de control de riesgos crediticios basado en el LLM, que analiza automáticamente los datos del prestatario, informes de crédito y estados financieros, verifica de forma cruzada la consistencia de la información, identifica puntos de riesgo potenciales y genera informes de revisión. El tiempo de aprobación se reduce de 3 días a 4 horas, y la tasa de omisión de riesgos baja del 3% al 0,5%.
Análisis inteligente de documentos de cumplimiento
Se desarrolla un sistema de análisis inteligente de documentos de cumplimiento que admite la interpretación automática de documentos normativos, la verificación del cumplimiento de las políticas internas y la evaluación del impacto de los cambios normativos, liberando al equipo de cumplimiento de las tareas repetitivas de lectura y análisis.
Datos de resultados
| Indicador | Antes | Después | Mejora |
|---|---|---|---|
| Tiempo de aprobación de crédito | 3 días | 4 horas | 83% |
| Tasa de omisión de riesgos | 3% | 0.5% | 83% |
| Tiempo de análisis de documentos de cumplimiento | 2 días/documento | 2 horas/documento | 88% |
| Riesgo de fuga de datos | Dependencia de terceros | Cero fugas | 100% |
Stack tecnológico
Qwen2.5-72B, marco de inferencia vLLM, clúster de GPU NVIDIA A100, LangChain, Python, Kubernetes, despliegue aislado en la red interna del banco
