中芸汇科技
वित्तAIनिजी परिनियोजनस्वचालनचीन

एक संयुक्त स्टॉक बैंक में बड़े भाषा मॉडल का निजी परिनियोजन और जोखिम नियंत्रण अनुप्रयोग

एक संयुक्त स्टॉक बैंक में बड़े भाषा मॉडल का निजी परिनियोजन और जोखिम नियंत्रण अनुप्रयोग

परियोजना पृष्ठभूमि

एक संयुक्त स्टॉक बैंक को ऋण अनुमोदन और अनुपालन समीक्षा के क्षेत्र में बड़ी चुनौतियों का सामना करना पड़ रहा था। पारंपरिक ऋण अनुमोदन मैन्युअल रूप से उधारकर्ता दस्तावेज़ों, क्रेडिट रिपोर्टों और वित्तीय डेटा की समीक्षा पर निर्भर करता था, जिसमें प्रति आवेदन 3 दिन लगते थे और जोखिम चूक दर 3% थी। साथ ही, नियामक अनुपालन दस्तावेज़ों की संख्या बहुत अधिक थी और वे तेज़ी से अपडेट होते थे, जिससे अनुपालन टीम के लिए दस्तावेज़ विश्लेषण और जोखिम पहचान कुशलतापूर्वक करना मुश्किल था। बैंक की डेटा सुरक्षा पर सख्त आवश्यकताएं थीं, सभी व्यावसायिक डेटा को बाहर भेजना प्रतिबंधित था और AI इंफ़रेंस स्थानीय रूप से ही किया जाना था।

प्रमुख समस्याएं

  • ऋण अनुमोदन दक्षता कम: प्रति आवेदन 3 दिन लगते हैं, ग्राहक अनुभव और व्यवसाय पैमाने पर गंभीर प्रभाव
  • जोखिम चूक दर उच्च: मैन्युअल समीक्षा में जोखिम चूक दर 3%, संभावित खराब ऋण का बड़ा जोखिम
  • अनुपालन विश्लेषण कार्यभार अधिक: हज़ारों अनुपालन दस्तावेज़ों का मैन्युअल विश्लेषण, समय और श्रम गहन
  • डेटा सुरक्षा पर शून्य सहनशीलता: नियामक आवश्यकता है कि सभी डेटा बैंक के आंतरिक नेटवर्क से बाहर न जाए
  • समाधान

    निजी बड़े भाषा मॉडल परिनियोजन

    बैंक के स्थानीय GPU क्लस्टर (8×A100) पर Qwen2.5-72B बड़े भाषा मॉडल को तैनात किया गया, vLLM इंफ़रेंस फ्रेमवर्क का उपयोग करके थ्रूपुट को अनुकूलित किया गया। सभी मॉडल इंफ़रेंस और डेटा प्रवाह बैंक के आंतरिक नेटवर्क में ही पूरा किया जाता है, डेटा शून्य रिसाव, बैंकिंग और बीमा नियामक आयोग की डेटा सुरक्षा आवश्यकताओं को पूरी तरह से पूरा करता है।

    ऋण जोखिम नियंत्रण स्मार्ट समीक्षा

    बड़े मॉडल के आधार पर ऋण जोखिम नियंत्रण समीक्षा सहायक का निर्माण, जो उधारकर्ता दस्तावेज़ों, क्रेडिट रिपोर्टों और वित्तीय विवरणों को स्वचालित रूप से पार्स करता है, सूचना की संगति की क्रॉस-वैलिडेशन करता है, संभावित जोखिम बिंदुओं की पहचान करता है और समीक्षा रिपोर्ट तैयार करता है। अनुमोदन समय 3 दिन से घटकर 4 घंटे हो गया, जोखिम चूक दर 3% से घटकर 0.5% हो गई।

    अनुपालन दस्तावेज़ स्मार्ट विश्लेषण

    अनुपालन दस्तावेज़ स्मार्ट विश्लेषण प्रणाली विकसित की गई, जो नियामक दस्तावेज़ों की स्वचालित व्याख्या, आंतरिक नीतियों की अनुपालन जाँच, नीति परिवर्तनों के प्रभाव आकलन जैसी सुविधाएँ प्रदान करती है, जिससे अनुपालन टीम को दोहराए जाने वाले पठन विश्लेषण कार्य से मुक्ति मिलती है।

    प्रभाव डेटा

    संकेतकपरिवर्तन से पहलेपरिवर्तन के बादसुधार
    ऋण अनुमोदन समय3 दिन4 घंटे83%
    जोखिम चूक दर3%0.5%83%
    अनुपालन दस्तावेज़ विश्लेषण समय2 दिन/प्रति2 घंटे/प्रति88%
    डेटा रिसाव जोखिमतृतीय-पक्ष निर्भरता थीशून्य रिसाव100%

    प्रौद्योगिकी स्टैक

    Qwen2.5-72B, vLLM इंफ़रेंस फ्रेमवर्क, NVIDIA A100 GPU क्लस्टर, LangChain, Python, Kubernetes, बैंक आंतरिक नेटवर्क पृथक परिनियोजन

    निजी परिनियोजन ने हमें AI का लाभ उठाने के साथ-साथ नियामक आवश्यकताओं को पूरी तरह से पूरा करने में सक्षम बनाया है। अनुमोदन दक्षता में 83% सुधार हुआ, प्रभाव अपेक्षाओं से कहीं अधिक रहा।