যৌথ-শেয়ার ব্যাংক কিভাবে বৃহৎ মডেলের প্রাইভেট ডেপ্লয়মেন্টের মাধ্যমে ঋণ অনুমোদনের দক্ষতা বাড়াতে পারে?

প্রকল্পের পটভূমি

একটি যৌথ-শেয়ার ব্যাংক বছরে ১ লাখেরও বেশি ঋণ অনুমোদন প্রক্রিয়া সম্পন্ন করে। আগে ঋণগ্রহীতার নথি, ক্রেডিট রিপোর্ট ও আর্থিক ডেটা ম্যানুয়ালি পর্যালোচনা করতে হত, প্রতি অনুমোদনে ৩ দিন লাগত, ঝুঁকি মিস রেট ছিল ৩%। নিয়ন্ত্রক কমপ্লায়েন্স ডকুমেন্টের পরিমাণ বিপুল এবং হালনাগাদ ঘন ঘন হয়, কমপ্লায়েন্স টিম দক্ষতার সাথে বিশ্লেষণ শেষ করতে পারছিল না। ব্যাংকের ডেটা সুরক্ষার ব্যাপারে অত্যন্ত কঠোর নীতি রয়েছে, সমস্ত ব্যবসায়িক ডেটা বাইরে পাঠানো নিষিদ্ধ।

মূল সমস্যা

সমাধান

প্রাইভেট বৃহৎ মডেল ডেপ্লয়মেন্ট

ব্যাংকের স্থানীয় GPU ক্লাস্টারে (8×A100) Qwen2.5-72B বৃহৎ মডেল ডেপ্লয় করা হয়েছে, vLLM ইনফারেন্স ফ্রেমওয়ার্ক দিয়ে থ্রুপুট অপ্টিমাইজ করা হয়েছে। সমস্ত মডেল ইনফারেন্স এবং ডেটা ফ্লো ব্যাংকের ইন্টারনাল নেটওয়ার্কের মধ্যেই সম্পন্ন হয়, ডেটা শূন্য লিকেজ, CBIRC-এর ডেটা নিরাপত্তা নিয়ন্ত্রক প্রয়োজনীয়তা সম্পূর্ণ পূরণ করে।

ঋণ ঝুঁকি নিয়ন্ত্রণ বুদ্ধিমান পর্যালোচনা

বৃহৎ মডেলের উপর ভিত্তি করে একটি ঋণ ঝুঁকি নিয়ন্ত্রণ পর্যালোচনা সহায়ক তৈরি করা হয়েছে, যা ঋণগ্রহীতার নথি, ক্রেডিট রিপোর্ট ও আর্থিক বিবৃতিগুলি স্বয়ংক্রিয়ভাবে বিশ্লেষণ করে, তথ্যের সামঞ্জস্যতা ক্রস-চেক করে, সম্ভাব্য ঝুঁকি চিহ্নিত করে এবং পর্যালোচনা রিপোর্ট তৈরি করে।

কমপ্লায়েন্স ডকুমেন্ট বুদ্ধিমান বিশ্লেষণ

কমপ্লায়েন্স ডকুমেন্ট বুদ্ধিমান বিশ্লেষণ সিস্টেম ডেভেলপ করা হয়েছে, যা নিয়ন্ত্রক নথির স্বয়ংক্রিয় ব্যাখ্যা, অভ্যন্তরীণ নীতির কমপ্লায়েন্স চেক এবং নীতি পরিবর্তনের প্রভাব মূল্যায়নের মতো ফাংশন সমর্থন করে।

সাফল্যের ডেটা

> সংখ্যায় সারসংক্ষেপ: ঋণ অনুমোদনের দক্ষতা ৮৩% বেড়েছে, ঝুঁকি মিস রেট ৮৩% কমেছে, কমপ্লায়েন্স বিশ্লেষণের দক্ষতা ৮৮% বেড়েছে, ডেটা শূন্য লিকেজ CBIRC-এর নিয়ন্ত্রক প্রয়োজনীয়তা সম্পূর্ণ পূরণ করছে।

টেক স্ট্যাক

Qwen2.5-72B, vLLM ইনফারেন্স ফ্রেমওয়ার্ক, NVIDIA A100 GPU ক্লাস্টার, LangChain, Python, Kubernetes, ব্যাংক ইন্টারনাল নেটওয়ার্ক আইসোলেটেড ডেপ্লয়মেন্ট

সাধারণ জিজ্ঞাসা

ব্যাংকের বৃহৎ মডেল প্রাইভেট ডেপ্লয়মেন্টের জন্য কত GPU রিসোর্স প্রয়োজন?

সাধারণত ২-৮টি A100/H800 লেভেলের GPU প্রয়োজন। এই প্রকল্পে Qwen2.5-72B ডেপ্লয় করতে 8×A100 ব্যবহার করা হয়েছে, 7B লেভেলের মডেল একক কার্ডেই ইনফারেন্স করতে পারে, 70B মডেলের জন্য ৪ কার্ড দিয়ে শুরু করার পরামর্শ। সমস্ত ইনফারেন্স ব্যাংকের ইন্টারনাল নেটওয়ার্কের মধ্যে সম্পন্ন হয়, ডেটা শূন্য লিকেজ।

প্রাইভেট ডেপ্লয়মেন্টের পর অনুমোদনের দক্ষতা কতটা বাড়বে?

অনুমোদনের সময় ৩ দিন থেকে ৪ ঘণ্টায় কমেছে (৮৩% বৃদ্ধি), ঝুঁকি মিস রেট ৩% থেকে ০.৫%-এ নেমেছে (৮৩% হ্রাস), কমপ্লায়েন্স ডকুমেন্ট বিশ্লেষণের সময় ২ দিন/প্রতি থেকে ২ ঘণ্টা/প্রতি হয়েছে।

বৃহৎ মডেল প্রাইভেট ডেপ্লয়মেন্ট কি CBIRC-এর নিয়ন্ত্রক প্রয়োজনীয়তা পূরণ করে?

হ্যাঁ। সমস্ত মডেল ইনফারেন্স এবং ডেটা ফ্লো ব্যাংকের ইন্টারনাল নেটওয়ার্কের মধ্যেই সম্পন্ন হয়, কোনো তৃতীয় পক্ষের ডেটা নির্ভরতা নেই, CBIRC-এর ডেটা আউট-অফ-ডোমেইন নিয়ন্ত্রক প্রয়োজনীয়তা সম্পূর্ণরূপে পূরণ করে।