একটি যৌথমূলধনী ব্যাংকের বৃহৎ মডেল প্রাইভেট ডিপ্লয়মেন্ট ও ঝুঁকি নিয়ন্ত্রণ অ্যাপ্লিকেশন

প্রকল্পের পটভূমি

একটি যৌথমূলধনী ব্যাংক ক্রেডিট অনুমোদন ও কমপ্লায়েন্স পর্যালোচনায় বড় চ্যালেঞ্জের মুখোমুখি। ঐতিহ্যগত ক্রেডিট অনুমোদন ঋণগ্রহীতার নথি, ক্রেডিট রিপোর্ট ও আর্থিক তথ্যের ম্যানুয়াল পর্যালোচনার উপর নির্ভর করে, প্রতি আবেদনে ৩ দিন সময় লাগে, এবং ঝুঁকি মিস রেট ৩%। একইসাথে, নিয়ন্ত্রক কমপ্লায়েন্স নথির সংখ্যা বিপুল এবং দ্রুত আপডেট হয়, ফলে কমপ্লায়েন্স টিম দক্ষতার সঙ্গে নথি বিশ্লেষণ ও ঝুঁকি শনাক্ত করা কঠিন। ব্যাংকের ডেটা সুরক্ষায় কঠোর প্রয়োজনীয়তা রয়েছে, সমস্ত ব্যবসায়িক ডেটা বাইরে প্রেরণ নিষিদ্ধ, এআই ইনফারেন্স অবশ্যই লোকালি হতে হবে।

মূল ব্যথার জায়গা

সমাধান

প্রাইভেট বৃহৎ মডেল ডিপ্লয়মেন্ট

ব্যাংকের লোকাল জিপিইউ ক্লাস্টারে (৮×A100) Qwen2.5-72B বৃহৎ মডেল ডিপ্লয় করা হয়, যেখানে vLLM ইনফারেন্স ফ্রেমওয়ার্ক ব্যবহার করে থ্রুপুট অপটিমাইজ করা হয়। সমস্ত মডেল ইনফারেন্স এবং ডেটা ট্রান্সফার ব্যাংকের অভ্যন্তরীণ নেটওয়ার্কে সম্পন্ন হয়, ডেটা জিরো লিক হয়, যা সম্পূর্ণরূপে চায়না ব্যাংকিং ও ইন্স্যুরেন্স রেগুলেটরি কমিশনের (সিবিআইআরসি) ডেটা সুরক্ষা নিয়ন্ত্রক প্রয়োজনীয়তা পূরণ করে।

ক্রেডিট ঝুঁকি নিয়ন্ত্রণ ইন্টেলিজেন্ট পর্যালোচনা

বৃহৎ মডেলের ভিত্তিতে একটি ক্রেডিট ঝুঁকি নিয়ন্ত্রণ পর্যালোচনা সহায়ক তৈরি করা হয়, যা স্বয়ংক্রিয়ভাবে ঋণগ্রহীতার নথি, ক্রেডিট রিপোর্ট এবং আর্থিক বিবৃতি বিশ্লেষণ করে, তথ্যের সঙ্গতি যাচাই করে, সম্ভাব্য ঝুঁকির পয়েন্ট শনাক্ত করে এবং পর্যালোচনা প্রতিবেদন তৈরি করে। অনুমোদনের সময় ৩ দিন থেকে কমে ৪ ঘণ্টা, ঝুঁকি মিস রেট ৩% থেকে ০.৫% এ নেমে আসে।

কমপ্লায়েন্স নথি ইন্টেলিজেন্ট বিশ্লেষণ

কমপ্লায়েন্স নথি ইন্টেলিজেন্ট বিশ্লেষণ ব্যবস্থা তৈরি করা হয়, যা নিয়ন্ত্রক নথির স্বয়ংক্রিয় ব্যাখ্যা, অভ্যন্তরীণ নীতি কমপ্লায়েন্স পরীক্ষা, নীতি পরিবর্তনের প্রভাব মূল্যায়নের মতো ফাংশন সমর্থন করে, কমপ্লায়েন্স টিমকে পুনরাবৃত্তিমূলক পড়া ও বিশ্লেষণের কাজ থেকে মুক্ত করে।

প্রভাব ডেটা

টেকনোলজি স্ট্যাক

Qwen2.5-72B, vLLM ইনফারেন্স ফ্রেমওয়ার্ক, NVIDIA A100 জিপিইউ ক্লাস্টার, LangChain, Python, Kubernetes, ব্যাংক অভ্যন্তরীণ নেটওয়ার্ক আইসোলেশান ডিপ্লয়মেন্ট