نموذج لغوي محلي لتحليل الوثائق القانونية

الخلفية

كان محامو المكتب يقضون ساعات في مراجعة العقود واتفاقيات السرية يدويًا. ومع حساسية بيانات العملاء، لم يكن إرسال الوثائق إلى خدمات سحابية خارجية خيارًا مقبولًا.

ما قمنا به

نشرنا نموذج Llama 3.1 70B محليًا على بنية تحتية خاصة بالمكتب باستخدام vLLM على معالجات NVIDIA A100، مع واجهة FastAPI لتحليل العقود، واستخراج البنود الأساسية، وإبراز المخاطر تلقائيًا. تبقى كل البيانات داخل بنية المكتب دون مغادرتها.

النتيجة

انخفض زمن تحليل العقد من 3 ساعات إلى 5 دقائق، بدقة 98% في استخراج البنود الأساسية، مع الحفاظ على سرية بيانات العملاء بالكامل.