Rethinking LLMOps for Fraud and AML: Building a Compliance-Grade LLM Serving Stack

Dieses Forschungspapier schlägt einen spezialisierten LLMOps-Stack für Betrugserkennung und AML-Compliance vor, der deren spezifische Serving-Anforderungen im Vergleich zu generischen Chat-Workloads berücksichtigt. Der Stack integriert verschiedene fortschrittliche Techniken, um evidenzreiche, schemabezogene Prompts effizient zu verarbeiten und eine Compliance-gerechte Leistung mit selbst gehosteten Open-Weight-LLMs zu gewährleisten.