Mit KI-Agenten Vertragsdetails in Sekundenschnelle finden
Kurzdarstellung des Projekts
Im Rahmen eines KI-Anwendungsprojekts des Mittelstand-Digital Zentrums Hannover wurde gemeinsam mit der Sightwise GmbH ein prototypischer, lokal betriebener Dokumenten-Agent entwickelt. Dieser unterstützt Mitarbeitende bei der zeitintensiven Recherche in Vertraulichkeitsvereinbarungen (NDAs), indem er Nutzerfragen analysiert und anschließend eigenständig den passenden Recherchepfad auswählt. Über eine grafische Benutzeroberfläche können Verträge in das System geladen und anschließend per Chat gezielt abgefragt werden. Das System verarbeitet die Dokumente lokal, extrahiert relevante Informationen und legt diese in geeigneten Datenbanken ab. Je nach Art der Nutzerfrage entscheidet der KI-Assistent automatisch, ob die Antwort aus strukturierten Metadaten, aus kunden- bzw. vertragsbezogenen Textpassagen oder aus einer übergreifenden Suche im gesamten Vertragsbestand abgeleitet wird. Diese selbstständige Auswahl des geeigneten Verarbeitungspfads bildet den agentischen Kern des Systems. So können sowohl einfache Vertragsdetails als auch komplexere inhaltliche Fragen effizient beantwortet werden. Das Projekt zeigt, dass KMU durch lokale KI-Lösungen ihre Datensouveränität wahren und gleichzeitig interne Dokumentenprozesse deutlich beschleunigen können.
Herausforderung und Zielsetzung
Im täglichen Geschäftsbetrieb der Sightwise GmbH entstehen regelmäßig Situationen, die eine schnelle Klärung vertraglicher Details erfordern – etwa die Frage, ob ein bestimmter Kunde in einer Präsentation als Referenz genannt werden darf. Die entsprechenden Informationen sind in Vertraulichkeitsvereinbarungen festgehalten. Diese Dokumente müssen im Arbeitsalltag nicht nur auffindbar sein, sondern auch inhaltlich zuverlässig ausgewertet werden können. Hat man das passende Dokument geöffnet, muss der Vertragstext häufig manuell nach relevanten Passagen durchsucht und anschließend interpretiert werden.
Das Ziel des Projekts war daher die Entwicklung eines prototypischen KI-Agenten-Systems, das diesen Prozess unterstützt und beschleunigt. Die Anforderungen waren klar definiert: Das System sollte Verträge über eine grafische Benutzeroberfläche aufnehmen, relevante Textpassagen und Metadaten aus den Dokumenten extrahieren und darauf basierend individuelle Nutzerfragen gezielt beantworten. Dabei sollte der KI-Agent automatisch erkennen, ob für die Beantwortung einer Frage strukturierte Vertragsdaten oder eine semantische Suche in den Vertragstexten erforderlich sind. Eine zentrale Bedingung war die Gewährleistung hoher Datensouveränität. Da Verträge sensible Informationen enthalten, sollte die Verarbeitung lokal erfolgen, ohne dass Vertragsinhalte an externe Cloud-APIs übermittelt werden.
Lösungsweg
und technische Umsetzung
Die Umsetzung erfolgte in einer modularen Systemarchitektur, die Flexibilität mit hoher Präzision verbindet. Kern ist ein intelligentes Routingsystem, das jede Nutzeranfrage analysiert und den jeweils passenden Verarbeitungspfad auswählt. In diesem Sinne fungiert das System als einfacher KI-Agent: Es interpretiert die Anfrage, entscheidet zwischen verschiedenen Datenquellen und Suchstrategien und stößt anschließend den passenden Abruf- und Antwortprozess an.
Zu Beginn wird ein Vertrag über die grafische Benutzeroberfläche per Drag-and-drop in das System geladen. Anschließend wird das Dokument automatisch verarbeitet: Der Vertrag wird geparst, in kleinere Textsegmente, sogenannte Chunks, aufgeteilt und mit relevanten Metadaten angereichert. Diese Metadaten werden gezielt aus dem Vertrag extrahiert und in einer SQL-Datenbank gespeichert. Parallel werden die erzeugten Chunks in Vektordatenbanken geladen.
Das System arbeitet dabei mit zwei Vektordatenbanken. Eine Vektordatenbank organisiert die Chunks kunden- beziehungsweise vertragsbezogen. Sie wird genutzt, wenn sich eine Nutzerfrage auf einen bestimmten Kunden oder Vertrag bezieht. Die zweite Vektordatenbank enthält Chunks aus allen eingelesenen Verträgen und ermöglicht eine übergreifende Suche über den gesamten Vertragsbestand. Die technische Verarbeitung der Anfragen folgt einem einfachen agentischen Ablauf. Der KI-Assistent nimmt die Frage entgegen, klassifiziert den Informationsbedarf und wählt anschließend den geeigneten Recherchepfad aus.
Die technische Verarbeitung der Anfragen erfolgt in mehreren Schritten:
- Analyse und Kategorisierung der Anfrage:
Das Sprachmodell analysiert zunächst, ob sich die Frage auf einen bestimmten Kunden beziehungsweise Vertrag bezieht oder ob mehrere Verträge beziehungsweise der gesamte Vertragsbestand betroffen sind. - Recherche bei kunden- oder vertragsbezogenen Fragen:
Handelt es sich um eine Frage zu einem bestimmten Kunden oder Vertrag, wählt der KI-Agent den kunden- beziehungsweise vertragsbezogenen Recherchepfad aus und sucht die relevanten Informationen mithilfe eines RAG-Ansatzes in der entsprechenden Vektordatenbank. Dabei werden diejenigen Textsegmente abgerufen, die inhaltlich am besten zur gestellten Frage passen. Auf dieser Grundlage generiert das Sprachmodell eine Antwort. - Recherche bei vertragsübergreifenden Fragen:
Betrifft eine Frage mehrere Verträge, wählt der KI-Agent zunächst den vertragsübergreifenden Verarbeitungspfad. Dabei prüft das System, ob die benötigte Information bereits strukturiert in der SQL-Datenbank vorliegt. Dies ist insbesondere bei standardisierten Metadaten sinnvoll, die zuvor aus den Verträgen extrahiert wurden. Falls die Information dort nicht verfügbar ist, greift das System auf die Vektordatenbank mit allen Vertrags-Chunks zurück und ruft die relevantesten Textstellen aus dem gesamten Vertragsbestand ab.
Ein wichtiger Aspekt bei der technischen Umsetzung war die bewusste Kombination verschiedener Such- und Datenbankansätze. Der RAG-Ansatz eignet sich besonders gut, wenn gezielt nach relevanten Textstellen in einem einzelnen Vertrag oder in den Dokumenten eines bestimmten Kunden gesucht wird. Bei Fragen, die eine vollständige Auswertung aller vorhandenen Verträge erfordern, stößt dieser Ansatz jedoch an Grenzen.
Der Grund dafür liegt in der Arbeitsweise des Systems: Bei einer RAG-Suche werden nicht automatisch alle Vertragstexte vollständig an das Sprachmodell übergeben. Stattdessen ruft das System eine begrenzte Anzahl besonders passend erscheinender Textabschnitte ab. Werden beispielsweise nur wenige Textabschnitte berücksichtigt, besteht das Risiko, dass wichtige Informationen aus anderen Verträgen nicht einbezogen werden. Erhöht man die Anzahl der Textabschnitte stark, kann wiederum zu viel Kontext entstehen. Das Sprachmodell muss dann sehr viele Informationen gleichzeitig verarbeiten, wodurch Antworten ungenauer werden oder im ungünstigen Fall falsche Zusammenhänge entstehen können.
Um diese Herausforderung zu lösen, wurde zusätzlich eine SQL-Datenbank mit strukturierten Metadaten eingesetzt. Dort werden zentrale Vertragsinformationen wie Vertragspartner, Laufzeiten, Unterzeichnungsdaten oder bestimmte Klauselarten in geordneter Form gespeichert. Bei vertragsübergreifenden Fragen kann das System diese Informationen gezielt und zuverlässig abfragen, ohne große Mengen an Vertragstext gleichzeitig auswerten zu müssen.
Wichtig ist dabei: Die SQL-Datenbank kann nur Informationen bereitstellen, die zuvor gezielt aus den Verträgen extrahiert wurden. Deshalb muss bereits im Vorfeld definiert werden, welche Metadaten für das Unternehmen relevant sind. Dieser Schritt ist entscheidend, damit das System später die gewünschten vertragsübergreifenden Fragen zuverlässig beantworten kann. Die Kombination aus RAG und SQL verbindet somit zwei Stärken: flexible Textsuche für individuelle Einzelfragen und strukturierte Datenabfragen für wiederkehrende oder übergreifende Auswertungen.
Für den lokalen Betrieb wurde Hardware mit leistungsfähigen Grafikkarten, etwa aus der NVIDIA-RTX-Serie, eingesetzt, um die Antwortzeiten auch bei komplexeren Modellen praxistauglich zu halten. Die Benutzeroberfläche wurde mit Streamlit (siehe Abbildung 1) realisiert, wodurch Mitarbeitende Verträge einfach hochladen und anschließend über eine Chatoberfläche Fragen an das System stellen können.
Nutzen für den Mittelstand
Das Projekt generiert einen erheblichen Mehrwert, der weit über den konkreten Anwendungsfall der Sightwise GmbH hinausgeht. Durch die Automatisierung von Routine-Recherchen werden Mitarbeitende von monotonen Aufgaben befreit und können sich anderen Tätigkeiten widmen. Dies steigert nicht nur die ökonomische Nachhaltigkeit und Wettbewerbsfähigkeit, sondern fördert auch die Mitarbeiterzufriedenheit.
Eine wichtige Erkenntnis (Lesson Learned) aus dem Projekt ist, dass die Kombination aus Prototyping und frühzeitiger Nutzerbeteiligung entscheidend für den Erfolg ist. Wenn Mitarbeitende bereits in der Definitionsphase Feedback geben, steigt die Akzeptanz der KI-Lösung spürbar. Zudem hat sich gezeigt, dass die hybride Nutzung von strukturierten Datenbanken (SQL) und unstrukturierter Textanalyse (RAG) die Effizienz massiv erhöht.
Das entwickelte System dient als übertragbare Blaupause für andere KMU. Es zeigt, dass der Mittelstand keine Abhängigkeit von großen Cloud-Anbietern eingehen muss, um von den Potenzialen moderner KI zu profitieren. Ein begleitend erstellter Praxisleitfaden unterstützt andere Unternehmen dabei, ähnliche agentenbasierte Workflows schrittweise in ihre IT-Landschaft zu integrieren. Das Projekt zeigt exemplarisch, wie bereits einfache KI-Agenten, die zwischen verschiedenen Datenquellen und Verarbeitungspfaden orchestrieren, konkrete Wissensmanagementprozesse im Mittelstand beschleunigen können. Damit rückt die Vision eines umfassenden „Company-LLM“ für ein souveränes unternehmensinternes Wissensmanagement in greifbare Nähe.
Die Sightwise GmbH mit Sitz in Garbsen bei Hannover ist ein innovativer Anbieter von KI-basierten Inspektionslösungen für die automatisierte visuelle Qualitätssicherung in der industriellen Produktion. Das Unternehmen kombiniert spezialisierte Software mit der Generierung synthetischer Trainingsdaten, was es ermöglicht, maßgeschneiderte Prüfungssysteme ohne manuelle Datenerfassung bereitzustellen. Dies führt bei Kunden zu Zeit- und Kostenersparnissen von bis zu 90 Prozent. Besonders in anspruchsvollen Branchen wie der Automobil- und Luftfahrtindustrie bietet Sightwise skalierbare Lösungen für die Oberflächeninspektion an. Als forschungs- und entwicklungsstarkes Dienstleistungsunternehmen ist Sightwise selbst auf effiziente interne Prozesse angewiesen, um seine Innovationskraft beizubehalten.
Das könnte Sie auch interessieren
Noch Fragen offen?
Unsere Projekte umfassen einen großen zeitlichen, organisatorischen und thematischen
Umfang. Erfragen Sie die Details einfach beim Projektverantwortlichen. Wir leiten Sie gerne weiter!