Document AI: Warum funktioniert die Extraktion in der Demo und scheitert in der Produktion?

Avatar
Autor

Weil die Extraktion der leichte Teil ist. Was eine Demonstration von einem Produktivsystem trennt, ist die Disambiguierung, also zu wissen, dass drei verschiedene Schreibweisen dieselbe Entität sind und zwei identische Schreibweisen es nicht sind. Und zu wissen, wann das Modell die Antwort verweigern sollte, statt zu riskieren.

Und weil die meisten Projekte ohne das einzige Artefakt beginnen, das alles Übrige messbar macht: einen Satz von Fällen mit bekannter richtiger Antwort, festgelegt vor der Wahl irgendeines Modells.

Wir sprechen mit konkreten Zahlen. Wir haben DIGITARQ für die Generaldirektion für Bücher, Archive und Bibliotheken neu gebaut. Eine Suche umfasst nun 20 Archive, über mehr als 8 Millionen beschreibende Datensätze und mehr als 63 Millionen digitalisierte Bilder, entsprechend über 100 Kilometern physischer Dokumentation. Wir haben Modelle zur Erkennung und Disambiguierung von Entitäten für portugiesische Archivmetadaten trainiert, auf dem nationalen Netz für Hochleistungsrechnen des portugiesischen Staates. Die vollständige Projektbeschreibung findet sich in unseren Fallstudien.

10,8 Mio.
Akteure im Graphen: Personen und Körperschaften
16 Mio.
Miteinander verknüpfte Ereignisse
189,000
Orte
8 Mio.
Dokumente, in einem nach CIDOC-CRM modellierten Graphen
Die Extraktion ist der leichte Teil. Die Disambiguierung ist der Teil, der allem Übrigen Wert verleiht.

Extraktion, Klassifikation und Entitätenerkennung: Was ist der Unterschied?

Es sind unterschiedliche Aufgaben mit unterschiedlichen Schwierigkeiten, und sie werden häufig verkauft, als wären sie eine. Ihre Verwechslung ist der Grund, warum ein Budget zu knapp bemessen wird.

Extraktion
Werte herausziehen
Daten, Beträge, Nummern, Felder. Schwierig, wenn Layouts variieren und die Digitalisierungsqualität ungleichmäßig ist. Lösbar und messbar.
Klassifikation
Eine Kategorie zuweisen
Dem Dokument oder seinem Inhalt. Schwierig, wenn die Grenzen zwischen Kategorien unscharf sind und die Menschen im Unternehmen sie nicht einheitlich verwenden.
NER
Entitäten erkennen
Personen, Organisationen, Orte, im Text markiert. Schwierig bei unregelmäßigen Namen, Abkürzungen und Formen, die das Modell nie gesehen hat.
NED
Auf eine einzige Entität auflösen
Jede Erwähnung mit einem kanonischen Knoten verknüpft. Das ist der wirklich schwierige Teil, und er verleiht dem Rest seinen Wert.
Einen Namen zu erkennen ist eine halbe Aufgabe. Dieselbe Zeichenfolge kann sich auf viele verschiedene Personen beziehen, und dieselbe Person kann auf ein Dutzend Weisen geschrieben erscheinen. Ohne Disambiguierung haben Sie eine Liste von Stellen, an denen eine Zeichenfolge vorkommt. Mit Disambiguierung können Sie eine Frage über eine Person beantworten.

Warum ist die Disambiguierung schwieriger als die Extraktion?

Weil sie eine Entscheidung erfordert, die das Modell nicht allein treffen kann: was als dieselbe Entität gilt.

Bei DIGITARQ behandelte das Vorgängersystem "Torre do Tombo", "ANTT" und "Arquivo Nacional" als drei verschiedene Textfolgen. Eine Person, die in einem Kirchenbuch eines Archivs getauft und in einem Testament eines anderen Archivs genannt wurde, waren zwei unverbundene Datensätze. Der Wert eines Archivs liegt in den Verbindungen, und die Daten lagen als isolierte Datensätze vor und wurden als einfacher Text durchsucht.

Die betriebliche Fassung desselben Problems sieht so aus. Dasselbe Unternehmen erscheint als Lieferant mit vier Firmennamen, drei historischen Steuernummern und zwei Abkürzungen. Derselbe Mitarbeiter erscheint mit und ohne zweiten Vornamen, mit und ohne Akzente. Dieselbe Vertragsreferenz erscheint in unterschiedlichen Nummerierungsformaten, je nachdem, wer sie geschrieben hat. Keiner dieser Fälle löst sich durch ein besseres Modell. Sie lösen sich durch eine fachliche Entscheidung darüber, was Identität ausmacht, schriftlich festgehalten vor dem Beginn.

Die Kette, die Wert erzeugt
NER
Die Entitäten im Text erkennen und markieren, mit einem Modell, das in der richtigen Domäne bewertet wurde.
NED
Jede Erwähnung auf eine kanonische Entität auflösen, gemäß einer schriftlichen Definition von Identität.
Graph
Entitäten, Ereignisse, Orte und Dokumente in einem Standarddatenmodell verknüpfen.
Die Frage, die niemand im ersten Gespräch stellt: was soll geschehen, wenn das System nicht genug Zuversicht hat? Ein nützliches System kann verweigern. Ein System, das immer eine Antwort liefert, verlagert die Prüfarbeit auf denjenigen, der ihm vertraut, und so häuft sich stiller Fehler an.

Was braucht man, bevor ein Document-AI-Projekt beginnt?

In der Stapelverarbeitung, in den meisten Fällen, und das ist die Architekturentscheidung mit der größten Kostenwirkung. Bei DIGITARQ liefen Erkennung und Disambiguierung als Stapelverarbeitung über den gesamten migrierten Datenbestand. Entitäten wurden einmal über alle Daten extrahiert und aufgelöst und speisen die Plattform. Die Modelle werden nicht in Echtzeit aufgerufen, während Nutzer navigieren.

Im Stapel
Vorhersehbar und prüfbar
Die Kosten fallen einmal pro Dokument an. Keine Latenz für den Nutzer, denn die Suche greift auf bereits berechnete Ergebnisse zu. Die Neuverarbeitung ist ausdrücklich und gesteuert, wenn sich das Modell verbessert. Und es gibt ein datiertes, reproduzierbares Ergebnis.
In Echtzeit
Wo es sich rechtfertigt, und was es kostet
Die Kosten fallen pro Abfrage an, auch bei Wiederholungen, und die Modelllatenz geht in jede Interaktion ein. Verschiedene Nutzer können unterschiedliche Ergebnisse erhalten, und es ist schwer nachzuvollziehen, was das System geantwortet hat und warum.
Echtzeit ist berechtigt, wenn das Dokument im Moment eintrifft und die Entscheidung nicht warten kann, etwa beim Eingang eines Antrags. Auch dann funktioniert das Muster, bei Eingang zu verarbeiten und das Ergebnis zu speichern, und nicht bei jedem Lesen zu verarbeiten.

Warum scheitert die Extraktion bei portugiesischen Dokumenten?

Weil die sprachliche Variation größer ist als die, für die sie kalibriert wurden, und unsere Erfahrung stammt aus der extremen Fassung dieses Problems. Historisches Portugiesisch ist unregelmäßig, stark abgekürzt und über Jahrhunderte hinweg uneinheitlich geschrieben. Generische Standardwerkzeuge genügen für dieses Material nicht, weshalb wir die Modelle speziell für diese Domäne angepasst und bewertet haben, im Vergleich moderner Transformer-Architekturen, um die mit der besten Leistung bei Archivsprache auszuwählen.

Das ist das Extrem, doch dieselbe Logik gilt lange davor. Ein generisches Modell erkennt gängige portugiesische Namen und scheitert an den weniger gängigen, und genau dort schmerzen die Fehler. Fachvokabular, ob juristisch, technisch oder branchenspezifisch, ist nicht repräsentiert, denn das Modell sieht Wörter und nicht Begriffe Ihres Geschäfts. Und alte Dokumente in einem modernen Unternehmen folgen anderen Konventionen, denn ein Vertragsarchiv über zwanzig Jahre enthält mehrere Schreibregime.

Die praktische Folgerung ist nicht, stets ein eigenes Modell zu trainieren, was teuer und oft unnötig ist. Sie lautet, jeden Kandidaten auf dem eigenen Material zu bewerten, bevor man wählt.

Haben Sie einen Bestand, an dem generische Extraktion scheitert? Das ist genau die Art Problem, die wir bevorzugen.
Sprechen Sie mit unserem Team

Was sollte nach dem Projekt bei Ihnen bleiben?

Vier Dinge, und keines erfordert Technologie. Sie bestimmen, ob das Projekt messbar ist.

Ein Referenzdatensatz. Echte Dokumente mit der von Sachkundigen annotierten richtigen Antwort, einschließlich der Fälle, die in der Vergangenheit jemandem peinlich waren. Ohne das gibt es keine Möglichkeit, zwei Anbieter oder zwei Versionen zu vergleichen, und die Bewertung wird zum Eindruck.
Eine schriftliche Definition jedes Entitätstyps. Was als Lieferant gilt, was als dieselbe Person, was als ein Vertrag. Schriftlich, und mit einer Person, die über Grenzfälle entscheidet.
Eine Entscheidung zur Verweigerung. Welches Zuversichtsniveau das System dazu bringt zu sagen, dass es nicht weiß, und wohin dieser Fall geht.
Eine Entscheidung darüber, was gespeichert wird. Extraktion erzeugt personenbezogene Daten aus Dokumenten, die sie bereits enthielten, und die Minimierung gilt für das Ergebnis genauso wie für die Quelle. Alles zu speichern, weil es verfügbar war, ist eine Haftung und kein Nachweis.

Das Erste fehlt am häufigsten und ist am teuersten, wenn es fehlt. Einen Referenzdatensatz aufzubauen ist Annotationsarbeit einer Person, die das Material kennt, und sie verwandelt den ganzen Rest des Projekts in eine Messung statt in eine Diskussion.

Wann fällt dies unter den AI Act?

Es hängt davon ab, was mit dem Ergebnis geschieht, nicht von der eingesetzten Technologie, und die Unterscheidung ist nützlich, weil sie unnötigen Compliance-Umfang vermeidet. Felder aus einer Rechnung zu extrahieren und Dokumente für die Ablage zu klassifizieren ist für sich kein Hochrisikofall. Das Ergebnis zu nutzen, um über Menschen zu entscheiden, kann es sein. Die Kategorien des Anhangs III der Verordnung (EU) 2024/1689 umfassen Bereiche wie Beschäftigung, Kreditwürdigkeitsprüfung und Zugang zu öffentlichen Diensten, und diese Pflichten wurden durch die Verordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026, auf den 2. Dezember 2027 verschoben.

Die Transparenzpflichten des Artikels 50 zur Kennzeichnung erzeugter Inhalte gelten für diejenigen, die Inhalte erzeugen. Ein System, das extrahiert und klassifiziert, erzeugt typischerweise nicht, doch wenn dasselbe Produkt auch Zusammenfassungen oder Text erstellt, ist dieser Teil erfasst. Praktisch: Klassifizieren Sie die Nutzung, nicht die Technologie, und führen Sie diese Analyse am Anfang durch. Unsere Zusammenfassung von was sich im August 2026 am AI Act geändert hat zeigt, welche Pflichten sich verschoben haben und welche nicht.

Was sollte bei Ihnen bleiben?

Fünf Dinge, und das erste geht am häufigsten verloren. Der Referenzdatensatz und die Bewertungsergebnisse, der Vermögenswert, der einen Wechsel von Anbieter oder Modell ohne Neubeginn erlaubt. Das Datenmodell, einschließlich der Entitätsdefinitionen und der Disambiguierungsregeln, in lesbarem Format. Die extrahierten Daten, in einem Schema, das nicht von der Plattform des Extrahierenden abhängt. Das Protokoll darüber, was wann und mit welcher Modellversion verarbeitet wurde, ohne das man nicht weiß, was neu verarbeitet werden muss. Und die Dokumentation der Entscheidungen, einschließlich der Grenzfälle.

Eine Anmerkung zu offenen Standards. Bei DIGITARQ wurde der Graph nach CIDOC-CRMmodelliert, dem Standard ISO 21127 für die Interoperabilität von Informationen zum Kulturerbe, mit einer 2023 veröffentlichten überarbeiteten Ausgabe, und zwar genau damit die Institution die Plattform langfristig ohne Abhängigkeit von einem einzigen Anbieter tragen und weiterentwickeln kann. Die Wahl eines Standarddatenmodells ist die Entscheidung, die am stärksten bestimmt, ob das Projektergebnis in zehn Jahren noch Ihnen gehört.

Häufige Fragen

Extraktion, NER und NED

Was ist der Unterschied zwischen NER und NED?
Die Erkennung benannter Entitäten identifiziert und markiert die im Text vorhandenen Entitäten, etwa Personen, Organisationen und Orte. Die Disambiguierung von Entitäten löst jede Erwähnung auf eine einzige kanonische Entität auf, sodass alle Verweise auf dieselbe Person oder Organisation mit demselben Knoten verknüpft sind. Die zweite ist der schwierige Teil und derjenige, der der ersten Wert verleiht.
Warum scheitern Projekte zur Dokumentenextraktion in der Produktion?
Weil die Extraktion der leichte Teil ist. Sie scheitern an der Disambiguierung, daran, dass das System nicht verweigern kann, wenn es nicht genug Zuversicht hat, und am Fehlen eines Referenzdatensatzes mit bekannter richtiger Antwort, ohne den sich nicht messen lässt, ob das System funktioniert.

Stapelarchitektur und Sprache

Sollte Dokumentenverarbeitung im Stapel oder in Echtzeit laufen?
Im Stapel, in den meisten Fällen. Die Kosten sind vorhersehbar und werden einmal pro Dokument bezahlt, es gibt keine Modelllatenz im Nutzererlebnis, die Neuverarbeitung ist ausdrücklich, wenn sich das Modell verbessert, und es gibt ein datiertes, reproduzierbares Ergebnis für Prüfzwecke.
Funktionieren generische Modelle bei portugiesischen Dokumenten?
Sie funktionieren bei gängigem Material und verschlechtern sich beim weniger gängigen, und dort kosten Fehler. Fachvokabular ist nicht repräsentiert, und alte Dokumente in einem modernen Unternehmen folgen anderen Konventionen. Die Antwort lautet nicht, stets ein eigenes Modell zu trainieren, sondern auf dem eigenen Material zu bewerten, bevor man wählt. Die Fragen, die einem Anbieter an diesem Punkt zu stellen sind, stehen in was Sie eine KI-Agentur fragen sollten, bevor Sie unterschreiben.

Voraussetzungen und Regulierung

Was braucht man, bevor man ein Document-AI-Projekt beauftragt?
Einen Referenzdatensatz mit echten Dokumenten und annotierter richtiger Antwort, eine schriftliche Definition jedes Entitätstyps mit einer für Grenzfälle verantwortlichen Person, eine Entscheidung darüber, was passiert, wenn das System nicht weiß, und eine Entscheidung darüber, was vom Ergebnis gespeichert wird.
Fällt KI-Dokumentenextraktion in den Anwendungsbereich des AI Act?
Es hängt davon ab, was mit dem Ergebnis geschieht. Felder zu extrahieren und Dokumente zu klassifizieren ist für sich kein Hochrisikofall. Das Ergebnis zu nutzen, um über Menschen zu entscheiden, kann es sein, da Anhang III der Verordnung (EU) 2024/1689 Bereiche wie Beschäftigung, Kredit und Zugang zu öffentlichen Diensten umfasst, mit auf den 2. Dezember 2027 verschobenen Pflichten.
Caixa Mágica Software
Team Caixa Mágica
Caixa Mágica Software ist ein portugiesisches Softwareunternehmen seit 2000. Kundenspezifische Software, KI-Plattformen und Nearshore-Entwicklung für europäische Unternehmen in PT, DE und UK.
AI Lab · Caixa Mágica Software
Bringen Sie uns das schwierige Material
Wir haben Modelle zur Erkennung und Disambiguierung von Entitäten für portugiesische Archivsprache trainiert und sie über mehr als 8 Millionen Datensätze laufen lassen, mit dem Ergebnis in einem Graphen mit über 10,8 Millionen Akteuren. Senden Sie uns hundert repräsentative Dokumente, einschließlich der schlechtesten.