Document AI: porque é que a extracção funciona na demonstração e falha em produção?

Avatar
Autor

Porque a extracção é a parte fácil. O que separa uma demonstração de um sistema em produção é a desambiguação, ou seja saber que três grafias diferentes são a mesma entidade e que duas grafias iguais não são. E saber quando o modelo deve recusar responder em vez de arriscar.

E porque a maioria dos projectos começa sem o único artefacto que torna o resto mensurável: um conjunto de casos com a resposta correcta conhecida, definido antes de escolher qualquer modelo.

Falamos com números concretos. Reconstruímos o DIGITARQ para a Direção-Geral do Livro, dos Arquivos e das Bibliotecas. Uma pesquisa passou a cobrir 20 arquivos, sobre mais de 8 milhões de registos descritivos e mais de 63 milhões de imagens digitalizadas, correspondentes a mais de 100 quilómetros de documentação física. Treinámos modelos de reconhecimento e de desambiguação de entidades para metadados arquivísticos em português, na rede nacional de computação avançada e supercomputação do Estado português. O texto completo do projecto está nos nossos casos de estudo.

10,8M
Actores no grafo: pessoas e entidades colectivas
16M
Eventos interligados
189,000
Lugares
8M
Documentos, num grafo modelado em CIDOC-CRM
A extracção é a parte fácil. A desambiguação é a parte que dá valor a tudo o resto.

Extracção, classificação e reconhecimento de entidades: qual é a diferença?

São tarefas distintas, com dificuldades distintas, e são frequentemente vendidas como se fossem uma. Confundi-las é a razão pela qual um orçamento fica curto.

Extracção
Retirar valores
Datas, montantes, números, campos. Difícil quando os layouts variam e a digitalização tem qualidade irregular. Resolúvel e mensurável.
Classificação
Atribuir uma categoria
Ao documento ou ao seu conteúdo. Difícil quando as fronteiras entre categorias são difusas, e quando as pessoas da empresa não as usam de forma consistente.
NER
Identificar entidades
Pessoas, organizações, lugares, marcadas no texto. Difícil com nomes irregulares, abreviaturas e formas que o modelo nunca viu.
NED
Resolver para uma entidade única
Cada menção ligada a um nó canónico. É a parte genuinamente difícil, e é a que dá valor ao resto.
Reconhecer um nome é meia tarefa. A mesma cadeia de caracteres pode referir-se a muitas pessoas diferentes, e a mesma pessoa pode aparecer escrita de uma dúzia de maneiras. Sem desambiguação, tem uma lista de sítios onde uma sequência de caracteres aparece. Com desambiguação, pode responder a uma pergunta sobre uma pessoa.

Porque é que a desambiguação é mais difícil do que a extracção?

Porque exige uma decisão que o modelo não pode tomar sozinho: o que conta como a mesma entidade.

No DIGITARQ, o sistema anterior tratava "Torre do Tombo", "ANTT" e "Arquivo Nacional" como três cadeias de texto diferentes. Uma pessoa batizada num registo paroquial guardado num arquivo e nomeada num testamento guardado noutro eram dois registos sem ligação. O valor do arquivo está nas ligações, e os dados estavam guardados como registos isolados e pesquisados como texto simples.

A versão empresarial do mesmo problema é esta. A mesma empresa aparece como fornecedor com quatro razões sociais, três NIF históricos e duas abreviaturas. O mesmo colaborador aparece com e sem nome do meio, com e sem acentos. A mesma referência contratual aparece com formatos de numeração diferentes conforme quem a escreveu. Nenhum destes casos se resolve com um modelo melhor. Resolve-se com uma decisão de negócio sobre o que constitui identidade, escrita antes de começar.

A cadeia que produz valor
NER
Identificar e marcar as entidades no texto, com um modelo avaliado no domínio certo.
›
NED
Resolver cada menção para uma entidade canónica, segundo uma definição de identidade escrita.
›
Grafo
Ligar entidades, eventos, lugares e documentos num modelo de dados padrão.
A pergunta que ninguém faz na primeira reunião: o que deve acontecer quando o sistema não tem confiança suficiente? Um sistema útil sabe recusar. Um que devolve sempre uma resposta transfere o trabalho de verificação para quem confia nele, e é assim que se acumula erro silencioso.

O que é preciso ter antes de começar um projecto de extracção com document AI?

Em lote, na maioria dos casos, e esta é a decisão arquitectural com maior impacto no custo. No DIGITARQ o reconhecimento e a desambiguação correram como processamento em lote sobre todo o conjunto migrado. As entidades foram extraídas e resolvidas uma vez, sobre todos os dados, e alimentam a plataforma. Os modelos não são invocados em tempo real enquanto os utilizadores navegam.

Em lote
Previsível e auditável
O custo paga-se uma vez por documento. Nenhuma latência para o utilizador, porque a pesquisa consulta resultados já calculados. O reprocessamento é explícito e controlado quando o modelo melhora. E existe um resultado datado e reproduzível.
Tempo real
Onde se justifica, e o que custa
O custo paga-se a cada consulta, incluindo as repetidas, e a latência do modelo entra em cada interacção. Diferentes utilizadores podem obter resultados diferentes, e é difícil reconstruir o que o sistema respondeu e porquê.
Tempo real justifica-se quando o documento chega no momento e a decisão não pode esperar, como na receção de um pedido. Mesmo aí, o padrão que funciona é processar na chegada e guardar o resultado, não processar a cada leitura.

Porque é que a extracção com document AI falha em português?

Porque a variação linguística é maior do que aquela para que foram calibrados, e a nossa experiência veio da versão extrema desse problema. O português histórico é irregular, muito abreviado e escrito de forma inconsistente ao longo de séculos. Ferramentas genéricas prontas a usar não bastam para esse material, e por isso adaptámos e avaliámos os modelos especificamente para este domínio, comparando arquitecturas transformer modernas para escolher a que tinha melhor desempenho em linguagem arquivística.

Esse é o extremo, mas a mesma lógica aplica-se muito antes dele. Um modelo genérico reconhece nomes portugueses comuns e falha nos menos comuns, que é exactamente onde os erros doem. Vocabulário de domínio, jurídico, técnico ou sectorial, não está representado, porque o modelo vê palavras e não conceitos do seu negócio. E documentos antigos dentro de uma empresa moderna têm convenções diferentes, porque um arquivo de contratos de vinte anos tem vários regimes de escrita.

A conclusão prática não é treinar sempre um modelo próprio, que é caro e frequentemente desnecessário. É avaliar cada candidato no seu próprio material antes de escolher.

Tem um corpus onde a extracção genérica falha? É exactamente o tipo de problema que preferimos.
Fale com a nossa equipa

O que deve ficar consigo depois do projecto?

Quatro coisas, e nenhuma exige tecnologia. São o que determina se o projecto é mensurável.

Um conjunto de referência. Documentos reais, com a resposta correcta anotada por quem sabe, incluindo os casos que embaraçaram alguém no passado. Sem isto, não há forma de comparar dois fornecedores nem duas versões, e a avaliação passa a ser impressão.
Uma definição escrita de cada tipo de entidade. O que conta como fornecedor, o que conta como a mesma pessoa, o que conta como um contrato. Escrito, e com uma pessoa responsável por decidir os casos de fronteira.
Uma decisão sobre a recusa. Que nível de confiança faz o sistema dizer que não sabe, e para onde vai esse caso.
Uma decisão sobre o que se guarda. A extracção produz dados pessoais a partir de documentos que já os continham, e a minimização aplica-se ao resultado tanto como à origem. Guardar tudo porque estava disponível é passivo, não é registo.

O primeiro é o que mais vezes falta e o que mais custa não ter. Construir um conjunto de referência é trabalho de anotação de alguém que conhece o material, e transforma todo o resto do projecto numa medição em vez de numa discussão.

Quando é que isto entra no âmbito do AI Act?

Depende do que se faz com o resultado, não da tecnologia usada, e a distinção é útil porque evita âmbito de conformidade desnecessário. Extrair campos de uma factura e classificar documentos para arquivo não é, em si, um caso de risco elevado. Usar o resultado para decidir sobre pessoas pode ser. As categorias do Anexo III do Regulamento (UE) 2024/1689 incluem áreas como emprego, avaliação de crédito e acesso a serviços públicos, e essas obrigações foram diferidas para 2 de dezembro de 2027 pelo Regulamento (UE) 2026/1744, que entrou em vigor a 27 de julho de 2026.

As obrigações de transparência do artigo 50, sobre marcação de conteúdo gerado, aplicam-se a quem gera conteúdo. Um sistema que extrai e classifica não está tipicamente a gerar, mas se o mesmo produto também produz resumos ou texto, essa parte está. Na prática: classifique a utilização, não a tecnologia, e faça essa análise no início. O nosso resumo de o que mudou no AI Act em agosto de 2026 indica quais as obrigações que mudaram e quais as que não mudaram.

O que deve ficar consigo?

Cinco coisas, e a primeira é a que mais vezes se perde. O conjunto de referência e os resultados de avaliação, que é o activo que permite mudar de fornecedor ou de modelo sem recomeçar. O modelo de dados, incluindo as definições de entidade e as regras de desambiguação, em formato legível. Os dados extraídos, num esquema que não dependa da plataforma de quem os extraiu. O registo do que foi processado, quando, e com que versão do modelo, sem o qual não se sabe o que precisa de ser reprocessado. E a documentação das decisões, incluindo os casos de fronteira.

Uma nota sobre normas abertas. No DIGITARQ o grafo foi modelado em CIDOC-CRM, a norma ISO 21127 para interoperabilidade de informação de património cultural, com edição revista publicada em 2023, precisamente para que a instituição possa sustentar e desenvolver a plataforma a longo prazo sem dependência de um único fornecedor. A escolha de um modelo de dados padrão é a decisão que mais determina se o resultado do projecto continua a ser seu daqui a dez anos.

Perguntas frequentes

Extracção, NER e NED

Qual a diferença entre NER e NED?
O reconhecimento de entidades nomeadas identifica e marca as entidades presentes no texto, como pessoas, organizações e lugares. A desambiguação de entidades resolve cada menção para uma entidade única e canónica, de modo a que todas as referências à mesma pessoa ou organização fiquem ligadas ao mesmo nó. A segunda é a parte difícil e a que dá valor à primeira.
Porque é que os projectos de extracção de documentos falham em produção?
Porque a extracção é a parte fácil. Falham na desambiguação, no facto de o sistema não saber recusar quando não tem confiança suficiente, e na ausência de um conjunto de referência com a resposta correcta conhecida, sem o qual não há forma de medir se o sistema funciona.

Arquitectura em lote e língua

Deve o processamento de documentos correr em lote ou em tempo real?
Em lote, na maioria dos casos. O custo é previsível e pago uma vez por documento, não há latência de modelo na experiência do utilizador, o reprocessamento é explícito quando o modelo melhora, e existe um resultado datado e reproduzível para efeitos de auditoria.
Modelos genéricos funcionam em documentos em português?
Funcionam em material comum e degradam no menos comum, que é onde os erros custam. Vocabulário de domínio não está representado, e documentos antigos dentro de uma empresa moderna seguem convenções diferentes. A resposta não é treinar sempre um modelo próprio, é avaliar no seu material antes de escolher. As perguntas que vale a pena fazer a um fornecedor nesse momento estão em o que perguntar a uma agência de IA antes de assinar.

Pré-requisitos e regulação

O que é preciso ter antes de contratar um projecto de document AI?
Um conjunto de referência com documentos reais e a resposta correcta anotada, uma definição escrita de cada tipo de entidade com um responsável pelos casos de fronteira, uma decisão sobre o que acontece quando o sistema não sabe, e uma decisão sobre o que se guarda do resultado.
Extracção de documentos com IA entra no âmbito do AI Act?
Depende do que se faz com o resultado. Extrair campos e classificar documentos não é, em si, um caso de risco elevado. Usar o resultado para decidir sobre pessoas pode ser, dado que o Anexo III do Regulamento (UE) 2024/1689 cobre áreas como emprego, crédito e acesso a serviços públicos, com obrigações diferidas para 2 de dezembro de 2027.
Caixa Mágica Software
Equipa Caixa Mágica
A Caixa Mágica Software é uma empresa portuguesa de software com mais de 20 anos de experiência em software à medida, soluções de IA e equipas de desenvolvimento nearshore para empresas europeias.
AI Lab · Caixa Mágica Software
Traga-nos o material difícil
Treinámos modelos de reconhecimento e desambiguação de entidades para português arquivístico e corremo-los sobre mais de 8 milhões de registos, com o resultado num grafo com mais de 10,8 milhões de actores. Mande-nos cem documentos representativos, incluindo os piores.