Document AI: porque é que a extracção funciona na demonstração e falha em produção?

Avatar
Autor

Porque a extracção é a parte fácil. O que separa uma demonstração de um sistema em produção é a desambiguação, ou seja saber que três grafias diferentes são a mesma entidade e que duas grafias iguais não são. E saber quando o modelo deve recusar responder em vez de arriscar.

E porque a maioria dos projectos começa sem o único artefacto que torna o resto mensurável: um conjunto de casos com a resposta correcta conhecida, definido antes de escolher qualquer modelo.

Falamos com números concretos. Reconstruímos o DIGITARQ para a Direção-Geral do Livro, dos Arquivos e das Bibliotecas. Uma pesquisa passou a cobrir 20 arquivos, sobre mais de 8 milhões de registos descritivos e mais de 63 milhões de imagens digitalizadas, correspondentes a mais de 100 quilómetros de documentação física. Treinámos modelos de reconhecimento e de desambiguação de entidades para metadados arquivísticos em português, na rede nacional de computação avançada e supercomputação do Estado português. O texto completo do projecto está nos nossos casos de estudo.

10,8M
Actores no grafo: pessoas e entidades colectivas
16M
Eventos interligados
189,000
Lugares
8M
Documentos, num grafo modelado em CIDOC-CRM
A extracção é a parte fácil. A desambiguação é a parte que dá valor a tudo o resto.

Extracção, classificação e reconhecimento de entidades: qual é a diferença?

São tarefas distintas, com dificuldades distintas, e são frequentemente vendidas como se fossem uma. Confundi-las é a razão pela qual um orçamento fica curto.

Extracção
Retirar valores
Datas, montantes, números, campos. Difícil quando os layouts variam e a digitalização tem qualidade irregular. Resolúvel e mensurável.
Classificação
Atribuir uma categoria
Ao documento ou ao seu conteúdo. Difícil quando as fronteiras entre categorias são difusas, e quando as pessoas da empresa não as usam de forma consistente.
NER
Identificar entidades
Pessoas, organizações, lugares, marcadas no texto. Difícil com nomes irregulares, abreviaturas e formas que o modelo nunca viu.
NED
Resolver para uma entidade única
Cada menção ligada a um nó canónico. É a parte genuinamente difícil, e é a que dá valor ao resto.
Reconhecer um nome é meia tarefa. A mesma cadeia de caracteres pode referir-se a muitas pessoas diferentes, e a mesma pessoa pode aparecer escrita de uma dúzia de maneiras. Sem desambiguação, tem uma lista de sítios onde uma sequência de caracteres aparece. Com desambiguação, pode responder a uma pergunta sobre uma pessoa.

Porque é que a desambiguação é mais difícil do que a extracção?

Porque exige uma decisão que o modelo não pode tomar sozinho: o que conta como a mesma entidade.

No DIGITARQ, o sistema anterior tratava "Torre do Tombo", "ANTT" e "Arquivo Nacional" como três cadeias de texto diferentes. Uma pessoa batizada num registo paroquial guardado num arquivo e nomeada num testamento guardado noutro eram dois registos sem ligação. O valor do arquivo está nas ligações, e os dados estavam guardados como registos isolados e pesquisados como texto simples.

A versão empresarial do mesmo problema é esta. A mesma empresa aparece como fornecedor com quatro razões sociais, três NIF históricos e duas abreviaturas. O mesmo colaborador aparece com e sem nome do meio, com e sem acentos. A mesma referência contratual aparece com formatos de numeração diferentes conforme quem a escreveu. Nenhum destes casos se resolve com um modelo melhor. Resolve-se com uma decisão de negócio sobre o que constitui identidade, escrita antes de começar.

A cadeia que produz valor
NER
Identificar e marcar as entidades no texto, com um modelo avaliado no domínio certo.
NED
Resolver cada menção para uma entidade canónica, segundo uma definição de identidade escrita.
Grafo
Ligar entidades, eventos, lugares e documentos num modelo de dados padrão.
A pergunta que ninguém faz na primeira reunião: o que deve acontecer quando o sistema não tem confiança suficiente? Um sistema útil sabe recusar. Um que devolve sempre uma resposta transfere o trabalho de verificação para quem confia nele, e é assim que se acumula erro silencioso.

O que é preciso ter antes de começar um projecto de extracção com document AI?

Em lote, na maioria dos casos, e esta é a decisão arquitectural com maior impacto no custo. No DIGITARQ o reconhecimento e a desambiguação correram como processamento em lote sobre todo o conjunto migrado. As entidades foram extraídas e resolvidas uma vez, sobre todos os dados, e alimentam a plataforma. Os modelos não são invocados em tempo real enquanto os utilizadores navegam.

Em lote
Previsível e auditável
O custo paga-se uma vez por documento. Nenhuma latência para o utilizador, porque a pesquisa consulta resultados já calculados. O reprocessamento é explícito e controlado quando o modelo melhora. E existe um resultado datado e reproduzível.
Tempo real
Onde se justifica, e o que custa
O custo paga-se a cada consulta, incluindo as repetidas, e a latência do modelo entra em cada interacção. Diferentes utilizadores podem obter resultados diferentes, e é difícil reconstruir o que o sistema respondeu e porquê.
Tempo real justifica-se quando o documento chega no momento e a decisão não pode esperar, como na receção de um pedido. Mesmo aí, o padrão que funciona é processar na chegada e guardar o resultado, não processar a cada leitura.

Porque é que a extracção com document AI falha em português?

Porque a variação linguística é maior do que aquela para que foram calibrados, e a nossa experiência veio da versão extrema desse problema. O português histórico é irregular, muito abreviado e escrito de forma inconsistente ao longo de séculos. Ferramentas genéricas prontas a usar não bastam para esse material, e por isso adaptámos e avaliámos os modelos especificamente para este domínio, comparando arquitecturas transformer modernas para escolher a que tinha melhor desempenho em linguagem arquivística.

Esse é o extremo, mas a mesma lógica aplica-se muito antes dele. Um modelo genérico reconhece nomes portugueses comuns e falha nos menos comuns, que é exactamente onde os erros doem. Vocabulário de domínio, jurídico, técnico ou sectorial, não está representado, porque o modelo vê palavras e não conceitos do seu negócio. E documentos antigos dentro de uma empresa moderna têm convenções diferentes, porque um arquivo de contratos de vinte anos tem vários regimes de escrita.

A conclusão prática não é treinar sempre um modelo próprio, que é caro e frequentemente desnecessário. É avaliar cada candidato no seu próprio material antes de escolher.

Tem um corpus onde a extracção genérica falha? É exactamente o tipo de problema que preferimos.
Fale com a nossa equipa

O que deve ficar consigo depois do projecto?

Quatro coisas, e nenhuma exige tecnologia. São o que determina se o projecto é mensurável.

Um conjunto de referência. Documentos reais, com a resposta correcta anotada por quem sabe, incluindo os casos que embaraçaram alguém no passado. Sem isto, não há forma de comparar dois fornecedores nem duas versões, e a avaliação passa a ser impressão.
Uma definição escrita de cada tipo de entidade. O que conta como fornecedor, o que conta como a mesma pessoa, o que conta como um contrato. Escrito, e com uma pessoa responsável por decidir os casos de fronteira.
Uma decisão sobre a recusa. Que nível de confiança faz o sistema dizer que não sabe, e para onde vai esse caso.
Uma decisão sobre o que se guarda. A extracção produz dados pessoais a partir de documentos que já os continham, e a minimização aplica-se ao resultado tanto como à origem. Guardar tudo porque estava disponível é passivo, não é registo.

O primeiro é o que mais vezes falta e o que mais custa não ter. Construir um conjunto de referência é trabalho de anotação de alguém que conhece o material, e transforma todo o resto do projecto numa medição em vez de numa discussão.

Quando é que isto entra no âmbito do AI Act?

Depende do que se faz com o resultado, não da tecnologia usada, e a distinção é útil porque evita âmbito de conformidade desnecessário. Extrair campos de uma factura e classificar documentos para arquivo não é, em si, um caso de risco elevado. Usar o resultado para decidir sobre pessoas pode ser. As categorias do Anexo III do Regulamento (UE) 2024/1689 incluem áreas como emprego, avaliação de crédito e acesso a serviços públicos, e essas obrigações foram diferidas para 2 de dezembro de 2027 pelo Regulamento (UE) 2026/1744, que entrou em vigor a 27 de julho de 2026.

As obrigações de transparência do artigo 50, sobre marcação de conteúdo gerado, aplicam-se a quem gera conteúdo. Um sistema que extrai e classifica não está tipicamente a gerar, mas se o mesmo produto também produz resumos ou texto, essa parte está. Na prática: classifique a utilização, não a tecnologia, e faça essa análise no início. O nosso resumo de o que mudou no AI Act em agosto de 2026 indica quais as obrigações que mudaram e quais as que não mudaram.

O que deve ficar consigo?

Cinco coisas, e a primeira é a que mais vezes se perde. O conjunto de referência e os resultados de avaliação, que é o activo que permite mudar de fornecedor ou de modelo sem recomeçar. O modelo de dados, incluindo as definições de entidade e as regras de desambiguação, em formato legível. Os dados extraídos, num esquema que não dependa da plataforma de quem os extraiu. O registo do que foi processado, quando, e com que versão do modelo, sem o qual não se sabe o que precisa de ser reprocessado. E a documentação das decisões, incluindo os casos de fronteira.

Uma nota sobre normas abertas. No DIGITARQ o grafo foi modelado em CIDOC-CRM, a norma ISO 21127 para interoperabilidade de informação de património cultural, com edição revista publicada em 2023, precisamente para que a instituição possa sustentar e desenvolver a plataforma a longo prazo sem dependência de um único fornecedor. A escolha de um modelo de dados padrão é a decisão que mais determina se o resultado do projecto continua a ser seu daqui a dez anos.

Perguntas frequentes

Extracção, NER e NED

Qual a diferença entre NER e NED?
O reconhecimento de entidades nomeadas identifica e marca as entidades presentes no texto, como pessoas, organizações e lugares. A desambiguação de entidades resolve cada menção para uma entidade única e canónica, de modo a que todas as referências à mesma pessoa ou organização fiquem ligadas ao mesmo nó. A segunda é a parte difícil e a que dá valor à primeira.
Porque é que os projectos de extracção de documentos falham em produção?
Porque a extracção é a parte fácil. Falham na desambiguação, no facto de o sistema não saber recusar quando não tem confiança suficiente, e na ausência de um conjunto de referência com a resposta correcta conhecida, sem o qual não há forma de medir se o sistema funciona.

Arquitectura em lote e língua

Deve o processamento de documentos correr em lote ou em tempo real?
Em lote, na maioria dos casos. O custo é previsível e pago uma vez por documento, não há latência de modelo na experiência do utilizador, o reprocessamento é explícito quando o modelo melhora, e existe um resultado datado e reproduzível para efeitos de auditoria.
Modelos genéricos funcionam em documentos em português?
Funcionam em material comum e degradam no menos comum, que é onde os erros custam. Vocabulário de domínio não está representado, e documentos antigos dentro de uma empresa moderna seguem convenções diferentes. A resposta não é treinar sempre um modelo próprio, é avaliar no seu material antes de escolher. As perguntas que vale a pena fazer a um fornecedor nesse momento estão em o que perguntar a uma agência de IA antes de assinar.

Pré-requisitos e regulação

O que é preciso ter antes de contratar um projecto de document AI?
Um conjunto de referência com documentos reais e a resposta correcta anotada, uma definição escrita de cada tipo de entidade com um responsável pelos casos de fronteira, uma decisão sobre o que acontece quando o sistema não sabe, e uma decisão sobre o que se guarda do resultado.
Extracção de documentos com IA entra no âmbito do AI Act?
Depende do que se faz com o resultado. Extrair campos e classificar documentos não é, em si, um caso de risco elevado. Usar o resultado para decidir sobre pessoas pode ser, dado que o Anexo III do Regulamento (UE) 2024/1689 cobre áreas como emprego, crédito e acesso a serviços públicos, com obrigações diferidas para 2 de dezembro de 2027.
Caixa Mágica Software
Equipa Caixa Mágica
A Caixa Mágica Software é uma empresa portuguesa de software com mais de 20 anos de experiência a fornecer software à medida, soluções de IA e equipas de desenvolvimento *nearshore* para empresas europeias.
AI Lab · Caixa Mágica Software
Traga-nos o material difícil
Treinámos modelos de reconhecimento e desambiguação de entidades para português arquivístico e corremo-los sobre mais de 8 milhões de registos, com o resultado num grafo com mais de 10,8 milhões de actores. Mande-nos cem documentos representativos, incluindo os piores.