Aplicações de IA e conhecimento

Desenvolvimento RAG

Um modelo de linguagem vale apenas o que lhe é posto à frente. A maioria das respostas dececionantes são falhas de recuperação disfarçadas de falhas do modelo: o excerto certo existia e nunca foi obtido. Construímos e afinamos a camada de recuperação e depois medimo-la, para que o modelo raciocine a partir da evidência correta.

Falar sobre a sua iniciativa de IA Serviços

O problema de negócio

A demonstração resultou porque o corpus era pequeno

A pesquisa vetorial ingénua funciona bem com algumas centenas de documentos e degrada-se muito para lá de algumas centenas de milhar. A segmentação separa uma tabela do seu título. Excertos semanticamente próximos afastam aquele que realmente manda. A atualidade perde para a semelhança, pelo que uma política revogada fica à frente da vigente. Nada disto é visível sem medição, pelo que as equipas lançam, obtêm respostas plausíveis e só descobrem a taxa de erro quando alguém age sobre uma errada.

O que fazemos

Construir a recuperação e depois prová-la

Começamos por construir um conjunto de avaliação com perguntas reais e fontes de resposta conhecida, porque não se afina o que não se consegue pontuar. Depois trabalhamos a cadeia: segmentação que respeita a estrutura do documento, pesquisa híbrida que combina palavras-chave e vetores, filtros de metadados por atualidade e autoridade, e reordenação sobre a lista curta. Quando as relações entre entidades importam mais do que a semelhança entre excertos, usamos um grafo em vez de fingir que os vetores bastam. Cada alteração é pontuada contra o mesmo conjunto, para que a melhoria seja demonstrada em vez de afirmada.

Desenvolvimento RAG

Competências

RAG corporativo
RAG avançado
GraphRAG
Pesquisa híbrida
Pesquisa vetorial
Otimização da recuperação
Avaliação de RAG

Casos de uso comuns

Ancorar um assistente virado ao cliente para que cada afirmação remeta para um documento publicado.
Recuperar entre contratos onde a resposta depende de qual acordo rege e não da semelhança do texto.
Pesquisar documentação técnica onde o excerto certo é uma tabela ou a legenda de um esquema.
Reconstruir um assistente existente que responde de forma plausível mas erra o suficiente para ter perdido a confiança.

Como trabalhamos

Definir

Transformar o pedido em especificação: quem o usa, o que é uma resposta correta, quem decide.
Ancorar

Ligar ao conteúdo e aos sistemas que têm as respostas, respeitando as permissões existentes.
Avaliar

Pontuar contra um conjunto anotado construído com os seus próprios casos, antes de alguém de fora o ver.
Publicar e operar

Lançamento faseado com monitorização, controlo de custo e um conjunto de regressão que protege a qualidade.

Tecnologia

OpenAI
Anthropic
Azure OpenAI
pgvector
Elasticsearch
Microsoft 365
SharePoint
Confluence
Salesforce

Segurança e governação

As respostas apoiam-se no seu próprio conteúdo e trazem citações, para que quem lê possa verificar. A recuperação respeita as permissões já definidas na origem, o que significa que um utilizador nunca vê através da aplicação aquilo que não poderia ver diretamente. Prompts, contexto recuperado e respostas são registados para auditoria, e a avaliação corre de forma contínua em vez de uma única vez no lançamento.

Modelos de colaboração

Projeto de IA

Assumimos a responsabilidade de desenhar e entregar uma solução de IA definida.

Equipa de IA dedicada

Capacidade de engenharia dedicada a longo prazo, construída em torno da sua tecnologia e do seu modelo de entrega.

IA gerida

Operamos, monitorizamos e melhoramos continuamente os sistemas de IA em produção.

Porquê a TeamExtension.ai

Medimos antes de afinar

A maior parte do trabalho de recuperação é feita por intuição: mudar o tamanho do bloco, ler algumas respostas e decidir que parece melhor. Nós construímos primeiro o conjunto anotado, que nada tem de espetacular e faz toda a diferença entre afinar e adivinhar. Além disso deixa-lhe um conjunto de regressão, de modo que uma mudança de modelo daqui a seis meses não possa degradar a qualidade em silêncio.

Clientes selecionados

Perguntas frequentes

Como medem se a recuperação é boa?

Contra um conjunto anotado de perguntas reais emparelhadas com os excertos que verdadeiramente lhes respondem. Reportamos se o excerto correto chegou a ser recuperado e em que posição ficou. A qualidade da resposta é pontuada à parte, porque uma boa resposta a partir da fonte errada continua a ser uma falha.

Precisamos de uma base de dados vetorial?

Muitas vezes não. O pgvector dentro de uma instância PostgreSQL existente aguenta muitíssimas cargas empresariais sem acrescentar infraestrutura para operar. Recomendamos um armazenamento vetorial dedicado quando a escala ou as funcionalidades o justificam, e não por omissão.

O que é o GraphRAG e precisamos dele?

Recupera sobre um grafo de entidades e relações em vez de sobre excertos isolados. A sua complexidade adicional justifica-se quando as respostas dependem de ligações entre documentos, por exemplo cadeias de propriedade ou estruturas de dependências. Para a maioria das perguntas sobre texto corrido, a pesquisa híbrida com reordenação rende mais por menos esforço.

Podem melhorar um sistema que já construímos?

Sim, e é comum. Começamos por construir o conjunto de avaliação e medir o que têm. Isso costuma localizar a falha com precisão, e a correção é muitas vezes mais estreita do que uma reconstrução.

Como se mantém exato à medida que o conteúdo muda?

A indexação segue a origem por calendário ou por notificação de alteração, e o conjunto de avaliação corre de forma contínua e não uma única vez. A qualidade da recuperação é vigiada como qualquer outra métrica de produção.

Competências relacionadas

Aplicações de IA e conhecimento

IA de conhecimento corporativo

Transforme o conhecimento interno disperso em assistência segura que respeita as permissões existentes.

Saber mais

Dados e modelos de IA

Engenharia de dados para IA

As cadeias, os controlos de qualidade e os armazenamentos vetoriais de que os sistemas de IA dependem para estarem certos.

Saber mais

Dados e modelos de IA

Engenharia de modelos

Afinação, embeddings, otimização e serviço, incluindo modelos de código aberto e de alojamento próprio.

Saber mais

Falar sobre a sua iniciativa de IA

Sistemas de recuperação que ancoram as respostas no seu próprio conteúdo, com citações e precisão mensurável.

Falar com um especialista em IA Iniciar uma avaliação de IA