Red teaming de IA

O que fazemos

Atacá-lo com objetivos, não com prompts

Trabalhamos por objetivos e não com uma lista de palavras: extrair dados que o utilizador não deveria alcançar, levá-lo a agir fora do mandato, conseguir que produza algo lesivo para a reputação, disparar o custo por abuso de recursos. Cada sucesso é documentado com o caminho exato, para ser reproduzível e corrigível. Testamos também as falhas aborrecidas, a degradação sob carga e o comportamento quando uma ferramenta falha, porque causam mais incidentes do que os ataques engenhosos.

Casos de uso comuns

Casos de uso comuns

• Avaliar um assistente virado ao cliente antes do lançamento.
• Testar um agente com acesso de escrita a sistemas de produção.
• Dar uma garantia independente a um conselho ou a um regulador.
• Estabelecer um ritmo de testes contínuo em vez de um exercício pontual.

Segurança e governação

Segurança e governação

Os testes são autorizados por escrito, delimitados a alvos acordados e executados sobre um ambiente que não é de produção, salvo decisão em contrário da sua parte. Os achados são tratados como confidenciais e comunicados a si antes de a quem quer que seja. Nada é conservado para além do trabalho, exceto o relatório e os testes de regressão que nos pediu para deixar.

Porquê a TeamExtension.ai

Reportamos o que significa, não apenas o que resultou

Uma lista de contornos conseguidos não serve de muito por si só. O que importa é quais alcançam algo valioso e que alteração de arquitetura fecha uma classe inteira de uma vez em vez de um caso de cada vez.

Perguntas frequentes

Perguntas frequentes