Pular para o conteúdo

Dado sensível tratado antes do modelo

AI & API Security · Firewall de IA, postura e segurança de APIs

Toda chamada de IA que passa pela plataforma atravessa a política do workspace antes do modelo: dado pessoal e financeiro é tratado, tentativa de injeção de prompt é registrada ou recusada, ferramenta bloqueada não roda e limite de uso vale por chave. As chamadas que os agentes fazem a servidores MCP passam por um firewall próprio, que mede cada resposta e manda o que foge do normal para o seu SIEM. Fora da plataforma, uma extensão de navegador e um proxy de perímetro mostram onde a IA está sendo usada. E, para o que a sua empresa publica, há inventário de APIs alimentado também pelo tráfego real, um gateway que protege a API em tempo de execução e testes dos seus endpoints de IA e de API, sempre com posse comprovada.

O problema

O que este produto resolve

O risco mais comum com IA não é ataque sofisticado: é alguém colar dado de cliente num chat de terceiro.

Sem uma política aplicada na chamada, a regra fica num documento que ninguém consulta na hora de usar.

Do outro lado, a empresa publica APIs e assistentes de IA sem um inventário de quem é o dono, do que exige autenticação e de como o endpoint reage a um pedido malicioso.

atualizado em

Quem usa e para quê

Perfis típicos, sem nomes de clientes. Cada uso leva o status da funcionalidade que o atende.

  • Time jurídico e de privacidade (LGPD)Garantir que CPF, CNPJ e dado bancário não cheguem ao modelo sem tratamento.AI Firewall
  • Time de segurança da informaçãoDescobrir quais ferramentas de IA o time usa no navegador e na rede.AI Posture
  • Time de plataformaManter o inventário das APIs com dono, risco e mudanças entre versões.API Posture

Funcionalidades

O que o produto faz

Contratação pela conta, em autoatendimento.

  • AI Firewall

    Mascaramento de dados pessoais e financeiros na entrada e na saída, ferramentas bloqueadas, orçamento e limites por chave, argumentos de ferramentas MCP conferidos contra o esquema declarado. A detecção de injeção de prompt e o firewall das chamadas MCP são funcionalidades próprias, abaixo.

  • Prompt Injection Detection

    Detector determinístico (regras pt/en, sem chamar modelo) de injeção de prompt, jailbreak, pedido do prompt de sistema, instrução escondida ou codificada, injeção indireta em resultados de Knowledge e MCP, segredo ou código de exploração colado e toxicidade básica. Na saída do modelo: HTML ativo, link javascript:, shell e SQL destrutivos, trecho do prompt de sistema e dado sensível que sobrou; em impor, a resposta é recusada ou o stream interrompido. Trechos do Knowledge com injeção saem do contexto do chat e dos agentes. Modos observar, simular e impor por workspace e organização (a organização só endurece), registro com trecho redigido e hash, painel por categoria, workspace e chave. Heurística: tem falso positivo e falso negativo.

  • AI Posture

    Inventário do uso de IA pelo navegador e pelo perímetro da rede.

  • AI Security Testing

    Avaliação de endpoints de IA próprios contra categorias OWASP LLM, com posse verificada, alvos tirados de OpenAPI, do inventário de APIs ou de coleção do Postman, agenda com modo incremental e reavaliação; varredura de skills, ferramentas MCP e instruções de agentes por regras fixas.

  • API Posture

    Inventário de APIs pelas especificações OpenAPI/Swagger dos repositórios e enviadas, por rotas inferidas do código e pelo tráfego coletado do log do gateway (nginx, Envoy, Kong) ou de espelhamento, só com metadados. Dono pelo grafo, dado sensível provável pelo nome do campo, regras determinísticas com evidência (sem autenticação, dado sensível na query, servidor HTTP, versão antiga, endpoint sombra), drift entre versões, painel com nota de risco 0–100 por API, inspetor de tráfego por endpoint no OpenAPI gerado, aplicações e políticas configuráveis do workspace.

  • API Security

    Teste seguro de API de fora: só GET, HEAD e OPTIONS, sem corpo e sem credencial, contra origem com posse verificada, executado num job isolado na nuvem com teto de requisições; confere cabeçalhos de segurança, CORS, TLS antigo, rota sem autenticação e stack trace exposto, e os achados entram no inventário de APIs.

  • API Protection

    Proteção de API em tempo de execução por um gateway na frente da aplicação, gerenciado no Compute ou rodando na borda do cliente com chave presa à proteção: confere cada requisição contra o OpenAPI (endpoint sombra, parâmetros e corpo fora do schema), aplica limite de taxa por IP, chave ou rota, tamanho de corpo, métodos permitidos, lista de bloqueio e regras próprias de ataque (SQLi, XSS, travessia de caminho, SSRF, injeção de comando) e de bots. Cada regra em observar, simular ou impor; patch virtual com prazo; atores de ameaça com bloqueio; conformidade do tráfego com o contrato; painel com contagens e amostras redigidas, alerta e incidente. Heurística, com falso positivo e falso negativo; não mascara dados na resposta, não tem reputação de IP nem desafio de bot, e o limite de taxa é por instância.

  • MCP Firewall

    Firewall em volta de cada chamada MCP dos agentes da plataforma: regras que só negam, limite por hora, linha de base do tamanho da resposta com modo monitorar ou bloquear, máscara de dado sensível na resposta, credencial recusada identificada, nota de risco por ferramenta, inventário agente, servidor MCP e host, terceiros alcançados e eventos para o SIEM pelos webhooks assinados.

AI Firewall e AI Posture: em detalhe

  • Política de dados sensíveis: CPF, CNPJ, dados bancários e segredos
  • Limites de uso por workspace
  • Bloqueio de ferramentas por workspace
  • Trilha de auditoria encadeada por hash, exportável em CSV e JSON e verificável fora da plataforma
  • Retenção configurável
  • Regras de modelo por papel, área e pessoa, dentro da lista do workspace
  • Extensão para Chrome que confere o texto enviado aos sites de IA de terceiros
  • Proxy por destino na rede do cliente e inventário do uso de IA

O que ele não faz

  • Não inspeciona tráfego externo por conteúdo: fora da plataforma, a extensão confere só campos de texto dos sites de IA listados, e o proxy vê só o destino.
  • Conformidade técnica não é certificação formal.

Cobertura

OWASP LLM Top 10, item por item

Mapeamento da AIUBY a partir do código, para o OWASP Top 10 de aplicações com LLM, versão 2025. Mostra o que cobrimos e o que fica de fora. Não é certificação nem avaliação de terceiro.

OWASP LLM Top 10: o que a AIUBY cobre, com que funcionalidade e o que fica de fora
ItemO que cobrimosFuncionalidadeO que não cobrimos
LLM01Injeção de promptFerramenta com efeito de um agente espera a aprovação de uma pessoa. O chat trata documentos como dado não confiável e não tem ferramentas. O AI Security Testing tenta injeção indireta por documento e por e-mail no seu endpoint.
  • Agent Management
  • AI Security Testing
O gateway não detecta injeção na chamada. A instrução ao modelo reduz o risco, não o elimina.
LLM02Vazamento de informação sensívelCPF, CNPJ, cartão, conta bancária, chave Pix, boleto e segredos de API são bloqueados ou mascarados na entrada e na saída, inclusive em streaming; e-mail e telefone são opcionais. O AI Security Testing tenta tirar dado pessoal do seu endpoint.
  • AI Firewall
  • AI Security Testing
Nome, endereço e dado de saúde não são reconhecidos. Só vale para o que passa pela plataforma.
LLM03Cadeia de suprimentosFerramenta MCP aprovada tem descrição e schema fixados por hash: se mudarem no servidor, ela para. Dependências do repositório passam pela análise do Security Testing.
  • Agent Management
  • SCA
Não verificamos origem nem integridade dos modelos dos provedores, nem arquivos de modelo baixados.
LLM04Envenenamento de dados e do modeloNada.Não oferecidoNão coberto: não há verificação de documento envenenado na base de conhecimento nem nos casos de avaliação.
LLM05Tratamento inadequado da saídaA saída do modelo passa pela mesma política de dados sensíveis. O AI Security Testing confere se o seu endpoint devolve HTML ativo.
  • AI Firewall
  • AI Security Testing
O gateway não sanitiza HTML nem código na resposta: quem exibe a resposta precisa escapar o conteúdo.
LLM06Autonomia excessivaCada versão de agente libera as suas ferramentas uma a uma; ferramenta com efeito espera aprovação; ferramentas podem ser bloqueadas por workspace; teto configurável de até 25 passos e US$ 5 por execução; chaves de API com escopo.
  • Agent Management
  • AI Firewall
Num fluxo, o conector roda sem aprovação se quem desenhou não colocou a etapa de aprovação antes dele.
LLM07Vazamento do prompt de sistemaO AI Security Testing tenta extrair o prompt de sistema do seu endpoint de três formas, com um marcador que confirma o vazamento.
  • AI Security Testing
Não há proteção na chamada contra a revelação do prompt de sistema.
LLM08Fraquezas de vetores e embeddingsBases de conhecimento isoladas por organização e workspace no próprio banco; documento restrito só aparece na busca para quem está na lista de acesso, e os trechos herdam a permissão.
  • Knowledge bases
Não há verificação do conteúdo dos documentos inseridos na base.
LLM09DesinformaçãoO chat cita a fonte de cada afirmação e diz que não encontrou quando as fontes não respondem. A suíte de avaliação trava a versão de agente que piorou.
  • Knowledge bases
  • Evals
Não há checagem de fatos além da citação: a resposta pode estar errada mesmo citando uma fonte.
LLM10Consumo sem limiteSaldo pré-pago, teto da organização, orçamento por workspace e regras por pessoa, chave, modelo ou projeto; limite de requisições por minuto e de chamadas simultâneas por workspace.
  • AI Costs
  • AI Firewall
O limite de requisições por minuto do gateway vale por workspace, não por chave.

Como funciona

Do começo ao registro

  1. Política

    Cada workspace define dados sensíveis, ferramentas bloqueadas e limites; a organização pode fixar um teto que o workspace só endurece.

  2. Chamada

    Todo uso de IA da plataforma passa pela política antes do modelo: o dado sensível é mascarado, recusado ou liberado, e a decisão entra na auditoria encadeada.

  3. Injeção de prompt

    Regras determinísticas varrem a entrada, os resultados de ferramentas, os trechos do Knowledge e a resposta do modelo, nos modos observar, simular ou impor.

  4. Fora da plataforma

    A extensão confere o texto enviado aos sites de IA listados e o proxy registra os destinos; os dois alimentam o inventário de uso de IA.

  5. Inventário de APIs

    Especificações OpenAPI e rotas lidas do código viram um inventário com dono, dado sensível provável, regras de postura e drift entre versões.

  6. Prova de fora

    Com a posse da origem comprovada, a plataforma avalia o seu endpoint de IA contra categorias do OWASP LLM, por agenda, e reavalia depois da correção.

Funcionalidades

Funcionalidade por funcionalidade

O que cada uma faz, como funciona, um exemplo tirado da documentação e o que ela não faz. O selo de cada bloco vem do catálogo.

AI Firewall

CPF, cartão e segredo tratados antes de chegar ao modelo

O AI Firewall é a política do workspace aplicada em toda chamada de IA que passa pela plataforma: chat, agentes, fluxos e a API. Antes de a chamada chegar ao modelo, o Gateway procura dados sensíveis no texto, e cada categoria pode ser bloqueada, mascarada ou liberada. A resposta do modelo passa pela mesma política, inclusive em streaming.

A mesma política guarda os limites de uso: orçamento por chave, requisições por minuto e chamadas simultâneas por workspace e ferramentas bloqueadas. Nas ferramentas MCP, os argumentos de cada chamada são conferidos contra o esquema declarado; fora do esquema, a chamada é recusada.

Como funciona

  • Categorias reconhecidas: CPF, CNPJ, cartão, conta bancária, chave Pix, boleto e segredos (tokens, senhas, chaves), bloqueadas por padrão; e-mail e telefone, liberados por padrão.
  • No modo mascarar, o valor é trocado por um marcador como [CPF_1], e o original não volta na resposta.
  • Limite por workspace de requisições por minuto e de chamadas simultâneas (por padrão, 60 por minuto e 20 simultâneas).
  • Ferramenta bloqueada pela política é recusada mesmo depois de aprovada num agente.
  • A organização pode fixar um teto acima dos workspaces: modelos e provedores permitidos, mascaramento mínimo e ferramentas bloqueadas. O workspace só restringe mais.
  • Cada decisão entra na auditoria encadeada por hash, exportável em JSON e CSV e conferível fora da plataforma.
O que a chamada recebe quando a política age Os códigos de erro são estáveis: a aplicação que chama a API pode tratá-los.
Entrada bloqueada no Gateway: 422 sensitive_data_blocked
Saída bloqueada: 422 sensitive_output_blocked
Ao passar do limite: 429 rate_limited ou 429 concurrency_limited

O que não faz

  • Só vale para o que passa pela plataforma, pela extensão do navegador ou pelo proxy de perímetro.
  • Nome, endereço e dado de saúde não são reconhecidos.
  • O limite de requisições por minuto vale por workspace, não por chave.
  • Não é certificação: a AIUBY não tem certificação de segurança de terceiros.

Prompt Injection Detection

Tentativa de injeção de prompt registrada ou recusada na chamada

O Prompt Injection Detection é um detector determinístico, com regras em português e inglês e sem chamar modelo, que roda no Gateway antes do provedor, nos resultados de ferramentas dos agentes, nos trechos do Knowledge que entram no prompt e na resposta do modelo. Ele procura injeção de prompt, jailbreak, pedido do prompt de sistema, instrução escondida ou codificada, injeção indireta, segredo ou código de exploração colado e toxicidade básica.

Na saída, procura HTML ativo, link javascript:, shell e SQL destrutivos, trecho do prompt de sistema e dado sensível que sobrou depois do mascaramento. Cada grupo de regras tem um modo, por workspace e por organização: desligado, observar, simular ou impor. A organização só endurece.

Como funciona

  • Antes das regras, o texto é normalizado: sem acento, sem caractere invisível, com letras de outro alfabeto trocadas e letras separadas juntadas. Cada regra tem um peso, e a nota da categoria vai até 100.
  • Em observar, só registra. Em simular, registra e marca o que seria bloqueado. Em impor, recusa a chamada antes do provedor quando a nota passa do limiar (padrão 60).
  • Resultado de ferramenta com injeção é retido e trocado por um aviso em impor; trecho do Knowledge suspeito sai do contexto e a pergunta segue com os demais.
  • Na resposta em stream, os eventos ficam retidos até a janela deles ser varrida; detectado, o stream termina com um evento de erro e o provedor é desligado.
  • O registro guarda categoria, fonte, nota, regras, um trecho redigido de até 200 caracteres e o hash do texto. O texto bruto nunca é gravado.
  • Painel por categoria, workspace e chave de API nos últimos 30 dias, com exemplos redigidos; toda mudança de política vai para a auditoria com antes, depois e nota.
Política do workspace, pela API da sessão Só o dono da organização altera. Em impor, a chamada recusada responde 422 prompt_injection_blocked.
PUT /api/platform/policies/prompt-firewall
{ "policy": { "modes": { "injection": "enforce", "secrets_code": "observe", "toxicity": "observe", "output": "observe" }, "threshold": 60, "classifierEnabled": false }, "note": "motivo" }

O que não faz

  • É heurística. Tem falso positivo (quem pergunta sobre o tema, log com "System:" no começo da linha) e falso negativo (ataque parafraseado, em outro idioma, dividido em várias mensagens ou em imagem).
  • Resposta sem stream bloqueada na saída é cobrada: o provedor respondeu antes da recusa.
  • O nó Knowledge dos fluxos não varre os trechos como documento; o texto é varrido como entrada quando chega a um modelo.
  • A toxicidade é uma lista curta, não moderação de conteúdo.

AI Posture

Quais ferramentas de IA o time usa, por destino

O AI Posture mostra o uso de IA que acontece fora da plataforma, por dois canais. No navegador, uma extensão para Chrome confere o texto que a pessoa cola ou envia nos sites de IA listados e aplica a política do workspace por categoria de dado sensível: bloquear, pedir aprovação, mascarar ou liberar. Na rede, um proxy de perímetro decide por destino e registra conexões e volume.

Os dois canais alimentam um inventário único de uso de IA, agregado por destino, canal, credencial e pessoa num período, sem conteúdo: só contagens e volume. Destinos fora da lista e bloqueados aparecem primeiro.

Como funciona

  • Lista de destinos por workspace: cada site de IA fica como permitido ou bloqueado, e há uma regra para destino fora da lista (liberar, pedir aprovação ou bloquear).
  • A extensão usa a mesma detecção e o mesmo mascaramento do Gateway, com as mesmas categorias de dado sensível.
  • Pedido de aprovação vale uma vez só, para o mesmo texto e o mesmo destino, dentro do prazo; a aprovação não desfaz bloqueio nem mascaramento.
  • O proxy de perímetro tem dois modos: aplicar a decisão por destino ou só registrar, deixando passar e anotando.
  • Quem administra o workspace muda a política e decide os pedidos; todo membro vê a política em vigor.

Exemplo de uso

Um time de segurança da informação quer saber se dado de cliente está indo para chats de IA de terceiros. Instala a extensão nas máquinas do time e liga o proxy no modo de só registrar. Em uma semana, o inventário mostra quais destinos de IA são usados, por quantas pessoas e com que volume, e quais estão fora da lista. Com isso, o time decide o que permitir, o que bloquear e para quais categorias de dado exigir aprovação.

O que não faz

  • A extensão confere só campos de texto dos sites listados: não lê conteúdo de arquivo, imagem nem aplicativo de desktop.
  • O proxy vê só o destino da conexão e o volume; não abre o TLS nem instala certificado nas máquinas.
  • No perímetro não há pedido de aprovação: o que pediria aprovação é tratado como bloqueio.
  • A extensão existe para Chrome.

AI Security Testing

Seu endpoint de IA provado contra ataques conhecidos

O AI Security Testing avalia endpoints de IA da sua empresa contra categorias do OWASP Top 10 para aplicações com LLM: injeção de prompt indireta (LLM01), vazamento de informação sensível (LLM02), tratamento inadequado da saída (LLM05) e vazamento do prompt de sistema (LLM07). Toda prova é inofensiva e determinística: pede algo banal e procura na resposta um marcador aleatório, um dado pessoal sintético ou o canary cadastrado pelo dono.

Os alvos podem vir de uma especificação OpenAPI, de uma API do inventário (inclusive a observada no tráfego) ou de uma coleção do Postman, e a avaliação pode ser agendada. A mesma funcionalidade varre o que dá comportamento aos agentes da organização: skills do catálogo, descrição e esquema das ferramentas MCP cadastradas e instruções das versões de agente.

Como funciona

  • Prova de posse antes de qualquer chamada: o dono publica um token em /.well-known/aiuby-ai-security.txt na origem do endpoint; a prova vale 30 dias.
  • Endpoints POST com cara de IA viram candidatos a alvo; na coleção do Postman, requisição com variável no endereço é pulada.
  • Agenda por alvo (uma vez, diária, semanal ou mensal) e modo incremental, que reavalia só as provas que não passaram e as novas.
  • Reavaliação diz quais achados reproduziram e quais foram corrigidos; aceite de risco com justificativa e prazo de até 180 dias.
  • Varredura de skills, ferramentas e instruções por regras fixas: injeção escondida, caractere invisível, segredo, comando de saída de rede, permissão perigosa, esquema aberto e ferramenta que imita outra.
  • O relatório da varredura traz só o id da regra, sem trecho, para não espalhar segredo nem a própria instrução maliciosa.

Exemplo de uso

Uma empresa publicou um assistente de atendimento com um prompt de sistema que contém regras comerciais. O time de plataforma importa a coleção do Postman da API, publica o arquivo de posse e agenda a avaliação semanal. O resultado mostra que o assistente obedece a uma instrução escondida num e-mail; depois da correção, a rodada incremental marca o achado como corrigido. Na mesma tela, a varredura aponta uma skill interna com um comando que envia dados para fora.

O que não faz

  • Só avalia endpoint cuja origem tem posse comprovada; alvo de terceiro não é testado.
  • Cobre quatro categorias do OWASP LLM (LLM01, LLM02, LLM05 e LLM07), não as dez.
  • Não gera conteúdo nocivo nem faz fuzzing; GraphQL não entra como fonte de alvos.
  • Resultado limpo não prova que o endpoint é seguro; mostra que aquelas provas não reproduziram.

API Posture

Inventário das suas APIs com dono, risco e tráfego real

O API Posture monta o inventário de APIs do workspace a partir de especificações OpenAPI e Swagger dos repositórios, de especificações enviadas pela equipe, de rotas inferidas do código (Express, Next.js app router e FastAPI) e do tráfego. Para o tráfego, um coletor leve do lado do cliente lê o log de acesso do gateway (nginx, Envoy ou Kong) ou de um espelhamento e envia só método, host, caminho, status e latência.

Cada API guarda endpoints, autenticação declarada, dado sensível provável pelo nome do campo e dono pelo grafo. Regras determinísticas apontam os riscos com evidência, o drift mostra o que mudou entre versões e o painel de postura dá a cada API uma nota de 0 a 100 com os fatores explicados.

Como funciona

  • Regras de postura: endpoint sem autenticação declarada, método perigoso sem autenticação, dado sensível na query string, servidor HTTP público, versão antiga convivendo com a nova e endpoint sombra.
  • Nota de 0 a 100 por exposição, autenticação, dados, achados e ameaças; sem dado, a faixa é "sem dados", nunca "baixo".
  • Inspetor de tráfego por endpoint (requisições, erros 4xx e 5xx, latência média, primeira e última vez), que entra no OpenAPI gerado do inventário.
  • Drift entre versões: endpoints adicionados, removidos e alterados, com achado alto quando um endpoint deixa de exigir autenticação.
  • Aplicações declaradas agrupam APIs para ler o risco somado, e políticas do workspace geram achados próprios com exceção e prazo.
  • Leitura pela API v1, pela CLI e pelo servidor MCP; o envio de tráfego usa uma chave com escopo próprio.
Pela CLI e pela API v1 Só leitura, com chave de escopo engineering:read.
aiuby apis list
aiuby apis get <id|nome>
aiuby apis drift <id|nome>

GET /api/v1/api-security/apis
GET /api/v1/api-security/apis/{id}/drift
GET /api/v1/api-security/findings?apiId=&status=&severity=

O que não faz

  • O tráfego chega pelo log que o cliente envia: não há sensor de rede nem eBPF, e corpo, cabeçalho e valor de parâmetro nunca saem da rede do cliente.
  • A autenticação nunca é deduzida do código, só da especificação.
  • O dado sensível é provável, pelo nome do campo; o conteúdo real não é inspecionado.
  • Nunca afirma explorabilidade.

API Security

Sua API testada de fora, sem risco de alterar dados

O API Security testa a sua API de fora, como um visitante faria. O teste é uma sequência curta de requisições só de leitura contra uma URL base HTTPS pública cuja origem tem posse comprovada, e confere cabeçalhos de segurança, CORS, TLS antigo, rota que declara autenticação e responde sem credencial, e stack trace exposto.

As requisições saem de um job isolado na nuvem, não da plataforma. A plataforma decide a lista exata de requisições e grava essa lista; o job só executa e devolve as respostas num retorno assinado, e a avaliação acontece de volta na plataforma.

Como funciona

  • Só GET, HEAD e OPTIONS, sem corpo e sem credencial do cliente; rota com parâmetro de caminho não é chamada, para não inventar valor.
  • Teto de 30 requisições por teste (máximo 100), 500 ms entre elas, 6 testes por hora por workspace e um por API de cada vez.
  • Redirecionamento nunca é seguido, e endereço interno é recusado antes de conectar, também depois da resolução do DNS.
  • Retorno com token de uso único; uma execução despachada nunca é despachada de novo, então não há requisições em dobro ao alvo.
  • Os achados entram no inventário de APIs, com o mesmo ciclo de aberto, corrigido e exceção; o corpo das respostas não é guardado.
Ler os achados pela API O teste é pedido na tela por quem administra o workspace; os achados saem pela tela, pela API e pela CLI.
GET /api/v1/api-security/findings?apiId=&status=&severity=
GET /api/v1/api-security/apis/{id}

O que não faz

  • Não faz fuzzing, não envia corpo e não testa rotas que alteram dados (POST, PUT, PATCH, DELETE).
  • Só roda contra origem com posse comprovada nos últimos 30 dias.
  • Não bloqueia nada: proteger o tráfego real é papel de um gateway na frente da API.

API Protection

Um gateway na frente da sua API, regra a regra

O API Protection coloca um gateway na frente da sua API. Ele roda gerenciado, na frente de uma aplicação do Compute, ou na borda do cliente: a mesma imagem no cluster dele, na frente da aplicação, com uma chave presa à proteção e a saúde acompanhada pelo batimento. Cada requisição é conferida contra o contrato OpenAPI e contra um conjunto próprio de regras antes de chegar ao seu código.

Toda regra tem quatro modos: desligada, observar, simular e impor. A proteção nasce inteira em observar e em falha aberta, para você ver o que seria bloqueado antes de bloquear. Com o tráfego passando, a plataforma agrupa os eventos por ator de ameaça e mostra quanto do tráfego real segue o contrato.

Como funciona

  • Contrato: endpoint sombra, parâmetro e corpo fora do schema, a partir de um OpenAPI 3 ou Swagger 2 enviado ou de uma API do inventário.
  • Controle de uso: limite de taxa por IP, chave, rota ou IP por rota, tamanho de corpo, métodos permitidos e lista de bloqueio por IP, faixa ou país; regras de SQLi, XSS, travessia de caminho, SSRF, injeção de comando e bots.
  • Atores de ameaça pela origem mascarada, com nota por evento e por ator; quem administra bloqueia o ator na lista da proteção, sem mudar o modo da regra.
  • Conformidade do tráfego: rotas fora do contrato e violações de esquema por rota, "conforme" só com contrato, tráfego, regra ligada e dado completo.
  • Patch virtual com prazo de até 90 dias a partir de um achado, e exclusões por regra, caminho e parâmetro para tratar falso positivo.
  • Painel com contagens e amostras redigidas, enviadas pelo gateway em intervalos e a cada lote de requisições; alerta e incidente no máximo um por hora.
Ler a proteção pela CLI e pela API A API v1, a CLI e o servidor MCP só leem: regras e modos, patches, contagens e amostras redigidas. A política e o gateway são configurados na tela.
aiuby api-protection list
aiuby api-protection get <id>
aiuby api-protection stats <id> --hours 72

GET /api/v1/api-protection/protections/{id}/samples

O que não faz

  • As regras são heurísticas, com falso positivo e falso negativo.
  • Não mascara dados na resposta, não tem reputação de IP nem desafio de bot.
  • O limite de taxa é por instância do gateway; corpo acima de 1 MB passa sem inspeção de conteúdo, contado.
  • O bloqueio de ator é pela faixa mascarada, sem prazo para desbloquear sozinho.

MCP Firewall

Cada chamada MCP dos agentes conferida, medida e registrada

O firewall MCP fica em volta de cada chamada que um agente da plataforma faz a um servidor MCP. Antes da chamada, as regras do workspace podem negar por servidor, ferramenta, efeito ou argumento, e um limite por hora segura o abuso. Depois, a resposta é medida contra a linha de base daquela ferramenta, pode ter o dado sensível mascarado e vira um evento só com metadados.

Com os eventos, a plataforma dá a cada ferramenta uma nota de risco de 1 a 25, mostra o inventário dos agentes com o fluxo agente, servidor MCP e host, e lista os terceiros alcançados. Desfechos fora do normal saem pelos webhooks assinados, prontos para o SIEM.

Como funciona

  • Regras que só negam, com condições por igualdade, conteúdo ou presença, sem expressão regular; o limite por hora nega quando não consegue contar.
  • Explosão de resposta: com a linha de base das últimas 50 respostas boas (mínimo de 10), resposta maior que 4 vezes o p95 e que 4.000 caracteres é registrada no modo monitor e retida no modo block.
  • Máscara opcional de dado sensível na resposta inteira, com os detectores do Gateway; o evento guarda só a contagem.
  • Credencial ausente ou recusada pelo servidor MCP (401 ou 403) aparece no evento, na nota e na fila de eventos.
  • Nota por ferramenta com probabilidade e impacto de 1 a 5 ajustáveis, e detalhe de cada agente com dependências e os 20 traces mais recentes.
  • No servidor MCP da AIUBY, uma origem nova numa chave de API usada antes vira evento.

Exemplo de uso

Um agente de suporte consulta um servidor MCP de pedidos. Numa terça-feira, uma ferramenta que costuma devolver um pedido passa a devolver a base inteira de clientes. A resposta passa de 4 vezes o tamanho normal, o modo block retém o conteúdo, o evento sai pelo webhook para o SIEM e a nota da ferramenta sobe. O time cria uma regra que nega a ferramenta sem o argumento de cliente e liga a máscara de dado sensível no servidor.

O que não faz

  • Vale para as chamadas MCP feitas pelos agentes da plataforma; agentes dentro das aplicações do cliente não passam por ele.
  • Confere chamadas de ferramenta; recursos e prompts MCP não passam pelas regras.
  • A tela é só de leitura; regras, modos e notas mudam pela API da sessão, só por quem administra o workspace, com auditoria.
  • Não geolocaliza a origem nem bloqueia por faixa de rede.

IA e limites

O que a IA faz aqui, e o que nunca faz sozinha

Faz

  • Aplica a política na entrada e na saída de cada chamada de modelo feita pela plataforma.
  • Procura injeção de prompt com regras determinísticas, sem chamar modelo; um classificador opcional só acrescenta um rótulo ao registro.

Não faz

  • Não inspeciona por conteúdo o tráfego que não passa pela plataforma: a extensão confere só campos de texto dos sites listados, e o proxy vê só o destino.
  • Não abre o TLS nem instala certificado nas máquinas.
  • O classificador opcional nunca bloqueia nem libera uma chamada sozinho: a decisão é das regras e do modo escolhido.

Governança e segurança

Regras que o código impõe

  • Política por workspace, versionada.
  • A organização só endurece: vale a ação mais rígida entre workspace e organização, e o workspace não grava regra mais branda.
  • Regras de modelo por papel, área e pessoa, dentro da lista do workspace.
  • O detector de injeção grava trecho redigido e hash; o texto bruto do prompt nunca é gravado.
  • Teste de endpoint de IA e de API só contra origem com posse comprovada por arquivo publicado pelo dono, válida por 30 dias.
  • Firewall MCP: regras só negam, a resposta fora da linha de base pode ser retida e o evento guarda metadados, nunca o conteúdo.
  • Auditoria encadeada por hash: exportação em CSV e JSON e script público para conferir fora da plataforma.
  • Conformidade técnica não é certificação formal: a AIUBY não tem certificação de segurança de terceiros.

Integrações

Com o que se conecta

Só integrações que existem no código. Cada uma leva o status da funcionalidade que a usa.

  • Gateway de modelosPonto onde a política é aplicada em toda chamada da plataforma.AI Firewall
  • Ferramentas MCPArgumentos de cada chamada conferidos contra o esquema declarado.AI Firewall
  • Knowledge e agentesTrechos de documentos e resultados de ferramentas varridos antes de voltar ao modelo.Prompt Injection Detection
  • Extensão para ChromeConfere o texto enviado aos sites de IA listados.AI Posture
  • Proxy de perímetroInventário por destino, na rede do cliente, sem abrir o conteúdo.AI Posture
  • OpenAPI e SwaggerEspecificações lidas dos repositórios do GitHub ou enviadas pela equipe.API Posture
  • Google Cloud Run JobsJob isolado de onde saem as requisições do teste seguro de API.API Security
  • nginx, Envoy e KongLog de acesso do gateway enviado por um coletor leve, só com metadados.API Posture
  • PostmanColeção como fonte de alvos do teste de IA.AI Security Testing
  • SIEM pelos webhooksEventos do firewall MCP assinados, com novas tentativas.MCP Firewall
  • Política de IA da organizaçãoTeto de modelos, provedores, mascaramento e ferramentas acima dos workspaces.Organization AI policy

Auditoria

Auditoria encadeada por hash

Cada evento da trilha leva o hash do anterior. Alterar, inserir ou apagar um evento no meio quebra a cadeia, e a verificação aponta onde. É evidência de adulteração, conferível fora da AIUBY.

  1. EVENTO

    O evento entra na trilha como sempre; a aplicação não pode alterar nem apagar evento gravado.

  2. SELO

    A cada minuto, os eventos novos de cada organização recebem posição e hash: o do anterior somado ao do conteúdo.

    até ~1 min sem selo
  3. TELA

    A tela de Auditoria confere a cadeia do período e mostra o último hash selado, para você anotar.

  4. FORA

    A exportação em JSONL traz o encadeamento de cada evento, e um script público confere tudo sem falar com a plataforma.

    verificável fora
Verificar fora da plataforma
node verificar-auditoria-aiuby.mjs auditoria.jsonl --head <hash anotado antes>

Node 18 ou mais novo, sem dependências e sem falar com a plataforma. Saída 0: confere; saída 1: lista a posição e o motivo de cada quebra. Baixar o script de verificação.

Evidência, não imutabilidade

  • Não é imutabilidade: quem tem acesso de dono ao banco (a equipe AIUBY com credencial de administrador) pode recalcular a cadeia inteira, selos inclusive. Isso só aparece comparando com um hash guardado fora: o último hash anotado pelo cliente ou uma exportação anterior.
  • Não há âncora externa automática: guardar o hash fora depende de quem administra anotar ou exportar.
  • Retenção da auditoria é opcional, de 1 a 10 anos; sem prazo, nada é apagado. Ao apagar o começo da cadeia, fica um marco com o último hash apagado, de onde a verificação parte.

Gateway

Regras de modelo por papel, área e pessoa

Quem administra o workspace escolhe quais modelos cada pessoa pode usar, dentro da lista que o workspace libera. A regra vale em cada chamada feita por uma pessoa ou por uma credencial dela.

Quem decide, da mais específica para a mais geral
  1. PESSOARegra da própria pessoa.
  2. ÁREARegras das áreas da pessoa (por exemplo, Jurídico ou Comercial), somadas.
  3. PAPELRegra do papel: dono, admin, membro, leitor.
  4. TETOSem nenhuma regra, vale a lista inteira do workspace.

A primeira regra que existir decide sozinha; ela não soma com as de baixo.

  • Nunca amplia

    O teto é a lista de modelos que o workspace libera. Uma regra escolhe parte dela; modelo fora do teto é recusado ao gravar e não roda se aparecer por fora.

  • Onde vale

    Chat, prompts, agentes (inclusive dentro de fluxos), Cortex e a API compatível do Gateway. Os seletores de modelo mostram só o que a pessoa pode usar.

  • Sem desvio pela reserva

    A rota perde os modelos fora da regra antes do fallback: a alternativa nunca cai num modelo negado. Pedido negado é recusado e registrado como uso negado.

  • Credencial herda

    Credencial de API segue a regra de quem a criou: ninguém cria uma credencial para escapar da própria restrição.

  • Quem administra

    Dono e admin do workspace. O admin não mexe em regra que o alcança nem na de quem está no mesmo nível ou acima. Cada mudança vai para a auditoria, com os modelos antes e depois.

  • Regra vazia bloqueia

    Regra sem nenhum modelo deixa a pessoa, a área ou o papel sem modelo nenhum naquele workspace.

Limites das regras

  • As regras são por workspace: não há regra única para a organização inteira.
  • O modelo de embeddings do Knowledge e o avaliador do Studio ficam fora das regras, só com o teto do workspace.

Perguntas frequentes

Respostas diretas

O que já dá para usar hoje?

Disponível: AI Firewall, Prompt Injection Detection, AI Posture, AI Security Testing, API Posture, API Security, API Protection, MCP Firewall. Contratação pela conta, em autoatendimento.

Protege o ChatGPT que o time usa direto no navegador? O que preciso instalar?

Disponível: AI Posture, AI Firewall. Em parte. A extensão para Chrome, instalada nas máquinas do time, confere o texto dos campos dos sites de IA listados quando ele é enviado; ela não vê arquivo, imagem nem aplicativo de desktop. O proxy, na sua rede, só mostra o destino e o volume. Para o firewall não há nada a instalar: ele vale para toda chamada de IA feita pela plataforma, inclusive pela API.

Detecta injeção de prompt?

Disponível: Prompt Injection Detection. A detecção é uma funcionalidade separada do mascaramento, a Prompt Injection Detection: regras determinísticas, sem chamar modelo, na entrada, nos resultados de ferramentas, nos trechos do Knowledge e na resposta, nos modos observar, simular e impor. É heurística, com falso positivo e falso negativo. Onde ela não está ligada, o gateway não detecta injeção na chamada, como mostra a tabela OWASP desta página.

Tem proteção de APIs em tempo de execução (WAF, abuso de API)?

Disponível: API Protection, API Posture. Tem o API Protection: um gateway na frente da sua API, gerenciado no Compute ou rodando na sua borda, que confere cada requisição contra o contrato OpenAPI e contra regras próprias de ataque e de bots, com limite de taxa por IP, chave ou rota, patch virtual e bloqueio de ator de ameaça. Cada regra começa em observar. As regras são heurísticas e o limite de taxa é por instância. O inventário também aprende com o tráfego real, lido do log do seu gateway.

Como controlo o que os agentes fazem nos servidores MCP?

Disponível: MCP Firewall. Pelo firewall MCP: regras do workspace negam por servidor, ferramenta, efeito ou argumento antes da chamada; depois, a resposta é comparada com a linha de base da ferramenta, pode ter o dado sensível mascarado e vira evento. Resposta fora do tamanho normal é registrada ou retida, conforme o modo, e os eventos saem pelos webhooks assinados para o SIEM. Vale para os agentes da plataforma.

Posso testar meus próprios endpoints de IA contra ataques conhecidos?

Disponível: AI Security Testing. É o AI Security Testing: avalia endpoints de IA seus contra quatro categorias do OWASP LLM (injeção indireta, vazamento de dado sensível, saída com HTML ativo e vazamento do prompt de sistema), só depois de provar que o endpoint é seu, e reavalia depois da correção.

Onde ficam os dados das chamadas?

Disponível: AI Firewall. O que a política bloqueia ou mascara não é guardado: o marcador, como [CPF_1], substitui o original sem volta. A plataforma registra a decisão, o consumo e a auditoria. A plataforma e o banco de dados são hospedados pela AIUBY. As organizações compartilham o banco, e cada uma só enxerga as próprias linhas, por regra de acesso aplicada linha a linha. O backup diário sai cifrado para a AWS, nos Estados Unidos.

Quanto custa?

Disponível: AI Firewall, AI Posture. AI Firewall e AI Posture vêm com o contrato Guard, com mensalidade por faixa e sem o consumo de IA, que sai do saldo pré-pago em reais. Os valores estão em Preços. As demais funcionalidades não têm preço definido.

Funciona junto com

  • Cost ManagementO mesmo gateway que aplica a política mede o custo de cada chamada.
  • AI EngineeringA política do workspace vale para o chat, os agentes e os fluxos; resultados de ferramentas e trechos do Knowledge passam pelo detector de injeção.
  • Developer PortalO dono de cada API do inventário vem do mesmo grafo que liga repositórios, serviços e times.

AI & API Security

Contratação pela conta, em autoatendimento.