Pular para o conteúdo

GPU sem servidor no Cloud Run: o que medimos antes de oferecer

Equipe AIUBYRevisado em 16 nov 2026

Cloud Run + NVIDIA L4 + Ollama

O AIUBY Compute executa aplicações em contêiner na nuvem. Antes de aceitar GPU na prévia do runtime, fizemos o que fazemos com qualquer recurso que custa dinheiro parado: subimos um serviço de verdade, medimos e apagamos. Este texto traz o que saiu desse teste, sem arredondar a favor.

#Por que medir antes

GPU sem servidor promete duas coisas que brigam entre si: escalar a zero quando ninguém usa e responder rápido quando alguém chega. O que decide se a promessa vale é o tempo entre o pedido e a primeira resposta com o modelo já na memória de vídeo. Esse número não está em tabela de preço; só aparece medindo.

#O teste

  • Serviço no Cloud Run, região europe-west1 (Bélgica).
  • Uma NVIDIA L4 (24 GB de memória de vídeo), com a máquina mínima que o Cloud Run exige para GPU: 4 vCPU e 16 GB.
  • Contêiner do Ollama servindo o modelo gemma3:1b.
  • Uma réplica, escala a zero ligada.

O serviço foi apagado logo depois das medições. Recurso de teste não fica de pé.

#Os números

O que medimosResultado
Implantação do serviço, do pedido até ficar pronto23 segundos
Primeira carga do modelo na placacerca de 60 segundos
Modelo na memória de vídeo100%, nada caiu para a CPU
Geração com o modelo quentecerca de 185 tokens por segundo

A leitura honesta: a implantação é rápida, mas a primeira requisição depois de escalar a zero paga a carga do modelo. Com um modelo de 1 bilhão de parâmetros foram cerca de 60 segundos; modelos maiores levam mais. Quem precisa de resposta imediata tem de manter uma instância ligada, e aí a conta muda, porque com GPU o Cloud Run cobra a instância de pé, com ou sem requisição.

Limite

É um teste com um modelo pequeno, uma placa e uma região. Não é benchmark: serve para dimensionar a prévia, não para comparar fornecedores.

#Cota e região

A parte menos óbvia não foi técnica. Em europe-west1 a conta recebeu cota para três placas L4 automaticamente, no primeiro deploy. Em us-central1 a cota era zero e o pedido de aumento foi negado de forma automática, sem e-mail. E em São Paulo não há o que pedir: o Cloud Run não oferece a L4 em southamerica-east1.

Para quem atende o Brasil isso tem duas consequências: latência de rede até a Europa e dados processados fora do país. Por isso a região aparece na tela e na documentação de cada aplicação com GPU, em vez de ficar escondida num detalhe.

#O que custa

Pela tabela pública do Cloud Run lida em 12 de novembro de 2026, uma L4 com 4 vCPU e 16 GB em europe-west1 custa cerca de US$ 1,05 por hora ligada: a placa responde por dois terços e o restante é CPU e memória, que a GPU obriga a contratar junto. Parada, com escala a zero, não custa.

#Como ficou na prévia

O teste virou regra de produto. Na prévia do runtime, uma aplicação com GPU:

  • usa uma placa, na máquina exata dela (a L4 com 4 vCPU e 16 GB), com uma réplica;
  • nasce na região da placa, que fica visível;
  • tem prazo: para sozinha em 1 hora por padrão, no máximo 2, e reimplantar não renova;
  • divide um teto pequeno de aplicações com GPU na plataforma inteira.

Os limites ficam no código, não em configuração: um valor errado no ambiente não consegue abrir o custo.

aiuby.toml
[config.hardware]
provider = "gcp"
cpu = 4
memoryMb = 16384

[config.hardware.gpu]
sku = "gcp-cloudrun-l4"
count = 1

A lista completa está em Compute, na documentação.

#O que ainda falta

  • Quando este teste foi feito, GPU existia só na prévia. Hoje ela também é vendida, por minuto de instância ligada: GPU à venda no AIUBY Compute, por minuto.
  • Não há GPU no Brasil.
  • Partida a frio com modelos grandes ainda não foi medida por nós; vamos publicar quando for.