GPU sem servidor no Cloud Run: o que medimos antes de oferecer
Cloud Run + NVIDIA L4 + Ollama
O AIUBY Compute executa aplicações em contêiner na nuvem. Antes de aceitar GPU na prévia do runtime, fizemos o que fazemos com qualquer recurso que custa dinheiro parado: subimos um serviço de verdade, medimos e apagamos. Este texto traz o que saiu desse teste, sem arredondar a favor.
#Por que medir antes
GPU sem servidor promete duas coisas que brigam entre si: escalar a zero quando ninguém usa e responder rápido quando alguém chega. O que decide se a promessa vale é o tempo entre o pedido e a primeira resposta com o modelo já na memória de vídeo. Esse número não está em tabela de preço; só aparece medindo.
#O teste
- Serviço no Cloud Run, região
europe-west1(Bélgica). - Uma NVIDIA L4 (24 GB de memória de vídeo), com a máquina mínima que o Cloud Run exige para GPU: 4 vCPU e 16 GB.
- Contêiner do Ollama servindo o modelo
gemma3:1b. - Uma réplica, escala a zero ligada.
O serviço foi apagado logo depois das medições. Recurso de teste não fica de pé.
#Os números
| O que medimos | Resultado |
|---|---|
| Implantação do serviço, do pedido até ficar pronto | 23 segundos |
| Primeira carga do modelo na placa | cerca de 60 segundos |
| Modelo na memória de vídeo | 100%, nada caiu para a CPU |
| Geração com o modelo quente | cerca de 185 tokens por segundo |
A leitura honesta: a implantação é rápida, mas a primeira requisição depois de escalar a zero paga a carga do modelo. Com um modelo de 1 bilhão de parâmetros foram cerca de 60 segundos; modelos maiores levam mais. Quem precisa de resposta imediata tem de manter uma instância ligada, e aí a conta muda, porque com GPU o Cloud Run cobra a instância de pé, com ou sem requisição.
Limite
#Cota e região
A parte menos óbvia não foi técnica. Em europe-west1 a conta recebeu cota para três placas L4 automaticamente, no primeiro deploy. Em us-central1 a cota era zero e o pedido de aumento foi negado de forma automática, sem e-mail. E em São Paulo não há o que pedir: o Cloud Run não oferece a L4 em southamerica-east1.
Para quem atende o Brasil isso tem duas consequências: latência de rede até a Europa e dados processados fora do país. Por isso a região aparece na tela e na documentação de cada aplicação com GPU, em vez de ficar escondida num detalhe.
#O que custa
Pela tabela pública do Cloud Run lida em 12 de novembro de 2026, uma L4 com 4 vCPU e 16 GB em europe-west1 custa cerca de US$ 1,05 por hora ligada: a placa responde por dois terços e o restante é CPU e memória, que a GPU obriga a contratar junto. Parada, com escala a zero, não custa.
#Como ficou na prévia
O teste virou regra de produto. Na prévia do runtime, uma aplicação com GPU:
- usa uma placa, na máquina exata dela (a L4 com 4 vCPU e 16 GB), com uma réplica;
- nasce na região da placa, que fica visível;
- tem prazo: para sozinha em 1 hora por padrão, no máximo 2, e reimplantar não renova;
- divide um teto pequeno de aplicações com GPU na plataforma inteira.
Os limites ficam no código, não em configuração: um valor errado no ambiente não consegue abrir o custo.
[config.hardware]
provider = "gcp"
cpu = 4
memoryMb = 16384
[config.hardware.gpu]
sku = "gcp-cloudrun-l4"
count = 1A lista completa está em Compute, na documentação.
#O que ainda falta
- Quando este teste foi feito, GPU existia só na prévia. Hoje ela também é vendida, por minuto de instância ligada: GPU à venda no AIUBY Compute, por minuto.
- Não há GPU no Brasil.
- Partida a frio com modelos grandes ainda não foi medida por nós; vamos publicar quando for.


