GPU à venda no AIUBY Compute, por minuto
NVIDIA L4 e RTX PRO 6000 + saldo pré-pago
Até aqui, placa de vídeo no AIUBY Compute existia só na prévia do runtime, para organizações habilitadas pela nossa equipe, sem cobrança e com prazo. Desde 13 de novembro, qualquer organização com conta pré-paga implanta com GPU. A cobrança é por minuto de instância ligada, e este texto explica o que isso quer dizer na prática.
#O que mudou
- Implantar com GPU é pago e sai do saldo pré-pago, o mesmo da implantação em CPU e do consumo de IA.
- Não há prazo: a aplicação fica de pé até você parar, o saldo acabar ou o teto mensal do workspace ser atingido.
- A prévia continua como estava para as organizações habilitadas: sem cobrança e com prazo.
O fluxo é o de sempre: um aiuby.toml, o cadastro pela CLI ou pela tela, o plano e a implantação. Os templates com imagem pronta servem de ponto de partida.
#As placas
| Placa | Memória de vídeo | Máquina | Região |
|---|---|---|---|
| NVIDIA L4 | 24 GB | 4 vCPU e 16 GB | Bélgica |
| NVIDIA RTX PRO 6000 | 96 GB | 20 vCPU e 80 GB | Holanda |
A configuração tem de ser exata: uma placa, na máquina dela, com uma réplica. Cada placa é vendida só na região da tabela. O preço por hora de cada uma está em Preços, na PTAX de referência, e acompanha o câmbio: o valor do dia aparece na tela de cobrança do Compute, no preço da sua conta.
#Como o tempo é contado
Na implantação em CPU, a cobrança segue o tempo em uso, como contamos em Implantação paga em CPU no AIUBY Compute. Com GPU a regra é outra: o preço é por hora, mas a cobrança é por minuto de instância ligada, e cada minuto iniciado conta inteiro.
- Dez minutos custam dez minutos. O mínimo é 1 minuto: dez segundos de instância ligada custam um minuto.
- Conta o tempo ligado, não o do relógio. Entram a partida a frio, a carga do modelo e o tempo ocioso antes de a instância desligar. Período sem instância ligada não cobra.
- A contagem é por implantação. Reimplantar abre outra implantação e outra contagem de minutos.
- Subida que falha também conta. Se a aplicação não abre a porta, a instância ficou ligada tentando, e os minutos ligados são cobrados. Vale testar a imagem em CPU, ou localmente, antes.
#O que o plano confere
Antes de criar qualquer coisa, o plano responde se a implantação pode acontecer agora. Quando não pode, lista os motivos e nada é criado nem cobrado. Para GPU, ele confere:
- Conta pré-paga e teto mensal de Compute definido no workspace.
- Saldo que cubra 20 minutos da placa nova e 20 minutos de cada aplicação com GPU que a organização já tem de pé, além do mínimo por aplicação paga.
- Esses 20 minutos cabendo no que resta do teto do workspace.
- A configuração na forma exata de uma das placas.
- Vaga: há um limite de aplicações com GPU de pé ao mesmo tempo, somando toda a plataforma.
#Quando a aplicação para
A medição do tempo ligado chega com atraso, então a plataforma mantém uma folga de 20 minutos de placa. Durante o uso, se o saldo ou o teto do workspace não cobrem os próximos 20 minutos, a aplicação é parada.
Atenção
O corte acontece antes de o saldo zerar: o que sobra continua na conta, mas a aplicação sai do ar. Para não ser cortado, mantenha saldo e teto com folga, ou pare a aplicação com aiuby stop quando terminar. Instância ociosa continua contando até desligar.
#Limites
Limite
Não há GPU no Brasil: as placas ficam na Bélgica e na Holanda. Conte com a latência e com dados processados fora do país.
- São poucas vagas: no máximo 2 aplicações com GPU pagas de pé ao mesmo tempo, somando toda a plataforma.
- Uma placa por aplicação e uma réplica. Mais placas e mais de uma réplica com GPU ainda não existem.
- O endereço é público por padrão. Com dado sensível, exija token de acesso na tela da aplicação antes de implantar.
- Volumes e domínios próprios ainda não existem.
- Partida a frio com modelos grandes ainda não foi medida por nós. O que medimos está em GPU sem servidor no Cloud Run.
A referência está em Compute, na documentação. Para servir um modelo de linguagem do começo ao fim, siga Como servir um modelo de linguagem com vLLM.


