Thinkout TI
← Voltar ao RadarInteligência artificial

BigQuery ganha quotas diárias para controlar gasto com IA generativa

O BigQuery passou a oferecer quatro quotas diárias de tokens para funções de IA generativa. Os limites operam por projeto e por usuário, com administração via IAM.

Responsável editorial: Marco Aurélio PaulaRevisão automatizada

Compartilhar

WhatsAppFacebookLinkedIn

Ilustração futurista em tons de azul e roxo mostra um equipamento com quatro recipientes brilhantes e fluxos de partículas; ao lado, lê-se: “BigQuery ganha quotas diárias para controlar gasto com IA generativa”.

Quatro limites diários para uso de IA

O BigQuery disponibilizou gerenciamento de custos baseado em tokens para suas funções de IA generativa. O recurso estabelece quatro quotas diárias administradas pelo sistema de quotas do Google Cloud IAM: tokens de entrada por projeto, tokens de entrada por usuário, tokens de saída por projeto e tokens de saída por usuário.

Os valores padrão informados são de 200 bilhões de tokens de entrada por dia por projeto e 150 bilhões por dia por usuário. Para saída, os padrões são 20 bilhões por dia por projeto e 15 bilhões por dia por usuário. As quotas são globais: o consumo é somado entre todas as regiões.

Os limites de saída incluem tanto os tokens de resposta quanto os chamados tokens de raciocínio. As quotas se aplicam às funções AI.GENERATE, AI.GENERATE_TABLE, AI.GENERATE_TEXT, ML.GENERATE_TEXT, AI.CLASSIFY, AI.IF, AI.SCORE e AI.AGG. Funções de embedding, como AI.GENERATE_EMBEDDING, ML.GENERATE_EMBEDDING e AI.EMBED, não entram nesse controle.

Administração exige permissões específicas

Administradores podem consultar e alterar as quotas em IAM & Admin, na área Quotas & System Limits, filtrando pela BigQuery API. A redução de uma quota entra em vigor imediatamente e não requer aprovação. Solicitações de aumento podem ser feitas na mesma página.

A fonte informa que as alterações exigem uma das seguintes permissões: Owner, Editor, Quota Administrator ou Service Usage Admin. Também é possível administrar as quotas de forma programática por Cloud Quotas API, gcloud CLI e Terraform.

A página de quotas apresenta o histórico de consumo de tokens. Segundo o Google Cloud, os gráficos permitem identificar picos e acompanhar o impacto de novas cargas de trabalho e pipelines sobre o uso total.

Como a execução reage ao esgotamento

O BigQuery acompanha o consumo de tokens durante a execução da consulta. Se a quota necessária já estiver esgotada, a consulta é rejeitada com erro QuotaExceeded. Se o limite for alcançado durante a execução, o serviço deixa de enviar novas chamadas ao modelo de linguagem.

Em funções compatíveis com max_error_ratio, como AI.IF, podem ser retornados resultados parciais quando as linhas não processadas permanecem dentro da proporção configurada; caso contrário, a operação falha. Em funções de uso geral, como AI.GENERATE, as linhas ignoradas não recebem valor gerado e o campo de status registra o erro de quota excedida.

Como proteção complementar, a fonte diferencia as quotas de tokens dos tetos de gasto do Cloud Billing. As quotas são preventivas e específicas para IA, enquanto os tetos de gasto atuam em valores monetários por projeto e serviço, e sua aplicação não é instantânea.

Medição antes de definir os limites

A função AI.COUNT_TOKENS informa quantos tokens o tokenizador de um modelo produz para uma string de texto sem realizar uma chamada de geração faturável. Ela pode ser executada sobre uma coluna para medir os dados de entrada.

O resultado é um limite inferior para os tokens de entrada: não inclui tokens de saída ou de raciocínio, instruções adicionadas pelas funções de IA nem entradas que não sejam texto, como imagens. A recomendação apresentada é combinar essa medição com uma execução pequena para verificar o uso efetivo de entrada e saída.

No exemplo publicado, com o modelo Gemini 3.1 Flash-Lite, desconto de 50% por processamento em lote e proporção de 100 para 1 entre tokens de entrada e saída, um objetivo de cerca de US$ 100 por dia resulta em aproximadamente 754 milhões de tokens de entrada e 7,54 milhões de tokens de saída por dia.

Compartilhe este artigo

Ajude esta informação a chegar a quem toma decisões.

WhatsAppFacebookLinkedIn

Fontes consultadas