Produto

Como funciona o simulador de tráfego

O simulador do RodGrid é um modelo de capacidade determinístico com pressupostos publicados — eis como o modelo funciona, incluindo os números, e o que deliberadamente não é.

Um simulador só é tão honesto quanto os seus pressupostos, por isso o simulador de tráfego do RodGrid publica os seus: o modelo é determinístico, os seus números de capacidade são mostrados dentro do produto, e este artigo explica como funciona.

Uma folha de cálculo sobre o grafo

Não há IA envolvida, e não precisa de servidor. O simulador é uma calculadora determinística, em estado estacionário: dá-lhe um número de pedidos por segundo e ele faz passar essa carga pelo diagrama em ordem topológica, indicando a utilização, a latência e a taxa de erro de cada nó, além dos totais do Grid. Execute-o duas vezes sobre o mesmo Grid e obtém a mesma resposta — é isso que permite aos desafios avaliar com justiça.

A capacidade vem do tipo de componente

Cada nó recebe um perfil de capacidade determinado pelo seu papel semântico — load balancer, cache, serviço de aplicação, base de dados relacional, fila, API de modelo, e assim por diante. Cada perfil é um punhado de números: pedidos por segundo sustentáveis por instância, latência base e uma taxa de erro de referência.

Os números absolutos são deliberadamente redondos, âncoras de ordem de grandeza. O que ensina são as proporções — uma cache absorve cerca de dez vezes o que uma base de dados relacional absorve, pelo que pode receber uma carga de leitura que afogaria a base de dados e, com uma boa taxa de acerto, só os misses chegam a esta. A tabela “Pressupostos do modelo”, dentro do produto, é gerada em direto a partir do mesmo registo que o motor lê, por isso os números publicados nunca se podem afastar dos que são realmente usados.

A proporção que faz do caching um padrão

Diagram components: Application Service, Redis, PostgreSQL.

Ligue o simulador sobre um Grid como este e aumente o tráfego: a cache absorve leituras a ~10× a capacidade da base de dados, e os misses que passam são aquilo a que a base de dados realmente tem de sobreviver.

Como a carga se propaga

  • Os nós são classificados pelo papel num pequeno conjunto de comportamentos: pontos de entrada, divisores (load balancers e gateways), caches, armazenamentos, canais assíncronos (filas/streams), serviços e dependências externas. As formas e os nós de anotação são inertes — simplesmente não simulam.
  • Um nó só reencaminha o que consegue realmente servir: o mínimo entre o que chega e a sua capacidade vezes o número de réplicas. Cada aresta pode também indicar chamadas por pedido a montante, para que uma chamada ocasional a um modelo não receba, por engano, todos os pedidos. Sem débito fantasma a jusante de um gargalo.
  • O tráfego acima da capacidade de um nó fica sem resposta, todo ele, e conta contra a disponibilidade — sem uma divisão inventada entre partes em fila, rejeitadas e com erro. As filas são a exceção: o que uma fila, ou os consumidores por trás dela, não conseguem aceitar é um backlog a crescer, não uma falha.
  • A espera na fila de um nó segue uma aproximação padrão para vários servidores (Sakasegawa), calculada por réplica, em que o número de servidores é quantos pedidos uma réplica serve em simultâneo. Esse número decide o quanto a utilização prejudica. Com a variabilidade por omissão do modelo, a 90% um pool largo quase não tem fila, enquanto um serviço que atende um pedido de cada vez espera, em média, nove vezes o seu tempo de serviço, pelo que um pedido demora dez tempos de serviço no total. A 100% ou mais a espera não tem limite, e o simulador di-lo em vez de mostrar um número.
  • As caches absorvem a sua taxa de acerto e reencaminham os misses mais as escritas; os divisores repartem por alvos equivalentes; os canais assíncronos desacoplam a cadeia de latência.

As réplicas são apenas uma propriedade do nó — defina um serviço com 4 réplicas e a sua capacidade multiplica-se, exatamente como seria de esperar, com os serviços de terceiros como exceção deliberada: não se escala a API de outra pessoa desenhando mais cópias dela.

O que deliberadamente não é

  • Não é uma simulação de eventos discretos. Sem modelo de filas ao nível do pedido, sem jitter, sem distribuições de latência de cauda — uma verificação de capacidade em estado estacionário, por conceção.
  • Não é um benchmark de fornecedor. Os números de capacidade são âncoras representativas para raciocinar, não valores de um tipo de instância específico.
  • Não é uma fatura. A infraestrutura aprovisionada usa intervalos de ordem de grandeza. Os serviços cobrados pela utilização que não têm preço por omissão, entre eles as APIs de modelos e outros serviços de terceiros, e a parte de utilização das bases de dados e de outros armazenamentos aparecem como “Baseado no uso — não estimado” até fornecer as horas ativas e as tarifas unitárias relevantes, e enquanto algum deles estiver assim o painel não mostra um total combinado. Os componentes que não transportam tráfego de pedidos, como a monitorização ou o CI/CD, podem ainda assim ter custo — o modelo de tráfego e a classificação de faturação são coisas separadas.
Dica A melhor forma de calibrar a sua intuição é quebrar um desenho: arme um preset de stress (a cache stampede é um clássico) e observe qual componente se torna o gargalo, e qual pressuposto o explica.