Compromis

Réplica en lecture ou cache ?

Les deux déchargent la base de données primaire des lectures, et ils ne sont pas interchangeables. L’un augmente le nombre de requêtes que vous pouvez servir ; l’autre supprime la requête. Se tromper, c’est finir avec un composant dont on n’avait pas besoin.

Quand les lectures commencent à faire mal, deux réponses arrivent en même temps : ajouter un réplica en lecture, ou mettre un cache devant. Elles ressemblent à la même solution — moins de charge sur le primaire — et elles résolvent des problèmes réellement différents.

Ce qu’apporte vraiment un réplica

Un réplica en lecture multiplie le nombre de requêtes que le système peut servir. Même moteur, même schéma, même planificateur de requêtes, mêmes index : toute requête à laquelle le primaire pouvait répondre, le réplica peut y répondre aussi. C’est donc le bon outil quand le problème est le volume — beaucoup de requêtes, chacune correcte en elle-même.

Ce qu’il ne fait pas, c’est rendre bon marché une requête coûteuse. Un rapport qui prend quatre secondes à cause du travail qu’il fait prend aussi quatre secondes sur le réplica. Ajouter des réplicas pour corriger cette latence ne fait qu’acheter la possibilité d’exécuter plus de requêtes lentes à la fois, ce qui est rarement ce que l’on voulait.

Et il vient avec un retard de réplication : une lecture servie par un réplica peut avoir des millisecondes ou des secondes de retard sur l’écriture qui vient d’avoir lieu. Pour un fil d’actualité, très bien. Pour l’écran qu’un utilisateur voit juste après avoir enregistré un formulaire, pas du tout — c’est le cas du read-after-write, et cette lecture doit généralement aller au primaire.

Ce qu’apporte vraiment un cache

Un cache supprime la requête. Sur un hit, cette requête n’atteint jamais la base de données, et la latence est celle du cache — généralement bien inférieure à celle de la requête remplacée. C’est donc le bon outil quand le problème est le coût par lecture : un calcul coûteux dont beaucoup d’appelants veulent le résultat.

Le prix, ce sont deux problèmes que la base de données n’avait pas. Le premier est l’invalidation : quelque chose doit décider quand la réponse stockée a cessé d’être vraie, et cette décision vit généralement dans le code applicatif, où il est facile de se tromper en silence. Le second est ce qui se passe sur un miss — un cache avec un hit rate élevé permet de dimensionner ce qui se trouve derrière pour les seuls miss, ce qui est son propre mode de défaillance le jour où le hit rate baisse.

  • Beaucoup de requêtes peu coûteuses, trafic en croissance → réplica. Le travail est correct ; il y en a simplement plus qu’une machine ne peut en servir.
  • Un résultat coûteux, de nombreux lecteurs qui peuvent le partager → cache. Le faire une fois vaut mieux que le faire plus vite.
  • Doit refléter l’écriture qui vient d’avoir lieu → ni l’un ni l’autre, par défaut. Cette lecture va au primaire, ou à un réplica dont on sait qu’il a appliqué l’écriture.
  • Requête coûteuse ET volume élevé → les deux, le cache d’abord : mettez le résultat en cache, et ajoutez un réplica si les miss surchargent encore le primaire.

Le piège du milieu

L’erreur courante est de se tourner vers un cache parce que la requête est lente, sans se demander pourquoi elle est lente. Ajouter l’index manquant peut transformer une requête de 400 ms en une requête de 4 ms, pour un peu de stockage et un peu de travail en plus à chaque écriture. Un cache devant cette même requête coûte une stratégie d’invalidation, une facture de mémoire, un nouveau mode de défaillance et un bug de données périmées six mois plus tard — et il laisse la requête lente en place pour chaque miss.

Astuce Avant l’un ou l’autre, lisez le plan d’exécution de la requête. Quand la requête est lente faute d’index, un cache ne la corrige pas ; il paie l’index manquant une fois par miss au lieu d’une fois par requête.

Le regarder sur un diagramme

L’intérêt de trancher cela sur un canevas est que les deux conceptions candidates peuvent exister côte à côte et tourner sur la même charge de travail. Dessinez la version avec réplica, dessinez la version avec cache, et comparez où chacune sature. Le preset Cache froid vaut la peine d’être lancé spécifiquement sur la conception avec cache, parce qu’il répond à la question que le hit rate dissimule : ce que reçoit l’origine quand le cache contribue beaucoup moins que dans le cas favorable.

Note Le simulateur modélise le régime permanent ; il ne montrera donc ni le retard de réplication ni une clé périmée. Ce sont des propriétés de correction, décidées par la forme de vos lectures et non par la capacité.