Más recursos en la misma máquina, o más máquinas. La primera opción tiene un
techo físico y la segunda exige software que coordine. Las cuentas de esta página dicen dónde
está cada techo.
1. El costo de la máquina grande
Un servidor con 1 TB de memoria cuesta más que diez servidores de
128 GB cada uno.
¿Cuánta memoria suman esos diez servidores, en gigabytes?
Si el conjunto barato da más memoria por
menos dinero, ¿por qué alguien escala a lo alto?
Stack Overflow atiende millones de usuarios al día con menos de veinte
servidores muy potentes. Google va por el otro camino, con millones de máquinas comunes, y
Netflix crea y destruye decenas de miles de instancias según la demanda.
2. El techo que no se compra
La ley de Amdahl pone el límite:
S(n) = 1 / ((1 − p) + p/n), con p la fracción que se paraleliza.
Un servicio tiene p = 0,95.
¿Qué aceleración da con 10 máquinas?
¿Y con infinitas máquinas?
Máquinas
Aceleración
Eficiencia
Entre máquinas hay algo que no estaba al
paralelizar con hilos: la coordinación viaja por red. Cada decisión por consenso son al
menos dos rondas entre la mayoría de los nodos, y esas rondas entran en la parte que no se
reparte, así que el techo real queda por debajo del que calcula la fórmula.
3. Partir los datos o copiarlos
Un servicio guarda el perfil de treinta millones de
usuarios y la consulta más frecuente es leer un perfil por su identificador. Los perfiles no
caben en un nodo. ¿Qué mecanismo resuelve eso?
Casi todo sistema real usa los dos a la vez: se particiona, y cada
partición se replica. Lo que cuesta del sharding es la consulta que cruza particiones,
porque son varias idas por red en vez de una.
4. Cuántos nodos para aguantar dos caídas
En un sistema que decide por consenso, con 2f + 1 nodos
se toleran f caídos: las decisiones salen por mayoría, y la mayoría tiene que
seguir existiendo entre los que quedan vivos.
¿Cuántos nodos hacen falta para seguir decidiendo con dos caídos?
Nodos
Mayoría
Caídas que tolera
Paxos fue el primer protocolo descrito; Raft se diseñó para poder
entenderse, y es el que usan etcd, Consul y CockroachDB. Agregar nodos sube la tolerancia y
también el costo de cada decisión, porque la mayoría a convencer es más grande.