Glosario

Mezcla de expertos (MoE)

Arquitectura en la que solo una parte del modelo se activa para cada token, lo que permite modelos enormes con un costo de inferencia menor.