Lanzan EMO, un modelo de mezcla de expertos que favorece la modularidad emergente en IA
Se presenta EMO, un innovador modelo de mezcla de expertos (MoE) que permite la selección de un pequeño subconjunto de especialistas para tareas específicas, manteniendo un rendimiento cercano al del modelo completo. A diferencia de los MoEs tradicionales, EMO se entrena para que la modularidad emerja de los datos, facilitando un uso más eficiente y flexible de los recursos computacionales necesarios. Esto representa un avance significativo en modelos de lenguaje espaciosos y adaptables.
