FastEEP: Fast Intra-Instance Elastic Scaling for Expert-Parallel MoE Serving
Forscher stellen einen Ansatz zur elastischen Skalierung für Mixture-of-Experts-Modelle vor.
Forscher stellen einen Ansatz zur elastischen Skalierung für Mixture-of-Experts-Modelle vor.