RadarTrend / Tópicos / Beyond Muon: MUD (MomentUm Decorrelation...
⚡ 72 Score Alpha arxiv technology 🇺🇸 EUA 19/03/2026 01:00

Beyond Muon: MUD (MomentUm Decorrelation) for Faster Transformer Training

MUD (MomentUm Decorrelation) é um novo otimizador para treinamento de transformers que substitui a decomposição polar do Muon por uma aproximação triangular inspirada em Gram-Schmidt, reduzindo significativamente o overhead computacional. O método alcança melhorias de 10-50% no tempo de treinamento e aumenta o throughput em até 3x em relação ao Muon em hardware como A100, mantendo qualidade compet...

#transformer training #momentum decorrelation #optimizer #orthogonalization #deep learning
Ver fonte original

Histórico do Score

Análise Estratégica Completa

Desbloqueie a análise completa

  • ✓ Dossiê estratégico com plano de negócio
  • ✓ Domínios .com e .com.br disponíveis
  • ✓ Sugestão de marca para INPI
  • ✓ Simulação multi-agente IA
  • ✓ Probabilidades de mercados financeiros globais
Criar conta grátis → Já tenho conta — entrar

Tópicos Relacionados

Receba o próximo tópico Alpha antes de todo mundo

Alertas no Telegram assim que o robô detecta score 85+. 13 fontes globais monitoradas de hora em hora.

Criar conta grátis — 30 dias Premium →