cập nhật 10 phút trước

⏱ Độ trễ thật của tab này: trung bình 7.2 giờ sau khi CVE được công bố (n = 5381, sớm nhất 0.1 giờ). Số âm nghĩa là ta thấy trước ngày công bố.

21
Factored One-sided Adam-Moment for Practical and Scalable SOAP
📄 Paper HF Daily Papers 4 ngày trước

Second-order optimizers (e.g., Shampoo, SOAP) have emerged as compelling alternatives to Adam/AdamW and promise faster per-step convergence than AdamW in transformer training. However, they still remain costly in practice, and even SOAP still pays substantial optimizer-state memo…

🅲 hạng C