cập nhật 35 phút trước

⏱ Độ trễ thật của tab này: trung bình 7.2 giờ sau khi CVE được công bố (n = 5381, sớm nhất 0.1 giờ). Số âm nghĩa là ta thấy trước ngày công bố.

20
Multi-GPU MoE Inference with Adaptive Expert Offloading
📄 Paper arXiv cs.AI 6 ngày trước

arXiv:2611.10219v1 Announce Type: new Abstract: Modern Mixture-of-Experts (MoE) inference is constrained by GPU memory. This constraint is mitigated by expert offloading, which stores part of the model's weight in host memory and executes on demand. Though MoE architecture has c…

🅲 hạng C