cập nhật 50 phút trước

⏱ Độ trễ thật của tab này: trung bình 7.2 giờ sau khi CVE được công bố (n = 5392, sớm nhất 0.1 giờ). Số âm nghĩa là ta thấy trước ngày công bố.

36
sybil-solutions/inference-optimisation-skill
🤖 AI Agent / MCP GitHub mới (#llm) 18 giờ trước ⭐ 557 Python 📄 MIT

🧩 Chức năng: Công cụ quanh mô hình ngôn ngữ (prompt/agent)

Bộ kỹ năng cho AI agent giúp tối ưu hóa tốc độ suy luận của LLM chạy cục bộ (local LLM) bằng thuật toán leo đồi (hill-climbing) trên mọi phần cứng và kiểu lượng tử hóa. Hữu ích cho việc tăng tốc decode, prefill và giảm thời gian TTFT.

🅲 hạng C