🧩 Chức năng: Đọc/xử lý tài liệu, PDF, OCR
Công cụ tài liệu mở nguồn "ai-infra-book" cung cấp bài viết và công cụ phân tích LLM, giúp đọc và thử nghiệm thiết kế hệ thống AI infra.
⏱ Độ trễ thật của tab này: trung bình 7.1 giờ sau khi CVE được công bố (n = 5340, sớm nhất 0.1 giờ). Số âm nghĩa là ta thấy trước ngày công bố.
🧩 Chức năng: Đọc/xử lý tài liệu, PDF, OCR
Công cụ tài liệu mở nguồn "ai-infra-book" cung cấp bài viết và công cụ phân tích LLM, giúp đọc và thử nghiệm thiết kế hệ thống AI infra.
🧩 Chức năng: Công cụ dòng lệnh
Phần mềm quét proxy đa nền tảng hỗ trợ truy cập dịch vụ AI của Google tại các khu vực bị hạn chế. Cung cấp khả năng kiểm tra trình duyệt và né chống kiểm duyệt DPI.
🧩 Chức năng: Công cụ dòng lệnh
Công cụ quét chuỗi vùng (region scanner) để tìm cấu hình proxy truy cập Google AI Studio và Gemini. Hỗ trợ đa nền tảng và kiểm tra trình duyệt tự động.
🧩 Chức năng: Công cụ dòng lệnh
Tiện ích kiểm tra cấu hình proxy giúp vượt rào địa lý để sử dụng Google AI Studio và Gemini. Tích hợp tính năng chống phát hiện DPI và kiểm tra trình duyệt.
🧩 Chức năng: Công cụ lập trình (xem mô tả gốc bên dưới)
Thư viện tensor cốt lõi cho các dự án machine learning hiệu năng cao, đặc biệt tối ưu cho việc chạy mô hình AI trên CPU. Đây là nền tảng đứng sau nhiều dự án LLM nổi tiếng như llama.cpp.
🧩 Chức năng: Công cụ quanh mô hình ngôn ngữ (prompt/agent)
llama.cpp là thư viện mã nguồn mở tối ưu hoá việc suy luận (inference) các mô hình LLM viết bằng C/C++, giúp chạy mượt mà các model lớn trên đa dạng phần cứng như CPU, GPU và Apple Silicon.
🧩 Chức năng: Công cụ quanh mô hình ngôn ngữ (prompt/agent)
Công cụ giúp viết lại văn bản theo tiêu chuẩn ASD-STE100 (Simplified Technical English) để loại bỏ phong cách "máy móc" của AI. Rất hữu ích khi cần tinh chỉnh kết quả đầu ra của LLM cho các tài liệu kỹ thuật chuyên nghiệp.
Mô hình Qwen3.8-27B được tối ưu hóa với Unsloth, hỗ trợ định dạng GGUF giúp việc chạy suy luận (inference) trên các thiết bị consumer dễ dàng hơn. Phù hợp cho lập trình viên muốn thử nghiệm LLM hiệu năng cao mà không tốn nhiều tài nguyên.
🧩 Chức năng: Làm game/engine
LLM Inference Engine for Metal, CUDA and Vulkan.
LiteLLM Rust’s 7x overhead and 9x memory claims, checked against its public benchmark files: what...
🧩 Chức năng: Công cụ quanh mô hình ngôn ngữ (prompt/agent)
Hundreds of models & providers. One command to find what runs on your hardware.
🧩 Chức năng: Công cụ quanh mô hình ngôn ngữ (prompt/agent)
🦍 Memorilla: Latent Semantic Memory for LLMs