27
ggml-org/llama.cpp
🧩 Chức năng: Công cụ quanh mô hình ngôn ngữ (prompt/agent)
llama.cpp là thư viện mã nguồn mở tối ưu hoá việc suy luận (inference) các mô hình LLM viết bằng C/C++, giúp chạy mượt mà các model lớn trên đa dạng phần cứng như CPU, GPU và Apple Silicon.
🅲 hạng C