🔧 LLM SKILLs · 开源工具技能图谱 三十件兵器，七重门派。从推理引擎到向量之海，从提示词的雕琢之术到护栏之上的微光——这是一份写给探索者的开源地图，每一处落脚都值得驻足细读。 Agent 开发框架 LangChainLLM 应用与 Agent 开发框架，链式调用 + 工具集成，Python/JS 双语言。⭐ 139kPython LlamaIndex数据索引与 RAG 框架，连接 LLM 与外部数据源的核心桥梁。⭐ 50kPython CrewAI多 Agent 协作编排，角色分工 + 任务分配，构建 Agent 团队。⭐ 54kPython AutoGPT自主 Agent 先驱，Plan-Execute-Feedback 循环 + 插件生态。⭐ 185kPython Dify低代码 LLM 应用平台，可视化工作流 + RAG 管道 + Agent。⭐ 145kPython/TS Semantic Kernel微软 LLM 编排 SDK，C#/Python/Java 多语言，Azure 生态一体化。⭐ 28kC#/Python 模型服务与推理 vLLM高性能推理引擎，PagedAttention + 连续批处理，吞吐 24x 提升。⭐ 83kPython/CUDA Ollama一键本地运行 Llama/Mistral 等模型，自动量化 + REST API。⭐ 174kGo llama.cpp纯 C/C++ 量化推理引擎，Metal/CUDA 加速，GGUF 格式标准制定者。⭐ 117kC/C++ SGLang结构化生成 DSL + RadixAttention 前缀缓存，多路并行推理。⭐ 29kPython TGIHuggingFace 官方推理服务，张量并行 + 量化 + 水印。⭐ 11kRust/Python Prompt 工程与优化 DSPy声明式 LLM 编程，编译器自动优化 prompt，替代手写模板。⭐ 35kPython Guidance精确控制生成，Handlebars 模板 + JSON Schema + 正则约束。⭐ 22kPython PromptfooPrompt 回归测试框架，多模型 A/B 对比 + CI/CD 集成。⭐ 22kTypeScript RAG 与向量检索 Chroma轻量 AI 向量数据库，三行代码完成嵌入+存储+查询，原型首选。⭐ 28kPython Milvus分布式向量数据库，十亿级向量检索，GPU 加速索引。⭐ 45kGo/C++ QdrantRust 向量搜索引擎，Payload 过滤 + 量化压缩，单机友好。⭐ 32kRust RAGFlow深度文档理解 RAG 引擎，PDF/表格/图片解析，开箱即用。⭐ 83kPython WeaviateAI 原生向量数据库，内置向量化模块 + 混合搜索 + GraphQL。⭐ 16kGo MCP 与工具集成 MCP Python SDKAnthropic 官方 Python SDK，构建 Tool/Resource/Prompt Server。⭐ 20kPython MCP TypeScript SDKAnthropic 官方 TS SDK，stdio/SSE/HTTP 传输，跨运行时。⭐ 5kTypeScript MCP Servers官方参考 Server 合集：filesystem/github/postgres/puppeteer 等。⭐ 22kPython/TS Open WebUI类 ChatGPT LLM 交互前端，Ollama/OpenAI 后端 + RAG + MCP。⭐ 65kSvelte/Python 训练与微调 LLaMA-Factory一站式微调 WebUI，100+ 模型，LoRA/QLoRA/全参微调。⭐ 72kPython unsloth高速 QLoRA，Triton kernel 加速 2-5x，省显存 80%。⭐ 67kPython/CUDA AxolotlYAML 声明式微调，一条命令训练，FSDP/DeepSpeed 多节点。⭐ 12kPython Firefly中文大模型微调框架，QLoRA/全参 + 百万中文指令数据。⭐ 7kPython 评估与安全 lm-eval-harness标准 LLM 评估框架，200+ Benchmark，学术评测标配。⭐ 13kPython DeepEvalLLM 单元测试，pytest 风格，幻觉/相关性/忠实度等 20+ 指标。⭐ 16kPython Guardrails AILLM 输出护栏，Pydantic 验证 + 自动纠正，70+ Hub 验证器。⭐ 7kPython
