LLM Engineer Toolkit-整理了120多个按类别分类的 LLM 相关资源库，帮助 AI 工程师快速找到适合特定需求的工具和库

LLM工程师工具包：一个包含 120+ LLM 个库的精选列表，用于训练、微调、构建、评估、部署、RAG 和 AI 代理！100%开源。
具体的链接地址：

https://github.com/KalyanKS-NLP/llm-engineer-toolkit

• LLM 训练和微调：包括 Unsloth、PEFT、TRL 等工具，帮助开发者更快、更高效地训练和微调模型
• LLM 应用开发：框架：如 LangChain、LlamaIndex 等 · 多 API 访问工具：如 LiteLLM
• 路由工具：如 RouteLLM · 内存管理：如 mem0 · 界面工具：如 Streamlit、Gradio ·
• LLM RAG：包括 FastGraph RAG、Chonkie 等工具，用于构建知识检索系统
• LLM 推理：如 LLM Compressor、vLLM 等，优化模型推理性能
• LLM 部署：如 Langcorn、LitServe 等
• 数据提取工具：如 Crawl4AI、ScrapeGraphAI 等
• 数据生成工具：如 DataDreamer、fabricator 等
• LLM Agents：如CrewAI、LangGraph、AutoGen 等，用于构建自主 AI Agent
• LLM 评估：如 Ragas、Giskard 等，评估模型性能
• LLM 监控：如 LangSmith、Helicone 等，监控模型性能和使用情况
• 提示工程工具：如 PCToolkit、LLMLingua 等
• 结构化输出工具：如 Instructor、XGrammar 等
• 安全与保障工具：如 JailbreakEval、Guardrails 等
• 嵌入模型：如 Sentence-Transformers、Model2Vec 等
• 其他工具：包括各种特殊用途的库