layout: default title: “首页” nav_order: 1

Pocket Flow

一个 100行 的极简 LLM 框架，适用于 Agents、Task Decomposition、RAG 等。

• 轻量级：仅在 100 行中包含核心图抽象。零依赖，无厂商锁定。
• 表达力强：拥有你喜爱的大型框架的所有功能—Multi-Agents、Agents、Workflow、RAG 等。
• Agentic-Coding：足够直观，让 AI agents 帮助人类构建复杂的 LLM 应用。

![[_resources/index/c1e256f0078e09d70d39953bfe167f59_MD5.jpg]]

核心抽象

我们将 LLM 工作流建模为 Graph + Shared Store：

• Node 处理简单的 (LLM) 任务。
• Flow 通过 Actions（带标签的边）连接节点。
• Shared Store 允许在流程内的节点之间进行通信。
• Batch 节点/流程允许进行数据密集型任务。
• Async 节点/流程允许等待异步任务。
• (高级) 并行 节点/流程处理 I/O 绑定任务。

![[_resources/index/398b2ac3ee9c593c952904715e367fdf_MD5.png]]

设计模式

从那里，很容易实现流行的设计模式：

• Agent 可以自主做出决策。
• Workflow 将多个任务链接成流水线。
• RAG 将数据检索与生成集成。
• Map Reduce 将数据任务拆分为 Map 和 Reduce 步骤。
• Structured Output 以一致的方式格式化输出。
• (高级) 多 Agent 协调多个 Agent。

![[_resources/index/12d34c55c1bd2ec61f394a051a8eb0c4_MD5.png]]

工具函数

我们 不 提供内置工具。相反，我们提供 示例—请 自行实现：

• LLM 包装器
• 可视化和调试
• 网络搜索
• 分块
• 嵌入
• 向量数据库
• 文本转语音

为什么不内置？：我认为在通用框架中使用厂商特定 API 是一种 不良实践：

• API 不稳定性：频繁更改会导致硬编码 API 的大量维护。
• 灵活性：你可能想更换厂商、使用微调模型或在本地运行。
• 优化：在没有厂商锁定的情况下，提示缓存、批量处理和流式传输更容易。

准备好构建你的应用了吗？

查看 Agentic 编码指南，这是使用 Pocket Flow 开发 LLM 项目的最快方式！