ComfyUI 的缓存架构和实现
围绕 ComfyUI，大家讨论最多的是节点、工作流、算力这些，真正去看缓存细节的人其实不多。但只要你开始在一台机器上堆多个模型、多个 LoRA、多个 workflow，缓存策略就会直接决定这几件事： 你是算力浪费，还是把显存 / 内存用在刀刃上； 容器会不会莫名其妙 OOM； 工作流切换时，是“秒级热身”还是“从头再来”。 这篇文章只做一件事：把 Comfy…
CODE, ARCHITECTURE & AI
代码、架构与 AI 时代.
记录工程实践，也探索 AI 时代软件与人的新可能。
关于行业 Agent 的思考：「行业 Workflow + Agent」的混合模式
过去一年，AI Agent 从狂热逐渐回归理性。在企业级应用和垂直行业落地中，我们看到了一个趋势： 在行业中，纯粹依靠 Agent 自主决策的构想，正在被「Workflow + Agent」的混合模式所取代。 对于我们一线的同学来说，最重要的是要去解决实际问题。 当前我们能看到的行业 Agent 大多数实际落地的逻辑是： 行业 Agent 的壁垒在于行业 K…
聊下 AI Agent 的上下文记忆和遗忘
最近 DeepSeek 的 OCR 论文里有个有趣的想法：用光学压缩来模拟人类的记忆遗忘机制。 这个思路很巧妙。他们注意到人类记忆和视觉感知都有个共同特点：距离越远，信息越模糊。一小时前的事记得清楚，一年前的事几乎忘光；10 厘米的东西看得清楚，20 米外的东西就模糊了。 DeepSeek 把这个生物学现象转化成了工程实现：近期对话用高分辨率保存，一周前的对…
关于 AI Agent 的思考：大模型边界和工作流
最近在体验一些 AI Agent 的产品，有一个比较感受：大多数的 AI Agent 最终都是一个或多个工作流，原本我们想象的那种完全自主、能够独立思考和决策的 AI Agent 很少。 从而也就无法看到一句话就完成所有的事情，需要有专业的人在旁边盯着。 甚至出现了一个新的名词：大模型善后工程师 并且那种自动多的 AI Agent ，面对的大多数是对于幻觉，…
AI Agent不够聪明，但 SaaS 公司可能是解药
最近经常会和 AI Agent 聊天，使用 AI 编程，并且也会和正在用 AI Agent 的朋友聊天，发现大家 AI Agent 的期待值和实际体验之间，存在着相当大的落差。 换句话说，大家觉得 Agent 不怎么聪明。 1. AI Agent 到底哪里不聪明 可能是以下的方面： 业务理解能力差。很多 AI Agent 看起来能对答如流，但一涉及到具体业务…
从 LangChain 和 Manus 两巨头上下文工程实战中学到的 5 点经验
最近仔细看了 LangChain 的 Lance 和 Manus 的 Pete 的视频，主题是构建 AI 智能体中的上下文工程。这次分享没有那些空泛的理论，全是在生产环境中验证过的实战经验。 我结合自己的思考，整理了我认为 5 个最有价值的技术要点，每一个都直接影响着智能体的性能和可用性。 1. 上下文爆炸是智能体最大的瓶颈 Manus 统计显示，一个典型的…
AI Agent 架构常用的 4 种设计模式
AI Agent 持续火爆，不仅仅是产品上，在融资市场也同样火爆，各种产品都在往上靠。但对于 AI Agent 该如何架构，有人关注，但少有人刻意去了解和分析。一些常见的问题有：如单个 Agent 搞不定复杂任务，多个 Agent 又容易失控，成本高，在不同的场景应该使用什么样的架构等等。 这篇文章我会尝试分享一下 AI Agent 的 4 个常用设计模式。…
AI Agent 核心策略：如何判断 Agent 应该停止
简单来讲，AI Agent 实现的的大逻辑就是一个大的循环 + 获取上下文 + 不停的 LLM 调用 + 工具的调用。 那么一个关键问题就出现了：这个循环什么时候应该停止？如果处理不当，Agent 可能会陷入无限循环，浪费计算资源，或者过早停止而无法完成任务。本文将深入探讨 AI Agent 停止策略的核心设计思路。 常用停止策略 AI Agent 停止策略…