LangChain 之八:流式与透传
LangChain 源码系列第八篇解析流式与透传机制,源码基于 langchain-core 1.3.2。BaseChatModel 在 chat_models.py:710 覆写 stream,逐格吐出 AIMessageChunk,并在流尾补一个 content 为空、chunk_position 为 last 的空 token 作为终止信号。
LangChain 源码系列第八篇解析流式与透传机制,源码基于 langchain-core 1.3.2。BaseChatModel 在 chat_models.py:710 覆写 stream,逐格吐出 AIMessageChunk,并在流尾补一个 content 为空、chunk_position 为 last 的空 token 作为终止信号。
一篇 LangChain 教程把检索、记忆、工具调用、流式输出和回调可观测五个零件,用 Runnable 和竖线 `|` 拼成一个可运行的电商客服助手,并用免 key 脚本完整跑通。
开发者通过 LLM 逆向工程 iChat 的 SNATMAP 协议,自建 UDP 服务器并修改 /etc/hosts,让运行 Leopard 或 Snow Leopard 的老 Mac 重新实现 iChat 音视频通话。
手写 Claude Code 复刻项目 codeAgent 在并行工具调用回喂时踩坑:按 OpenAI 习惯逐条回喂 tool 结果,切到 Anthropic 端点直接 400,因为 Anthropic 要求所有 tool_result 装在同一条 user 消息里且不允许两条 user 消息相邻。
dots 是一个 3 天斩获 2.4K Star 的 Web AI Agent 项目,核心卖点是对 Firefox 引擎做 C++ 源码补丁,使指纹在引擎层生成而非 JS 注入,从而规避反爬检测。
向量数据库与普通数据库的核心差异不在存储而在检索:普通库只能全表扫描做 O(N) 暴力遍历,向量库靠 HNSW、IVFFlat 等 ANN 索引把复杂度降到 O(log N),RAG 端到端延迟可控制在 10ms~50ms。
针对 Agent 流式输出中 Nginx 缓冲截留、多节点 SSE 连接孤岛、事件类型混乱三大生产环境问题,该方案基于 Spring Boot 3 的 SseEmitter 构建会话管理器,配合 Redis Pub/Sub 实现跨集群节点的事件广播。
一位开发者用业余时间从零搭建了 YOLO 训练管理平台,技术栈为 FastAPI + SQLite + Vue 3,训练通过 subprocess 调用 ultralytics 的 yolo CLI,支持数据集导入、在线标注、版本快照、串行训练队列和模型管理,Windows 优先部署。
一位开发者用 FastAPI + SQLite 单进程后端、Vue 3 + Vite 前端和 subprocess 调用 ultralytics yolo CLI 的方式,把 YOLO 训练管理平台做成网页版,覆盖素材库、在线标注、数据集版本快照、在线训练、模型版本管理、试模型和两级权限七项功能。
XiaoMate(小美同学)新增 screen_capture MCP 工具,通过 mss 截取全屏并调用 OpenAI 兼容的 Vision 模型分析屏幕内容,让语音助手获得视觉感知能力。该工具支持 Windows/macOS/Linux 与多显示器,采用 asyncio 异步非阻塞调用,可应用于网购比价、快递单号识别、体检报告解读等场景,目前仅支持全屏截图,暂不支持指定区域。
作者开源了一个 MCP server,让 Claude Desktop、Cursor、Cline 等 MCP 宿主里的 AI 以可见形象进入其浏览器多人 3D 世界,真人可在 30m 内看到 AI 走动、说话并与之对话。
一位不懂编程的物料计划人员用 WorkBuddy(豆包桌面端)通过9轮对话,把每天40分钟的手工导出汇总流程做成双击一次38秒完成的自动化工具,全程未写一行代码。文中给出提需求四层法(目的、步骤、文件与规则、边界与例外)、报错三步法(截图、复制原文、说明操作)和三条底线(先备份、交代禁区、密码别写在聊天里),并附可直接填空的模板。
一个声称对拍 CPU 参考实现的 WebGPU 数学同源审计门禁,实际对拍的是 JavaScript 模拟内核,真正的 WGSL 文本从未被 GPU 编译执行过。
文章以 Codex Rust 版 commit 2685e3a4 源码为证据,梳理编程 Agent 的提示词注入面,包括 README、代码注释、测试 fixture、commit/PR 文本、issue 正文、依赖包、MCP 工具返回和 web 搜索结果八个入口。
JeeWMS 给出中小企业分批上线 WMS 的清单:第一批只做“账做准”,含基础配置层、收货上架、拣货出库复核、库内调整与盘点,PDA 仅做收货和拣货;第二批补效率与稽核,第三批才接 RFID/AGV 设备与 ERP、MES 集成。该系统基于 Spring Cloud 微服务与 Vue 前端,采用 GPL-3.0 协议,官方仓库为 gitee.com/erzhongxmu/JEEWMS。
一个示例工程拆解了 AI Skill 的完整落地路径:把会议纪要生成固化为 SKILL.md,靠 YAML 头部的 name 和 description 决定技能是否被触发,正文写工作流程与输出模板。
LangChain Agent 开发中可用五种方式定义工具:@tool 基础装饰器、@tool 加 parse_docstring、StructuredTool、继承 BaseTool 以及 Runnable 转 Tool,分别对应快速原型、多参数规范工具、存量函数复用、生产复杂工具和已有 Runnable 链路复用。
一份实践思路指出,用 Ollama 等工具在本机部署 AI Agent,可让代码、文档、日志全部留在本地,16GB 内存即可流畅运行 7B 级别量化模型,且开源模型一次部署长期复用、不按次计费。
gstack 是一个开源工具集,通过 23 个结构化 AI 角色把 Claude Code 转化为虚拟工程团队,覆盖产品设计到部署的全流程。
Agency Agents 是一套支持多平台、跨工具安装的 AI 智能体协作系统,包含 230 余个专业化角色,覆盖工程、营销、销售、运营等 8 大部门。它提供针对 Claude Code、Cursor、GitHub Copilot、Gemini CLI、OpenCode、Kimi Code 等 14 种 AI 编码助手的安装脚本,可通过一行命令部署并交互式选择工具与代理群组。
Agency Agents 是一个跨平台桌面应用与脚本套件,可将超过 230 个专业化 AI 智能体安装到 Claude Code、Cursor、GitHub Copilot、Gemini CLI 等主流编程工具中。
Agent-Reach 是一个开源项目,作为能力层替 agent 选型、安装和体检各平台读取工具,官方列出网页、X、Reddit、YouTube、B 站、小红书等 16 个平台,今年 2 月在 GitHub 建仓,现接近 9 万星。
文章围绕多租户 LLM 应用的 Prompt 隔离问题,提出从 Layer 0 平台级 System Prompt 到用户输入的四层 Prompt 架构,并给出 Jinja2 SandboxedEnvironment 渲染。
作者实测用开源客户端 Cherry Studio 搭配硅基流动、阿里云百炼的免费 API Key(DeepSeek-V3、DeepSeek-R1、Qwen2.5-7B)和 BAAI/bge-m3 向量模型,在本地搭建支持联网搜索与文档检索的 RAG 知识库,数据与向量索引全部保存在本地。
Anthropic 的 Claude Opus 5.5、Claude Sonnet 5.5 和 Claude Sonnet 5 已上线 AWS GovCloud (US) 区域的 Amazon Bedrock。
Amazon Quick 的 Quick Resource Migrator 是一个托管在 Amazon Bedrock AgentCore 上的示例 MCP 服务器,可通过单次工具调用把 chat agents、action connectors、knowledge bases、flows 和 spaces 从开发账户迁移到生产 AWS 账户。
Amazon Bedrock Managed Knowledge Base 现已支持智能体检索,通过 AgenticRetrieveStream API 将多部分问题拆解为子查询、执行并判断证据是否充分,不足时再次检索,langchain-aws 包同时暴露智能体与标准两种检索方式。
Amazon Quick 控制台无法直接将用户从 Admin 降为 Reader 或从 Author 降为 Reader,update-user API 也会以“You cannot downgrade a user role”报错拒绝。
Amazon Bedrock AgentCore Evaluations 支持内置与自定义评估器,可衡量多智能体系统的准确性、任务成功率与行为表现,并将可解释性作为一等评估维度。
作者用 Claude Code 的多代理工作流(模型 Opus 5.5),仅凭一段未修改的需求、不使用任何外部素材,做出了浏览器端第三人称 3D 动作解谜游戏《云海神殿》,含五个章节和一个 Boss。
315 AI 投毒风波后,豆包、DeepSeek、元宝、讯飞星火改信源规则,不再只认单一自媒体平台,改为政府网站、行业垂直网站、带 ICP 备案的官网交叉验证,信源不足直接判定投毒,严重者品牌封杀。这套让 AI 在回答中引用到你的做法叫 GEO,但单价 50 元以下的商品意义有限,高客单价、决策慎重的生意更适用。
JavaManus 是一个纯 Java 实现的 ReAct Agent 框架,基于 Spring AI 1.1.0 和 Spring Boot 3.4,默认接入火山引擎 Ark(豆包),整体不到 30 个 Java 文件。
LangChain 通过 BaseCallbackHandler 钩子接口实现可观测,框架在链、模型、工具的关键节点自动调用 handler,BaseCallbackManager 负责将事件广播给多个 handler,tracers 则将事件收敛为可回放的 Run 树。
开发者发布小说转漫画 skill(github.com/aiskyhub/no…),为 Codex 安排从读原文、写分镜到排版导出的完整制作顺序,并让程序按字体排入审过的对白、由生图模型专责画面,避免重绘改字。
LangChain 用 BaseChatMessageHistory 把对话历史建模成可增删改查的对象,其内存实现 InMemoryChatMessageHistory 将消息存在 Python 列表里,进程重启即丢失,持久化需自行继承实现。
marketingskills 是一套面向 Claude Code、OpenAI Codex、Cursor 等支持 Agent Skills 规范工具的开源营销技能库,涵盖 CRO、文案、SEO 与增长工程等 50 多个技能。
michael-denyer 的 pstack-claude 项目将 Lauren Tan 在 Cursor 上构建的技能栈移植到 Claude Code、Codex、Pi 等代理框架,通过基础原语翻译机制保持跨框架语义一致。
gstack 是 Garry Tan 发布的开源项目,将 Claude Code、OpenAI Codex 等模型能力封装为 23 个专家角色,通过 8 个核心命令覆盖从产品构思、架构设计、代码生成到测试部署的端到端流程。
文章对比 Agentic RAG 的三种架构演进形态:基础检索自纠错(本地循环重搜)、标准 CRAG(双阈值打分加联网兜底与句子级去噪)和带回环的 Self-RAG(前置门控加本地与网络两段式加质检回环)。文中给出三者的状态流转逻辑、核心实现代码与生产避坑指南,并建议将 CRAG 作为企业主力架构,仅在法律、医疗等场景开启带计数器的 Self-RAG 质检回环。
掘金「deepseek实战」第 28 期用造物台四轮对话、约 186 积分做出倒计时看板,可同屏盯多个事件,每个事件一个环形进度并按秒刷新,支持按天/按小时全局切换。