LangChain 之八:流式与透传
LangChain 源码系列第八篇解析流式与透传机制,源码基于 langchain-core 1.3.2。BaseChatModel 在 chat_models.py:710 覆写 stream,逐格吐出 AIMessageChunk,并在流尾补一个 content 为空、chunk_position 为 last 的空 token 作为终止信号。
LangChain 源码系列第八篇解析流式与透传机制,源码基于 langchain-core 1.3.2。BaseChatModel 在 chat_models.py:710 覆写 stream,逐格吐出 AIMessageChunk,并在流尾补一个 content 为空、chunk_position 为 last 的空 token 作为终止信号。
一位开发者用 FastAPI + SQLite 单进程后端、Vue 3 + Vite 前端和 subprocess 调用 ultralytics yolo CLI 的方式,把 YOLO 训练管理平台做成网页版,覆盖素材库、在线标注、数据集版本快照、在线训练、模型版本管理、试模型和两级权限七项功能。
JeeWMS 给出中小企业分批上线 WMS 的清单:第一批只做“账做准”,含基础配置层、收货上架、拣货出库复核、库内调整与盘点,PDA 仅做收货和拣货;第二批补效率与稽核,第三批才接 RFID/AGV 设备与 ERP、MES 集成。该系统基于 Spring Cloud 微服务与 Vue 前端,采用 GPL-3.0 协议,官方仓库为 gitee.com/erzhongxmu/JEEWMS。
一份实践思路指出,用 Ollama 等工具在本机部署 AI Agent,可让代码、文档、日志全部留在本地,16GB 内存即可流畅运行 7B 级别量化模型,且开源模型一次部署长期复用、不按次计费。
Wavestone 四位研究者发布 83 页论文《Harness Engineering》,逐行阅读 Claude Code、Codex CLI、Gemini CLI。
智谱(Z.ai)的 GLM 5.3 已在 Amazon Bedrock 上线,这是一个 753B 参数的 MoE 模型,面向编码与长周期智能体任务,通过全托管 API 提供跨区域推理、提示词缓存和服务层级,目前面向符合条件的企业客户开放。
推荐理由:原文给出 GLM 5.3 在 Bedrock 上的接入方式与提示词缓存用法,可据此评估自建推理与托管调用的取舍。
Latent Space 的 AINews 汇总了 10 月 1 日至 2 日的 AI 动态:OpenAI 发布 GPT-6.1 Sol,定价为每百万输入/输出 token 2 美元和 10 美元。
MIT 研究者 Alex Zhang 在 Latent Space 播客中介绍了其 Recursive Language Models(RLM)等工作,基于 RLM 的 harness 是首个接近解决 ARC-AGI-3 的方案,早于 OpenAI 的 Astra。
DeepSeek 于 9 月 30 日正式开源面向华为昇腾算力平台的基础设施组件,涵盖 TileLang 高级语言编译工具、计算库和分布式通信库,与此前面向英伟达平台的开源组件一一对应。其中 TileLang 昇腾版本被描述为最重的一块,DeepSeek 称要建立新一代自主可控的 GPU 软件生态,需先有通用且编程简单的工具。
开源项目 Jeff 发布,定位为零样本分类器,基于 Qwen3.5 和 Gemma 4 微调,一次前向计算即返回每个选项的校准概率,不生成文本、无需解析。在 RTX PRO 6000 上约 22 毫秒出一次决策,并支持 Apple M4 Max(MLX)。其 0.8B 微调版本在 benchmark 上逼近 Jev。
NVIDIA 加入由 Google DeepMind、EMBL-EBI 等组成的全球研究联盟,通过 AlphaFold Database 开放 2800 多种病毒的蛋白复合物预测 3D 结构,供任何科学家免费使用。
推荐理由:NVIDIA 联合 Google DeepMind 等机构开放 2800 多种病毒的蛋白复合物预测结构,读者可了解开放科学在疫情准备中的具体做法。
Laravel 框架宣布新规定,禁止用户提交 issue,只能提交 Pull Request,理由是 PR 能过滤垃圾反馈、给维护者更多信息,且 AI 时代让用户借 AI 生成 PR 几乎和提 issue 一样简单。
OpenClaw 发布 2.0 版,共有 933 位贡献者、合并 16000 个 PR,而全职团队仅 9 人、兼职 26 人,作者据此判断这些 PR 未经代码审查、由 AI 合并。该版本源于 8 月改动,发布节奏已从每日一版改为每月一版。作者仍建议不要在办公电脑上运行 OpenClaw,而应放在独立物理机、虚拟机或云端。
微软研究院发布深度学习交换关联泛函 Skala 1.1,训练数据量为此前公开版本的 2.5 倍,在 GMTKN55 基准 55 个类别中 32 项排名第一,加权平均误差 2.8 kcal/mol。Skala 现已在 CP2K 中可用,并正集成进 Psi4、FHI-aims、ORCA 和 VASP,同时推出持续追踪各版本计算性能的 living benchmark。