GLM 5.3 上线 Amazon Bedrock
智谱（Z.ai）的 GLM 5.3 已在 Amazon Bedrock 上线，这是一个 753B 参数的 MoE 模型，面向编码与长周期智能体任务，通过全托管 API 提供跨区域推理、提示词缓存和服务层级，目前面向符合条件的企业客户开放。
推荐理由：原文给出 GLM 5.3 在 Bedrock 上的接入方式与提示词缓存用法，可据此评估自建推理与托管调用的取舍。
技术方向
部署工程 最新动态
把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
9 条精选近 30 天 7 条共收录 82 条
更新
部署工程的精选
AWS Machine Learning Blog精选AI 评分6262
NVIDIA Blog精选AI 评分6262 NVIDIA 推出 DGX Spark 64GB 本地 AI 配置，起售价 4,999 美元
NVIDIA 将于本月通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 推出 DGX Spark 64GB 配置，保留 GB10 Grace Blackwell 超级芯片、DGX OS 和完整 NVIDIA AI 软件栈，支持最高 1000 亿参数模型在设备本地运行。
推荐理由：原文给出 64GB 新配置的价格、可跑模型规模与双机集群方式，便于判断本地跑智能体的门槛。
NVIDIA Blog精选AI 评分7878 NVIDIA GPU 如何加速 OpenAI GPT-6 Astra Ultrafast
GPT-6 Astra Ultrafast 已在 OpenAI API 上线，并向符合条件的 ChatGPT Work 和 Codex 用户开放，运行在 NVIDIA Blackwell GPU 上。
推荐理由：原文给出 Ultrafast 相对标准模式的加速倍数与开放入口，读者可据此判断它对编码智能体循环的实际影响。
NVIDIA Blog精选AI 评分6262 NVIDIA 与 CoreWeave 将 Vera Rubin NVL72 投入生产，Cognition 为首家客户
CoreWeave 宣布 NVIDIA Vera Rubin NVL72 系统搭配 Spectrum-X 102.4T 以太网在 CoreWeave Cloud 上线，Cognition 成为首个在生产负载上运行该系统的客户。
推荐理由：原文给出 Vera Rubin NVL72 上线 CoreWeave 云及 Cognition 实测吞吐数据，可据此判断智能体编码负载的算力选择。
Microsoft Research精选AI 评分6262 微软研究：将物理 AI 推理卸载到边缘或云端可提升机器人性能与续航
微软研究院对移动操作机器人工作负载做了系统性测量，发现把物理 AI 推理从机载 GPU 卸载到边缘或云端 GPU 可提升任务成功率、支持更大模型并延长续航。
推荐理由：微软团队系统测量了机器人端侧与卸载推理的差异，并给出可复用的 Kubernetes 卸载工具链。
Google DeepMind精选AI 评分6262 Google DeepMind 为 Private AI Compute 引入服务端持久记忆
Google DeepMind 公布 Private AI Compute 平台的新技术能力，将私密的服务端持久记忆引入该平台，使 AI 助手能在多设备间保留上下文，同时维持接近端侧处理的隐私标准。
推荐理由：Google 公开了云端持久记忆的隐私架构，读者可了解跨设备 AI 记忆如何在加密与安全隔区下实现。
GitHub Blog · AI & ML精选AI 评分8282 GitHub 用 Copilot 把 Copilot 运行时迁移到 Rust
GitHub 用 GitHub Copilot app 和 Copilot CLI 把 Copilot agent runtime 从 TypeScript 完全重写为超过 80 万行生产级 Rust，AI 智能体写了其中大部分代码，跨 128 个 pull request 增量合入 main，而非一次性切换。
推荐理由：作者以亲历者身份给出把 80 万行运行时从 TypeScript 迁到 Rust 的完整工程细节，可迁移到大规模 Agent 协作开发。
Google DeepMind精选AI 评分7676 Google DeepMind 发布 WeatherNext 3 全球天气 AI 模型
Google DeepMind 与 Google Research 发布 WeatherNext 3，称其为迄今最先进、最准确的全球天气模型，直接学习实时观测数据，可每小时生成一次预报。
推荐理由：原文给出分辨率、更新频率和降水精度等具体指标，读者可据此判断 AI 天气预报在 Google 产品中的落地程度。
Berkeley AI Research精选AI 评分6060 从 CUDA 到 MLX：K-Search 如何把数十年内核经验带到 Apple Silicon
Berkeley AI Research 与 IBM Research 将 K-Search 进化式内核搜索框架扩展到 MLX，通过结构化的 CUDA-to-MLX 翻译层把已有 CUDA 内核经验迁移到 Apple Silicon。
推荐理由：读者可以看到 CUDA 优化经验如何被结构化迁移到 Apple Silicon，以及翻译层对最终性能差距的具体影响。