arXiv cs.AI· Lindsey Ferris, Sierra Bonilla·· 5 小时前AI 评分36
案例研究:如何保障 AI 编写的软件可靠——一个无软件工程背景运营者的元智能体实践
A Case Study in Assuring AI-Written Software
AI 导读
一项案例研究记录了一个由编码智能体构建、由无正式软件工程背景的运营者治理的生产级医疗平台。其工作流演变为人类主导的元智能体系统:一个智能体写代码,其他智能体监督审查,项目规则持续传递经验。运营者发现测试、监控和审查智能体均可能出错,部分监控只测代理指标而非结果,部分审计静默失败,一次自动修复还引发了运营中断。
来源:arXiv cs.AI · arxiv.org