FinRED金融LLM红队评测框架发布

Daeyoung Park等作者提出并发布FinRED，一个面向金融大语言模型安全评估的专家引导红队测试框架。该框架采用两级分类体系，将FATF、EU DORA等全球标准映射到监管规避、复杂欺诈等威胁，并把真实金融文档转化为带上下文的行为提示词。 据作者称，FinRED已部署在韩国金融安全院（FSI）的监管沙盒中，用于真实金融服务中的生成式AI安全评估；其数据集、生成流程、提示词模板和评估框架仅向符合条件的研究人员开放。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。