面向大语言模型行为刻画与风险管理的分布式框架

研究者提出一种基于蒙特卡洛模拟构建经验响应分布的框架，用于刻画大语言模型的随机行为，并引入语义干预来观察分布变化。该框架在借款人分类和音乐专辑推荐两项任务上量化了分布变化，并通过衡量鲁棒性与控制有效性关联模型风险管理与治理。由于仅依赖观测到的响应，它也可用于通过商业 API 访问的黑盒模型。