arXiv cs.AI· Junkai Liang, Zhanpeng Guo, Pengfei Wu, Qingni Shen, Jiaheng Zhang, Zhonghai Wu, Haiyang Xue, Shengfang Zhai·· 10 小时前AI 评分27
zkLLMPoT:面向大语言模型训练的高效零知识证明框架
zkLLMPoT: Efficient Zero Knowledge Proof of Training for Large Language Models
AI 导读
zkLLMPoT 是一个零知识框架,通过前向评估而非验证优化轨迹来证明训练后检查点的审计属性,认证成本与训练迭代次数无关。该框架分两阶段:训练方固定架构并提交权重,审计方选择挑战序列后,训练方证明模型在这些序列上的目标值。在四类模型家族上,1.1-1.5B 参数模型证明耗时 41-59 秒,13B 模型为 131 秒,序列长度 512 时验证时间低于半秒。
来源:arXiv cs.AI · arxiv.org