提出SpliTEE:GPU辅助TEE结合差分隐私的LLM推理
热点事件持续更新
提出SpliTEE:GPU辅助TEE结合差分隐私的LLM推理
1 篇报道1 个报道来源4 小时前更新
先了解这件事
报道摘要
SpliTEE 将 LLM 推理拆分到 Intel TDX TEE 与不受信任的 GPU 之间,并用差分隐私保护中间表示,避免加密带来的量化问题。作者对 LLM 推理关键函数做了全局敏感度分析,并推导出掩码与噪声抵消的浮点误差上界。基于 Llama-3.2-3B 和 Qwen3-4B 的实现比全 TDX 推理快近 2 倍,比 Slalom 最多快 43% 且准确率更高。
摘自 arXiv cs.AI
最新进展10月7日 12:00
SpliTEE:用 GPU 辅助 TEE 结合差分隐私实现快速私密 LLM 推理报道时间线
沿着报道,了解事件的不同侧面。
10月7日
- arXiv cs.AISpliTEE:用 GPU 辅助 TEE 结合差分隐私实现快速私密 LLM 推理
SpliTEE 将 LLM 推理拆分到 Intel TDX TEE 与不受信任的 GPU 之间,并用差分隐私保护中间表示,避免加密带来的量化问题。作者对 LLM 推理关键函数做了全局敏感度分析,并推导出掩码与噪声抵消的浮点误差上界。基于 Llama-3.2-3B 和 Qwen3-4B 的实现比全 TDX 推理快近 2 倍,比 Slalom 最多快 43% 且准确率更高。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。