跳到正文
热点事件持续更新

提出SpliTEE:GPU辅助TEE结合差分隐私的LLM推理

1 篇报道1 个报道来源9 小时前更新

先了解这件事

报道摘要

SpliTEE 将 LLM 推理拆分到 Intel TDX TEE 与不受信任的 GPU 之间,并用差分隐私保护中间表示,避免加密带来的量化问题。作者对 LLM 推理关键函数做了全局敏感度分析,并推导出掩码与噪声抵消的浮点误差上界。基于 Llama-3.2-3B 和 Qwen3-4B 的实现比全 TDX 推理快近 2 倍,比 Slalom 最多快 43% 且准确率更高。

摘自 arXiv cs.AI

报道时间线

沿着报道,了解事件的不同侧面。

10月7日
  1. arXiv cs.AI
    SpliTEE:用 GPU 辅助 TEE 结合差分隐私实现快速私密 LLM 推理

    SpliTEE 将 LLM 推理拆分到 Intel TDX TEE 与不受信任的 GPU 之间,并用差分隐私保护中间表示,避免加密带来的量化问题。作者对 LLM 推理关键函数做了全局敏感度分析,并推导出掩码与噪声抵消的浮点误差上界。基于 Llama-3.2-3B 和 Qwen3-4B 的实现比全 TDX 推理快近 2 倍,比 Slalom 最多快 43% 且准确率更高。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。