我最近既感到印象深刻又感到好笑，了解到VaultGemma，这是谷歌最近的一项努力，旨在用差分隐私预训练一个大型语言模型。 简而言之： - 第一个没有可检测训练数据记忆的大型语言模型 - 使用书中的所有技巧，计算能力提高100倍，达到了*GPT-2*的水平