Recientemente, me impresionó y divirtió aprender sobre VaultGemma, el reciente esfuerzo de Google para preentrenar un LLM con privacidad diferencial. Resumen: - primer LLM sin memorización detectable de datos de entrenamiento - cada truco en el libro, 100 veces más computación, alcanzó el nivel de *GPT-2*