Am fost atât impresionat, cât și amuzat recent să aflu despre VaultGemma, efortul recent al Google de a preantrena un LLM cu confidențialitate diferențială TLDR: - primul LLM fără memorare detectabilă a datelor de antrenament - fiecare truc din carte, de 100 de ori mai mult calcul, a ajuns la nivelul *GPT-2*