Los LLM no son "compresores borrosos de significado" sino "reorganizadores perfectos de la estructura". Sugiere que se parecen más a sistemas de cifrado dinámicos y reversibles que a resumidores. El modelo no olvida; simplemente re-representa. La "comprensión" en estos sistemas podría no ser compresión sino geometría: organizar la información de manera que las relaciones sean computables sin perder fidelidad.

Durante mucho tiempo hemos asumido que la cognición se trata de simplificar, comprimir, reducir, tomar datos desordenados y reducirlos a significado. Pero este trabajo implica que los transformadores no "se reducen" en absoluto; realizan reordenamientos reversibles masivamente detallados.

Maldita sea, acabo de sentir el AGI