I Rebuilt Karpathy's NanoChat in JAX. Here's What XLA Gets Right and What It Gets Dead Wrong.

Este contenido describe la portabilidad de NanoChat de Andrej Karpathy de PyTorch a JAX/Flax NNX, logrando un entrenamiento rápido en una sola GPU y compatibilidad con TPU. Detalla las ventajas de XLA en la eliminación de la sobrecarga de Python, mientras resalta sus limitaciones con respecto a características avanzadas y depuración.