The RTX 5000 PRO (48GB) arrived and it is better than I expected.

El autor, un novato en el montaje de PCs, compró una GPU RTX 5000 Pro para el procesamiento local de LLMs, gastando un total de $5600. A pesar de las dificultades iniciales con el ensamblaje y la configuración del software (Linux, vLLM), el rendimiento de la GPU superó sus expectativas.