The RTX 5000 PRO (48GB) arrived and it is better than I expected.

O autor, um novato na montagem de PCs, adquiriu uma GPU RTX 5000 Pro para processamento local de LLMs, gastando um total de $5600. Apesar das dificuldades iniciais com a montagem e configuração de software (Linux, vLLM), o desempenho da GPU superou as expectativas.