Construí una poderosa PC para juegos únicamente para ejecutar modelos AI. He aquí por qué

Cuando se trata de IA, tal vez Chatgpt o Géminis Ven a la mente. Hay otros jugadores como Perplejidad, Tirar, Acumular y Mistral. En un mercado en auge, hay una gran cantidad de modelos de IA, muchos de los cuales ni siquiera requieren una conexión a Internet.

Los modelos que se ejecutan sin conexiones a Internet se denominan modelos de IA locales, y como su nombre indica, se pueden ejecutar en su propio hardware. No necesita conectarse a los servidores de OpenAI o Google para usar esas versiones de ChatGPT o Gemini.

Esto trae ventajas y desventajas. La principal ventaja es la privacidad. Con la IA local, puede analizar documentos confidenciales o hacerle preguntas vergonzosas, todo sin preocuparse si Big Tech está mirando. También es ilimitado. Mientras tenga energía, puede continuar haciendo preguntas, al menos hasta que se quede sin memoria.

Decidí hacer la PC más potente que pude en el hardware más pequeño disponible. ¿Habría sido posible usar una placa base del servidor más grande que pueda manejar mucho más RAM? Seguro. Pero dudo que así es como la mayoría de la gente usaría IA en sus hogares o pequeñas empresas. Esencialmente opté por el equivalente de un poderoso y compacto PC para juegos. Aquí están las especificaciones, con un valor minorista aproximado:

• AMD Ryzen 9 9950x3d ($ 660)
• NVIDIA RTX 5090 ($ 2,400)
• MSI MPG B650i Edge Wi-Fi placa base ($ 290)
• 64 GB Crucial Pro DDR5 RAM ($ 140)
• 2x 1TB CRUCIAL GEN5 ANCHIVES DE ESTADO SOLIDO NVME ($ 150 cada uno)
• Corsair SF1000 Fuente de alimentación ($ 270)
• Diseño fractal Terra 10.4 litros ($ 180)

A un precio total de $ 4,240, esta es una plataforma costosa. Pero para impulsar algunos de estos modelos de IA locales, necesitas caballos de fuerza. No todos los modelos requieren hardware tan caro. Hay modelos más pequeños que funcionan muy bien que también pueden funcionar en una computadora portátil decentemente poderosa. Esto incluye la nueva GPT-OSSSque es esencialmente una versión local de ChatGPT.

Creo que con el tiempo, los modelos más poderosos se volverán más eficientes. Entonces, tal vez una versión hambrienta de poder de Deepseek r1 En 2025 puede ejecutarse con un hardware más modesto en 2027.