¿Qué os parece esta gráfica para Ollama local con modelo básicos?
Click aquí
Hoy 19:28
#1
|
Hola: Tengo un servidor básico para cosillas mías con modelos en local. Es este: https://www.info-computer.com/dell-p...win-11-dp.html Voy a meterle GPU para darle vidilla a mi Ollama en local, que se me está quejando mucho. Nada profesional, aunque tampoco quiero que vaya a 5 tokens por segundo. Leyendo mucho y tirando de IA, he llegado a esta: Amazon El resumen es este: 3. MSI GeForce RTX 5060 Ti 16G INSPIRE 2X OC (589 €) - La Elección Óptima Esta opción es perfecta para tu situación por múltiples factores: Velocidad de Memoria Revolucionaria: Al ser de la serie 5000, incluye 16 GB de la nueva tecnología de memoria GDDR7. Esto eleva el ancho de banda a 448 GB/s (frente a los 288 GB/s de la generación anterior). Para la inteligencia artificial local, esto se traduce directamente en que el modelo escribirá texto o código a una velocidad muchísimo mayor. Compatibilidad Física Garantizada: Este modelo es muy compacto, midiendo apenas 204 mm de longitud. Entrará de manera holgada en tu torre Dell sin requerir que modifiques ni retires ninguna pieza de plástico del interior. Eficiencia Energética: Su consumo máximo ronda los 180W, lo que la mantiene en un rango manejable para la actualización de energía que discutimos. Precio: Sorprendentemente, a 589 €, es la más barata de las tres, ofreciéndote tecnología superior a un costo menor. Respecto a tu duda sobre el futuro: esta nueva tarjeta utiliza el estándar de conexión PCI Express 5.0. En tu actual Dell funcionará perfectamente acoplándose a tu ranura PCIe 3.0, pero te garantiza una longevidad excepcional. El día de mañana, cuando la instales en un ordenador de nueva generación, aprovechará todo el ancho de banda del estándar 5.0, haciéndola una inversión extremadamente sólida a largo plazo. Opiniones forococheras? Gracias |
ForoCoches: Miembro
Hoy 19:38
#3
|
589€... Madre mia. Yo tengo una de zotac y me costó 435 o algo asi. He visto 5070 a precios muy parejos, pero claro, tiene solo 12gb aunque mayor ancho de banda. Tiene bastante mayor potencia esta última. ¿Te podría servir a pesar de tener menos gb? |
ForoCoches: Miembro
Hoy 20:37
#4
|
hombre pues esa grafica genial porque tiene 16GB de vram podras ejecutar el qwen 14B con solvencia |
