IA local: Mac Studio M3 ultra vs Strix Halo vs Nvidia Spark

Plavec
ForoCoches: Usuario
#1
Hola, shurs:

Para plantear una solución all-in-one para correr modelos IA local potentes (70b de parámetros para arriba), por cuál os decantaríais? Podéis proponer otro hardware.


Funciones de elaboración de informes, recobir múltiples pdf y generar nuevos documentos con ellos, bases de datos, búsqueda de patrones...


Gracias!
joan16v
ForoCoches: Miembro
#2
pues alguno con 128GB de ram

los RTX spark el problema es que aún no han salido, solo se han anunciado


y el mac studio m3 ultra tiene "solo" 96GB de ram y vale 5000 euros


podrias considerar el macbook pro m5 max con 128gb de ram que son 6000 euros
Plavec
ForoCoches: Usuario
#3
Cita de joan16v
pues alguno con 128GB de ram

los RTX spark el problema es que aún no han salido, solo se han anunciado


y el mac studio m3 ultra tiene "solo" 96GB de ram y vale 5000 euros


podrias considerar el macbook pro m5 max con 128gb de ram que son 6000 euros
y crees que de quedaría pronto obsoleto para modelos futuros? Sabes de otras opciones además del macbook pro m5 max? Gracias por responder.
← A Electrónica / Informática