El VERDADERO NEGOCIO de las IA está en las IA OPEN SOURCE
Protesto!!
Ayer 15:58
#1
Cuando he visto Nvidia Spark lo he visto claro. ¿Cuántos cacharros de estos de Nvidia podría vender a empresas que quieren IA local y privada? Y seguramente vendrá con una IA preinstalada, esa IA será open source y aportará beneficios millonarios a la compañía dueña del modelo. Lo mismo con los mini-pc, portátiles, móviles, consolas, televisores... Nvidia lo ha visto claro, y otras empresas también. Ahí está el verdadero negocio de la IA. |
ForoCoches: Usuario
Ayer 20:44
#2
| A ver, puede que las empresas algo serias/grandes prefieran pagar suscripiciones de servicios que siempre (o 99% tiempo) van a funcionar. |
ForoCoches: Miembro
Ayer 20:59
#3
| Yo no entiendo como el que más de este asunto... pero diria que los modelos de LLM IA de Claude, Chatgpt, etc. estan mejor optimizados, entrenados o especializados para determinadas tareas que si tu lo montaras por tu cuenta, ¿no? |
ForoCoches: Usuario
Ayer 21:47
#5
Si lo montan en local van estar cercanos al 100%, eso sí, no es barato Pero cuando suban los próximos años de 200 $ subvencionados actuales, al precio real de inferencia de entorno 3.000 $ mensuales por licencia... muchas empresas darán el salto a local, los más avanzados cubren más del 90% de que ofrecen los modelos frontera |
Editado: Ayer 21:50 -
ForoCoches: Usuario
Ayer 21:56
#6
|
Pero para eso necesitas varios cacharros de esos, entiendo. Yo con 97% de operatividad me doy con un canto en los dientes xd |
ForoCoches: Premium
Ayer 21:59
#7
| Tu no has probado GPT4All con el modelo de Facebook (LLAMA) o DeepSeek porque como lo pruebes el chasco es mayusculo comprado con Gemini o Chatgpt les da 1 millon de vueltas (a parte de que modelos más avanzados de DeepSeek ni los das movido con un ordenador gaming, va lageadisimo el texto) |
ForoCoches: Miembro
Ayer 23:15
#9
|
Cuando he visto Nvidia Spark lo he visto claro. ¿Cuántos cacharros de estos de Nvidia podría vender a empresas que quieren IA local y privada?
Y seguramente vendrá con una IA preinstalada, esa IA será open source y aportará beneficios millonarios a la compañía dueña del modelo. Lo mismo con los mini-pc, portátiles, móviles, consolas, televisores... Nvidia lo ha visto claro, y otras empresas también. Ahí está el verdadero negocio de la IA. A no ser que una empresa compre una unidad para cada usuario o cada dos, estos bichos se quedan cortos para algo que se pueda considerar masivo para una empresa. Si me dijeras los mas grandes a ese vale. Pero los dgx o los AMD halo son mas para usuarios individuales. No, no viene con una ia preinstalada, es solo un minipc potente con su software el negocio es para NVIDIA que vende el pc y ofrece modelos, manuales y documentación. Eso si, es verdad que el negocio esta en la infraestructura y hw, esos si cobran en dinero y no solo en promesas Tu no has probado GPT4All con el modelo de Facebook (LLAMA) o DeepSeek porque como lo pruebes el chasco es mayusculo comprado con Gemini o Chatgpt les da 1 millon de vueltas (a parte de que modelos más avanzados de DeepSeek ni los das movido con un ordenador gaming, va lageadisimo el texto)
El modelo de deepseek en la nube te parece razonablemente bueno? La diferencia con el resto es que lo puedes alojar en casa. La mayoría de las comparaciónes suelen ser algo como he instalado un modelo de 8B y no es tan bueno como uno de 1,5B... La IA local es muy cara, ahora también es justo decir que para muchos usuarios y la mayoría de los usos con modelos pequeños les serviría para lo que necesitan Empresa o particular? Los tienes unidos? Que modelo a 4q llegas a ejecutar? |
Editado: Ayer 23:26 -
ForoCoches: Usuario
Ayer 23:25
#10
|
Los Spark son principalmente para desarrollo y entrenamiento. Para inferencia se quedan cortos en ancho de memoria si utilizas un modelo denso. De todos modos las empresas que tienen interés en IA local hace tiempo que empezaron a invertir en GPUs. |
ForoCoches: Miembrazo
Ayer 23:54
#11
| Esto es como volver a tener salas de servidores en lugar de tener todo en la nube... No se, no lo acabo de ver |