Nos han capado la IA corporativa en el curro +facturones
Inmigrante
Ayer 19:05
#1
|
Por el tipo de empresa y datos que tratamos tenemos una IA corporativa con varios modelos punteros corriendo en AWS y las APIs externas chapadas. Pues hemos pasado de un correo hace más de un año “echándonos bronca” por no utilizar suficientemente la IA a tener esta semana un medidor que nos indica los créditos que nos quedan para cada usuario.. Va a estar gracioso para particulares y especialmente empresas cuando Anthropic, OpenAI, Google y Cía. quieran cobrar lo que cuesta e incluso sacar beneficio.  En un par de años máximo preveo otro boom de contrataciones, probablemente antes. |
ForoCoches: Usuario
Ayer 19:06
#2
| Demasiados empleados descubrieron que podían hacer el trabajo de ocho horas en dos. Había que restaurar el sufrimiento tradicional. |
Inmigrante
Ayer 19:21
#3
| Además de eso creo que la gente no es consciente del gasto que hace y se han vuelto vagos. En un proyecto mediano y algo complejo se ponen a preguntar como funcionan cachos grandes, funcionalidades enteras.. y ahí la IA se vuelve loca consultando decenas de archivos y cientos o miles de líneas de código y quema tokens que da gusto… |
ForoCoches: Miembro
Ayer 19:29
#5
| Mucho empleado ocioso haciendo videos de Ramón el vanidoso y zp saludandose |
Usuario Verificado (v)
Ayer 19:34
#7
|
Ni de coña. IA Local. No veas la de IA local que estoy implantando con exito. Tokens Ilimitados en una infraestructura. MP A todas las empresas (y no empresas) que lo necesiten. En tu casa en unos días plug and play. Hoy sin ir mas lejos, lo que hubiese gastado en API (llevo solo hoy 10M de tokens de entrada, y 333k generados, unos 10$ de gasto ahorrado si tenemos en cuenta que el modelo es similar a Sonnet 4.5) |
Editado: Ayer 19:38 -
STILL HERE
Ayer 19:35
#8
|
Empieza a terminarse la era dorada donde las empresas aceptan estar a pérdidas para captar clientes y estamos entrando en la fase en la que ya empiezan a necesitar ganar dinero de verdad. Por tener una comparación reciente recordemos cuando podías comprar el Xbox game pass por 1€ y cuando vieron que no había más clientes a los que llegar empezar a subir el precio a saco. |
ForoCoches: Miembro
Ayer 19:35
#9
|
Lo siguiente es encontrar el equilibrio entre costes de IA y coste de empleados. ¿Que sale más caro 10 empleados con cuentas de chatgpt básicas o 3 con tokens a full? Yo obviamente se la respuesta. |
ForoCoches: Miembro
Ayer 19:37
#11
| y esperate que suban los precios de los tokes, que estan de oferta para captar clientes........ |
ForoCoches: Usuario
Ayer 19:39
#13
|
Por el tipo de empresa y datos que tratamos tenemos una IA corporativa con varios modelos punteros corriendo en AWS y las APIs externas chapadas.
Pues hemos pasado de un correo hace más de un año “echándonos bronca” por no utilizar suficientemente la IA a tener esta semana un medidor que nos indica los créditos que nos quedan para cada usuario.. Va a estar gracioso para particulares y especialmente empresas cuando Anthropic, OpenAI, Google y Cía. quieran cobrar lo que cuesta e incluso sacar beneficio. En un par de años máximo preveo otro boom de contrataciones, probablemente antes. Yo sigo dandole gas al bendito copilot, mi mejor amigo. |
Experto en series
Ayer 19:41
#17
|
Por el tipo de empresa y datos que tratamos tenemos una IA corporativa con varios modelos punteros corriendo en AWS y las APIs externas chapadas.
Pues hemos pasado de un correo hace más de un año “echándonos bronca” por no utilizar suficientemente la IA a tener esta semana un medidor que nos indica los créditos que nos quedan para cada usuario.. Va a estar gracioso para particulares y especialmente empresas cuando Anthropic, OpenAI, Google y Cía. quieran cobrar lo que cuesta e incluso sacar beneficio. En un par de años máximo preveo otro boom de contrataciones, probablemente antes. La IA es la hostia, pero hay mucho que optimizar y como no se analice el valor de para lo que se usa es gastar por gastar... Normal que empiecen a poner techos de gasto |
ola k ase
Ayer 19:41
#18
|
Por el tipo de empresa y datos que tratamos tenemos una IA corporativa con varios modelos punteros corriendo en AWS y las APIs externas chapadas.
Pues hemos pasado de un correo hace más de un año “echándonos bronca” por no utilizar suficientemente la IA a tener esta semana un medidor que nos indica los créditos que nos quedan para cada usuario.. Va a estar gracioso para particulares y especialmente empresas cuando Anthropic, OpenAI, Google y Cía. quieran cobrar lo que cuesta e incluso sacar beneficio. En un par de años máximo preveo otro boom de contrataciones, probablemente antes. |
ForoCoches: Miembro
Ayer 19:41
#20
|
Ni de coña.
IA Local. No veas la de IA local que estoy implantando con exito. Tokens Ilimitados en una infraestructura. MP A todas las empresas (y no empresas) que lo necesiten. En tu casa en unos días plug and play. Hoy sin ir mas lejos, lo que hubiese gastado en API (llevo solo hoy 10M de tokens de entrada, y 333k generados, unos 10$ de gasto ahorrado si tenemos en cuenta que el modelo es similar a Sonnet 4.5) |
ForoCoches: Usuario
Ayer 19:43
#22
|
Por el tipo de empresa y datos que tratamos tenemos una IA corporativa con varios modelos punteros corriendo en AWS y las APIs externas chapadas.
Pues hemos pasado de un correo hace más de un año “echándonos bronca” por no utilizar suficientemente la IA a tener esta semana un medidor que nos indica los créditos que nos quedan para cada usuario.. Va a estar gracioso para particulares y especialmente empresas cuando Anthropic, OpenAI, Google y Cía. quieran cobrar lo que cuesta e incluso sacar beneficio. En un par de años máximo preveo otro boom de contrataciones, probablemente antes. Estaba claro que en algún momento iba a pegar algún bombazo, que seguirá ahí? Por supuesto, que va a quedar como una herramienta que para pequeñas cosas te va a ayudar en lugar de sustituir a gente? Eso por descontado vamos, me río de las empresas paco pensando que la licencia le seguiría valiendo una miseria frente a pagar a alguien. |
ForoCoches: Miembro
Ayer 19:45
#24
| La IA no es gratis, igual que YouTube al principio y otras plataformas... y ahora las tienes inundadas de anuncios o suscripciones. |
Usuario Verificado (v)
Ayer 19:47
#25
|
Los estamos sacando en dos tipos de venta, porque hay mucha falta de stock que es lo mas limitante. Pero hemos conseguido en Strix Halo ahora con el MTP, sacar un buen rendimiento (entorno a 30 tps) para el 3.6 de 27B, que estaria bastante cerca de un sonnet 4.5. Asi que hablamos de unos 3k (la maquina, ojo, aparte toda la configuración que hacemos) El otro tipo que nos estan pidiendo para no tener el hardware, es un renting y lo alojamos nosotros, a unos 300 euros al mes. Todo preparado, con su interfaz, api, posibilidad de limitar por api key, limites... modelo STT, TTS y generador de imagenes... ¿El problema? Hay una falta de stock brutal. El que nosotros utilizábamos, lleva 4 meses sin stock. Alternativo a todo esto, estamos haciendo una granja de servidores con RTX 6000 PRO, y ahi estamos montando modelos mas grandes, SOTA, pero aún está en fase de pruebas esto. |
Travesura realizada
Ayer 20:01
#27
| las empresas listas están quemando sus últimos tokens baratos en entrenar IAs locales. |
ForoCoches: Usuario
Ayer 20:03
#28
|
Por el tipo de empresa y datos que tratamos tenemos una IA corporativa con varios modelos punteros corriendo en AWS y las APIs externas chapadas.
Pues hemos pasado de un correo hace más de un año “echándonos bronca” por no utilizar suficientemente la IA a tener esta semana un medidor que nos indica los créditos que nos quedan para cada usuario.. Va a estar gracioso para particulares y especialmente empresas cuando Anthropic, OpenAI, Google y Cía. quieran cobrar lo que cuesta e incluso sacar beneficio. En un par de años máximo preveo otro boom de contrataciones, probablemente antes. El hardware se abarata. La IA mejorará los procesos a nivel interno y acelerará las innovaciones tecnológicas. Se nota que no hacéis más que repetir como papagayos lo que leéis y escucháis. Que no, que no te van a volver a contratar. |
membrillo
Ayer 20:04
#29
|
Por el tipo de empresa y datos que tratamos tenemos una IA corporativa con varios modelos punteros corriendo en AWS y las APIs externas chapadas.
Pues hemos pasado de un correo hace más de un año “echándonos bronca” por no utilizar suficientemente la IA a tener esta semana un medidor que nos indica los créditos que nos quedan para cada usuario.. Va a estar gracioso para particulares y especialmente empresas cuando Anthropic, OpenAI, Google y Cía. quieran cobrar lo que cuesta e incluso sacar beneficio. En un par de años máximo preveo otro boom de contrataciones, probablemente antes. Me parece que los empresarios no han entendido muy bien los riesgos. No han entendido siquiera los costes... |
ForoCoches: Usuario
Ayer 20:05
#30
|
Ni de coña.
IA Local. No veas la de IA local que estoy implantando con exito. Tokens Ilimitados en una infraestructura. MP A todas las empresas (y no empresas) que lo necesiten. En tu casa en unos días plug and play. Hoy sin ir mas lejos, lo que hubiese gastado en API (llevo solo hoy 10M de tokens de entrada, y 333k generados, unos 10$ de gasto ahorrado si tenemos en cuenta que el modelo es similar a Sonnet 4.5) Cuando se abaraten los costes, los picateclas y demás personal dedicado a ordenadores se pueden dar por jodidos. |