#TRG26 / Cristian Córdova / Quemar tokens sin quemar tu empresa
Los modelos comerciales de IA son comodísimos. Hasta que dejan de serlo.
Cuotas, costes impredecibles, límites de uso, privacidad, cumplimiento legal, latencia... o la necesidad de que nuestra plantilla y nuestras aplicaciones pueda usar IA sin mirar el contador de tokens cada cinco minutos. Tarde o temprano, muchas empresas se hacen la misma pregunta: ¿tiene sentido montar nuestra propia infraestructura de IA?
En esta charla, Cristian Córdova te explica cuándo merece la pena desplegar y gestionar un LLM propio, qué tipo de empresas pueden beneficiarse más de ello y cuáles deberían pensárselo dos veces antes de comprar una GPU.
Hablamos de modelos abiertos, servidores de inferencia, hardware, costes reales, operación, seguridad, aspectos legales, convivencia con modelos comerciales y todas esas decisiones que no aparecen en los tutoriales, pero que determinarán si tu «ChatGPT privado» acaba siendo una ventaja competitiva… o una estufa carísima con API compatible con OpenAI.