La utilización de modelos de inteligencia artificial de código abierto ha experimentado un crecimiento notable, impulsada por empresas que buscan reducir costos. Together AI, que alquila servidores en la nube de Nvidia y acceso a modelos de código abierto, ha elevado sus proyecciones de ingresos anuales en múltiples ocasiones en los últimos meses, según su director ejecutivo, Vipul Ved Prakash. La compañía generaba aproximadamente 1.000 millones de dólares en ingresos anuales a partir de marzo.
El número de tokens procesados a través de su nube alcanzó los 400 billones este mes, un aumento significativo desde los 30 mil millones del mismo periodo del año anterior. Este incremento podría traducirse en un gasto mensual adicional de unos 70 millones de dólares si se usaran esos tokens en DeepSeek v4 Pro, que cuesta alrededor de 0,18 dólares por millón de tokens.
El cofundador de Hugging Face, Clem Delangue, mencionó que el número de suscriptores de pago se duplicó entre enero y junio. Asimismo, Thomas Wolf, otro cofundador, observó una creciente preocupación en las empresas sobre los costos de la inteligencia artificial y el temor a quedar atrapados con proveedores específicos.
Por otro lado, la demanda de enrutadores de modelos que permiten a las empresas alternar entre diferentes modelos de IA ha aumentado, con Tomas Hernando Kofman, CEO de Not Diamond, indicando un crecimiento significativo en los últimos seis meses. Estos enrutadores pueden facilitar el uso de modelos más antiguos y económicos, lo que podría reducir costos entre un 20% y un 40%.