Las empresas que gestionan sus propios centros de datos están buscando alternativas más económicas a los chips de Nvidia, impulsadas por el alto coste de estos últimos. Según Karol Piatek de la consultora irlandesa Co Driver Labs, el uso de los chips de segunda generación Inferentia2 y Trainium de Amazon para ejecutar modelos de IA puede resultar hasta un 80% más económico en comparación con los chips H100 de Nvidia.
En los últimos meses, Amazon ha mantenido conversaciones con clientes sobre la implementación de sus chips de IA personalizados, especialmente Trainium para el desarrollo de nuevos modelos e Inferentia para tareas de inferencia. Esta estrategia está ganando popularidad entre las empresas que buscan reducir costos en sus operaciones de inteligencia artificial.