CoreWeave Inc. ha anunciado el lanzamiento de Forge, una plataforma que ofrece una solución integral para optimizar la inferencia en inteligencia artificial (IA), un proceso clave que está definiendo la economía actual del sector tecnológico. Según informó la empresa en un comunicado oficial, Forge integra servicios gestionados que abarcan desde el entrenamiento hasta la evaluación post-entrenamiento, facilitando a los desarrolladores acelerar la implementación y escalabilidad de modelos de IA.
Inferencia de IA: el nuevo desafío en la economía del aprendizaje automático
La inferencia, que consiste en la ejecución de modelos entrenados para generar resultados en tiempo real, está creciendo rápidamente en demanda y complejidad. Urvashi Chowdhary, vicepresidenta de producto y servicios de IA en CoreWeave, explicó que la compañía ha enfocado sus esfuerzos en optimizar cada capa de la pila tecnológica, desde el motor vLLM hasta modelos cuantificados y decodificadores especulativos personalizados, para ofrecer un rendimiento superior y costos reducidos.
Un estudio interno de CoreWeave reveló que en un cliente del sector salud, la carga de trabajo dedicada a inferencia aumentó del 10% al 40% en un año, con expectativas de alcanzar el 50% en los próximos 12 meses. Este crecimiento subraya la importancia de contar con infraestructuras especializadas que vayan más allá de la capacidad bruta de GPU, incorporando almacenamiento, redes y software optimizado.
Innovación en aprendizaje por refuerzo para acelerar iteraciones de modelos
CoreWeave también ha desarrollado CoreWeave RL Rollouts, una función basada en el framework Dynamo de Nvidia que mejora significativamente la latencia en la recarga de modelos durante procesos de aprendizaje por refuerzo. Según Chowdhary, esta tecnología logró una mejora de 15 veces en la velocidad de actualización de puntos de control en pruebas internas, permitiendo que el entrenamiento y la inferencia escalen simultáneamente sin cuellos de botella.
Accesibilidad y escalabilidad con la plataforma Forge
Forge se presenta como una plataforma accesible para desarrolladores individuales y empresas, ofreciendo un nivel gratuito y opciones de pago con capacidades ampliadas. La plataforma integra funcionalidades de servicio, observabilidad y evaluación, proporcionando un entorno confiable y de alto rendimiento para el desarrollo de IA.
Chowdhary destacó que el compromiso de CoreWeave con el código abierto y la contribución a sistemas abiertos brinda a los clientes flexibilidad y control, además de facilitar la adopción de tecnologías avanzadas sin comprometer la calidad o la fiabilidad.
Contexto y perspectivas
El avance en la optimización de la inferencia es crucial para el futuro de la inteligencia artificial, ya que determina la viabilidad económica y técnica de desplegar modelos complejos en aplicaciones reales. La apuesta de CoreWeave por una pila completa y servicios gestionados refleja una tendencia creciente en la industria hacia soluciones integradas que simplifican y aceleran el desarrollo de IA.
Con Forge, CoreWeave busca posicionarse como un actor clave en este segmento, facilitando a los desarrolladores el acceso a tecnologías de vanguardia y permitiendo que la inferencia deje de ser un cuello de botella para el crecimiento del sector.
