Noticias de Foresight News, el Laboratorio de IA Distribuida Gradient lanza el marco de refuerzo distribuido Echo-2, con el objetivo de romper las barreras de eficiencia en la investigación y entrenamiento de IA. Este marco logra desacoplar Learner y Actor a nivel de arquitectura, buscando reducir los costos de post-entrenamiento de modelos grandes. Según datos oficiales, este marco puede reducir el costo de post-entrenamiento de un modelo de 30B a 4500 dólares a solo 425 dólares.
Echo-2 utiliza tecnología de separación de almacenamiento y cálculo para realizar entrenamiento asíncrono (Async RL), soportando la descarga de potencia de muestreo a instancias de GPU inestables y a GPUs heterogéneas basadas en Parallax. El marco combina tecnologías como la antigüedad limitada, la programación tolerante a fallos en las instancias y el protocolo de comunicación propio Lattica, mejorando la eficiencia del entrenamiento manteniendo la precisión del modelo.
Además, Gradient planea lanzar la plataforma RLaaS (Refuerzo Aprendizaje como Servicio) Logits, que ya está abierta para reservas por parte de estudiantes e investigadores.