Tether lanza marco de entrenamiento de IA para teléfonos inteligentes y GPU de consumo

Tether acaba de anunciar un nuevo marco de entrenamiento de IA que permite ajustar modelos de lenguaje grandes directamente en dispositivos de consumo como teléfonos inteligentes y GPU no Nvidia. Este sistema, basado en la plataforma QVAC, aprovecha la arquitectura BitNet de Microsoft combinada con la técnica LoRA para reducir significativamente los requisitos de memoria y costos computacionales.

Según Tether, el marco es multiplataforma, compatible con chips de AMD, Intel, Apple Silicon y GPU móviles de Qualcomm. Los ingenieros pueden ajustar modelos de hasta 1 mil millones de parámetros en smartphones en menos de dos horas, e incluso ampliar hasta 13 mil millones de parámetros en dispositivos móviles.

La tecnología BitNet reduce hasta un 77,8% el VRAM en comparación con modelos de 16 bits, además de acelerar la inferencia en GPUs móviles. Tether también destaca el potencial de aplicaciones como el aprendizaje federado, reduciendo la dependencia de la nube.

Este movimiento refleja la tendencia de las empresas de criptomonedas a expandirse en IA e infraestructura de computación, junto con el desarrollo de agentes de IA en la industria.