UnslothAI lanza la versión DGEMMA 4-31B de 4 bits MLX optimizada para Apple Silicon

robot
Generación de resúmenes en curso

ME News Noticias, 11 de abril (UTC+8), UnslothAI anunció recientemente la versión optimizada en MLX de 4 bits nativa del modelo DGEMMA 4-31B. Esta versión está diseñada específicamente para Apple Silicon, y se afirma que puede lograr velocidades de inferencia extremadamente rápidas en todos los Mac con serie M, manteniendo un uso de memoria eficiente (alrededor de 20GB de RAM). Además, el modelo también cuenta con potentes capacidades multimodales y visuales, soporta una longitud de contexto completa de 256K y funciones de llamada nativas. (Fuente: InFoQ)

Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Anclado