PrismML comprime su modelo Bonsai 2 27B hasta 5,9 GB para ejecutarlo en dispositivos personales

PrismML ha lanzado Bonsai 2 27B, un modelo que reduce Qwen3.8 27B a 5,9 GB y conserva el 98% de sus resultados agregados en benchmarks, según la compañía.

Modelos
PrismML comprime su modelo Bonsai 2 27B hasta 5,9 GB para ejecutarlo en dispositivos personales

El 17 de septiembre de 2026, PrismML presentó Bonsai 2 27B, un modelo de lenguaje que comprime Qwen3.8 27B, de Alibaba, hasta ocupar 5,9 GB. La compañía afirma que el tamaño reducido permite ejecutarlo en ordenadores personales y posiblemente en teléfonos de gama alta.

La reducción supone entre nueve y diez veces menos memoria que el modelo original. PrismML asegura que Bonsai 2 alcanza el 98% de sus resultados agregados en benchmarks, frente al 95% de la primera versión de Bonsai, lanzada en marzo.

La tecnología de PrismML utiliza pesos ternarios, que sustituyen los valores de 16 bits habituales por tres opciones: +1, ?1 o 0. Según la empresa, este método reduce el espacio necesario para almacenar la información aprendida durante el entrenamiento sin una pérdida significativa de rendimiento.

PrismML fue fundada por investigadores de Caltech y está dirigida por Babak Hassibi, profesor de esa institución y especialista en tecnologías de compresión. Ion Stoica, cofundador de Databricks y director de Sky Computing Lab de Berkeley, es asesor de la compañía. La startup ha captado 22,25 millones de dólares en una ronda semilla con el respaldo de Khosla Ventures, Cerberus Capital y Caltech.

La compañía afirma que la primera versión de Bonsai ha superado los 11 millones de descargas, mientras que sus modelos más pequeños acumulan otros 2,6 millones. Su próximo objetivo es aplicar la técnica a modelos de varios cientos de miles de millones de parámetros durante los próximos meses.

Fuente: TechCrunch.

Compartir

WhatsApp X Telegram Email