Código abierto · Compresión vectorial
Semafold
Descripción del programa
Semafold es nuestra biblioteca Python de código abierto para comprimir las representaciones numéricas de los sistemas de IA. Reduce el almacenamiento de embeddings y permite explorar tensores de caché de atención más pequeños, midiendo juntos el espacio ahorrado y el error de reconstrucción.
- Almacenamiento de embeddings y vectores
- Experimentos con tensores de caché de atención
- Equilibrio medible entre tamaño y calidad
Experimentos por línea de investigación
Acerca de este informe
Este informe técnico no ha sido revisado por pares. Las cifras proceden del informe de medición 0.1.0 del repositorio; las pruebas no se repitieron para este sitio. El código, los ejemplos, los scripts de medición y la política de estabilidad de las API son públicos bajo Apache-2.0.
Solicitar los materiales de investigación →