Open source · Compression vectorielle
Semafold
Présentation du programme
Semafold est notre bibliothèque Python open source pour compresser les représentations numériques utilisées par les systèmes d’IA. Elle réduit le stockage des embeddings et permet d’explorer des tenseurs de cache d’attention plus petits, en mesurant ensemble les octets économisés et l’erreur de reconstruction.
- Stockage d’embeddings et de vecteurs
- Expériences sur les tenseurs de cache d’attention
- Compromis mesurables entre taille et qualité
Expériences par axe de recherche
À propos de ce rapport
Ce rapport technique n’a pas été évalué par les pairs. Les chiffres proviennent du rapport de mesure 0.1.0 du dépôt ; les tests n’ont pas été relancés pour ce site. Le code, les exemples, les scripts de mesure et la politique de stabilité des API sont publics sous Apache-2.0.
Demander les documents de recherche →