Les modèles IA génératifs, comme les grands modèles de langage, dépassent souvent les capacités du matériel grand public et sont coûteux à exécuter. La compression des modèles par des méthodes telles que la quantification les rend plus efficaces, plus rapides et plus accessibles. Cela leur permet de s'exécuter sur une grande variété d'appareils, y compris les smartphones, les ordinateurs personnels et les appareils périphériques, et de minimiser la dégradation des performances.Rejoignez ce cours pour : 1. Quantifier n'importe quel modèle Open Source avec la quantification linéaire en utilisant la bibliothèque Quanto. 2. Obtenir une vue d'ensemble de la façon dont la quantification linéaire est mise en œuvre. Cette forme de quantification peut être appliquée pour compresser n'importe quel modèle, y compris les LLM, les modèles de vision, etc. 3. Appliquer la "downcasting", une autre forme de quantification, avec la bibliothèque Transformers, qui vous permet de charger des modèles dans environ la moitié de leur taille normale dans le type de données BFloat16. À la fin de ce cours, vous aurez une base dans les techniques de quantification et serez en mesure de les appliquer pour compresser et optimiser vos propres modèles IA génératifs, ce qui les rendra plus accessibles et efficaces.