Compromis entre précision et taille du modèle
La quantisation réduit la taille du modèle de 4×, mais peut diminuer la précision de 3 à 8 %. Nous benchmarkons le modèle quantisé par rapport à la pleine précision sur le niveau d'appareil cible et choisissons le bon compromis par cas d'usage.