par btbtyler09
Open source · 150k downloads · 5 likes
Le Qwen3 Coder 30B A3B Instruct en version 8-bit quantifiée est un modèle d'intelligence artificielle spécialisé dans la génération et la compréhension de code, optimisé pour une utilisation efficace des ressources. Conçu pour assister les développeurs, il excelle dans la rédaction, la correction et l'explication de programmes dans divers langages, tout en offrant des réponses précises et contextualisées. Ses capacités couvrent l'analyse de code, la génération de fonctions complexes ou de scripts complets, ainsi que l'aide à la résolution de problèmes techniques. Idéal pour les environnements où la performance et la rapidité sont cruciales, il se distingue par sa capacité à maintenir une qualité élevée malgré une compression des données, le rendant accessible sur des configurations matérielles moins puissantes. Ce modèle s'adresse particulièrement aux professionnels et aux équipes cherchant à accélérer leur workflow de développement sans sacrifier la fiabilité des résultats.
Quantized using GPTQModel
quantiziation config:
quant_config = QuantizeConfig(
bits=8,
group_size=32,
sym=True,
desc_act=False,
true_sequential=True,
pack_dtype=torch.int32,
damp_percent=0.1
)