par MaziyarPanahi
Open source · 88k downloads · 14 likes
Gemma 2 2B IT GGUF est un modèle de langage léger et performant, optimisé pour fonctionner localement sur des machines standard. Conçu pour comprendre et générer du texte de manière fluide, il excelle dans des tâches comme la conversation, la rédaction, la synthèse ou l’assistance, tout en restant accessible grâce à sa taille réduite. Son format GGUF le rend compatible avec de nombreux outils et interfaces, facilitant son déploiement sans dépendre de ressources cloud. Ce modèle se distingue par sa capacité à offrir une expérience utilisateur réactive, même sur des configurations modestes, tout en conservant une qualité de réponse proche des modèles plus lourds. Idéal pour les développeurs, les créateurs de contenu ou les passionnés souhaitant exploiter l’IA de manière autonome et privée.
MaziyarPanahi/gemma-2-2b-it-GGUF contains GGUF format model files for google/gemma-2-2b-it.
GGUF is a new format introduced by the llama.cpp team on August 21st 2023. It is a replacement for GGML, which is no longer supported by llama.cpp.
Here is an incomplete list of clients and libraries that are known to support GGUF:
🙏 Special thanks to Georgi Gerganov and the whole team working on llama.cpp for making all of this possible.
