Bienvenue Le Chonk : Mistral Large 4 sur Hugging Face
huggingface ·
Mistral a publié Mistral Large 4, également connu sous le nom de Le Chonk, un modèle multimodal à experts en mélange (MoE) disponible sur Hugging Face. Ce modèle compte environ un trillion de paramètres au total, avec 49 milliards de paramètres actifs, et prend en charge une fenêtre de contexte d'un million de tokens. Conçu pour traiter à la fois des entrées textuelles et image tout en générant des réponses textuelles, il offre des capacités solides dans les domaines de la cybersécurité, des agents de codage et des tâches multilingues. Fait notable, le modèle obtient un score de 82 % à l'indice Cybersecurity d'Artificial Analysis en reproduisant et en corrigeant des vulnérabilités logicielles, une tâche où de nombreux modèles propriétaires échouent souvent en raison de refus liés à la sécurité. Mistral Large 4 est distribué sous la licence Mistral Ecosystem Open-Weight License et est proposé en variantes FP8 et NVFP4, ainsi qu'en quantifications GGUF pour l'inférence locale. Cette version inclut un support dès le jour zéro pour les principaux frameworks tels que Transformers, vLLM et Llama.cpp, permettant des options de déploiement flexibles. Les utilisateurs peuvent affiner le modèle à l'aide de TRL ou le déployer via les points de terminaison d'inférence de Hugging Face et Dell Enterprise Hub pour des cas d'utilisation entreprise.
huggingface