Benvenuto Le Chonk: Mistral Large 4 su Hugging Face
huggingface ·
Mistral ha rilasciato Mistral Large 4, noto anche come Le Chonk, un modello Mixture-of-Experts multimodale disponibile su Hugging Face. Il modello dispone di circa un trilione di parametri totali e 49 miliardi di parametri attivi, supportando una finestra di contesto di un milione di token. È progettato per gestire input sia testuali che immagine generando risposte in formato testo, offrendo solide capacità nella cybersecurity, negli agenti di codifica e nelle attività multilingue. In particolare, il modello ottiene un punteggio dell'82% sull'Artificial Analysis Cyber Index, riuscendo a riprodurre e correggere vulnerabilità software, un compito in cui molti modelli closed-source falliscono a causa di rifiuti basati sulla sicurezza. Mistral Large 4 è distribuito con la licenza Mistral Ecosystem Open-Weight License ed è disponibile nelle varianti FP8 e NVFP4, insieme alle quantizzazioni GGUF per l'inferenza locale. Il rilascio include supporto immediato per framework principali come Transformers, vLLM e Llama.cpp, consentendo opzioni di distribuzione flessibili. Gli utenti possono effettuare il fine-tuning del modello utilizzando TRL o deployarlo tramite gli Inference Endpoints di Hugging Face e Dell Enterprise Hub per casi d'uso aziendali.
huggingface