Ce qu'il faut savoir sur Mistral Large 2 et Mistral Nemo

 Mistral AI a annoncé Mistral Nemo et Mistral Large V2, son LLM vedette. Pourquoi c'est important dans le contexte actuel: "Crowdstrike", chantage de Meta autour de Llama3, préoccupations écologiques et souveraineténumérique

Vous avez tous entendu des milliers de sociétés "microsoftisées" qui ont été paralysées pendant une journée, à cause d'un bug d'un logiciel de sécurité, Crowdstrike, qui touche au coeur logiciel des produits Microsoft. Cette panne leur aurait peut-être couté 1 milliard de dollars, selon certaines estimations.

Vous avez aussi entendu parler de Meta qui explique qu'il va peut-être priver l'Europe de son LLM Llama 3, concurrent de GPT4, au motif que la réglementation européenne serait trop "instable"...

Cela rappelle que notre sur-dépendance aux logiciels et clouds US, risque, encore, de s'accentuer avec l'IA.

Nous sommes en train de devenir dépendants des services d'IA américains que ce soit des versions grand public (ChatGPT, Claude, Perplexity...) ou des versions développeurs (API d'OpenAI ou d'Anthropic, Azure AI, Amazon Bedrock, Google Cloud...).

Que se passera-t-il si l'on nous prive de ces technos ?

Perte de productivité.

Paralysie.

C'est, donc, une très bonne nouvelle que Mistral AI, une entreprise française (75% de son capital aux mains de française) fasse la course à l'IA générative juste derrière OpenAI, Google et Anthropic.

Mistral Large 2, son modèle le plus puissant vient de sortir.

Sur le papier, il est annoncé comme étant l'équivalent des derniers modèles américains (Claude 3, Llama 3, GPT4o, Command R+) sur des tâches telles que:
- Analyse et synthèse de documents
- Echanges via chatbot
- Assistance au codage informatique
- Résolution de problèmes

Mistral constitue, donc, maintenant, une vraie alternative aux principaux LLMs américains.

Si vous avez engagé des développements reposant sur l'API d'OpenAI, le système de requêtage de l'API de Mistral est le même: pas besoin de tout ré-écrire. Vous pouvez, donc, tester, sans trop d'effort, Mistral Large 2 pour vérifier s'il est aussi performant.

En revanche, il faudra probablement adapter le prompt engineering de même que le dispositif de RAG.

Mistral Large 2 est disponible sous quatre formes:
- Via l'API de Mistral en direct
- Sur les clouds américains: Google Vertex AI, Azure AI Studio, IBM Watson X et Amazon Bedrock
- En Open Source sur Hugging Face (les "poids" - un fichier de 220Go- sont disponible sur Hugging Face)
- Et également, sur le Chat gratuit de Mistral, accessible à tout le monde

Il est également disponible pour les abonnés de Poe.

Et bientôt sur le Lab de Perplexity ?

Et l'écologie dans tout cela ?

Mistral a lancé début juillet, Mistral Nemo, un modèle plus petit (12 milliards de paramètres) moins puissant, plus économe en énergie et, donc, plus écologique, mais qui suffit pour réaliser des tâches spécialisées qui n'ont pas besoin d'un modèle multitâche et puissant comme Mistral 2.