?Llama 3.3 70B
</></></></></></></></></></><><><><>< style="text-align:center">Site internet officiel: llama.com?
Le grand modèle de langage multilingue (LLM) Meta Llama 3.3 est un modèle génératif customisé en 70B (texte entrant/texte sortant).
Le Llama 3.3 70B offre des performances similaires à celles du modèle Llama 3.1 405B.
Spécifications du modèle :
- 70 Milliards de paramètres
- Longeur du contexte de 128,000 tokens
- Langues supportées : Anglais, espagnol, allemand, français, italien, portugais, hindi, thaïlandais, ...
Prérequis:
Hardware :
CPU: Processeur multicœur haute performance
RAM: 128 GB
ou
Multi GPU NVIDIA : 24 GB VRAM Mininum
Software :
Il en existe plusieurs (LM Studio, Open WebUi, ...).
Recommandation pour Text Generation Webui installable en un click sur l'application Pinokio?.
Une fois l'intallation de ce dernier terminée, copiez le modèle dans ...\pinokio\api\oobabooga.pinokio.git\text-generation-webui\models
Lancer le et aller sur http://127.0.0.1:7860 dans votre navigateur.
Vous pourrez charger le modèle dans l'onglet Model (sélectionnez le et clickez sur Load).
Alternative aux prérequis : Cloud GPU, par exemple VastAI proposant une template prête pour Text Generation Webui.
Stockage: 200 GB
Nombre de Fichiers : 40
Poids Total : 131 GO
fr