Apple a lancé son nouveau silicium M3 en octobre et l’a maintenant rendu disponible dans un certain nombre de systèmes différents permettant aux utilisateurs de bénéficier de la nouvelle génération de traitement fournie par la famille de puces. Si vous souhaitez en savoir plus sur l’exécution de grands modèles de langage sur le dernier silicium Apple M3, vous serez heureux d’apprendre que Techno Premium a testé et démontré ce que vous pouvez attendre de la puissance de traitement lors de l’exécution du grand modèle de langage Llama 2 de Meta sur le matériel silicium d’Apple. Regardez la vidéo ci-dessous.
Si vous êtes intrigué par les capacités des grands modèles de langage tels que Llama 2 et par leurs performances sur du matériel de pointe, l’introduction de la puce M3 offre une opportunité fantastique d’exécuter localement de grands modèles de langage. Les avantages sont les suivants :
- Amélioration des performances du GPU : Une nouvelle ère informatique La puce M3 est dotée d’un GPU de nouvelle génération, qui marque une avancée significative dans l’architecture graphique silicium d’Apple. Ses performances ne se limitent pas à la vitesse, mais à l’efficacité et à l’introduction de technologies révolutionnaires telles que la mise en cache dynamique. Cette fonction garantit une utilisation optimale de la mémoire pour chaque tâche, une première dans l’industrie. Les avantages ? Des vitesses de rendu jusqu’à 2,5 fois supérieures à celles de la série de puces M1. Cela signifie que pour les grands modèles de langage comme Llama 2, le traitement d’algorithmes complexes et de tâches nécessitant beaucoup de données devient plus fluide et plus efficace.
- Des vitesses inégalées pour le CPU et le moteur neuronal Le CPU de la puce M3 possède des cœurs de performance 30 % plus rapides et des cœurs d’efficacité 50 % plus rapides que ceux de la puce M1. Le moteur neuronal, essentiel pour des tâches telles que le traitement du langage naturel, est 60 % plus rapide. Ces améliorations garantissent que les grands modèles de langage, qui nécessitent une puissance de calcul intensive, peuvent fonctionner plus efficacement, ce qui permet d’obtenir des réponses plus rapides et plus précises.
Exécution de LLM sur le matériel Apple M3 Silicon
Si vous envisagez d’utiliser localement de grands modèles linguistiques tels que Llama 2, la dernière gamme de puces Apple M3 offre un niveau de performance et d’efficacité sans précédent. Vous serez heureux d’apprendre que, qu’il s’agisse de vitesses de traitement plus rapides, de capacités graphiques améliorées ou d’une utilisation plus efficace de l’énergie, les puces Apple M3 répondent aux besoins exigeants des applications d’IA avancées.
Lire plus Guide:
- Nouveau Apple MacBook Pro M3 14 pouces à partir de 1 599
- Les Mac M4 d’Apple axés sur l’IA seront disponibles dans le courant de l’année
- Nouvelles puces Apple M3, M3 Pro et M3 Max dotées d’une architecture GPU de nouvelle génération
- Exécuter Llama 2 Uncensored et d’autres LLM localement en utilisant Ollama pour la confidentialité et la sécurité
- La nouvelle mise à jour d’Ollama ajoute le Llama 3, la possibilité de poser plusieurs questions à la fois et plus encore.
- Apple lance Ferret 7B, un modèle de langage multimodal à grande échelle (MLLM)
