NVIDIA Jetson Mémoire Tricks Laisser les périphériques Edge exécuter 10B Parameter modèles AI
NVIDIA révèle des techniques d'optimisation qui récupèrent jusqu'à 12 Go de mémoire sur les appareils Jetson, permettant à des LLMs multi-milliards de paramètres de fonctionner sur du matériel de bord. (En savoir plus)
