GGML est une bibliothèque de tenseurs pour l'apprentissage automatique permettant de gérer de grands modèles et des performances élevées sur du matériel courant.
Accès à GGML (Libre)
Fonctionnalités de GGML GGML (Apprentissage automatique sur graphes génériques) est une bibliothèque de tenseurs puissante qui répond aux besoins des praticiens de l'apprentissage automatique. Elle fournit un ensemble robuste de fonctionnalités et d'optimisations permettant l'entraînement de modèles à grande échelle et le calcul haute performance sur du matériel courant. Caractéristiques principales: Implémentation en C: GGML est écrit en C, assurant efficacité et compatibilité entre les plateformes. Support des flottants 16 bits: Prend en charge les opérations en virgule flottante 16 bits, réduisant les besoins en mémoire et améliorant la vitesse de calcul. Quantification entière: Enables optimization of memory and computation by quantizing model weights and activations to lower bit precision. Cas d’utilisation: Large-scale Model Training: GGML is ideal for training machine learning models that require extensive computational resources. High-Performance Computing: GGML’s optimizations make it well-suited for high-performance computing tasks in machine learning. GGML is a powerful tensor library designed to meet the demands of machine learning practitioners.