Hugging face

"
IA

IA : Installer vLLM pour servir des LLM - Wiki

Ce tutoriel explique comment installer vLLM, un moteur d'inférence performant pour les modèles de langage, sur AlmaLinux. Il couvre les étapes pour préparer l'environnement en installant Python et les dépendances nécessaires, la création d'un utilisateur dédié, la configuration d'un environnement virtuel, et l'installation de vLLM avec l'authentification requise pour Hugging Face. Il inclut également des instructions pour lancer le serveur vLLM et tester le modèle avec curl, ainsi que des conseils pour créer un service systemd afin que vLLM démarre automatiquement au démarrage de la machine.

www.linuxtricks.fr

hugging face
IA

Mellum Goes Open Source: A Purpose-Built LLM for Developers, Now on Hugging Face

Mellum, un modèle de langage spécialisé pour la complétion de code, est désormais open source et disponible sur Hugging Face. Conçu pour exceller dans des tâches spécifiques, il vise à offrir une précision accrue et à réduire les coûts en matière de computation. Mellum supporte plusieurs langages de programmation, dont Java, Python, et PHP. Cette initiative vise à favoriser la recherche et l'apprentissage dans le domaine de l'IA appliquée au développement logiciel.

blog.jetbrains.com

hugging face
Fullstack

Simplify ML Workflows With Hugging Face and PyCharm

L'intégration de Hugging Face dans PyCharm vise à simplifier les workflows pour les développeurs de Machine Learning. Cette fonctionnalité permet de rechercher et d'utiliser facilement des modèles pré-entraînés directement dans l'IDE, d'accéder à la documentation des modèles sans quitter l'environnement de développement, et de gérer l'espace de stockage des modèles téléchargés. Avec cette intégration, il est possible de filtrer les modèles par type de tâche et d'importer du code en un clic, rendant le processus de développement plus fluide et moins distrayant.

blog.jetbrains.com

hugging face