Le lexique de l’IA.

Une interface qui permet à deux logiciels d'échanger des requêtes et des réponses.

Le mécanisme qui aide un modèle à pondérer les éléments les plus utiles du contexte.

Une méthode de quantization qui protège les poids les plus importants pour limiter la perte de qualité.

La partie d'un service qui exécute la logique, stocke les données ou sert le modèle.

La quantité de données que la mémoire peut fournir chaque seconde. Elle limite souvent le débit de génération d'un LLM.

Une base de données qui stocke des embeddings et retrouve rapidement ceux qui ressemblent le plus à une requête.

Un lot d'entrées traité en une seule opération pour mieux utiliser le matériel.

Un format numérique 16 bits avec une grande plage de valeurs, souvent utilisé pour entraîner les modèles.

Un état sauvegardé des poids d'un modèle à un moment donné.

Un fragment de document, découpé pour être indexé puis retrouvé par un système RAG.

Une famille de modèles qui rapproche le sens d'un texte et le contenu d'une image.

Un environnement isolé et léger qui empaquette une application avec ses dépendances.

L'ensemble des tokens qu'un modèle peut considérer pour produire sa prochaine sortie.

Un module qui ajoute à un modèle de diffusion des contraintes de pose, de profondeur ou de contours.

La plateforme logicielle de NVIDIA qui permet aux programmes d'utiliser ses GPU pour le calcul.

Une méthode de génération qui apprend à retirer progressivement du bruit pour reconstruire une image.

Le transfert d'une partie des capacités d'un grand modèle vers un modèle plus petit.

Un outil courant pour créer, distribuer et exécuter des containers.

Un outil qui décrit plusieurs containers, leurs volumes et leurs réseaux dans un seul fichier.

Une représentation numérique qui place des éléments proches par le sens dans un espace mathématique.

Une adresse précise d'une API qui reçoit un type de requête.

Le nombre maximal de tokens qu'un modèle peut prendre en compte en une seule requête.

Un entraînement supplémentaire qui adapte un modèle existant à une tâche ou un domaine.

Un format en virgule flottante sur 16 bits, deux fois plus compact que FP32.

Un format numérique sur 32 bits, précis mais coûteux en mémoire.

Un format compact sur 8 bits utilisé surtout avec du matériel et des logiciels compatibles.

Un format de fichier optimisé pour distribuer et exécuter des modèles avec llama.cpp.

Un processeur massivement parallèle, très efficace pour les opérations matricielles de l'IA.

Le réglage qui fixe la force avec laquelle une génération d'image suit le prompt.

Une réponse plausible dans sa forme mais fausse ou non fondée dans son contenu.

Une vérification automatique et régulière qu'un service répond correctement.

Le logiciel qui crée et gère des machines virtuelles sur un serveur.

L'utilisation d'un modèle déjà entraîné pour produire un résultat.

Une représentation sur 4 bits qui réduit fortement la mémoire requise par les poids.

Une représentation sur 8 bits qui offre souvent un bon équilibre entre taille et fidélité.

La création d'images intermédiaires pour fluidifier un mouvement vidéo.

Une mémoire temporaire des calculs d'attention déjà réalisés pendant la génération.

Une représentation compacte dans laquelle un modèle de diffusion effectue une grande partie de ses calculs.

Un runtime libre et très portable qui exécute des modèles au format GGUF sur CPU, sur GPU ou sur les deux.

Un grand modèle de langage entraîné à prédire et générer des séquences de tokens.

Une méthode d'adaptation qui entraîne de petites matrices ajoutées au modèle de base.

Une architecture avec plusieurs experts dont seulement une partie est activée pour chaque entrée.

Se dit d'un modèle capable de traiter plusieurs types de données, comme le texte, l'image ou l'audio.

Un système de stockage accessible par le réseau local.

Le déplacement d'une partie du modèle entre VRAM, RAM et parfois stockage pour contourner une limite mémoire.

Un runtime qui télécharge, gère et sert des modèles locaux avec quelques commandes et une API.

Une interface web de conversation qui se connecte à un runtime local comme Ollama.

Un modèle dont les poids sont téléchargeables, selon une licence qui fixe les droits d'usage.

Une valeur numérique ajustée pendant l'entraînement et utilisée pour transformer les entrées.

Le filtre qui décide quelles connexions réseau sont autorisées ou bloquées.

Le texte d'entrée qui décrit la demande faite à un modèle.

Les instructions placées au début du contexte pour fixer le rôle, le ton et les règles d'un assistant.

La réduction de la précision numérique des poids pour diminuer la mémoire et accélérer certains calculs.

Une méthode qui fournit au modèle des documents retrouvés au moment de répondre.

Un objectif de sauvegarde : trois copies des données, sur deux supports différents, dont une hors site.

Un modèle qui réordonne les passages retrouvés selon leur pertinence réelle pour la question.

Un service placé devant d'autres services pour leur donner des noms clairs, gérer HTTPS et filtrer l'accès.

La plateforme logicielle d'AMD pour le calcul accéléré sur GPU compatibles.

Le logiciel qui charge les poids d'un modèle, exécute le calcul et expose une commande ou une API.

Un format de fichier pour stocker des poids de façon sûre et rapide, sans code exécutable.

L'algorithme qui organise les étapes de débruitage pendant une génération d'image.

La règle qui fait évoluer le niveau de bruit à travers les étapes d'une diffusion.

La graine aléatoire qui permet de reproduire un point de départ de génération.

Une image instantanée de l'état d'un volume ou d'une sauvegarde à un moment donné.

State of the art, le meilleur niveau publié pour une tâche et un protocole donnés.

Un paramètre de génération qui règle la diversité des choix : basse, la réponse est plus prévisible ; haute, elle est plus variée et plus risquée.

Une unité de texte manipulée par un modèle, plus petite ou plus grande qu'un mot selon le tokenizer.

Le composant qui transforme un texte en tokens et réalise l'opération inverse.

Le débit de génération d'un modèle, mesuré en nombre de tokens produits chaque seconde.

Un réglage d'échantillonnage qui limite le choix du prochain token aux candidats les plus probables, jusqu'à une probabilité cumulée p.

L'architecture à base d'attention qui domine les modèles de langage modernes.

Time to first token : le délai entre l'envoi d'une demande et l'apparition du premier token de la réponse.

L'augmentation de la résolution d'une image ou d'une vidéo, avec reconstruction des détails.

Le composant qui encode une image vers l'espace latent et la reconstruit en pixels.

Un réseau local virtuel qui sépare logiquement des équipements partageant le même matériel réseau.

Un serveur d'inférence optimisé pour traiter de nombreuses requêtes simultanées sur GPU.

Un espace de stockage persistant attaché à un container, qui survit à sa suppression ou à sa mise à jour.

Un tunnel chiffré qui donne accès au réseau local à distance, sans exposer chaque service sur Internet.

La mémoire très rapide directement reliée au GPU.

Un système de fichiers et gestionnaire de volumes axé sur l'intégrité, les snapshots et la redondance.