Intégrer un LLM dans une application

Séquence 1 — Le modèle vu du code

• • Rôles, messages, tokens et fenêtre de contexte
• • Lire usage et finish_reason, pas seulement le contenu
• • Encapsuler l'appel derrière une interface stable

Séquence 2 — Paramètres et coûts

• • temperature, max_tokens, stop, seed : ce qu'ils garantissent ou non
• • Pourquoi le déterminisme n'existe pas, et ce que l'on teste à la place
• • Épinglage de version et facteurs de coût

Séquence 3 — Sorties structurées

• • Les quatre niveaux de validation, cumulatifs
• • Extraction robuste d'un JSON produit par un modèle
• • TP 1, parties a et b

Séquence 4 — Robustesse

• • Trois familles d'erreurs et leur traitement respectif
• • Réessai borné, disjoncteur, stratégies de dégradation
• • TP 1, partie c

Séquence 5 — Observabilité et évaluation

• • Construire un harnais d'évaluation reproductible
• • Quatre métriques et la métrique métier
• • TP 1, partie d
• Jour 2 — Contexte, outils, sécurité, production

Séquence 1 — Donner du contexte

• • Hiérarchie des sources et ordre imposé
• • Découper un corpus, assembler sous budget de tokens
• • TP 2, partie a

Séquence 2 — Appel d'outils

• • Le tour d'appel, de la proposition à l'exécution
• • Liste blanche, schémas d'arguments, autorisation, journal
• • Classer les actions par réversibilité et portée
• • TP 2, partie b

Séquence 3 — Sécurité (1/2)

• • Quatre vecteurs d'injection et ce qui ne fonctionne pas
• • Mesure du comportement sans défense

Séquence 3 — Sécurité (2/2)

• • Les trois lignes de défense, cumulatives
• • Secrets, données personnelles, sous-traitance
• • TP 2, partie c

Séquence 4 — Latence et expérience

• • Leviers de latence et de coût, et leurs contreparties
• • Streaming : ce qu'il change pour la validation
• • Concevoir l'attente et informer l'utilisateur

Séquence 5 — Mise en production

• • Ce qui se versionne, et pourquoi un prompt est du code
• • Liste de contrôle et bascule de désactivation
• • TP 2, partie d
• • Évaluation des acquis et test de compétence
• • Évaluation à chaud
• • Ressources pour poursuivre