Optimisation et fine-tuning

Séquence 1 — Choisir avant d'optimiser

• Trois leviers pour trois problèmes : formuler mieux, donner du contexte, changer le comportement
• Ce que le fine-tuning règle vraiment : le format, le ton, une tâche étroite et répétitive
• Ce qu'il ne règle pas : ajouter des connaissances factuelles fraîches
• Le coût complet : données, calcul, évaluation, maintenance à chaque nouvelle version du modèle de base

Séquence 2 — Les données, qui font tout

• Volume : l'ordre de grandeur réel, et pourquoi mille exemples soignés valent mieux que cent mille bruités
• Format des exemples : consigne, entrée, sortie attendue — la cohérence prime
• Jeu de validation tenu à l'écart, jamais vu à l'entraînement
• Fuite de données : le piège le plus fréquent et le plus coûteux

Séquence 3 — Ajustement économe

• Pourquoi on ne réentraîne pas tous les poids : coût, oubli, stockage
• L'adaptation de rang faible : l'idée, et où elle s'insère dans le réseau
• Les paramètres qui comptent : rang, facteur d'échelle, couches ciblées, taux d'apprentissage
• Lire une courbe d'apprentissage : sous-ajustement, sur-ajustement, plateau

Séquence 4 — Compresser

• Quantification : réduire la précision numérique, et ce que cela coûte en qualité
• Les paliers usuels et le seuil où la dégradation devient perceptible
• Distillation : faire apprendre un petit modèle à imiter un grand
• Élagage : retirer ce qui ne sert pas, et pourquoi c'est le plus délicat

Séquence 5 — Évaluer un modèle optimisé

• Mesurer sur la tâche visée : avant et après, sur le même jeu
• Mesurer la non-régression : les capacités générales qu'on a pu abîmer
• L'oubli catastrophique : le reconnaître et le limiter
• Décider : le gain justifie-t-il le coût de maintenance