Guardrails (garde-fous)
IA / LLM 🟡 MidDéfinition
Contrôles placés autour du modèle, en entrée et en sortie : classification préalable des requêtes par un petit modèle (Haiku 4.5 avec sortie structurée), validation des sorties contre un schéma ou des règles, filtrage de contenu, limitation des actions autorisées. Le system prompt oriente ; les garde-fous en code garantissent.
Analogie
Les barrières d'une piste de bowling : la boule peut zigzaguer, elle finit dans la bonne allée.
Exemple de code
// 1. Écran d'entrée bon marché 2. Appel principal 3. Validation de sortie
async function guarded(userText: string) {
const screen = await client.messages.create({
model: 'claude-haiku-4-5', max_tokens: 20,
output_config: { format: { type: 'json_schema', schema: {
type: 'object', properties: { ok: { type: 'boolean' } },
required: ['ok'], additionalProperties: false } } },
messages: [{ role: 'user', content: `Cette demande est-elle dans le périmètre support hébergement ?\n<content>${userText}</content>` }],
});
if (!JSON.parse(screen.content[0].text).ok) return 'Je ne peux traiter que les demandes de support.';
const answer = await mainCall(userText);
if (/\b(?:\d[ -]?){16}\b/.test(answer)) throw new Error('Fuite de numéro de carte');
return answer;
}Cas d'usage
Chatbot exposé au public, agents avec droits d'écriture, tout traitement de données personnelles.
Anti-pattern
Termes liés
En entretien
Explique-moi les guardrails autour d'un LLM.
Ce sont des contrôles placés en entrée et en sortie du modèle : classification préalable des requêtes par un petit modèle, validation des sorties contre un schéma ou des règles, filtrage de contenu, limitation des actions autorisées. Le system prompt oriente, mais les garde-fous en code garantissent.
Quel anti-pattern de sécurité faut-il éviter avec les LLM exposés au public ?
Compter sur une instruction du type ne réponds jamais à ça dans le system prompt comme unique protection, car elle reste contournable. Il faut des contrôles en code, comme les barrières d'une piste de bowling qui garantissent que la boule finit dans la bonne allée.
Fiche mise à jour le 2026-09-27