Donnez la permission à l'IA de dire "Je ne sais pas"Donnez la permission à l'IA de dire "Je ne sais pas"
Donnez la permission à l'IA de dire "Je ne sais pas" pour réduire les hallucinations et obtenir des résultats fiables.
Accordez à l'IA la permission de dire « Je ne sais pas »
De nombreuses réponses des IA ne sont pas fausses parce que le modèle est mauvais.
Elles sont fausses parce que le modèle ne peut pas s'arrêter.
Un modèle de langage est formé pour répondre.
Et non pour garder le silence au bon moment.
Lorsque des informations manquent, il arrive presque toujours la même chose :
- l'IA remplit les lacunes
- elle sonne convaincante
- elle se trompe
Si vous voulez des résultats fiables, vous avez besoin d'un levier simple mais extrêmement efficace :
Accordez au modèle la permission de dire « Je ne sais pas ».
Pourquoi l'IA préfère inventer plutôt que de ne rien dire
Les LLM sont formés pour poursuivre les textes.
Un output vide est considéré comme une erreur par le modèle.
Un texte plausible, en revanche, est considéré comme un succès.
Le raccourci ultime vers des
résultats IA impeccables
Arrête de perdre du temps avec des prompts approximatifs. Obtiens des résultats IA constants et professionnels dès le premier essai, à chaque fois.
Lorsque des informations manquent, le modèle a deux options :
2. fournir quelque chose de probable
Sans instruction explicite, il choisit presque toujours l'option 2.
L'erreur de raisonnement : « Le modèle sait quand il ne sait pas quelque chose »
Un modèle de langage ne sait pas qu'il ne sait pas quelque chose.
Il ne reconnaît que le manque d'informations.
Et c'est exactement cette lacune qu'il essaie de combler de manière statistiquement plausible.
Pour vous, cela ressemble à des hallucinations.
Pour le modèle, c'est un comportement attendu et correct.
La phrase la plus importante pour éviter les réponses inventées
Il existe une formulation qui augmente immédiatement la fiabilité :
Si une information n'est pas contenue dans le contexte, dites explicitement :
Pourquoi cela fonctionne-t-il si bien :
- cela retire au modèle la pression de devoir inventer quelque chose
- cela définit une réponse nulle légitime
- cela déplace le focus de l'exhaustivité à l'exactitude
En bref : Le modèle peut s'arrêter.
Un exemple pratique
« Expliquez la cause de l'incident et décrivez les mesures. »
- causes plausibles mais inventées
- mesures qui sonnent bien mais ne sont pas confirmées
- Si des informations manquent ou ne sont pas confirmées, dites explicitement « Je ne sais pas ».
- Cause : encore incertaine
- Mesures : enquête en cours
- délimitation claire
- pas de détails inventés
- crédibilité accrue
Interaction avec les exigences de sortie
L'autorisation de se taire fonctionne le mieux en combinaison avec des directives de sortie claires.
- Liste des faits confirmés
- Liste des points ouverts séparément
- Aucune hypothèse
- En cas d'informations manquantes : « Je ne sais pas »
Pourquoi la sortie est importante, nous l'expliquons ici :
Exigences de sortie : La superpuissance sous-estimée pour des résultats consistants (prochainement).
Pourquoi cela ne devrait pas être une exception, mais une norme
Beaucoup traitent cette règle comme une exception.
En réalité, elle devrait toujours faire partie d'un prompt lorsque :
- les faits sont incomplets
- des risques juridiques ou de communication existent
- des décisions sont basées sur ceux-ci
« Je ne sais pas » n'est pas une erreur.
C'est un gage de qualité.
La transition vers la systématisation
Lorsque vous utilisez régulièrement cette règle, vous remarquerez :
- elle est oubliée
- elle est formulée légèrement différemment
- elle manque soudainement
Ce type de règle n'appartient pas à la tête,
Pourquoi cette étape en vaut la peine, vous pouvez le lire ici :
À partir de quand une bibliothèque de prompts est vraiment rentable.
Conclusion
Les hallucinations ne peuvent pas être complètement évitées.
Mais elles peuvent être massivement réduites.
Non pas grâce à des modèles plus stricts.
Non pas grâce à des prompts plus longs.
Mais grâce à une simple autorisation :
Vous pouvez dire « Je ne sais pas ».
Cela ne rend pas l'IA plus faible.
