# Agent IA : mieux vaut un trou qu'une réponse fausse en 2026

Un agent IA qui invente une réponse plausible coûte plus cher qu'un agent qui dit « je ne sais pas ». En février 2024, un tribunal a condamné une compagnie aérienne à honorer une politique de remboursement inventée de toutes pièces par son agent conversationnel (Moffatt v. Air Canada). Or les modèles sont entraînés à deviner plutôt qu'à s'abstenir (OpenAI, 2025). Pourquoi un trou honnête vaut mieux que du flou en production, et comment concevoir un agent qui s'arrête quand il ne sait pas · Agify.

En février 2024, un tribunal canadien a condamné une compagnie aérienne à rembourser un client sur la base d'une politique tarifaire que son agent IA avait inventée de toutes pièces. Le chatbot lui avait affirmé qu'il pouvait demander un tarif de deuil rétroactivement ; aucune règle de ce genre n'existait. Le tribunal a écarté la défense de la compagnie, qui plaidait que le chatbot était une entité distincte, et l'a condamnée à 812,02 dollars canadiens de dommages (Moffatt v. Air Canada, 2024 BCCRT 149).

Le vrai risque d'un agent IA en production n'est pas de se tromper de temps en temps. C'est d'inventer une réponse assurée au lieu d'admettre qu'il ne sait pas. Les modèles de langage sont même optimisés pour deviner plutôt que pour s'abstenir (OpenAI, 2025). Un « je ne sais pas » est un trou explicite : il renvoie l'utilisateur vérifier ailleurs, sans dommage. Une réponse fausse mais fluide est du flou : elle se glisse dans une décision et se découvre trop tard. C'est cette asymétrie qui fait qu'on préfère laisser un trou visible que combler avec du flou.

Cet article explique pourquoi un agent invente au lieu de s'abstenir, ce que coûte une réponse plausible mais fausse en production, pourquoi « je ne sais pas » est un choix de conception, et comment reconnaître un agent bâti pour s'arrêter au bord du trou.

## Pourquoi un agent IA invente-t-il au lieu de dire qu'il ne sait pas ?

Un agent IA invente parce qu'on l'a entraîné et évalué à deviner, pas à s'abstenir. Un modèle de langage produit la continuation la plus probable d'un texte ; face à une question qu'il ne maîtrise pas, une phrase plausible marque mieux qu'un aveu d'ignorance. Rien dans son objectif ne récompense le « je ne sais pas ». Il comble donc le vide avec aplomb, et le fait d'autant plus volontiers qu'il a tort.

Le mécanisme est documenté. Dans [« Why Language Models Hallucinate »](https://openai.com/index/why-language-models-hallucinate/) (Kalai, Nachum, Vempala et Zhang, OpenAI, septembre 2025), les auteurs montrent que « les procédures d'entraînement et d'évaluation récompensent le fait de deviner plutôt que de reconnaître l'incertitude ». Sous le barème standard, deviner est une stratégie gagnante : un modèle qui s'abstient quand il doute obtient un moins bon score de précision brute qu'un modèle qui tente sa chance, même quand ce dernier se trompe plus souvent. Le flou n'est donc pas un bug résiduel. C'est le produit direct de la manière dont on note ces systèmes.

Autrement dit, un meilleur modèle ne suffit pas à régler le problème par lui-même. Tant que la sortie la plus fluide reste mieux récompensée que l'abstention, l'agent continuera de préférer une belle phrase fausse à un trou honnête. La discipline doit venir d'ailleurs : de la façon dont on conçoit l'agent autour du modèle.

## Que coûte une réponse plausible mais fausse en production ?

En production, une réponse fausse mais bien formulée coûte plus cher qu'une absence de réponse. Un « je ne sais pas » envoie l'utilisateur chercher ailleurs, sans dégât. Le flou, lui, franchit les relectures parce qu'il est fluide, se glisse dans un remboursement, un contrat ou un diagnostic, et se découvre en aval, quand il est trop tard pour le corriger sans frais. Le coût des deux erreurs n'est pas symétrique.

L'affaire Air Canada tient entière dans cet écart : un agent en contact direct avec des clients invente une politique, un client s'y fie, l'entreprise paie. Le cas n'est pas isolé. En avril 2025, l'agent de support de l'éditeur du logiciel Cursor, un bot baptisé « Sam », a affirmé à des utilisateurs qu'un abonnement était limité à une seule machine. La règle n'existait pas : la vraie cause était un bug de session. Des développeurs ont résilié leur abonnement avant que le cofondateur ne corrige publiquement, « nous n'avons aucune politique de ce genre » ([The Register, 18 avril 2025](https://www.theregister.com/2025/04/18/cursor_ai_support_bot_lies/)).

Deux agents, deux secteurs, la même défaillance : une invention assurée, prise pour argent comptant, dont le coût se paie après coup. Ce n'est pas une bavure marginale. Gartner prévoit que plus de 40 % des projets d'IA agentique seront abandonnés d'ici fin 2027, notamment faute de contrôles de risque suffisants (juin 2025). Le flou non signalé fait partie de ces risques : il échoue en silence, exactement comme [un agent qui agit sans observabilité](/articles/agent-ia-observabilite/), l'action se termine, tout paraît normal, la facture arrive plus tard.

## Pourquoi « je ne sais pas » est-il un choix de conception, pas une faiblesse ?

Chez Agify, « je ne sais pas » est une décision d'architecture, pas une limite subie. Un agent fiable est conçu pour tracer une ligne nette entre ce qu'il a vérifié et ce qu'il ignore, puis pour s'arrêter au bord du trou au lieu de le combler. L'abstention se programme : contrainte sur les sources, validation humaine sur l'action qui engage, signalement explicite de l'incertitude. On préfère un trou visible à du flou invisible, parce que le premier se traite et le second se paie.

Cette discipline ne dépend pas d'un produit précis, elle vaut pour tout agent mis en production. C'est le même socle que celui décrit dans [le pattern d'un agent IA fiable](/articles/pattern-agify-agent-ia-fiable/) : une mémoire versionnée pour relire ce qui a été fait, une validation humaine sur chaque action irréversible, un tracing de chaque décision. Un agent qui rédige un e-mail mais ne l'envoie jamais seul, qui escalade vers un humain quand il bute, qui affiche « information non trouvée » plutôt que d'improviser, est un agent qui laisse des trous propres au lieu de répandre du flou.

C'est aussi ce qui sépare un vrai agent d'une [automatisation rebrandée en agent IA](/articles/reconnaitre-vrai-agent-ia/) : le premier sait s'arrêter, le second déroule son script jusqu'au bout, même dans le vide. Si vous voulez voir comment un agent affiche un « je ne sais pas » explicite plutôt que d'inventer sur votre métier, [regardons votre cas ensemble](https://cal.com/team/agify/deploiement-ia).

## Comment reconnaître un agent IA conçu pour s'abstenir ?

Un agent conçu pour s'abstenir montre trois comportements observables : il signale l'incertitude au lieu de la masquer, il escalade vers un humain sur l'action qui engage, et il trace chaque décision pour qu'on puisse relire ce qu'il a fait et pourquoi. En démonstration, la question qui tranche n'est pas « sait-il tout faire ? » mais « que fait-il quand il ne sait pas ? ». Un agent qui répond toujours quelque chose est un agent qu'il faut vérifier en permanence.

Le comportement se lit dans le détail.

| Situation | Agent qui comble le flou | Agent conçu pour s'abstenir |
|---|---|---|
| Question hors de son périmètre | Invente une réponse plausible | Signale « information non trouvée » |
| Action qui engage (envoi, paiement, promesse) | Exécute seul | Escalade vers un humain |
| Traçabilité | Décision opaque | Chaque décision relue et datée |
| Incertitude | Masquée derrière une phrase fluide | Affichée explicitement |

Sur une base documentaire, cette même discipline porte un nom précis et une mise en œuvre concrète : [un système conçu pour dire « je ne sais pas » quand la réponse n'est pas dans vos sources](/ragify/zero-hallucination/). Le principe transversal reste le même à tous les niveaux : un agent qui tient en production ne se juge pas à sa capacité à toujours répondre, mais à sa capacité à s'arrêter quand il ne sait pas. C'est un des critères qui séparent [une IA qui tient en production d'une démo qui impressionne](/articles/ia-qui-tient-en-production/).

## Questions fréquentes

### Un agent qui dit souvent « je ne sais pas » est-il moins utile ?

Non, il est plus fiable. Un agent qui répond toujours quelque chose oblige à tout revérifier, ce qui annule le gain de temps recherché. Un agent qui s'abstient hors de son périmètre concentre la vérification sur les seuls cas où il a effectivement trouvé une réponse. Le trou honnête est rare quand l'agent est bien cadré ; c'est le flou permanent qui use la confiance.

### Un meilleur modèle règle-t-il le problème du flou ?

Pas à lui seul. Tant que la sortie la plus fluide reste mieux récompensée que l'abstention, un modèle plus performant devine simplement de manière plus convaincante. La discipline vient de la conception autour du modèle : contrainte sur les sources, consigne d'abstention, validation humaine sur l'action qui engage. Le modèle est nécessaire, il n'est pas suffisant.

### Quelle différence entre une hallucination et un simple bug ?

Un bug est un dysfonctionnement du code. Une hallucination est une réponse fausse produite par le fonctionnement normal du modèle, interrogé hors de ce qu'il connaît. Elle ne plante rien : elle sort une phrase plausible et confiante. C'est précisément ce qui la rend dangereuse en production, car rien ne la signale comme anormale au moment où elle survient.

### Comment mesurer si un agent s'abstient correctement ?

En observant son comportement sur des questions dont la réponse n'est pas dans son périmètre. Un agent bien conçu répond « information non trouvée » plutôt que de générer une réponse. Le tracing de chaque décision permet de relire, a posteriori, où il a abstenu et où il a tenté sa chance. Sans cette trace, on ne mesure rien : on constate seulement les erreurs qui ont fait surface.

### Cette doctrine vaut-elle pour tous les agents ou seulement le RAG ?

Elle vaut pour tout agent en production. Un agent de support, un agent commercial, un agent documentaire partagent le même risque : combler un trou avec du flou. La déclinaison change selon le contexte, mais le principe est transversal : concevoir l'agent pour signaler l'incertitude plutôt que de la masquer.

## Ce qu'il faut retenir

La fiabilité d'un agent IA ne se mesure pas à sa capacité à toujours répondre, mais à sa capacité à s'arrêter quand il ne sait pas. Trois points structurent le sujet. Un agent invente par construction, parce qu'on l'a entraîné et évalué à deviner plutôt qu'à s'abstenir. En production, le flou coûte plus cher que le trou, parce qu'une invention assurée se paie toujours en aval. Et l'abstention se conçoit : elle tient à des sources contraintes, une validation humaine et un tracing, pas à un modèle miracle. Pour voir ce comportement appliqué à vos propres agents, [prenons le temps d'en discuter sur votre cas](https://cal.com/team/agify/deploiement-ia).

Cet article a été écrit par l'équipe Agify, qui conçoit et déploie des agents IA sur mesure tenus par une même discipline : mémoire versionnée, validation humaine sur chaque action qui engage, et tracing de chaque décision.