La panne que personne ne voit venir
Demandez à un assistant généraliste quel est le préavis dans votre entreprise, et il vous le dira. Avec aisance. Le bon ton, la bonne structure et un chiffre qui sonne exactement comme un préavis. Il peut même avoir raison : statistiquement, un chiffre voisin est courant.
C’est précisément le problème. Une réponse fausse qui a l’air fausse est repérée en une seconde. Une réponse fausse qui a l’air juste est transférée, collée dans un contrat, citée à un client. Le coût de l’IA dans une entreprise n’est presque jamais l’abonnement. C’est cette seule réponse assurée, une fois par mois, que personne n’a songé à vérifier, parce qu’il n’y avait rien en elle à vérifier.
La question à poser à tout assistant que vous mettez devant vos équipes n’est donc pas « ses réponses sont-elles bonnes ». Elle est : que fait-il quand il n’a aucune base pour répondre ?
L’ancrage : répondre à partir de ce que vous avez vraiment
Un modèle généraliste répond à partir de tout ce qu’il a lu. Un assistant ancré répond à partir d’un ensemble défini de vos propres documents — votre règlement, vos contrats, vos procédures, vos tarifs — et de rien d’autre.
Cette contrainte ressemble à une limite. C’est tout le produit.
La différence saute aux yeux. Posez-leur la même question sur votre politique de retour. Le modèle généraliste vous donne une réponse sectorielle plausible. L’assistant ancré vous donne votre politique, ou vous dit que votre politique ne couvre pas ce cas. Un seul des deux est utile, et c’est celui qui en dit parfois moins.
L’ancrage change aussi ce que signifie une erreur. Un modèle non ancré se trompe de manière invisible : le raisonnement est à l’intérieur du modèle. Un modèle ancré, lorsqu’il se trompe, pointe un document, et vous pouvez ouvrir ce document et constater qu’il est périmé. L’erreur devient trouvable. C’est une autre catégorie de système.
Un système qui peut se tromper d’une manière que vous pouvez retracer est plus sûr qu’un système qui a souvent raison pour des motifs que vous ne pouvez pas inspecter.
La citation n’est pas une note de bas de page, c’est l’interface
Beaucoup d’outils ajoutent désormais un petit lien « source » sous la réponse. Le prendre pour une décoration, c’est passer à côté de ce qu’il fait.
Une citation change le comportement de l’utilisateur. Quand la source est visible, les gens cliquent dessus sur les réponses qui comptent et l’ignorent sur les autres — exactement la bonne répartition de l’attention humaine. Sans source, soit on ne vérifie rien, soit on vérifie tout, et les deux sont mauvais.
Une citation change aussi le comportement de celui qui construit. Dès que chaque réponse doit pointer un document, on ne peut plus masquer une base de connaissances pauvre derrière un modèle éloquent. Les trous du contenu deviennent visibles comme des trous dans les réponses. L’assistant se transforme en audit de votre propre documentation : souvent inconfortable, toujours utile.
Rendez la source précise. « Dans le règlement intérieur » n’est pas une citation ; la section, la version et la date en sont une. Si la réponse vient d’un document mis à jour il y a trois ans, celui qui la lit mérite de le savoir avant d’agir.
Les droits d’accès font partie de la réponse, ce n’est pas un réglage
Un assistant qui peut tout lire finira par dire à quelqu’un ce qu’il ne devait pas savoir. Sans malveillance — parce qu’une question a été formulée de façon à remonter des données de salaire, un projet de contrat ou un document d’un service qui ne le concerne pas.
La solution n’est pas un filtre ajouté après coup. Elle consiste à faire des droits le sol sur lequel repose la réponse : l’assistant ne va chercher que dans ce que la personne a déjà le droit d’ouvrir, si bien que deux collègues peuvent poser la même question et recevoir, à juste titre, des réponses différentes. Si votre entreprise dispose déjà d’un organigramme et de droits documentaires, c’est cette structure qui doit piloter l’assistant. Si l’assistant exige son propre modèle de droits, vous avez désormais deux systèmes à maintenir synchronisés, et ils divergeront.
Faites du taux de refus un chiffre que vous suivez
Voici l’indicateur que presque personne ne suit : à quelle fréquence l’assistant refuse-t-il de répondre ?
S’il est proche de zéro, le système n’est pas honnête : aucun corpus ne couvre tout ce que les gens demandent. S’il est très élevé, la base est trop maigre ou la recherche échoue. Quelque part entre les deux se trouve un système qui vous dit la vérité sur ce qu’il contient.
Mieux encore : traitez chaque refus comme un signal et non comme une impasse. Une question à laquelle l’assistant n’a pas pu répondre est une question que votre documentation ne couvre pas. Enregistrez-les, regroupez-les, et vous obtenez une liste priorisée de ce qu’il reste à écrire — produite par les besoins réels de ceux qui font le travail, et non par celui qui avait le temps de rédiger une procédure.
Sept questions à poser à tout éditeur
Avant de signer quoi que ce soit, faites répondre la démo à ceci :
- Demandez quelque chose que vos documents ne couvrent réellement pas. Le dit-il, ou produit-il quelque chose de plausible ?
- Demandez quelque chose sur quoi vos documents se contredisent. Fait-il apparaître le conflit, ou en choisit-il un en silence ?
- Cliquez sur la source de trois réponses. Arrive-t-on au passage exact ou seulement au fichier ?
- Posez la même question en tant que deux personnes aux droits différents. Les réponses diffèrent-elles correctement ?
- Interrogez dans une langue un document rédigé dans une autre. Les vraies entreprises tournent sur des documents multilingues.
- Interrogez sur quelque chose qui a changé récemment. Utilise-t-il la version actuelle ou celle qu’il a indexée en premier ?
- Demandez où les données sont traitées et stockées. La réponse devrait être une phrase, pas une réunion.
Un éditeur sûr de son système prendra plaisir aux questions un et deux. Méfiez-vous de ceux qui détournent la démo pour les éviter.
Pourquoi nous le construisons ainsi
Nous avons placé ce principe au centre de l’espace de travail interne que nous développons : le collaborateur pose sa question en langage courant, la réponse provient uniquement des documents de l’entreprise, la source est affichée, et lorsqu’il n’y en a pas, l’assistant dit qu’il ne sait pas plutôt que de combler le vide.
Ce dernier comportement est le plus difficile à livrer, parce qu’il rend la démo moins brillante. Un assistant qui répond à tout impressionne pendant dix minutes. Un assistant qui dit parfois « je ne sais pas, et voici où j’ai cherché » gagne ce qu’une démo impressionnante n’obtient jamais : on se met à le croire quand il répond vraiment.
Cette confiance est tout l’actif. Le reste n’est que recherche documentaire.