IA dans un ERP ou un CRM : comment savoir si vous pouvez vraiment lui faire confiance ?

L’intelligence artificielle s’installe progressivement dans nos logiciels de gestion. CRM, comptabilité, ERP, trésorerie, reporting… Les éditeurs multiplient les annonces et les nouvelles fonctionnalités.

Et c’est une excellente nouvelle.

Pouvoir interroger son CRM en langage naturel, analyser ses résultats financiers en quelques secondes ou automatiser certaines tâches administratives représente un vrai progrès.

Mais une question mérite d’être posée avant de confier davantage de responsabilités à ces nouveaux assistants :

Comment vérifier qu’une IA est suffisamment fiable pour travailler avec les données de votre entreprise ?

Car entre une démonstration impressionnante et une utilisation quotidienne dans une direction financière ou commerciale, il peut y avoir une sacrée différence.

Chez BLC, nous avons justement rencontré un exemple assez parlant.

1. Une IA connectée à vos données peut quand même se tromper

Lors d’un test de l’assistant IA de Pipedrive, notre équipe lui a posé une question très simple : identifier l’affaire présentant le montant le plus élevé dans un pipeline commercial.

L’assistant a répondu.

Sauf que ce n’était pas la bonne affaire.

La réponse ne correspondait pas à l’opportunité ayant réellement la valeur la plus élevée.

Rien de dramatique : il s’agissait d’une fonctionnalité encore en bêta au moment de notre démonstration. Et cette erreur ne suffit évidemment pas à juger l’ensemble des capacités de Pipedrive. (Découvrir Pipedrive)

Mais elle illustre parfaitement le sujet.

Une IA peut accéder à vos données sans nécessairement les interpréter correctement.

Les causes peuvent être multiples : mauvaise compréhension de la question, sélection incorrecte des informations, filtres inadaptés, problème de contexte ou erreur dans la génération de la réponse.

Et il faut distinguer deux situations.

Une IA peut se tromper parce que les données de départ sont mauvaises.

Mais elle peut également se tromper alors que les bonnes informations existent dans le logiciel.

Dans le premier cas, il faut travailler sur la qualité des données.

Dans le second, il faut comprendre comment l’assistant recherche, interprète et restitue ces informations.

C’est pourquoi il ne suffit pas de demander à une IA si elle sait répondre à une question.

Il faut vérifier que sa réponse correspond à la réalité.

Notre démonstration est disponible dans notre article consacré à l’assistant commercial IA de Pipedrive.

2. Toutes les erreurs d’IA n’ont pas les mêmes conséquences

Une IA qui se trompe dans le résumé d’une réunion peut vous faire perdre quelques minutes.

Une IA qui identifie le mauvais client à relancer peut vous faire perdre une opportunité commerciale.

Une IA qui propose une écriture comptable incorrecte, modifie une donnée sensible ou déclenche une opération sans contrôle peut avoir des conséquences autrement plus importantes.

Dans les logiciels de gestion, je distinguerais trois grandes catégories de risques.

Les erreurs d’information

L’assistant fournit une réponse incorrecte ou incomplète.

Par exemple, il identifie les mauvaises opportunités commerciales, présente un montant erroné ou oublie certaines données dans une analyse.

Le danger est de prendre une décision sur la base d’une information que l’on suppose fiable.

Les erreurs d’interprétation

L’IA dispose des bonnes informations, mais en tire une conclusion discutable.

Un client peut être considéré comme présentant un risque commercial alors que sa situation est parfaitement normale.

Une variation comptable peut être présentée comme une anomalie alors qu’elle s’explique par une opération exceptionnelle.

Ces erreurs sont parfois plus difficiles à détecter, parce que les chiffres utilisés peuvent être corrects.

Les erreurs d’exécution

C’est probablement le sujet le plus sensible avec l’arrivée des agents IA.

Un assistant ne se contente plus de proposer une réponse. Il peut commencer à agir dans le logiciel.

Modifier une fiche client, changer une étape commerciale, créer une facture, préparer un paiement ou déclencher une automatisation.

Dans ce cas, une erreur peut se propager à d’autres applications.

Plus l’IA dispose de possibilités d’action, plus les contrôles doivent être adaptés aux conséquences potentielles.

3. Les six tests à réaliser avant de déployer un assistant IA

Il n’est pas nécessaire de disposer d’une équipe de spécialistes en intelligence artificielle pour commencer à évaluer un assistant.

En revanche, il faut adopter une méthode.

Voici les six tests que je recommande aux entreprises avant de généraliser un nouvel usage.

Test 1 — Poser des questions dont vous connaissez déjà la réponse

C’est le point de départ.

Demandez à l’assistant de retrouver une information simple et vérifiable : votre plus grosse opportunité commerciale, une facture précise, le chiffre d’affaires d’un client ou une échéance connue.

Comparez systématiquement la réponse avec les données présentes dans le logiciel.

Puis recommencez avec plusieurs exemples.

Un résultat correct une fois ne garantit pas que l’assistant répondra toujours correctement.

Test 2 — Tester les questions ambiguës

Demandez par exemple :

« Quels sont nos meilleurs clients ? »

Que signifie meilleurs ?

Ceux qui réalisent le plus de chiffre d’affaires ? Ceux qui génèrent la meilleure marge ? Ceux qui paient le plus rapidement ?

Un bon assistant devrait pouvoir demander une précision lorsqu’une question peut être interprétée de plusieurs manières.

Une IA qui répond systématiquement avec assurance n’est pas nécessairement une IA fiable.

Test 3 — Vérifier ce qui se passe lorsque l’information n’existe pas

Demandez à l’assistant une information absente du logiciel.

Est-il capable de reconnaître qu’il ne sait pas ?

Indique-t-il que les données sont insuffisantes ?

Ou produit-il malgré tout une réponse plausible ?

Savoir dire « je ne sais pas » est une qualité essentielle pour une IA utilisée en entreprise.

Test 4 — Vérifier les droits d’accès

Un commercial ne doit pas nécessairement accéder aux mêmes informations qu’un directeur financier.

Un collaborateur ne doit pas pouvoir consulter des données confidentielles simplement parce qu’il pose sa question à un assistant.

Il faut donc vérifier que l’IA respecte les permissions existantes, y compris lorsqu’elle interroge plusieurs applications.

Test 5 — Tester les actions et leurs conséquences

Si l’assistant peut modifier des données, commencez dans un environnement de test.

Demandez-lui de préparer une modification, puis vérifiez précisément ce qu’il propose.

Que se passe-t-il si la fiche est incorrecte ?

Si plusieurs clients portent des noms similaires ?

Si une information manque ?

Si l’action échoue à mi-parcours ?

Ces situations doivent être testées avant de confier à l’assistant des opérations réelles.

Test 6 — Vérifier la traçabilité

Lorsqu’une IA modifie une donnée ou déclenche une action, il faut pouvoir comprendre ce qui s’est passé.

Quelle demande a été formulée ?

Quelles informations ont été utilisées ?

Quelle action a été réalisée ?

Qui l’a validée ?

Et peut-on revenir en arrière ?

Sans cette traçabilité, il devient difficile d’identifier l’origine d’une erreur.

4. Consulter, préparer ou modifier : trois niveaux de confiance différents

C’est une distinction qui me paraît fondamentale.

Toutes les fonctionnalités IA ne doivent pas être évaluées de la même manière.

Premier niveau : consulter.

L’IA recherche une information, résume un dossier ou propose une analyse.

L’utilisateur conserve la décision.

Deuxième niveau : préparer.

L’IA rédige un email, prépare une facture ou propose une modification dans le CRM.

L’utilisateur vérifie et valide avant exécution.

Troisième niveau : agir.

L’IA réalise directement une opération dans le logiciel, éventuellement en déclenchant d’autres actions.

Plus on avance dans ces niveaux, plus les exigences de fiabilité, de sécurité et de contrôle augmentent.

Je ne pense pas qu’il faille systématiquement empêcher une IA d’agir seule.

Certaines opérations simples, répétitives et facilement réversibles peuvent parfaitement être automatisées.

En revanche, une modification importante de données financières, une opération difficile à annuler ou une action ayant un impact client mérite davantage de précautions.

L’autonomie d’un agent IA doit dépendre du risque de l’action, pas uniquement de ses capacités techniques.

5. Le contrôle humain doit être organisé, pas improvisé

On entend souvent qu’il faut conserver un humain dans la boucle.

Je suis évidemment d’accord.

Mais encore faut-il définir ce que cela signifie.

Si un utilisateur doit vérifier manuellement chacune des opérations réalisées par l’IA, le gain de productivité risque de devenir assez limité.

À l’inverse, si l’on automatise tout sans distinction, on prend le risque de laisser passer des erreurs importantes.

La bonne approche consiste à définir des règles.

Par exemple, une IA peut enrichir automatiquement certaines informations commerciales non sensibles, mais demander une validation avant de modifier un montant important.

Elle peut préparer des écritures comptables, mais laisser leur validation à une personne habilitée.

Elle peut proposer des relances clients, mais nécessiter un accord avant d’envoyer un message sensible.

L’objectif n’est pas de conserver un contrôle humain partout.

C’est de le placer là où il apporte réellement de la valeur.

Et cela suppose de bien comprendre les processus métier.

6. Les questions à poser à votre éditeur ou à votre intégrateur

Avant d’activer une nouvelle fonctionnalité IA dans votre ERP ou votre CRM, voici les questions que je poserais :

• Quelles données l’assistant peut-il consulter et utiliser ?
• Les droits d’accès existants sont-ils respectés ?
• Les données sont-elles utilisées pour entraîner des modèles d’IA ?
• L’assistant peut-il expliquer ou référencer les informations utilisées dans ses réponses ?
• Quelles actions peut-il réaliser sans validation ?
• Existe-t-il un historique des opérations effectuées ?
• Peut-on annuler ou corriger une action ?
• Que se passe-t-il lorsque l’assistant rencontre une erreur ou une information ambiguë ?
• Peut-on tester les fonctionnalités dans un environnement isolé avant leur mise en production ?

Ces questions ne sont pas réservées aux grandes entreprises.

Une PME qui utilise un CRM, un logiciel comptable et quelques automatisations peut déjà être concernée.

Et plus ces outils seront interconnectés, plus ces vérifications deviendront importantes.

7. L’IA va rendre la qualité des données et l’interopérabilité incontournables

Il reste enfin un point sur lequel je reviens souvent.

L’intelligence artificielle ne remplace pas un système d’information bien organisé.

Elle peut le rendre beaucoup plus efficace.

Mais elle ne fait pas disparaître les problèmes de données incomplètes, de référentiels incohérents ou d’applications mal connectées.

Un assistant capable de consulter votre CRM, votre comptabilité et votre gestion commerciale ne sera réellement utile que si les informations circulent correctement entre ces différents environnements.

C’est précisément l’un des grands enjeux des prochaines années.

Chez BLC, nous accompagnons depuis longtemps les entreprises dans l’intégration de leurs logiciels de gestion, de leur CRM et de leurs outils financiers.

L’arrivée de l’IA ne remet pas en cause cette approche.

Elle la rend encore plus importante.

Car avant de demander à un agent intelligent d’automatiser un processus, encore faut-il que ce processus fonctionne correctement.

Conclusion — Une IA utile est une IA dont on connaît les limites

Je suis convaincu que l’intelligence artificielle va transformer profondément les logiciels de gestion.

Et je trouve cette évolution particulièrement enthousiasmante.

Mais il faut éviter de confondre une démonstration réussie avec un outil prêt à être utilisé sans contrôle dans une entreprise.

La bonne question n’est pas simplement : « Que peut faire cette IA ? »

C’est aussi : « Comment réagit-elle lorsqu’elle ne sait pas, lorsqu’elle se trompe ou lorsqu’une action ne se déroule pas comme prévu ? »

Un logiciel ne crée pas de valeur à lui seul.

L’IA non plus.

Ce qui compte, c’est notre capacité à utiliser ces technologies pour simplifier le travail, fiabiliser les processus et prendre de meilleures décisions.

Et parfois, le meilleur moyen de commencer consiste simplement à poser à son assistant IA une question dont on connaît déjà la réponse.

Sylvain Lipa — Cofondateur de BLC