Voice AI en santé : 6 règles avant de se lancer

Déployer un agent vocal en santé ne consiste pas seulement à choisir une voix agréable et à raccorder un numéro. L'outil intervient dans une relation où la confiance, la confidentialité et la possibilité d'obtenir de l'aide sont essentielles. Il peut faciliter un accueil ou un rappel, mais aussi créer une fausse assurance lorsqu'il parle avec aplomb. Avant le lancement, l'établissement doit définir ce qu'il autorise, ce qu'il interdit et qui traite les situations non résolues. Les règles suivantes forment un cadre pratique, à adapter avec les équipes concernées.

Règle 1 : annoncer l'automatisation et son périmètre

Dès le début de l'échange, l'appelant doit comprendre qu'il parle à un assistant automatisé. Une présentation courte est préférable à un long avertissement récité trop vite. Elle précise la fonction proposée et la possibilité de demander un humain. Une voix naturelle ne doit pas servir à entretenir l'ambiguïté sur l'identité ou les qualifications de l'interlocuteur. L'objectif est une interaction compréhensible, pas une imitation trompeuse d'un soignant.

Le périmètre doit être exprimé dans des termes concrets. L'agent peut, par exemple, aider à trouver un service ou gérer certains rendez-vous, mais pas interpréter des résultats. Les équipes doivent connaître ces limites et pouvoir les expliquer. Les horaires de disponibilité humaine, les conditions de rappel et les canaux alternatifs doivent être exacts. Une promesse générale d'assistance permanente n'a pas de sens si les suites ne sont traitées qu'à certaines heures.

Règle 2 : rendre le transfert humain effectif

Une demande explicite de parler à une personne doit être reconnue sans obliger l'appelant à se justifier. Le système doit également proposer ce relais lorsqu'il ne comprend pas, lorsque la demande sort du périmètre ou lorsque le protocole l'impose. Le parcours de transfert se conçoit avec le standard : destinataires, horaires, solution en cas d'occupation et modalités de reprise des messages.

Il faut tester le transfert jusqu'à son aboutissement, et non seulement vérifier qu'une commande téléphonique a été envoyée. Si personne n'est joignable, l'agent indique honnêtement les options prévues. Un résumé peut accompagner la demande, mais il doit rester factuel et limité aux informations utiles. L'équipe qui reçoit le relais doit savoir ce qui a déjà été fait et ce qui demeure incertain, sans prendre une synthèse automatique pour un constat médical.

Règle 3 : maîtriser les données sur toute la chaîne

Une conversation peut produire plusieurs objets : signal audio, transcription, résumé, journal technique et action dans un logiciel métier. Il faut les cartographier avec leurs destinataires et leurs durées de conservation. Le fournisseur visible n'est pas toujours le seul intervenant : téléphonie, reconnaissance vocale et traitement conversationnel peuvent mobiliser des sous-traitants distincts. Les accès de support et les éventuels transferts doivent également être examinés.

La collecte doit rester proportionnée à la tâche. Donner un horaire ne nécessite pas de rechercher un dossier patient. En revanche, modifier une information personnelle exige une vérification d'identité appropriée. Un numéro reconnu n'est pas une preuve suffisante à lui seul. Les appels de proches et les messages sur répondeur doivent suivre des règles spécifiques pour éviter les divulgations involontaires.

Avec le délégué à la protection des données et les responsables compétents, l'établissement examine la base juridique, l'information des personnes, les droits, la sécurité et les obligations d'hébergement applicables. Le consentement ne doit pas être présenté comme une solution universelle à tous les traitements. La conservation des enregistrements et leur éventuelle réutilisation pour l'amélioration d'un modèle nécessitent un examen distinct et des conditions clairement maîtrisées.

Règle 4 : interdire l'improvisation médicale

Un agent d'accueil ne doit pas répondre à une demande clinique simplement parce qu'il sait produire un texte plausible. Interpréter un symptôme, recommander un traitement ou rassurer sur un résultat dépasse son rôle. Les informations médicales pratiques éventuellement transmises doivent provenir de contenus validés pour le parcours concerné. Une consigne générale ne doit pas être adaptée librement à partir de quelques éléments racontés au téléphone.

Les scénarios sensibles doivent prévoir une sortie explicite : question sur un médicament, résultat inquiétant, incompréhension d'une préparation ou urgence possible. Les professionnels définissent le relais et les messages autorisés. En cas d'alerte, l'agent ne prolonge pas inutilement la collecte administrative. Il ne promet ni diagnostic, ni surveillance continue, ni réponse immédiate si ces services n'existent pas réellement.

Les règles doivent aussi résister aux reformulations et aux demandes insistantes. Une protection formulée uniquement dans une consigne interne ne suffit pas à garantir le comportement. Il faut limiter les informations et les actions accessibles, tester les réponses hors périmètre et prévoir une suspension rapide en cas de dérive. Les actions sensibles, comme une annulation, nécessitent en outre une confirmation explicite et une trace de leur réalisation.

Règle 5 : tester l'accessibilité et les cas difficiles

Les démonstrations réussies ne remplacent pas les essais représentatifs du terrain. Le pilote doit inclure des voix faibles, des accents, des interruptions, du bruit et des difficultés d'élocution. Les langues annoncées comme disponibles doivent être effectivement évaluées sur les tâches proposées. La compréhension d'une phrase simple ne prouve pas que le système saura traiter un changement de rendez-vous ou une demande ambiguë dans cette langue.

Les tests doivent également couvrir les pannes, les dossiers introuvables, les homonymes, les répondeurs et les logiciels momentanément indisponibles. Aucune action ne doit être annoncée comme terminée avant confirmation du système métier. Lorsqu'une réservation échoue, l'appelant reçoit une explication et une voie de reprise. Les personnes qui ne peuvent pas utiliser l'agent doivent conserver un autre accès au service, sans être pénalisées par l'automatisation.

Règle 6 : mesurer les résultats et garder la maîtrise

Les indicateurs doivent dépasser le volume d'appels répondus. L'établissement observe les demandes réellement résolues, les erreurs, les abandons, les transferts aboutis et la charge de reprise humaine. Les retours des patients et des équipes aident à comprendre ce que les chiffres agrégés ne montrent pas. Une conversation courte n'est pas nécessairement une réussite si la personne rappelle ensuite ou renonce à sa démarche.

Un responsable suit les incidents, les modifications de scripts et les évolutions du fournisseur. Chaque changement important doit donner lieu à des vérifications adaptées, car un comportement validé peut évoluer. Il faut conserver un mode de fonctionnement de repli et savoir suspendre une fonction problématique. La conclusion est opérationnelle : la Voice AI doit rester un service supervisé, mesurable et réversible, au bénéfice de l'accès aux soins plutôt qu'au seul bénéfice de l'automatisation.