L’intelligence artificielle qui parle : les agents conversationnels

05 avril 2022

Cet exemple vise à illustrer l’utilisation des algorithmes d’intelligence artificielle, et en particulier du traitement automatique du langage, pour le fonctionnement des agents conversationnels tels que des assistants vocaux ou des chatbots textuels.

Le contexte

En 1950, le mathématicien Alan Turing a mis au point un test afin de mesurer la capacité d’une machine à faire preuve de signes d’intelligence humaine. Ce test consiste à initier une conversation entre un humain et une machine, sans que l’humain ne le sache. Si à l’issue de la discussion l’humain n’a pas identifié qu’il a affaire à une machine, le test est réussi.

À ce jour, aucun robot n’a encore passé ce test avec succès. Pour autant, il n’est pas toujours évident, sur internet, d’affirmer avec conviction si l’on interagit avec une personne ou avec un robot (agent conversationnel ou chatbot).

Les agents conversationnels en pratique

Les agents conversationnels sont utilisés par un grand nombre d’entreprises pour gérer les relations avec leurs clients, notamment pour du service après-vente. Ces robots, qui prennent généralement la forme d’une messagerie instantanée (chat), analysent les messages envoyés par les usagers pour répondre à leurs requêtes par des techniques d’intelligence artificielle, et plus précisément d’apprentissage profond ou deep learning.

Le fonctionnement

Le traitement du langage naturel est la technique privilégiée pour analyser la demande de l’usager, notamment grâce des réseaux de neurones artificiels, en particulier des réseaux de neurones récurrents (RNN). Ces modèles aux très nombreux paramètres sont capables de garder en mémoire une partie de l’information analysée : ici cela signifie que l’analyse des mots entourant un mot ciblé pourra être utilisée pour déduire le sens du mot en question.

Exemple : Dans la phrase « L’informatique doit être au service de chaque citoyen », le lecteur comprend que le mot « service » ne fait pas référence au service militaire, ni à un service de restauration, grâce au contexte qui l’entoure. De même l’algorithme, pour produire une analyse cohérente doit utiliser le contexte de la phrase, et c’est précisément ce dont est capable un réseau de neurones récurrents. Ces outils permettent ainsi d’interpréter le sens de la requête de l’usager.

Une fois la demande interprétée, l’agent conversationnel doit alors répondre en utilisant un ensemble de règles définies en amont, ou en générant lui-même du texte. Ces types de systèmes utilisent généralement de l’apprentissage en continu afin d’adapter au mieux leurs réponses à l’usager. Une base de connaissances permet à l’agent conversationnel d’alimenter un stock de réponses à fournir aux usagers.

Intelligence artificielle - Traitement du langage naturel

Où ces méthodes sont-elles utilisées ?

  • Services de relation client (service après-vente, aide en ligne, démarchage).
  • Détection de spam, de contenus haineux, analyse automatique de documents, etc.

Quels sont les risques pour les personnes ?

  • L’agent conversationnel peut être sujet à erreur dans l’interprétation de la requête de l’usager, mais également dans la génération de sa réponse, ce qui peut, par exemple, donner une mauvaise information à un usager.
  • Les informations fournies par l’usager sont libres et peuvent parfois contenir des données personnelles, voire des données sensibles : leur réutilisation par l’agent, lors de son apprentissage continu par exemple, ne doit pas entraîner une perte de confidentialité.

Quelques conseils de la CNIL

Pour l’entreprise

  • Favoriser la transparence : informer l’usager qu’il interagit avec une machine et concevoir l’algorithme de manière à pouvoir expliquer les réponses de l’agent.
  • Limiter la portée de l’action de la machine en favorisant la supervision par l’humain.
  • Concevoir l’agent conversationnel de telle sorte qu’il limite la collecte de données personnelles.
  • Appliquer les mesures de sécurités adaptées aux communications et au stockage des données collectées.

Pour l’individu

  • Dans le doute sur le fait que l’on interagit avec un robot, lire les conditions d’utilisation ou contacter le concepteur du service.
  • Formuler des questions claires et simples pour éviter toute incompréhension par l’agent et limiter ainsi les informations que l’on donne à ce qui est strictement nécessaire pour répondre à la question posée.
  • Exercer son droit d’accès aux données collectées.

Vous souhaitez contribuer ?

Écrivez à ia[@]cnil.fr

Les mots clés associés à cet article