Pour rappel, la réflexion qui va suivre s’appuie sur le terrain précédemment décrit. Nous étudiions une assistance vocale (AV) destinée au milieu industriel. Cependant, je m’autorise quelques généralisations notamment celle de l’absence de conversation avec un agent conversationnel et cela peu importe le modèle. Oui, je classe ChatGPT et autre Claude là-dedans. La conversation n’a rien de probabiliste : elle est dans la beauté et la finesse de l’indéterminé (Sadin, 2023). Tout au mieux, entretenons-nous avec ces systèmes parlants une forme de dialogue. Je commencerai donc par rappeler quelques fondamentaux à propos de la conversation.

1. Conversation : définition donnée par le cnrtl.

I.− Vieux
A.− Relations d’affaires ou amicales, fréquentation

II.− Échange de propos.
A.− Échange de propos, sur un ton généralement familier et sur des thèmes variés, entre deux ou plusieurs personnes.

2. Conversation : étymologie

CONVERSATIO, ONIS, f

• 1 siècle après J.C. PLINIUS (Pline)
  • action de séjourner v. i : demeurer quelque temps dans un lieu
• 1 siècle après J.C. SENECA (Sénèque)
  • fréquentation n. f : action de fréquenter une personne (intimité)
  • usage fréquent de quelque chose n. m : fait d’utiliser, de se servir de

La fréquentation a elle seule sous-tend généralement une personne, cet autre chez qui nous allons, avec lequel nous nous rencontrons avec fréquence ou bien avec qui nous avons une relation qu’elle soit amicale ou sentimentale. Peut-on parler de fréquentations avec ces systèmes parlants ? En tant que relation non. Mais dans l’idée de les utiliser, de s’en servir fréquemment oui si nous conservons conversation, onis dans cette acception (le troisième point). Mais c’est là un autre point que je développerai dans un prochain billet. Chaque chose en son temps. Pour l’heure, parlons de conversation comme un échange de propos entre personnes.

Parler avec une assistance vocale est-ce converser ?

L’assistance vocale est de la famille des agents communément définis comme conversationnels¹. Sur le terrain, nous avons vu pourtant qu’il était difficile voir impossible de converser avec un tel objet. S’il n’est pas question de conversation, quel type de communication mettons-nous en place avec lui ? « Lors d’une conversation, ce à quoi parviennent le locuteur et le destinataire n’est pas tant à une véritable compréhension mutuelle mais bien plus à un accord pratique. Et une petite ambigüité résiduelle est tout à fait normale » (Goffman, 1987). Si le destinataire a un doute sur ce qui vient d’être dit, il sera toujours à temps de demander au locuteur de répéter ou bien il lui posera une question appropriée pour clarifier le propos. Pourtant, il arrive parfois que les personnes engagées dans la conversation se retrouvent prises dans un sentiment de frustration engendré par un manque de compréhension ou plutôt d’entente tacite. Plusieurs manifestations peuvent alors apparaître : parler plus fort ou crier avec l’espoir que ce haussement de ton permettra au destinataire de mieux entendre et de comprendre ; utiliser la négation (de façon plus ou moins répétitive) pour signifier que la personne en face ne comprend pas notre propos ; la volonté de convaincre absolument en insistant sur ceci ou cela, etc. Nous ne sommes pas toujours à l’unisson : il y a parfois des temps de dissonance. De même, lorsque deux personnes se rencontrent pour la première fois, elles doivent passer par une étape d’ajustement. Nous ne nous connaissons pas de fait : il nous faut un temps d’adaptation pour commencer à se cerner l’un et l’autre et ainsi pouvoir communiquer dans le cadre de l’accord pratique, plutôt clair et limpide. Nous finissons par connaître les manies et les façons de dire de l’autre. Les ambiguïtés résiduelles sont de moins en moins nombreuses. Le dialogue trouve petit à petit son rythme de croisière.

En est-il de même entre un humain et une assistance vocale ?

À première vue, il serait aisé de faire un parallèle entre la rencontre avec un autre et la prise en main d’une nouvelle technologie. Il va falloir que le technicien apprivoise cette AV pour l’intégrer à son mode de travail ce qui n’ira pas sans en modifier les processus. Mais de fait, nous n’apprenons pas à connaître l’autre comme nous apprenons à nous servir d’une nouvelle machine. L’objet n’est pas sujet. Il est clair qu’il faudra un temps d’adaptation plus ou moins long selon la sensibilité de chacun pour se sentir à l’aise avec une assistance vocale². Mais être à l’aise avec cet objet n’est pas fréquenter une personne. Certes, ça parle mais les paroles émises ne sont que le résultat d’un programme.

Les phonèmes agencés par concaténation s’articulent ensemble pour donner une réponse déterminée inflexible. Rien à voir donc avec une conversation entre personnes bien pensantes où les échanges sont sinueux, tortueux, acceptent des chevauchements et des ruptures, s’ajustent à l’intervention d’un tiers, peuvent revenir au sujet principal tout en ayant pris les chemins secondaires de la digression. Il n’y a rien de prévisible. « Parler, ce n’est pas livrer une information à un destinataire » (ibid, 1991). En un sens, nous donnons bien plus qu’une information lorsque nous conversons. Nous ne sommes pas dans une relation de simple locuteur/émetteur et destinataire/récepteur. Il se joue autre chose : une façon de se présenter, d’être, d’animer les mots au-delà de l’expression verbale par la gestuelle, les mimiques, etc. Ceci ne peut exister avec une assistance vocale. Même le technicien le plus à l’aise avec cette AV ne pourra atteindre ce degré d’échange qu’est la conversation car il ne peut pas aller au-delà du cadre imposé par le programme informatique. Le technicien énonce sa demande et l’AV énonce une réponse adaptée en référence aux mots-clés décelés grâce au programme. Ce « ping-pong verbal » est entièrement organisé autour de l’objet. Si le technicien ne possède pas les expressions et les mots qu’il peut utiliser avec l’AV, il ne peut pas interagir correctement avec elle. C’est un peu comme vouloir jouer à un jeu de société sans en connaître les règles. Il y a une façon de s’exprimer, des mots-clés à prononcer, un vocabulaire limité. C’est assez déroutant pour le technicien car il se rend compte combien le langage dit naturel en devient artificiel lorsqu’il s’agit de parler avec une machine.

Les accidents du langage

Au cours de ces tests, les répétitions ont été nombreuses tant du côté des participants que de celui de l’AV. Reconnaissant mal les mots (ou pas du tout) et en en faisant une mauvaise interprétation, elle donnait une réponse incongrue ou restait muette ce qui obligeait les participants à répéter leur demande qui, à force, en perdait son sens. Ainsi s’installait un psittacisme mécanique dans lequel plus aucun sens n’était accordé à la phrase autre que de se faire comprendre par l’AV. C’est aussi vrai dans les réponses de validation émises par l’AV lesquelles ne sont absolument pas flexibles. Comme expliqué précédemment, il faut connaître la liste des mots et des phrases préétablie qu’il est possible d’utiliser. Bien qu’il fût question d’enrichir cette liste, elle était assez maigre au moment des tests. « OK » pour valider ou encore « J’ai oublié quoi ? » pour identifier la liste des cases non remplies. Finalement, ces deux types de répétitions rendent la communication insipide : ils la stérilisent. En perdant le signe et le symbole, ne reste que le signal (Labarrière, 1993). Il y a là une ambiguïté apparente dans le langage dit naturel. C’est sur un langage formel que repose la programmation de cette AV : un code informatique. Ce code s’emploie à utiliser des phonèmes prononcés par l’humain. Ce n’est pas parce que l’AV utilise des mots du langage naturel qu’elle est dotée de parole. Et c’est peut-être bien là un point crucial. Il n’est pas question de voix mais bien d’un artifice de voix puisque préenregistrée. Aucune intention ne pénètre les phrases diffusées par l’AV. « La voix, en effet est un son exprimant quelque chose » (Aristote, 420b, paragraphe 9). Ce n’est qu’une composition de sons laquelle fera sens pour l’utilisateur car étant capable de symbolisation mais n’est rien pour la machine qui ne fait que jouer un programme. Se répéter de la sorte au point que les mots s’épuisent au point de perdre leur sens, n’est pas du ressort du langage.

À cela s’ajoute une dimension écholalique. Il est important pour les techniciens d’avoir le retour de l’AV pour confirmer que ce qui a été communiqué a été correctement pris en compte dans le remplissage de la fiche de maintenance³. Cette validation crée un étrange échange écholalique qui lui non plus n’est pas de l’ordre d’une banale conversation. Bien sûr, il nous arrive parfois de répéter une phrase ou une partie tel un perroquet par jeu et plaisanterie. Mais jamais nous ne répétons chaque phrase de notre interlocuteur pour valider le fait que nous l’avons bien compris⁴. La réponse que nous formulons en retour suffit à faire naître l’accord pratique de compréhension mutuelle. L’interaction avec l’AV est somme toute rigide et sans autre intérêt que de communiquer une information puis de la valider. Notons ici que cette façon de procéder s’inspire de certains métiers dont la validation repose sur la répétition. C’est une interaction verbale spécifique dans un cadre donné. C’est le cas au sein du cockpit lorsque le personnel navigant technique procède à la vérification de la check-list avant d’autoriser ou de refuser le décollage. L’un énonce l’intitulé, l’autre répond en reprenant ce même intitulé pour le valider ou non. En cas de doute, les deux protagonistes peuvent entrer dans un échange verbal plus poussé. Ce n’est pas le cas avec l’AV étudiée. Il arrive parfois que le retour de validation donné par l’AV pour lever toutes ambiguïtés en crée paradoxalement plus encore : parce qu’elle valide soudainement une toute autre action mais surtout parce qu’elle revient valider plusieurs fois et de la même façon une même case de la fiche provoquant alors chez le participant un doute soudain qui vient remettre en cause l’ensemble du processus. Toutes ces répétitions humaines comme machinales finissent par faire perdre son latin : l’utilisateur se sent perdu dans l’incapacité de pouvoir sortir de l’ambiguïté où cet échange écholalique l’a plongé. Ces échos mettent en évidence que la machine ne peut reproduire que des sons préenregistrés dans un agencement établi par le programme. Et parce que le technicien en vient lui aussi à prononcer des phrases écho, le vide s’amplifie vertigineusement (Milon, 1999). Comme constaté, les ruptures dans l’énoncé sont particulièrement mal interprétées par l’AV : les faux départs, les hésitations, les discours phatiques comme expressifs sont tout autant d’éléments perturbateurs qui viennent casser le rythme binaire du va-et-vient d’informations. Ces accidents langagiers apportent une certaine couleur à la conversation entre quidams, accidents sur lesquels il est possible de rebondir soit dans un trait d’humour ou par quelques excuses. Dans un échange avec l’AV, rien ne peut se vivre dans la rupture autre qu’un silence ou qu’une réponse inadéquate donnée par une mauvaise interprétation de l’information reçue. Cette erreur explicite devrait confirmer qu’il s’agit bien là d’une machine. C’est pourtant paradoxalement dans cette rupture particulière qu’est l’erreur informatique d’interprétation que le technicien projette une certaine humanité dans la machine en s’énervant après elle notamment en haussant le ton ou en la tutoyant (Von Neumann, 1996).

La vicariance

Les participants ont manifesté, chacun à leur façon (le tutoiement, l’adresse, l’invective) l’envie d’amener cette interaction avec l’AV au rang de conversation. Mais il ne peut y avoir de conversation avec elle : seul prime le simple échange d’informations. Pourtant, tous cherchaient cette communication typique qu’est la conversation par suppléance (Berthoz 2013). Dès que l’objet parle, dès qu’il donne le change, il donne l’illusion d’une conversation nous amenant à substituer à la machine un « sujet absent » comme c’est le cas au téléphone avec celui qui se trouve à l’autre bout du fil. Phénomène étrange, c’est dans l’erreur que les participants ont le plus manifesté un rapport anthropomorphique avec l’AV alors que nous aurions pu croire qu’il n’en serait rien puisque la panne aurait révélé la supercherie et relégué cette machine à son statut d’objet. Ainsi, l’erreur vient renforcer le phénomène de vicariance. Ils ont projeté dans cette voix machinique la présence de quelqu’un comme nous sommes capables de matérialiser un autre être (connu ou inconnu) au bout du fil. Mais l’absence de l’autre peut aussi créer un vide de compréhension qui ne peut se combler que par la présence notamment grâce au regard, au risque de rester frustré. De même avec l’AV, surgit cette frustration de ne pas être compris (réponse incongrue) ou même d’être interrompu (chevauchement de voix). C’est alors leur pratique langagière du quotidien (tutoiement, haussement de ton, expression personnelle, etc.) que les participants projettent toute entière dans l’interaction avec l’AV. Ils comblent les lacunes de l’objet pour élever un simple échange d’informations au rang de conversation sans jamais y parvenir vraiment. À leur propre détriment, ils contribuent aux sentiments de frustration et de déception qui dépassent l’agacement à se répéter : celui de parler dans le vide ou à un mur. Sortir d’une conversation où nous n’avons pas été entendu, écouté ou compris provoque un trouble émotionnel généralement ressenti comme négatif. Par vicariance, les participants ont placé une conversation là où il n’y en avait pas. Ceci est un avantage quant à l’aisance qu’il peut y avoir à parler à une machine. Mais dans le même mouvement, cette capacité de substitution réveille les mêmes sentiments vécus dans un dialogue de sourd, sentiments d’autant plus décuplés que nous nous sommes énervés contre une machine, pris dans un « piège anthropomorphique » (Vidal, 2012).

Malgré les vaines tentatives de suppléer à l’insuffisance de la communication réduite à sa plus simple essence, il n’y a pas de conversation avec une assistance vocale. Pourtant, l’objet parce qu’il prononce des mots sur lesquels nous pouvons mettre un sens (aussi minime soit-il), éveille en nous cette possible rencontre de l’autre par cette voix qui n’est pas nôtre, par l’altérité de la parole qui prend forme dans la conversation. Les assistances vocales pourraient bien agir comme des miroirs aux alouettes. Leur voix pourrait bien n’être qu’un jeu de dupes. La fausseté réside peut-être dans cette ambiguïté. Elle peut donner l’impression d’une humanité grâce à la voix qui s’en échappe. C’est un objet double et duplice, révélant une illusion d’altérité entre le vivant et le non-vivant (Beaune, 1980).

A suivre

PS : les références indiquées dans cet article sont à retrouver dans la bibliographie anthropobotique.

1. Je reviendrai dans un prochain billet sur les mots et expressions choisies pour définir ces systèmes parlants. [↩]
2. Pour certaines personnes, ce ne sera jamais le cas. [↩]
3. Pour être bien sûr qu’aucune erreur ne s’est glissée dans la fiche au cours du remplissage, ils ont demandé à pouvoir la vérifier par eux-mêmes à la fin du processus. [↩]
4. Abstraction faite de troubles psychiatriques ou neurologiques et de certaines professions qui demandent de répéter ce qui vient d’être dit pour confirmer que la donnée a été prise en compte ou est correcte. [↩]

---

---