Nous arrivons à la fin du voyage. Ce texte vient clore un travail de recherche mené pendant un an et demi via mon post-doctorat et mon diplôme universitaire en éthique et numérique. Mais est-ce vraiment la fin ? C’est plutôt une étape sur le long chemin de ma réflexion qui n’en finit plus¹ autour de ces objets et systèmes numériques. Quels sujets vais-je aborder par la suite ? J’ai le choix : les IA génératives, le pipe show 4.0², les objets du ravissement³, etc. J’assiste à une prolifération pour ne pas dire un déferlement du numérique dans nos sociétés et cela ne sera pas sans conséquence : des changements ont déjà eu lieu et d’autres sont à venir et c’est pour cela qu’il me semble essentiel de s’emparer de cet objet de recherche dès maintenant. En attendant, je vous laisse à la lecture de ce dernier billet sur La voix sans visage.

Représentation et illusion

La voix est propice à bien des fantasmes. La voix, c’est le chant ensorceleur des sirènes ; c’est  l’érotisme au bout du fil ; c’est la propagande insidieuse qui se répète inlassablement. Le chant des sirènes qui envoûtent les navigateurs pour mieux les dévorer ; la voix sensuelle du téléphone rose qui susurre à l’oreille de l’appelant les mots les plus doux, les plus crus et titillent tous ses fantasmes sexuels ; la voix de Big Brother qui sort du télécran dans 1984 de George Orwell pour distiller quotidiennement le discours dogmatique du ministère de la Vérité. Partout, la voix ! La voix comme un sortilège, la voix comme un enchantement, la voix comme un outil de manipulation des foules. La voix comme une emprise, la voix outil du contrôle et du pouvoir… Car la voix dit des choses, elle articule les sons et souffle les mots, elle prononce des paroles dont nous savons de par les siècles qu’elles peuvent être formules magiques. Le langage est porté par la voix dans un souffle.

Mais à qui sont ces voix ? Etranges créatures chimériques, femmes archétypales, êtres anonymes, avatars numériques, etc. Ce qui fait lien avec cet autre se situe dans la voix, dans les paroles qu’elle prononce, dans sa tonalité, dans ses intonations, dans ses silences. Tout ce que nous pouvons idéaliser et fantasmer dans une voix n’est que limite de notre imagination. La voix sans corps est propice à toutes les représentations et ouvre la porte sur tous les fantasmes. Et c’est peut-être là, dans ce moment de bascule, quand l’esprit s’ouvre grand pour laisser libre court à toutes les fantaisies qu’il devient vulnérable. Il est alors possible de profiter de cet accès pour charmer et asseoir son emprise. La manipulation d’autrui par le langage recèle bien des façons de faire : gaslighting (détournement cognitif) ; injonction contradictoire ; paradoxe ; double contrainte ; mensonge, etc. Et ce qui se révèle derrière tous ces outils langagiers servent souvent à obtenir ses fins et plus souvent encore à asseoir son pouvoir sur autrui. Fort heureusement cela n’a pas toujours de prise. Mais la voix qui porte cela, cette voix qui s’engage dans les chemins de notre être par nos oreilles, qui est-elle ? Et pourquoi cherche-t-elle à s’infiltrer en nous de la sorte ? 

Il convient de prendre garde à tous ces appareils causants qui communiquent souvent mais pourquoi en fait ? Pour donner une information. Uniquement ?  Ils émettent une voix, oui, mais c’est un artifice de voix. Nous repenserons ici aux phrases d’André Leroi-Gourhan dans Le geste et la parole. Derrière tous ces objets numériques, derrière les robots, derrière les dialogueurs se trouvent des concepteurs et des programmeurs, des informaticiens et des designers (1965). Ils ne sont pas cette voix qui vient à nous mais par cette voix artificielle, ils nous transmettent d’eux-mêmes. Ils informent, consciemment ou non, de leurs intentions. Ces voix ne s’incarnent pas seules : elles sont créées par des techniciens qui y laissent une trace. De plus, l’intelligence artificielle (IA) qui sous tend toute l’élaboration de ces dialogueurs, est un véritable enjeu politique et bien sûr marchand. Le pouvoir saura faire entendre sa voix grâce à toutes ces machines parlantes qui seront un jour peut-être aussi nombreuses que les humains. Pour illustrer tout l’enjeu du pouvoir qui s’exprime par et dans la voix, nous prendrons l’exemple significatif du système Watson créé par IBM. Watson donnait des informations abruptes aux médecins. Ces derniers vivaient très mal cette situation, ne se sentant pas respectés dans leur titre et leur fonction de docteurs en médecine. David McQueeney a reprogrammé Watson en lui conférant une « humilité  simulée ». Par l’emploi du conditionnel et de formules de politesse, les médecins ont retrouvé ce sentiment de respect dû à leur rang et ont accepté de travailler avec ce nouvel outil (Isaacson, 2015). Un Watson obséquieux est préféré à un Watson purement informatif. La forme du message est plus importante que le message lui-même. Et dans le fond, le Watson ainsi modifié révèle une certaine propension à l’orgueil. Prenons garde à ne pas faire de ces machines les renards flatteurs des corbeaux vaniteux (Tisseron, 2015) ! Ces dialogueurs pourraient bien agir comme des miroirs aux alouettes. Cette voix flatteuse et servile pourrait bien n’être qu’un jeu de dupes.

Duplicité et duperie 

La fausseté du dialogueur réside peut-être dans son ambiguïté. Il  peut donner l’impression d’une humanité de part la voix qui s’en échappe. Il est double et duplice, révélant une altérité dans l’illusion du vivant et du non-vivant (Beaune, 1980). 

« Au commencement était la Parole, et la Parole était avec Dieu, et la Parole était Dieu » (Jean 1:1). Et la parole est une voix. Une voix qui s’entend, une voix qui incarne tout autant le visible que l’invisible. Dieu est invisible : « Le verbe c’est le son » (Levinas, 2009). Le temps est invisible mais le « son est un éclat » écrit E. Levinas. « Il est essentiellement ce qui remplit le temps » (2009). Le son remplit le temps invisible en faisant vibrer l’espace et en ce sens, il le rend visible par l’ouïe. La voix est une empreinte propre à chacun. Elle a sa sonorité unique. Aucun ne saurait dire quelle sonorité a la voix de Dieu mais elle porte une Parole. Cette voix inaudible révèle pourtant l’invisible : Dieu, l’Eternel, le Divin. En l’absence physique de cette autre personne, sa voix portée par une technologie (téléphone, enregistrement, etc.) vient remplir l’invisible de sa présence. Elle n’est pas là et pourtant sa voix l’incarne toute entière. La voix est dans un rapport profond d’altérité dans un va-et-vient de soi au distinct et du distinct à soi. Elle harmonise ou désaccorde. 

Nombreux sont les concepteurs qui veulent donner un « supplément d’âme » à leur assistance vocale. Cette ruse vise à les rendre plus acceptables (et plus vendables) en leur conférant des qualités humaines : l’assistance vocale étudiée serait par exemple comme un collègue de travail. Mais ce collègue de travail ira-t-il prendre un café et cancaner sur les supérieurs hiérarchiques (Jeanjean,   2004 ) ? Est-il si facile de duper les gens ? Il semblerait que certaines personnes soient plus aisément manipulables comme les enfants qui ont tendance à accorder plus spontanément leur confiance à une machine qu’à un humain (Tisseron, 2020). Mais avec des adultes, cela sera-t-il aussi facile ? La technologie actuelle qui supporte le langage naturel des assistances vocales est loin d’être parfaite. Il y a quelques ratés qui viennent rappeler qu’il s’agit là d’une machine. Mais qu’en sera-t-il lorsque cette technologie exploitera pleinement ses fonctionnalités ?⁴

Si la voix nous « montre l’invisible » d’autrui, de quel autrui sera-t-il question ? Quel invisible sera révélé (Richter, 2014) ? Dieu ? Le temps ? Un humain ? Toi, elle, lui, vous ou peut-être moi ? De qui, de quoi cette voix sera-t-elle l’incarnation ? Une incarnation ou une représentation ? Qui pourra discerner la voix du vivant de la voix du non-vivant, la voix de l’existant de la voix de l’inexistant ? Si la voix est le comble de la présence d’un être sensible, quels rapports vont se tisser entre l’assistance vocale et son utilisateur ? Où est le souffle dans la machine ? Car c’est porté par le souffle que la voix s’incarne. « C’est le souffle de l’âme humaine qui se fait ultimement percevoir » (Guillot, 2001). La voix qui chante, la voix qui parle, la voix qui murmure et chuchote, c’est l’Être qui s’annonce. C’est l’ouverture à la rencontre : c’est une introduction, une présentation. De quel Être est-il question dans l’assistance vocale ? Cette voix que nous écoutons nous parle de quoi, de qui et surtout, qui fait parler cette voix, qui l’a programmée ? L’intelligence artificielle forte n’étant pas encore d’actualité, c’est bien une personne qui décide de sa programmation. Pour lui faire dire quoi ? Et sur quel ton ? A qui cette voix est-elle destinée ? Et dans quel but ?

L’une des duperies serait de donner un sentiment de présence. Ainsi toute personnes isolée, seule, en proie à la solitude pourrait alors s’illusionner d’avoir trouvé un compagnon avec qui communiquer, aussi artificiel soit-il. Une autre tromperie consisterait à promettre des conditions de travail révolutionnaires quant en réalité cela permettrait d’embaucher de la main d’œuvre moins qualifiée qui serait payée une misère. Équipé de son assistance vocale, le technicien pourra réaliser toutes les tâches pas à pas sans même avoir eu de formation. L’assistance vocale lui indiquera les actions à réaliser, même les plus basiques, comme le bouton sur lequel il convient d’appuyer pour mettre la machine sous tension. 

Est-ce que la voix dans la machine suffira à faire l’esprit dans la coquille ? Si la voix révèle l’invisible, espérons que celle de ces machines parlantes ne s’occupera pas uniquement d’incarner et de remplir le vide. 

Retrouvez toutes les références dans la bibliothèque anthropobotique.

A suivre

1. Je vous jure que des fois ça en devient étourdissant. Heureusement, il y a le jardinage, le piano et la popote pour décompresser ! [↩]
2. 4.0 est sûrement déjà dépassé. [↩]
3. Je sens que ça éveille ta curiosité. [↩]
4. Pour rappel, cette étude a été réalisée avant l’arrivée des Transformers sur le marché. Ceci dit, les IA génératives “hallucinent”. Je ne suis pas d’accord avec ce verbe qui est du registre de la psychopathologie. Je dirai que le programme leur fait donner une réponse “quoiqu’il en coûte”. Qu’importe la qualité et la quantité des données ! Il faut donner une réponse et tant pis si elle est fausse. Si parfois la réponse est grossière au point de pouvoir parler d’aberration, d’autres fois, le mensonge est réussi. L’information fournie est suffisamment crédible pour être perçue comme vraie. [↩]

---

---