Ressources numériques en sciences humaines et sociales OpenEdition Nos plateformes OpenEdition Books OpenEdition Journals Hypothèses Calenda Bibliothèques OpenEdition Freemium Suivez-nous

[Anthropobotic] Moraliser les machines communicantes – Ma contribution

Carlo Andrea Tassinari, Sara De Martino et Yann Ferguson ont publié dans le n°39 de la revue Communiquer : Moraliser les machines communicantes. Des barricades morales à l’éthique située : trois cas d’usage de l’IA en milieu professionnel”. Leur article présente une étude comparative entre trois cas d’usage de dialogueurs. Et le résultat est pertinent.

Une partie de leur article – Sphynx, l’anthropomorphisme comme acte de résistance – repose sur mon travail ethnographique réalisé autour d’une assistance vocale et ce pendant mon post-doctorat à l’Icam site de Toulouse. Nous étions collègues à ce moment-là et je me souviens encore de nos conversations sur leur projet Icentra. Je suis ravie de constater que mon travail ethnographique leur a permis de développer une analyse sans trahir ma pensée sur le sujet que vous pouvez aussi retrouver dans l’article “Ce que la machine parlante veut dire”.

Pour réagir aux modes d’interaction imposés par l’interface vocale, et refaçonner ainsi l’environnement sonore du travail en le rendant plus accueillant, les usagers et usagères ont alors commencé à adopter des comportements verbaux visant à anthropomorphiser la machine : tutoiement, insultes, remerciements, etc. Cette capacité vicariante à ériger une machine parlante au même niveau qu’une personne crée une conversation là où il n’y en a pas. Ceci est un avantage quant à l’aisance qu’il peut y avoir à parler à une assistance vocale. Mais, dans le même mouvement, cette capacité de substitution réveille les mêmes sentiments vécus dans un dialogue de sourds, sentiments d’autant plus décuplés qu’ils se sont énervés contre une machine, pris dans un « piège anthropomorphique » (Vidal, 2012).

Je me réjouis quand un travail de terrain est valorisé par une publication. Bravo à vous trois !

[Ep.10] La voix sans visage

Nous arrivons à la fin du voyage. Ce texte vient clore un travail de recherche mené pendant un an et demi via mon post-doctorat et mon diplôme universitaire en éthique et numérique. Mais est-ce vraiment la fin ? C’est plutôt une étape sur le long chemin de ma réflexion qui n’en finit plus1 autour de ces objets et systèmes numériques. Quels sujets vais-je aborder par la suite ? J’ai le choix : les IA génératives, le pipe show 4.02, les objets du ravissement3, etc. J’assiste à une prolifération pour ne pas dire un déferlement du numérique dans nos sociétés et cela ne sera pas sans conséquence : des changements ont déjà eu lieu et d’autres sont à venir et c’est pour cela qu’il me semble essentiel de s’emparer de cet objet de recherche dès maintenant. En attendant, je vous laisse à la lecture de ce dernier billet sur La voix sans visage.

Représentation et illusion

La voix est propice à bien des fantasmes. La voix, c’est le chant ensorceleur des sirènes ; c’est  l’érotisme au bout du fil ; c’est la propagande insidieuse qui se répète inlassablement. Le chant des sirènes qui envoûtent les navigateurs pour mieux les dévorer ; la voix sensuelle du téléphone rose qui susurre à l’oreille de l’appelant les mots les plus doux, les plus crus et titillent tous ses fantasmes sexuels ; la voix de Big Brother qui sort du télécran dans 1984 de George Orwell pour distiller quotidiennement le discours dogmatique du ministère de la Vérité. Partout, la voix ! La voix comme un sortilège, la voix comme un enchantement, la voix comme un outil de manipulation des foules. La voix comme une emprise, la voix outil du contrôle et du pouvoir… Car la voix dit des choses, elle articule les sons et souffle les mots, elle prononce des paroles dont nous savons de par les siècles qu’elles peuvent être formules magiques. Le langage est porté par la voix dans un souffle.

Mais à qui sont ces voix ? Etranges créatures chimériques, femmes archétypales, êtres anonymes, avatars numériques, etc. Ce qui fait lien avec cet autre se situe dans la voix, dans les paroles qu’elle prononce, dans sa tonalité, dans ses intonations, dans ses silences. Tout ce que nous pouvons idéaliser et fantasmer dans une voix n’est que limite de notre imagination. La voix sans corps est propice à toutes les représentations et ouvre la porte sur tous les fantasmes. Et c’est peut-être là, dans ce moment de bascule, quand l’esprit s’ouvre grand pour laisser libre court à toutes les fantaisies qu’il devient vulnérable. Il est alors possible de profiter de cet accès pour charmer et asseoir son emprise. La manipulation d’autrui par le langage recèle bien des façons de faire : gaslighting (détournement cognitif) ; injonction contradictoire ; paradoxe ; double contrainte ; mensonge, etc. Et ce qui se révèle derrière tous ces outils langagiers servent souvent à obtenir ses fins et plus souvent encore à asseoir son pouvoir sur autrui. Fort heureusement cela n’a pas toujours de prise. Mais la voix qui porte cela, cette voix qui s’engage dans les chemins de notre être par nos oreilles, qui est-elle ? Et pourquoi cherche-t-elle à s’infiltrer en nous de la sorte ?  Continuer la lecture de [Ep.10] La voix sans visage

  1. Je vous jure que des fois ça en devient étourdissant. Heureusement, il y a le jardinage, le piano et la popote pour décompresser ! []
  2. 4.0 est sûrement déjà dépassé. []
  3. Je sens que ça éveille ta curiosité. []

[Ep.9] La voix sans visage

Donner le change

Je vous présente deux types de systèmes parlants, deux modèles extrêmes nous en conviendrons. Avec eux, aucun doute sur l’impossibilité à converser. L’un est une commande, qui dicte des consignes sommaires. L’autre est un enregistrement qui se déclenche automatiquement à l’appel des arnaques téléphoniques1. La voix n’est pas neutre et ne sera jamais neutre car porteuse de paroles et représentation de quelque chose à défaut de quelqu’un. 

“Hello, it’s Lenny !”, leurre conversationnel

« Hello it’s Lenny! » Lenny est un agent conversationnel élémentaire laissé en libre accès pour qui souhaite l’utiliser. Des centaines de personnes en ont fait usage pour intercepter les appels téléphoniques de démarcheurs (télémarketing comme fraude). Il ne contient ni reconnaissance vocale, ni intelligence artificielle pour adapter ses réponses et pourtant les démarcheurs se laissent prendre au piège tant l’illusion de conversation semble parfaite. Continuer la lecture de [Ep.9] La voix sans visage

  1. Je me demande s’il existe une version française pour les 05 68 et les 09 48. Sinon, vous pouvez toujours suivre @souscote0 sur Instagram. []

[Ep.8] La voix sans visage

Je suis la voix

L’expression « entendre des voix » ne peut plus être uniquement comprise comme synonyme d’hallucinations auditives tant la voix est devenue quasiment omniprésente au quotidien : les dialogueurs comme les enceintes connectées ou les assistants personnels intégrés aux smartphones ; annonces dans les transports en commun et aussi à certains guichets, distributeurs ou autres caisses automatiques ; mais aussi podcasts, émissions radiophoniques, téléphonie, télévision, et tout autre système médiatique de transmission. Nous sommes passés du  “monde des voix évanescentes pour les Anciens” au monde des voix persistantes (Bouton-Touboulic, 2020). Les voix sont partout, multiples et différentes : tour à tour féminines ou masculines, proposant les charmes des accents régionaux, s’exprimant aussi en langues étrangères. Certaines voix sont envisageables. Elles appartiennent à quelqu’un que nous sommes tout à fait à même d’identifier : un proche ou une personne médiatique ; ami, parent, collègue ou encore acteur, chanteuse, présentateur. Nous pouvons poser un visage sur ces voix. Nous savons qui parle et nous pouvons l’identifier. Continuer la lecture de [Ep.8] La voix sans visage

[Ep.7] La voix sans visage

Agent conversationnel, agent dialoguant, dialogueur ?

L’expression  « agent conversationnel » me semble inadaptée pour définir ces systèmes parlants car comme vu dans un précédent billet, il n’y pas de conversation entre une personne et une machine. Nous pouvons évidemment parler de communication : « action de communiquer quelque chose à quelqu’un ». Il serait alors plus juste de définir ces outils comme des agents communicationnels (Patrin-Leclère, 2011). Par exemple, la première fonction de l’assistance vocale (AV) étudiée était bien de transmettre un renseignement à une question posée. 

Transmission, subst. fém. 
I.
A. – Action de transmettre, de faire passer quelque chose à quelqu’un; résultat de cette action.

Renseignement, subst. masc.
A. – Indication fournissant à quelqu’un les éléments de connaissance qu’il désire posséder sur une personne ou sur une chose. Continuer la lecture de [Ep.7] La voix sans visage

[Intermède] La voix sans visage

Le soleil d’août invite à la paresse. Les boutiquiers sont en congés. Les volets sont fermés. Nous avons encore quelques jours pour profiter de ce temps en creux : l’heure de la sieste. C’est encore l’été. 

Pause estivale, pause musicale

Pour ne pas perdre le fil de cette série de billets, je vous propose un intermède musical avec cette chanson de Jil Caplan, mélange de voix, de rumba et de rêverie.
 

Continuer la lecture de [Intermède] La voix sans visage