Lors de sa conférence annuelle Objet : Mars 2022 Amazon a annoncé qu'Alexa pourra bientôt nous parler en imitant la voix de personnes réelles, grâce à l'intelligence artificielle.
C'était Rohit Prasad, directeur scientifique du projet Alexa Intelligence artificielle, lors de son discours d'ouverture déclarant que grâce à une nouvelle fonctionnalité, l'enceinte intelligente d'Amazon permettra aux utilisateurs de transformer les relations personnelles en quelque chose de "permanent" ("relations personnelles durables").
Si quelqu'un n'était pas clair à quoi Prasad faisait référence, une image d'un petit garçon qui s'est tournée vers Alexa lui a demandé sur grand écran et lui a demandé: "Grand-mère peut finir de lire 'Le Magicien d'Oz'?". Alexa répond rapidement "Ok !" et à partir de ce moment, la voix d'une femme âgée se fait entendre venant de l'appareil alors qu'elle commence à lire le conte de fées de Frank Baum à l'enfant.
"La grand-mère présente dans ce scénario n'est plus parmi nous", Tony Dokoupil, journaliste de CBS News, condamnera algide commentant Présentation de Prasad.
Déjà en juillet 2017 un service édité par WIRED avait fait sensation, toujours disponible aujourd'hui sur YouTube, où une interview vidéo raconte l'histoire du technicien informatique qui "a transformé son père mourant en IA".
Lorsque James Vlahos s'est rendu compte que son père était en train de mourir d'une maladie incurable, il a décidé de sauvegarder les souvenirs de son père dans une longue liste de fichiers audio et texte, puis de les placer sur son smartphone.
Mais ce n'était que le début : grâce à un algorithme d'intelligence artificielle, James a permis à son téléphone de répondre aux questions en renvoyant l'audio et les textes les plus pertinents de son père, générant très probablement une conversation entre les deux. Dans les intentions de James, l'algorithme aurait rendu possible le dialogue avec son père même après sa mort, et c'était le cas.
Mais l'interview prend une tournure étrange à la fin. Quand James demande à son défunt père "M'aimes-tu?" la réponse semble un peu évasive : « Wow ! Tu m'as tellement manqué! De quoi voulons-nous parler ?".
Et c'est alors que James se lance dans une profonde réflexion sur ce qui s'est passé : "J'ai été déçu par la réticence de mon père à me dire qu'il m'aime.", dit James avec douleur. « Un père est censé connaître les réponses à des questions comme celle-ci, mais ce n'est pas le cas. Je veux dire, je voulais l'entendre le dire."
Et c'est là que la situation se complique.
L'expérience de James est devenue une entreprise, une organisation à but non lucratif qui promet aux gens de se connecter avec leur défunt grâce à l'IA. Un service payant avec lequel n'importe qui peut redonner vie à un être cher en transférant ses souvenirs sur une application.
Mais si l'on considère les implications psychologiques profondes du contact avec un proche décédé, on ne peut exclure que ce service puisse entraîner de nouveaux bouleversements sociaux imprévisibles. Par exemple, sommes-nous prêts à vivre dans une société de personnes qui, plutôt que de faire le deuil, comptent sur un service payant pour rester ancrées à des expériences de vie plus heureuses comme en boucle ? Si aujourd'hui notre mémoire traite les souvenirs douloureux dans une perspective d'autoprotection, qu'en sera-t-il demain quand en les manipulant nous pourrons les transformer en quelque chose qui n'est jamais douloureux et toujours artificiellement heureux ?
Amazon ne promeut pas le progrès scientifique, il cherche aussi de nouveaux espaces où placer les produits et les cherche là où personne n'avait osé auparavant.
Les technologies avec lesquelles Alexa reproduira les voix et les tonalités de personnes réelles sont des algorithmes connus depuis un certain temps. On pourrait dire : rien de nouveau sous le soleil. C'est leur application qui s'annonce destructrice, une provocation qui atteint les limites de l'éthique contemporaine.
Avec Alexa, Amazon semble vouloir construire autour de chaque utilisateur un véritable métaverse de souvenirs peuplé de personnes aimées et perdues. Un lieu de soulagement où nous pourrions tous choisir de ne pas dire au revoir au passé, pouvant choisir de le revivre à l'infini grâce à un logiciel.
Que se passerait-il si James Vlahos, frustré par l'incapacité de son père (décédé) à lui témoigner son affection, décidait un jour de "corriger", en modifiant quelques lignes de code, cet aspect de son personnage en plus du père qu'il voulait ?
De plus, qui va empêcher les utilisateurs d'Alexa de demander à l'enceinte intelligente de jouer le rôle d'une personne parfaitement vivante pour nous, nourrissant une nouvelle forme de fétichisme numérique dont nous n'en ressentions pas encore le besoin ?
Essayons d'imaginer un amant déçu qui transforme Alexa en l'objet de son amour, sans oublier de corriger son personnage pour le plier à ses propres besoins affectifs et humoristiques. Serait-ce une manière de dévaloriser les relations humaines et de plonger la vie des sujets les plus fragiles dans de nouvelles formes d'affection, détachées de la réalité et ancrées sur des outils technologiques dirigés par des sociétés de services multinationales ?
L'objectif d'Amazon est de créer des outils qui attirent l'attention des gens et les engagent de plus en plus dans des activités en ligne. L'implication des utilisateurs concerne déjà de nombreux domaines de la vie privée et c'est l'intention d'Amazon d'aller en occuper de nouveaux, impliquant la sphère sentimentale, si nécessaire, comme dans une guerre d'occupation où le terrain de conquête est dans l'intimité de chacun d'entre nous.
Mais si l'exploitation des sentiments et de la douleur est la nouvelle frontière, les implications éthiques de ce comportement doivent être sérieusement prises en compte : le champ ne doit pas être laissé libre à ceux qui entendent exploiter les nouvelles technologies pour créer de nouvelles formes d'implication qui deviennent des formes de manipulation.
Voulons-nous peut-être transformer les nouvelles générations en foules de sujets sentimentalement nourris par la technologie et incapables d'évoluer naturellement dans leur propre expérience de vie ?
Article par Gianfranco Fedele
Développer la motricité fine grâce au coloriage prépare les enfants à des compétences plus complexes comme l’écriture. Colorier…
Le secteur naval est une véritable puissance économique mondiale, qui a navigué vers un marché de 150 milliards...
Lundi dernier, le Financial Times a annoncé un accord avec OpenAI. FT autorise son journalisme de classe mondiale…
Des millions de personnes paient pour des services de streaming en payant des frais d’abonnement mensuels. Il est communément admis que vous…
