Identificarsi non è un principio etico ma uno sporco trucco!

Da quando ho iniziato a lavorare al progetto Laila, un ecosistema di Intelligenze Artificiali a supporto di un agente conversazionale dedicato alle imprese, ho imparato che le AI offrono opportunità di sviluppo e innovazione immense, ma la maggior parte delle aziende che dichiarano di farne uso purtroppo stanno mettendo in pratica una mera strategia di marketing.

Il video virale di Google Duplex

Appena presentato al mondo, Google Duplex si è subito imposto all’attenzione del web. Presentato durante i Google IO 2018, questa tecnologia basata su Intelligenze Artificiali riesce ad impersonare un essere umano intento, per conto del suo utente, a prenotare una seduta dal parrucchiere ed un tavolo al ristorante sostenendo, con entrambi gli esercizi commerciali, una conversazione telefonica piuttosto fluida.

La demo in video appare reale anche se per molti è un fake. Di sicuro le conversazioni, che appaiono abbastanza complesse, se non sono state montate ad arte sono sicuramente il risultato di molti tentativi ed un po’ di fortuna: su due telefonate andate a buon fine non sappiamo in quante altre Google Duplex può aver fallito miseramente.

L’effetto sortito dalla presentazione mi riporta alla mente il gran parlare che fece Amazon quando nel lontano 2013, con un video su Youtube, presentò al mondo Amazon Prime Air, l’innovativo sistema di consegne basato su droni; questo sistema rivoluzionario, a distanza di anni, è ancora in fase sperimentale e noi comuni mortali ci siamo abituati all’idea che “tutte” queste fantascientifiche trovate siano in fin dei conti solo un modo nuovo di realizzare video virali.

Quello che mi ha colpito di Google Duplex è il teatrino montato attorno ad una presunta questione etica già sollevata a poche ore dalla pubblicazione del video e subito rilanciata dalle più importanti testate giornalistiche online. Insomma, secondo alcuni: le AI che simulano il comportamento umano presentano un problema etico se mascherano la propria natura e si fingono umane.

Istantanea la risposta di Google: “Duplex sarà immediatamente identificabile al suo interlocutore”.

Facciamo un salto indietro

Google da sempre ci ha abituati a adoperare le sue tecnologie non rivelando mai come sono fatte e come funzionano. Il suo motore di ricerca è rappresentativo di questa filosofia: l’algoritmo che lo sottende è un segreto industriale dal valore inestimabile, nessuno si reputa in grado di svelarne i segreti. E proprio per la sua natura insondabile, ci siamo abituati a non mettere in discussione la sua efficacia, reale o presunta che sia. Noi lo usiamo e basta.

Poco importa se passando da una pagina all’altra di una ricerca il numero dei risultati cambia; oppure se qualcosa emerge dalle nostre ricerche che mai avremmo pensato di associare al nostro intento.

Eppure, questi piccoli fallimenti appaiono ai nostri occhi come semplici imperfezioni, piccoli difetti di un sistema talmente sofisticato che talvolta ci viene il dubbio che fosse Google ad avere ragione e noi torto.

Prendiamo ad esempio il Google Search Suggest, il sistema di auto-completamento con cui Google ci suggerisce cosa cercare nel mentre che stiamo scrivendo. Questo sistema, che per me solleva molti più problemi etici di Google Duplex, appare utile ed intelligente, eppure dietro questa sua efficacia nasconde un trucchetto da veri hacker: il motore di ricerca di Google lavora su “keyword”, gruppi di parole che rappresentano gli intenti di ricerca dei suoi utenti. Ogni nuova keyword è espressione di una esigenza e richiede delle elaborazioni specifiche perché Google sia in grado di rispondere in maniera adeguata. Google ha una potenza di calcolo immensamente grande, eppure ad oggi immaginare di organizzare i risultati del suo motore in funzione di “qualsiasi possibile combinazione di parole” è impraticabile.

Google Search Suggest solleva molti più problemi etici di Google Duplex.

Per questo motivo, Google dedica attenzione solo alle parole chiave che sono state espresse un numero sufficiente di volte da costituire un’esigenza diffusa. Per tutto il resto, improvvisa: parole simili, analogie con altre keyword, identificazione di testi casuali sono i sistemi applicati per venire a capo di quelle situazioni che appaiono altrimenti senza via d’uscita.

Il numero dei risultati, come quello delle pagine, cambia spostando in avanti la pagina di ricerca e mai si riesce ad ispezionare i risultati oltre una certa pagina: sia chiaro, i risultati che sono in pagina 30 non servono a nessuno, ma perché sostenere che la keyword “steli stampati” ha 160 mila risultati se se ne possono visionare meno di 300?

Google Search Suggest è il modo in cui Google prova ad “anticiparci”: suggerendo intenti di ricerca a lui già noti, Google prova a guidarci verso una ricerca alla quale è in grado di rispondere senza trucchi: convincendo l’utente ad utilizzare una chiave di ricerca tra quelle che ha in pancia, Google non solo restituisce un risultato utile ma si risparmia di dover aggiungere una nuova keyword alla lista di quelle per le quali dovrà spendere un po’ della sua potenza di calcolo.

L’indulgenza operativo-funzionale

Tornando a Google Duplex, siamo nel 2022 e non se ne parla più da tempo, ma da questa esperienza abbiamo imparato che identificarsi come sistema conversazionale artificiale non è la risposta ad un problema etico quanto un trucco da hacker: se chi dialoga con Duplex è consapevole di stare parlando con un sistema automatizzato, egli sa anche di doversi muovere adeguatamente, sostenendolo nella conversazione ed aiutandolo a comprenderne il contenuto.

Per Google Duplex identificarsi come sistema artificiale non è la risposta ad un problema etico quanto un trucco da hacker.

Quando dialoghiamo con Cortana, Alexa, Siri ci viene automatico utilizzare sempre le stesse espressioni, le stesse formule perché questo è indispensabile se vogliamo evitare di non essere capiti dai nostri sistemi.

Identificarsi è per Google Duplex un modo per ottenere dalle persone “comprensione” dei propri limiti, una forma di indulgenza operativo-funzionale che tutti noi umani abbiamo imparato ad avere nei confronti di quella tecnologia che, pur sforzandosi, non restituisce tutto quanto i suoi creatori promettono.

Articolo di Gianfranco Fedele