Data protection e intelligenza artificiale – Il Garante in Italia impone lo stop alla chatbot “Replika”, rischiosa per i minori

Replika è una ai chat bot, con interfaccia scritta e vocale, basata sull’intelligenza artificiale che simula il comportamento umano e crea un’esperienza di conversazione personalizzata, generando un “amico virtuale” che l’utente può decidere di configurare come amico, partner romantico o mentore.

Nel sito web dello sviluppatore, nonché dei due principali “App store”, Replika viene presentata come una chatbot in grado di migliorare l’umore e il benessere emotivo dell’utente, aiutandolo a comprendere i suoi pensieri e i suoi sentimenti, a tenere traccia del suo umore, ad apprendere capacità di coping (ossia, di controllo dello stress) a calmare l’ansia e a lavorare verso obiettivi come il pensiero positivo, la gestione dello stress, la socializzazione e la ricerca dell’amore.

La ricerca del ben-essere

Sin dall’antichità l’uomo ha sperimentato pratiche per la ricerca del ben-essere, inteso come “lo stato emotivo, mentale, fisico, sociale e spirituale di ben-essere che consente alle persone di raggiungere e mantenere il loro potenziale personale nella società”, secondo la definizione della Commissione salute dell’Osservatorio europeo sui sistemi e sulle politiche sanitarie. Ed è sicuramente lecito anche oggi, considerato il livello di sviluppo delle nuove tecnologie, predisporre strumenti digitali di supporto all’altrui ricerca di benessere.

Alcune persone pensano che il benessere sia una condizione che si possa raggiungere soltanto da soli, per altri che serva un maestro o un altro tipo di guida, per altri ancora che ci si possa aiutare con rimedi naturali, con l’alimentazione sana, i benefici dello sport e della meditazione e molto altro ancora. Quindi, perché non attraverso nuove tecnologie? Perché non poter migliorare il proprio benessere attraverso l’intelligenza artificiale ?

Se pensiamo che lo stato emotivo, mentale, fisico, sociale e spirituale di ben-essere possa esser costruito e mantenuto attraverso l’uso della razionalità, intesa come capacità di calcolo, allora meglio affidarsi agli algoritmi intelligenti, in grado di elaborare velocemente mole di dati impensabile per noi umani.

Se invece pensiamo che tale condizione possa esser raggiunta dopo una passeggiata nei boschi o in riva al mare, dopo esser stati a un concerto o allo stadio, dopo aver abbracciato un amico o ascoltato i suoi progetti di vita futura, allora possiamo comprendere quale sia il potere agentivo delle nuove tecnologie, capaci di costituire relazioni intellettuali e sociali orientando il nostro comportamento. Non possiamo sottovalutare l’impatto che le nuove tecnologie hanno sul modo di “vivere noi stessi” e il mondo che ci circonda, producendo sia rischi che potenzialità positive. La difficoltà sta nel districarsi consapevolmente tra rischi e benefici, cercando di allontanare gli uni e di non perdere gli altri.

In entrambi i casi si corre un pericolo.

Oggi il Garante per la protezione dei dati personali (vedi provvedimento del 2 febbraio 2023) ha puntualmente vigilato sul rispetto delle regole in materia di trattamento dati, impedendo alla chatbot di proporre a minori contenuti assolutamente inidonei rispetto al loro grado di sviluppo e di consapevolezza, e ciò può contribuire a creare un clima di fiducia nei confronti delle istituzioni. Tuttavia, quando sarà raggiunta la conformità rispetto al quadro regolatorio formale, assicurata la compliance formale, quali strumenti avremo e come si potrà vigilare rispetto a tutti quei soggetti che versano in stato di fragilità emotiva?

La protezione dei dati personali è protezione della persona, nei suoi diritti e libertà fondamentali, nella su integrità psico-fisica, spesso minata da un utilizzo poco consapevole del digitale e delle tecnologie emergenti nonché dalla mancanza di una componente etica condivisa.

BlogInnovazione.it

​