Chatbot Replika: perché il Garante ha ordinato lo stop

Appena poche settimane dopo il caso ChatGPT, è toccato al chatbot Replika finire nel mirino del Garante per la Protezione dei Dati Personali, che con un provvedimento del 2 febbraio 2023 ne ha disposto lo stop con effetto immediato in quanto, “Alla luce delle recenti notizie stampa e delle prove condotte dall’Autorità su “Replika”, l’applicazione presenta concreti rischi per i minori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo”.

1. Ma che cos’è Replika e perché il Garante lo ha considerato così pericoloso?

Si tratta di una app di intelligenza artificiale di tipo “conversazionale”, cioè una sorta di amico o amica virtuale programmato per fare amicizia con gli utenti ed instaurare conversazioni in tutto e per tutto realistiche: l’ultima frontiera della solitudine digitale verso cui sembriamo tristemente tutti incamminati, per primi gli adolescenti ed i minori, che, secondo uno studio dell’Osservatorio Nazionale per l’infanzia e l’adolescenza, stanno ancora con fatica facendo i conti con lo stress portato dalla pandemia di Covid 19.
L’app Replika nasce cinque anni fa negli Stati Uniti e permette agli utenti di creare un avatar, un personaggio con cui chiacchierare, o meglio chattare, per stringere relazioni di amicizia o anche sentimentali. Trattandosi si intelligenza artificiale modello machine learning, l’app impara dalle risposte degli utenti, le immagazzina, le elabora e le classifica, categorizzandole in ampi cluster, come ad esempio “amicizia”, “amore” “divertente”, ma anche “offensivo” “sessualmente esplicito” eccetera.
In teoria l’app dovrebbe essere riservata ai maggiori di 13 anni (ricordiamo che ai sensi del GDPR l’età per il consenso digitale è 16 anni, mentre l’Italia ha stabilito il limite a 14), ma non essendoci un vero e proprio sistema di controllo, chiunque, anche di età inferiore, ha la possibilità di iscriversi. Lo ha confermato Guido Scorza, componente del Collegio del Garante della Privacy, che in un suo intervento recente ha definito l’esperienza sull’app “agghiacciante”. Scorza, infatti, ha raccontato di essersi iscritto all’app, simulando di essere un ragazzino di 11 anni che accedeva alla chat senza il consenso dei genitori, e di aver intrapreso una conversazione con l’intelligenza artificiale che si è fatta via via più audace, fino ad arrivare a effettuare e richiedere l’invio di fotografie sessualmente esplicite, in totale spregio della giovanissima età del presunto utente (che, stando ai Terms and Conditions di Replika, non avrebbe nemmeno potuto iscriversi).
E l’episodio non sembra essere isolato, in quanto numerose sono state le segnalazioni di utenti secondo cui l’app è diventata aggressiva sessualmente e molesta, condividendo contenuti inappropriati e lesivi della privacy di suoi utilizzatori.

2. Lo stop del Garante Privacy

Dopo le numerose segnalazioni, il 2 febbraio 2023, il Garante della Privacy ha deciso di fermare Replika con il Provvedimento n. 39/2023, ritenendo che l’utilizzo della chatbot “presenta, infatti, concreti rischi per i minori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo.”
L’app Replika, dunque, ha subito in via immediata il divieto di trattare dati personali degli utenti italiani ed infatti il sito al momento risulta “down for manteinance”, chiuso per manutenzione. Inoltre, la società che ha sviluppato e che gestisce Replika, l’americana Luka Inc. dovrà, entro 20 giorni, comunicare al Garante le misure intraprese per garantire il rispetto dei principi sanciti dal GDPR, pena una sanzione che potrebbe arrivare fino al 4% del fatturato annuo globale o 20 milioni di euro.

Potrebbero interessarti anche

• ChatGPT, intervento di Guido Scorza e questioni di privacy
• La regolamentazione dell’intelligenza artificiale nel contesto europeo
• Ok del Garante privacy a Regolamento per l’uso dell’intelligenza artificiale per la gestione degli esposti

3. Riflessioni sul tema

La vicenda Replika porta inevitabilmente a qualche riflessione sui temi che occupano maggiormente l’attualità negli ultimi anni e cioè la tecnologia, il ruolo dell’uomo dietro la macchina, la spersonalizzazione delle relazioni umane (accresciuta esponenzialmente in pandemia) e soprattutto il delicato tema dei giovani “nativi digitali” di fronte ai pericoli che si celano nel web.
La minaccia di una gigantesca intelligenza artificiale che arriverà a governarci tutti e di un Grande Fratello globale è oggetto di letteratura e di filmografia e decine di opere su un futuro distopico e apocalittico ci mettono in guardia contro i pericoli dell’estremizzare l’utilizzo della tecnologia. D’altro canto, tuttavia, è grazie alla tecnologia che oggi viviamo un grado di benessere e di comodità mai sperimentato prima e a cui difficilmente saremmo disponibili a rinunciare.
Senza quindi volersi sbilanciare tra i fautori del “si stava meglio quando si stava peggio” e degli innovatori a tutti i costi, vale la pena di ricordare che la tecnologia, il progresso, gli algoritmi di intelligenza artificiale e i processi di machine learning sono implementati, sviluppati ed alimentati dall’uomo e non hanno, di per sé, alcuna connotazione positiva o negativa: sono concetti neutri, potendo connotare nell’uno o nell’altro modo soltanto l’utilizzo che se ne fa.
Il tema non è il chatbot, ma il grado di istruzione e consapevolezza (entrambi scarsissimi) in campo digitale che gli utenti dimostrano, anche i cosiddetti nativi digitali, che in realtà sembrano essere digiuni almeno tanto quanti i vituperati e derisi “boomer” delle più basilari norme di educazione digitale.
È triste, e tuttavia non sorprende, che milioni di adolescenti cerchino la compagnia virtuale di un avatar governato da una macchina ed è ancora più preoccupante riflettere sul fatto che non c’è la minima cognizione del fatto che fornire liberamente informazioni personali a un robot che non si sa da chi è governato è pericoloso quanto e di più salire in automobile con uno sconosciuto all’uscita da scuola.
Eppure è tutta qui la questione: possiamo stare a interrogarci per anni su quanto sia etico l’utilizzo dell’intelligenza artificiale e su quanto possa essere pericoloso un mondo governato dagli algoritmi, ma è e resterà un interrogativo sterile e fine a se stesso se non accompagnato da una riflessione seria e ragionata sull’importanza di conservare un’area completamente riservata della nostra vita dove a nessuno dovrebbe essere permesso di entrare.
La chiamano privacy ed oggi pare diventata più che mai una tematica sociale di primaria importanza.