Sorveglianza emotiva e dignità della persona: i limiti imposti dall’AI Act

La prima volta che ho visto Lie to Me, la serie con Tim Roth nei panni del dottor Cal Lightman, l’esperto capace di smascherare bugiardi seriali, assassini e probabilmente anche il responsabile della scomparsa di Atlantide, semplicemente osservando un sopracciglio che si contraeva per tre millisecondi, ho pensato: ma figuriamoci. Cioè, carina, divertente, pure ben scritta. Però figuriamoci davvero se basta un occhio che trema leggermente, una piega della bocca o un’esitazione di mezzo secondo per capire che la persona seduta davanti a te sta mentendo, nasconde qualcosa o magari ha sterminato la famiglia e pure il presidente Kennedy.
E invece, più o meno, il mercato tecnologico degli ultimi anni ha deciso di prendere quella fantasia televisiva terribilmente sul serio.
Oggi esistono software progettati per analizzare le espressioni facciali dei candidati durante i colloqui di lavoro, piattaforme che monitorano il livello di attenzione degli studenti attraverso webcam e movimenti oculari, sistemi di analisi vocale che attribuiscono punteggi di coinvolgimento, motivazione o affidabilità ai dipendenti sulla base del tono utilizzato nelle call aziendali. Ed è proprio contro questa forma di sorveglianza algoritmica della sfera emotiva che l’Unione europea ha scelto di intervenire con uno dei divieti più significativi contenuti nel Regolamento (UE) 2024/1689, il cosiddetto AI Act. In tema, abbiamo anche pubblicato il volume NIS 2 ed Evoluzione della Cybersicurezza Nazionale, disponibile su Shop Maggioli e su Amazon

1. Il cambio di prospettiva dell’AI Act

La scelta del legislatore europeo è particolarmente interessante perché segna un cambio di prospettiva nel modo in cui il diritto guarda alle nuove tecnologie. Per anni il dibattito giuridico si è concentrato prevalentemente sulla raccolta e circolazione dei dati personali; oggi, invece, il problema si sposta progressivamente sulla capacità degli algoritmi di inferire aspetti profondi della personalità e del comportamento umano, trasformando emozioni, vulnerabilità e stati psicologici in variabili computabili, classificabili e monetizzabili.
L’articolo 5 dell’AI Act include infatti tra le pratiche vietate i sistemi di riconoscimento delle emozioni utilizzati nei luoghi di lavoro e negli istituti scolastici o educativi, salvo limitate eccezioni legate a finalità mediche o di sicurezza. Non si tratta, tuttavia, di un divieto genericamente rivolto a qualsiasi forma di analisi automatizzata del linguaggio o del sentiment. Il bersaglio della norma è molto più specifico e riguarda quei sistemi che pretendono di dedurre stati emotivi o caratteristiche psicologiche delle persone attraverso l’analisi di dati biometrici e comportamentali, quali immagini del volto, modulazioni della voce, postura, movimenti oculari, gestualità o parametri fisiologici.
Ed è proprio qui che emerge il nodo più problematico. In tema, abbiamo anche pubblicato il volume NIS 2 ed Evoluzione della Cybersicurezza Nazionale, disponibile su Shop Maggioli e su Amazon

2. Il presupposto fragile del riconoscimento delle emozioni

Una parte significativa dei sistemi di emotion recognition si fonda infatti sull’idea — molto diffusa nella cultura popolare anche grazie a prodotti come Lie to Me — che esistano correlazioni universali e affidabili tra determinate espressioni corporee ed emozioni interne. L’assunto, in sostanza, è che l’algoritmo possa leggere il volto umano come una sorta di codice emotivo standardizzato, capace di rivelare ansia, entusiasmo, aggressività, sincerità o disinteresse attraverso pattern comportamentali riconoscibili.
Il problema è che tale premessa scientifica è oggi fortemente contestata.
 
Numerosi studi evidenziano infatti come le emozioni umane siano profondamente influenzate da fattori culturali, contestuali, relazionali e individuali, rendendo estremamente fragile l’idea di una corrispondenza automatica e universalmente interpretabile tra espressioni facciali e stati interiori. Una persona può evitare il contatto visivo per ansia sociale, neurodivergenza, stanchezza o semplice timidezza; un sorriso può esprimere tensione, disagio, paura o imbarazzo molto più che serenità o approvazione. Eppure, molti sistemi di intelligenza artificiale continuano a essere addestrati proprio sull’idea opposta: quella secondo cui il comportamento umano sarebbe riducibile a una serie di segnali standardizzati da classificare automaticamente.

3. Dalla tecnologia al problema giuridico

È questo il punto in cui il problema smette di essere esclusivamente tecnologico e diventa profondamente giuridico.
Se infatti il sistema inferenziale su cui si fonda la decisione algoritmica è fragile o pseudoscientifico, anche le valutazioni adottate sulla base di quei risultati rischiano di diventare arbitrarie, discriminatorie o gravemente lesive della persona. Un candidato potrebbe essere considerato “poco affidabile” perché evita il contatto visivo; uno studente potrebbe essere classificato come “disattento” sulla base di parametri comportamentali standardizzati; un dipendente potrebbe ricevere valutazioni negative perché il sistema interpreta determinate inflessioni vocali come indice di scarso coinvolgimento emotivo.
La questione, dunque, non riguarda soltanto la privacy in senso tradizionale.
Riguarda il rischio che l’essere umano venga progressivamente reinterpretato come un insieme di segnali biometrici da sottoporre a monitoraggio continuo, all’interno di un modello culturale nel quale perfino emozioni, esitazioni e vulnerabilità tendono a trasformarsi in dati economicamente sfruttabili.

4. Dignità umana e protezione della sfera emotiva

Non è casuale, allora, che il divieto previsto dall’AI Act trovi il proprio fondamento in una tradizione giuridica europea fortemente orientata alla tutela della dignità umana. La Carta dei diritti fondamentali dell’Unione europea colloca proprio la dignità, all’articolo 1, come valore fondativo dell’intero sistema, mentre gli articoli 7 e 8 tutelano rispettivamente la vita privata e la protezione dei dati personali. A ciò si aggiungono le garanzie previste dal GDPR in materia di dati biometrici, profilazione e processi decisionali automatizzati.
L’aspetto più innovativo dell’AI Act, tuttavia, sembra essere un altro: il Regolamento mostra di voler proteggere non soltanto i dati personali in quanto tali, ma la stessa sfera mentale ed emotiva dell’individuo contro forme invasive di sorveglianza algoritmica. È un passaggio culturale enorme, perché implica il riconoscimento implicito di un limite: esistono dimensioni della persona che non possono essere integralmente trasformate in oggetti di analisi automatizzata.
In questo senso il dibattito sull’emotion recognition si avvicina sempre più al tema della cosiddetta libertà cognitiva, ossia il diritto dell’individuo a non subire intrusioni indebite nei propri processi mentali, emotivi e decisionali. Un concetto che fino a pochi anni fa sembrava appartenere quasi esclusivamente alla riflessione filosofica o fantascientifica e che oggi, invece, inizia a entrare concretamente nel diritto positivo europeo.

5. Lavoro e scuola come contesti a rischio

La scelta di vietare questi sistemi proprio nei contesti lavorativi e scolastici appare, sotto questo profilo, particolarmente significativa. Si tratta infatti di ambienti caratterizzati da un forte squilibrio di potere, nei quali il consenso dell’interessato rischia di essere più teorico che reale. Nel rapporto di lavoro il dipendente si trova strutturalmente subordinato al datore; nel contesto scolastico, invece, lo studente è inserito in una dinamica valutativa che incide direttamente sulla formazione della personalità e sulla libertà di comportamento.
Il rischio più insidioso non è nemmeno quello di essere semplicemente osservati. È quello di essere progressivamente educati ad assumere il comportamento che l’algoritmo considera emotivamente corretto: il lavoratore sempre motivato, il candidato sempre positivo, lo studente sempre attento, la persona sempre performante.
Ed è proprio qui che il tema dell’intelligenza artificiale incontra quello, molto più profondo, della conformazione sociale prodotta dalla tecnologia.

6. Workplace analytics e controllo del lavoratore

Negli ultimi anni, del resto, il mercato delle cosiddette workplace analytics e degli strumenti di people monitoring è cresciuto enormemente. Sempre più aziende utilizzano software destinati ad analizzare produttività, engagement, modalità comunicative, tempi di risposta e comportamenti dei dipendenti, spesso presentando tali strumenti come tecnologie di ottimizzazione organizzativa o benessere aziendale. Tuttavia, il confine tra gestione efficiente delle risorse umane e controllo invasivo del lavoratore diventa sempre più sottile, soprattutto quando l’analisi si estende alla dimensione emotiva e psicologica della persona.
Nel mercato del lavoro italiano, inoltre, entrano inevitabilmente in gioco anche le tutele previste dall’articolo 4 dello Statuto dei lavoratori, i principi di minimizzazione e proporzionalità del GDPR, gli obblighi di trasparenza e la necessità di effettuare valutazioni d’impatto nei casi di trattamenti ad alto rischio. Ma il punto centrale resta un altro: il lavoratore non può essere trasformato in un soggetto costantemente profilato sotto il profilo emotivo e comportamentale, perché ciò altererebbe inevitabilmente la libertà, la spontaneità e persino la dimensione relazionale dell’ambiente professionale.

7. Il confine culturale tracciato dal diritto europeo

L’aspetto più interessante dell’intervento europeo, allora, non è soltanto tecnologico o regolatorio. È culturale.
Per anni il capitalismo digitale ha monetizzato l’attenzione; oggi il rischio è che inizi progressivamente a monetizzare anche gli stati emotivi, le vulnerabilità psicologiche e le reazioni comportamentali degli individui. L’AI Act prova a tracciare una linea di confine prima che questo modello si normalizzi completamente, affermando un principio destinato probabilmente a diventare centrale nel diritto delle tecnologie dei prossimi anni: non tutto ciò che può essere tecnicamente analizzato deve necessariamente diventare oggetto di sorveglianza, classificazione o sfruttamento economico.
Perché il problema non è soltanto essere osservato da un algoritmo. È iniziare, lentamente, a comportarsi come l’algoritmo si aspetta che facciamo.

Vuoi ricevere aggiornamenti costanti?

Salva questa pagina nella tua Area riservata di Diritto.it e riceverai le notifiche per tutte le pubblicazioni in materia. Inoltre, con le nostre Newsletter riceverai settimanalmente tutte le novità normative e giurisprudenziali!
Iscriviti!