L’AI alla guida: profili di responsabilità civile e dilemmi regolatori

Una Tesla ha investito un pedone in Arizona nel 2023, ma non è (solo) una questione di codice: è una questione di coscienza. Siamo pronti a fidarci delle macchine più di quanto ci fidiamo degli esseri umani? E cosa ci disturba davvero quando un robot sbaglia? Per approfondire sui temi della sicurezza informatica e della governance normativa delle tecnologie digitali, abbiamo preparato il corso Master in Cybersecurity e compliance integrata.

1. L’incidente non è (solo) la notizia

Nel 2023, in Arizona, una Tesla Model 3 in modalità Full Self-Driving ha investito un pedone in circostanze apparentemente banali: un riflesso solare, un ostacolo interpretato male, una mancata frenata. Nulla di inedito, nulla di scandaloso: un incidente stradale. Succede ogni giorno. Solo che stavolta al volante non c’era davvero nessuno. O meglio: c’era un umano, ma era l’algoritmo a guidare. E l’umano non è intervenuto.
Il caso, oggi tornato alla ribalta, riapre una domanda che ci accompagna sempre più spesso in questa fase di transizione tecnologica: possiamo (davvero) fidarci dell’intelligenza artificiale al volante? O la nostra fiducia è solo un effetto collaterale della nostra stanchezza? Per approfondire sulla responsabilità legate all’AI, abbiamo pubblicato il volume Intelligenza artificiale e responsabilità dei professionisti, disponibile su Shop Maggioli e Amazon

2. Quando l’errore è umano, è umano. Quando è algoritmico, è colpevole

Gli esseri umani sbagliano. È un assioma che abbiamo imparato a incorporare nel nostro sistema sociale, giuridico, culturale. I tribunali, le assicurazioni, il codice della strada sono costruiti intorno a questo presupposto: l’errore è fisiologico. Sanzionabile, certo, ma previsto. Gli incidenti causati da distrazione, stanchezza, colpi di sonno o negligenza sono all’ordine del giorno. Eppure, nessuno mette in discussione la legittimità della guida umana.
Al contrario, quando a sbagliare è una macchina, la nostra tolleranza crolla. Un errore algoritmico, anche se statisticamente meno frequente, ci scandalizza di più. Perché?
Forse perché l’errore umano ha un volto, una voce tremante, un corpo che può chiedere scusa. L’errore dell’AI invece è silenzioso, freddo, impersonale. È difficile perdonare un sistema che non prova rimorso. È difficile fidarsi di un’entità che non sente.

Potrebbero interessarti anche:

• AI e responsabilità civile per danni: la Direttiva europea
• L’Intelligenza Artificiale in tribunale: il ddl approvato dal Senato
• AI Continent Action Plan: il piano AI per l’intelligenza artificiale

3. Human in the loop: illusione o garanzia?

Il principio del “human in the loop” nasce come forma di controllo: anche quando un sistema è automatizzato, ci deve essere un essere umano in grado di intervenire. Un paracadute etico. Una clausola di buon senso.
Ma nella realtà delle auto a guida autonoma (e in molti altri sistemi automatizzati), il ruolo umano si riduce spesso a quello di sorvegliante passivo. L’utente è presente, sì, ma non abbastanza attento da intervenire nel momento giusto. Perché quando deleghiamo, lo facciamo fino in fondo. Chi ha mai preso il volante durante una frenata automatica in autostrada? Chi tiene d’occhio il bisturi di un braccio chirurgico robotico mentre è in azione?
Il problema non è tanto la presenza umana, quanto la sua effettiva capacità di controllo. E il rischio, allora, è che il principio del “human in the loop” si trasformi in una comfort word. Un’illusione di responsabilità condivisa, che nei fatti si traduce in una delega quasi totale.

4. L’AI Act, la guida autonoma e la regolamentazione differita

Il Regolamento (UE) 2024/1689 sull’intelligenza artificiale (AI Act) non si applica direttamente ai veicoli a guida autonoma. La motorizzazione intelligente è stata infatti esplicitamente esclusa dal campo di applicazione del regolamento, demandando il tema ad altri strumenti normativi di settore, come il Regolamento (UE) 2019/2144 sulla sicurezza generale dei veicoli.
Tuttavia, i principi dell’AI Act restano utili per una riflessione più ampia: trasparenza, affidabilità, supervisione umana, accountability. Il paradosso è che proprio dove l’AI interagisce fisicamente con il mondo e mette in gioco vite umane, le regole sono meno definite. È come se la tecnologia corresse a una velocità diversa rispetto al diritto. E il volante, nel frattempo, non lo tiene più nessuno.

5. Fiducia cieca o cieca diffidenza?

Quando entriamo in un aereo, sappiamo che il pilota automatico gestirà la maggior parte del volo. Eppure, ci sentiamo al sicuro. Quando ci facciamo operare, accettiamo che il chirurgo utilizzi strumenti robotici assistiti da AI. Ma se ci dicessero che l’intervento sarà effettuato interamente da un sistema autonomo, senza intervento umano diretto, accetteremmo? Forse no.
La fiducia, infatti, non è (solo) una questione di affidabilità tecnica, ma di simmetria emotiva. Ci fidiamo di chi possiamo biasimare, di chi sappiamo condividere con noi la responsabilità. Con una macchina, questo rapporto non esiste. Non è solo che non perdona: non risponde.

6. Siamo pronti a farci sostituire?

È questa la domanda vera. Siamo pronti a farci sostituire da un’intelligenza artificiale nei compiti critici? Non a delegare, ma a lasciare andare il controllo? Siamo pronti ad accettare che una decisione sulla nostra salute, la nostra sicurezza o la nostra libertà sia presa da un sistema che non comprende, ma calcola?
C’è un confine sottile tra affidare e abdicare. E siamo in bilico su quel crinale. Perché più l’AI migliora, più ci sembra insensato ostinarsi a fare da soli. Ma più delego, meno comprendo. E meno comprendo, meno controllo. La tecnologia, come ogni delega, può emancipare o infantilizzare. Dipende da quanto restiamo consapevoli mentre lasciamo la presa.

7. La responsabilità civile dell’algoritmo: chi paga?

Dal punto di vista giuridico, la questione resta intricata. In caso di incidente causato da un veicolo a guida autonoma, chi è responsabile? Il proprietario? Il produttore del veicolo? Il fornitore del software? Il progettista dell’algoritmo? Tutti? Nessuno?
L’attuale impianto normativo europeo si basa ancora su una logica antropocentrica della responsabilità: la colpa è dell’umano, a monte o a valle. Ma in sistemi altamente autonomi, il nesso causale si fa opaco. La proposta di Direttiva sulla responsabilità da prodotti difettosi e quella sulla responsabilità da AI mirano a colmare questo vuoto, ma siamo ancora lontani da una nozione coerente di “colpa algoritmica”.
In ogni caso, finché un sistema è automatizzato ma non cosciente, il suo errore sarà sempre colpa di qualcun altro. E questo “qualcun altro”, per ora, resta umano.

8. Se l’intelligenza artificiale ci spaventa, forse è perché ci somiglia

C’è un altro motivo, più profondo, per cui gli errori dell’AI ci inquietano: ci ricordano i nostri. Un’auto che ignora un pedone per colpa di un riflesso ci mostra, amplificato, lo stesso errore che potremmo fare noi. Ma mentre noi possiamo dire “non l’avevo visto”, la macchina non ha questa scusa. Ci aspettiamo da lei perfezione, non solo performance. Ed è questo il nodo: pretendiamo che l’AI sia migliore di noi, non uguale.
In fondo, la paura più vera non è quella dell’errore algoritmico, ma quella del nostro superamento. Quando la macchina sbaglia, ci rassicura che non è infallibile. Quando invece riesce, ci mette in crisi. Perché ci obbliga a chiederci: se può fare tutto meglio, a cosa serviamo noi?

9. Conclusione: il diritto come custode della soglia

Il diritto, in tutto questo, ha un compito enorme: custodire il confine tra umano e macchina, non per arroccarsi su un passato mitico, ma per garantire che il passaggio di testimone – se ci sarà – avvenga con consapevolezza, con regole chiare, con un’etica condivisa.
Non si tratta di opporsi al progresso. Ma di restare umani mentre progrediamo. Di accettare l’AI come strumento, non come idolo. Di riconoscere che la fiducia non si impone, si conquista. E soprattutto: si merita.
Un giorno forse ci faremo operare da un’AI, guidare da una macchina, giudicare da un algoritmo. Ma quel giorno sarà davvero arrivato solo se smetteremo di chiederci chi comanda e inizieremo a chiederci chi risponde.

Master in Cybersecurity e compliance integrata

Il Master in Cybersecurity e compliance integrata è un percorso formativo avanzato per imprese e pubbliche amministrazioni, professionisti, DPO e consulenti legali che operano nel settore della sicurezza informatica e della governance normativa delle tecnologie digitali.
L’obiettivo del programma è fornire una visione sistematica e integrata della normativa europea e italiana in materia di cybersicurezza, affrontando in chiave applicativa gli step degli adempimenti richiesti, e la complessa interazione delle normative di riferimento, dalla Direttiva NIS 2 al GDPR, alla regolamentazione dei sistemi di intelligenza artificiale, passando per i regolamenti complementari e gli atti attuativi nazionali.
Attraverso un approccio teorico-pratico, il Master esplora:

• L’evoluzione della strategia europea di cybersicurezza
• L’impianto della Direttiva NIS 2 e il D.lgs. 138/2024, con approfondimento su soggetti obbligati, misure tecniche e regimi sanzionatori
• Il perimetro nazionale di sicurezza cibernetica e la Legge n. 90/2024 come strumenti di difesa strategica dello Stato
• Le interazioni con normative chiave come il GDPR, il Cybersecurity Act, il Digital Operational Resilience Act (DORA) e il Cyber Resilience Act (CRA)
• Il nuovo AI Act, che disciplina lo sviluppo, l’uso e il controllo dei sistemi di intelligenza artificiale in Europa
• Ruoli e poteri dell’ACN: atti attuativi e misure tecniche
• Le responsabilità aziendali e degli amministratori, la governance interna della cybersicurezza e le strategie di compliance integrata

Il percorso è arricchito da esempi pratici, simulazioni di audit, check list operative e riferimenti normativi aggiornati, utili per implementare con efficacia le disposizioni di legge nei diversi contesti organizzativi.
>>>Per info ed iscrizioni<<<