CDA delle società di capitali nell’era dell’Intelligenza Artificiale (IA)

Introduzione

L’intelligenza artificiale ha costituito la chiave di volta di una vera e propria  rivoluzione tecnologica, non seconda per importanza a quelle che hanno preceduto l’era del digitale.

Dai big data alle innovazioni in campo sanitario, dalla giustizia predittiva alle auto a conduzione autonoma; l’ingresso a gamba tesa dell’ IA nella quotidianità, da un lato, ha migliorato  sensibilmente la qualità di vita dell’uomo, dall’altro, è stato foriero di  interrogativi che hanno impegnato particolarmente il mondo accademico, non da ultimo quello giuridico.

L’impresa ha svolto un ruolo centrale in questa corsa all’innovazione, mentre gli ordinamenti interni e le organizzazioni internazionali, cercando di stare al passo, tentavano di delineare il fenomeno in una cornice normativa adeguata[1].

L’utilità dei sistemi di IA nell’attività di impresa è stata, ai più, chiara fin dal principio. Software intelligenti in grado di prendere decisioni con un elevato grado di correttezza e in tempi particolarmente celeri possono avere infinite applicazioni, questo ha indotto le imprese a considerarne l’impiego nel processo di Governance.

Il primato spetta a Deep Knowledge Ventures, società con sede in Hong Kong, la quale ha nominato il software VITAL (Validating investment tool for advancing life sciences) membro ufficiale del consiglio di amministrazione e come tale, con diritto di voto in assemblea[2].

Secondo DKV, un software in grado di prevedere in maniera più o meno accurata il successo delle strategie aziendali avrebbe potuto essere d’ausilio al board, esprimendo tramite il voto, un giudizio circa la genuinità della attività di Governance[3].

Iniziative simili ad oggi non sono così infrequenti. Sembrerebbe quindi maturo il tempo per svolgere una breve disamina sullo stato dell’arte del diritto italiano con riferimento a soluzioni societarie di questo tipo.

Volume consigliato

Giusto processo e intelligenza artificiale

Il volume coniuga l’analisi normativa e l’analisi funzionale della trasformazione indotta dalla tecnologia, verificando la possibilità che la giustizia sia amministrata con l’ausilio di dispositivi computazionali automatizzati, quali gli algoritmi. Si parla dunque di ricerca e sviluppo nel settore dell’intelligenza artificiale, al servizio della tutela dei diritti fondamentali e dell’esercizio del diritto di azione.Claudio Castelli, Magistrato dal 1979, ha esercitato diverse funzioni e da ultimo come Presidente Aggiunto dell’Ufficio GIP del Tribunale di Milano e ora Presidente della Corte di Appello di Brescia dall’11 aprile 2016. È stato componente elettivo del Consiglio Superiore della Magistratura per la consiliatura 1994-1998. Dal 2006 al 2008 è stato Capo Dipartimento dell’Ordinamento Giudiziario del Ministero della Giustizia. È stato il promotore del piano na- zionale di miglioramento organizzativo: il Progetto interregionale/transnazionale “Diffusione di best practices negli uffici giudiziari italiani, finanziato dal Fondo Sociale Europeo cui hanno partecipato oltre duecento uffici. È stato uno dei promotori del lancio del Processo Civile Telematico presso il Tribunale di Milano, primo in Italia e ha diretto dal 2008 al 2016 l’Ufficio Innovazione del Tribunale di Milano. Autore di diverse pubblicazioni e scritti in tema di organizzazione e ordinamento.Daniela Piana, Dottore di ricerca in sociologia presso l’Università Paris IV Sorbonne. Jean Monnet Fellow (EUI) 2003, Fulbright Fellow (UC Berkeley) 2007, associate dell’Institut des Hautes sur la Justice, Parigi e dell’Istitut des sciences sociales du politique, ENS Paris Saclay. Coordina la sezione Just Europe, ICEDD-Luiss. È stata componente dell’Osservatorio per la valutazione dell’impatto delle riforme per la crescita del Paese, presso il Gabinetto del Ministro della Giustizia dal 2014 al 2017. Attualmente membro del Research Conference On Justice dell’OCSE, svolge attività di ricerca internazionale in collaborazione con la Société de Législation Comparée. Nominata nel gennaio 2019 componente dell’Ufficio studi del Consiglio di Stato. I suoi interessi di ricerca si situano all’incrocio delle discipline sociologiche e politologiche e si concentrano sui temi della trasformazione della rule of law, sia in relazione alle dinamiche sociali nelle società multi culturali, sia in relazione alla ibridazione dei linguaggi – naturali ed artificiali – sia ancora in relazione alla ridefinizione dei confini funzionali e territoriali cui il diritto fa riferimento.

Claudio Castelli – Daniela Piana | 2019 Maggioli Editore

24.00 €  22.80 €

Scopri di più

Il paradigma della decisione

Ancor prima di entrare nel merito della discussione sulla legittimità dell’apporto delle IA in ambito societario, occorre compiere un’accorta analisi sulla correttezza del processo decisorio adottato da questi strumenti.

Il primo passo verso un corretto approccio al fenomeno è quello di garantire la trasparenza dell’iter decisorio e la correttezza delle informazioni utilizzate dalla macchina, così da tutelare i diritti dei soggetti che ne subiranno gli effetti[4].

In primo luogo, è necessario che la logica utilizzata dal software per giungere ad una decisione sia trasparente e  di conseguenza, sia comprensibile il ragionamento causale di fondo.

Pensiamo al caso in cui un software potesse effettivamente partecipare al voto all’interno di un consiglio di amministrazione. Quale è stato il processo logico che lo ha indotto ad orientarsi in quel modo? Quali informazioni ha posto alla base del procedimento?

In secondo luogo, è essenziale che l’algoritmo non ponga in essere alcun tipo di discriminazione nell’adottare una decisione.

Si pensi, ad esempio, alla circostanza in cui venga impiegato un sistema di IA per stabilire se e in che modo i dipendenti possano accedere a retribuzioni aggiuntive, premi o promozioni. Il rischio di scelte arbitrarie, basate su principi aberranti, è dietro l’angolo.

Da qui, affinché l’algoritmo non assuma carattere discriminatorio, è necessario che si ponga particolare attenzione alla fase di acquisizione delle informazioni che verranno poi impiegate dal software per decidere. Se l’input è discriminatorio per sesso, razza, opinioni politiche e religiose, lo sarà anche l’output. Si entra, dunque, nel complesso mondo dei big data, vastissime quantità di informazioni utilizzate da calcolatori informatici per i più disparati fini.

Non sarebbe insolito che l’elevato numero di dati nascondesse delle inesattezze di alcuni di questi, così da indurre il software ad adottare una decisione non solo discriminatoria ma anche del tutto scorretta[5].

Il panorama del diritto italiano

Procedendo ad un’analisi giuridica, ad oggi, l’impossibilità che un’intelligenza artificiale prenda posto tra gli amministratori di una società di capitali pare in re ipsa.

Se ci si volesse soffermare sul dato normativo, noteremmo come in vari Paesi gli amministratori debbano necessariamente essere persone fisiche. Queste previsioni sono state inserite nelle legislazioni dei singoli Stati con un fine ben preciso, cioè quello di escludere le sole società di capitali dall’attività di governance, non anche le intelligenze artificiali[6].

In Italia, invece, non è presente una disposizione che impedisca a società di capitali di amministrare società di persone; ne è prova l’art. 2361, co. 2, c.c. il quale riconosce, seppur indirettamente, questa possibilità.

Limiti più evidenti sorgono invece con riferimento al dato soggettivo. Il complesso di norme che il codice civile offre per regolare l’operato degli amministratori, tende  ad escludere che un’IA possa qualificarsi come tale.

Gli amministratori sono sottoposti ad un regime di responsabilità che è strettamente collegato alla loro soggettività giuridica[7]. Pur essendo attualmente acceso il dibattito circa l’attribuzione a sistemi particolarmente intelligenti di una soggettività giuridica in grado di renderli fonte di diritti ed obbligazioni, ad oggi un software intelligente non può certamente essere considerato alla stregua di un soggetto di diritto[8].

Puntualizzato questo aspetto, si potrebbe ridimensionare il dibattito sulla possibilità da parte dei singoli amministratori di utilizzare lo strumento della delega per conferire all’IA un certo grado di legittimazione giuridica. Anche qui, il codice civile del nostro Paese lascia poco spazio all’interpretazione.

L’art. 2381 secondo comma c.c. prevede che la delega di alcune delle attribuzioni del Board possa avvenire solo in favore di uno o più membri dello stesso. Da ciò ne consegue che un software di machine learning non potrebbe in alcun modo essere titolare di un potere di gestione e controllo, né in maniera autonoma né tanto meno su delega, in ragione della sua terzietà rispetto al consiglio di amministrazione e dell’impossibilità di renderlo soggetto imputabile di qualsivoglia tipo di responsabilità di gestione[9].

Conclusioni

L’utilizzo dell’intelligenza artificiale nelle imprese dovrebbe essere certamente incentivata, ma non al fine di sostituire il dato umano, piuttosto con l’obiettivo di coadiuvarlo. Gli amministratori oggi sono costretti a gestire ingenti quantità di dati e a svolgere attività che hanno poco a che fare con la direzione e il controllo dell’impresa in senso stretto. In questi processi i software intelligenti potrebbero trovare terreno fertile, fornendo l’ausilio necessario all’amministratore affinché possa compiere delle scelte di governance più ponderate.

La discussione svolta fin ora non ha certo lo scopo di mettere in dubbio l’attualità delle previsioni codicistiche,  piuttosto quello di incentivare l’approfondimento di una tematica attualissima. La  scienza del diritto non deve rimanere ancorata al passato ma ha il dovere di anticipare l’evoluzione della società per garantire il più vasto grado di tutela possibile.

Volume consigliato

Giusto processo e intelligenza artificiale

Il volume coniuga l’analisi normativa e l’analisi funzionale della trasformazione indotta dalla tecnologia, verificando la possibilità che la giustizia sia amministrata con l’ausilio di dispositivi computazionali automatizzati, quali gli algoritmi. Si parla dunque di ricerca e sviluppo nel settore dell’intelligenza artificiale, al servizio della tutela dei diritti fondamentali e dell’esercizio del diritto di azione.Claudio Castelli, Magistrato dal 1979, ha esercitato diverse funzioni e da ultimo come Presidente Aggiunto dell’Ufficio GIP del Tribunale di Milano e ora Presidente della Corte di Appello di Brescia dall’11 aprile 2016. È stato componente elettivo del Consiglio Superiore della Magistratura per la consiliatura 1994-1998. Dal 2006 al 2008 è stato Capo Dipartimento dell’Ordinamento Giudiziario del Ministero della Giustizia. È stato il promotore del piano na- zionale di miglioramento organizzativo: il Progetto interregionale/transnazionale “Diffusione di best practices negli uffici giudiziari italiani, finanziato dal Fondo Sociale Europeo cui hanno partecipato oltre duecento uffici. È stato uno dei promotori del lancio del Processo Civile Telematico presso il Tribunale di Milano, primo in Italia e ha diretto dal 2008 al 2016 l’Ufficio Innovazione del Tribunale di Milano. Autore di diverse pubblicazioni e scritti in tema di organizzazione e ordinamento.Daniela Piana, Dottore di ricerca in sociologia presso l’Università Paris IV Sorbonne. Jean Monnet Fellow (EUI) 2003, Fulbright Fellow (UC Berkeley) 2007, associate dell’Institut des Hautes sur la Justice, Parigi e dell’Istitut des sciences sociales du politique, ENS Paris Saclay. Coordina la sezione Just Europe, ICEDD-Luiss. È stata componente dell’Osservatorio per la valutazione dell’impatto delle riforme per la crescita del Paese, presso il Gabinetto del Ministro della Giustizia dal 2014 al 2017. Attualmente membro del Research Conference On Justice dell’OCSE, svolge attività di ricerca internazionale in collaborazione con la Société de Législation Comparée. Nominata nel gennaio 2019 componente dell’Ufficio studi del Consiglio di Stato. I suoi interessi di ricerca si situano all’incrocio delle discipline sociologiche e politologiche e si concentrano sui temi della trasformazione della rule of law, sia in relazione alle dinamiche sociali nelle società multi culturali, sia in relazione alla ibridazione dei linguaggi – naturali ed artificiali – sia ancora in relazione alla ridefinizione dei confini funzionali e territoriali cui il diritto fa riferimento.

Claudio Castelli – Daniela Piana | 2019 Maggioli Editore

24.00 €  22.80 €

Scopri di più

Note

[1]L’esigenza di una regolamentazione unitaria è stata avvertita in Europa con la Risoluzione del Parlamento europeo del 16 febbraio 2017 recante raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica;

[2] Giova precisare che, secondo l’ordinamento locale, VITAL non avrebbe comunque potuto identificarsi nel ruolo di amministratore in quanto, al contrario degli altri membri del consiglio, non aveva il diritto di voto in ogni procedimento decisorio;

[3]Articolo reperibile sul sito ufficiale di Ansa: “www.ansa.it/sito/notizie/tecnologia/internet_social/2014/05/16/vital-lalgoritmo-entra-in-un-cda_2b0378f0-35ea-4c86-9aac-8ad1a444c7b4.html”;

[4] A. Simoncini, S. Suwais, Il cambio di paradigma nell’intelligenza artificiale e il suo impatto sul diritto costituzionale, RIvista di filosofia del diritto, Fasc 1/2019. Secondo Simoncini e Suwais sono tre i principi fondamentali da rispettare nel procedimento decisorio di un software: conoscibilità, non esclusività e non discriminazione;

[5] Vengono definiti  “black box” quei  software che non garantiscono la genuinità dell’informazione essendo oscurato il procedimento ed i dati che la macchina ha utilizzato nella decisione;

[6] Anche perchè i tempi non erano certo maturi perché i singoli legislatori discutessero di intelligenza artificiale. Cfr. G.D. Mosco, Roboboard. L’intelligenza artificiale nei consigli di amministrazione, Analisi Giuridica dell’Economia, Fasc. 1, giugno 2019

[7] Per esempio la disposizione ex art. 2393 c.c. sull’azione sociale di responsabilità degli amministratori;

[8] Il Parlamento Europeo ha evidenziato l’esigenza di garantire l’imputabilità della responsabilità civile  derivante dai danni cagionati da IA, attribuendogli eventualmente una soggettività giuridica cd. personalità elettronica;

[9] Cfr. G.D. Mosco, Roboboard. L’intelligenza artificiale nei consigli di amministrazione, Analisi Giuridica dell’Economia, op. cit.