L'intelligenza artificiale guida le nostre vetture. Profili di responsabilità: Profili di responsabilità

Di Gian Franco Simonini

L’ormai prossima comparsa delle autovetture autonome sulle nostre strade porrà nuovi problemi ai giuristi, ai costruttori e agli utilizzatori di vetture, ai gestori delle infrastrutture stradali e agli assicuratori. Il diritto s’interroga se l’attuale sistema della responsabilità civile da prodotto potrà ancora rispondere adeguatamente a tali problematiche o se necessiterà di modifiche: scomparirà, infatti, la figura del conducente (umano) della vettura e, con essa, scompariranno non solo tutte le sue debolezze (distrazioni, imprudenze, uso di sostanze debilitanti), ma anche, e soprattutto, la “colpa”, quale criterio di imputazione soggettivo della responsabilità per la guida di un veicolo stradale.
L’Intelligenza Artificiale che “guiderà” le vetture autonome dovrà disporre – nostro avviso – unicamente di una “autonomia tecnologica” e non di una “autonomia decisionale” tale da consentirle scelte di natura etica.

• Lingua: Italiano
• Editore: Mucchi Editore
• Data di uscita: 4 lug 2018
• ISBN: 9788870007862

Anteprima del libro

GIAN FRANCO SIMONINI

L’intelligenza artificiale

guida le nostre vetture

Profili di responsabilità

Mucchi Editore

© STEM Mucchi Editore s.r.l.

Via Emilia Est, 1741 - 41122 Modena

www.mucchieditore.it

[e-mail]

facebook.com/mucchieditore

twitter.com/mucchieditore

instagram.com/mucchi_editore

Edizione digitale: luglio 2018

Produzione digitale: Mucchi Editore

ISBN: 9788870007862

Sommario

Frontespizio

Colophon

Prefazione di Mauro Tedeschini

Parte I. L'intelligenza artificiale e le vetture

1. Premesse

2. Le macchine intelligenti o autonome

3. Cos'è un robot?

4. Il robot è un oggetto o un soggetto che agisce?

5. La fiducia dell'Uomo nella tecnologia

6. La circolazione stradale

7. I sistemi di responsabilità: i termini del problema

8. La responsabilità da prodotto

9. I sistemi assicurativi

10. Il problema della scelta (e dei dilemmi): un falso problema

11. La causalità naturale

12. I sistemi di responsabilità negli USA

13. La direttiva 85/374/CEE mostra ancora la sua validità

14. La responsabilità da cose pericolose ex art. 2050cc.

Parte II. Le vetture autonome

15. I vantaggi delle vetture autonome

16. La collaborazione tra uomo e macchina

17. I nuovi problemi delle vetture autonome

18. L'apprendimento delle vetture autonome

19. I nuovi rischi introdotti dalle vetture autonome

20. Le normative delle vetture autonome

21. I sistemi ADAS

22. Proprietà dei sodtware e dei dati della vettura

I fear that AI (Artificial Intelligence) may replace humans altogether.

If people design computer viruses, someone will design AI that improves and replicates itself.

This will be a new form of life that outperforms humans.

S. Hawking

Prefazione

L’unico fatto certo è che, tempo pochi anni, i veicoli a guida autonoma cominceranno a circolare anche sulle nostre strade. Saranno probabilmente i cosiddetti robotaxi, ovvero dei micro-bus in servizio su percorsi definiti nelle grandi città, quindi in grado di muoversi senza conducente, con un tragitto pre-impostato dal computer di bordo, se non, addirittura, a distanza. Ad essi seguiranno le auto private, le nostre macchine di tutti i giorni, che, a quel punto, non avranno più bisogno di orpelli come il volante, la pedaliera o il cambio. Avranno interni che assomiglieranno più al salotto di casa che all’interno di un’automobile. Alcune domande sovrastano tutto questo: chi sarà ritenuto responsabile se uno di questi veicoli verrà coinvolto in un incidente? Chi si trova a bordo? Il proprietario della vettura? Il costruttore? O addirittura chi ha disegnato il software della guida autonoma? Tutte queste e mille altre domande, che a noi sembrano pura accademia, sono già sul tavolo delle autorità americane che indagano su due gravissimi incidenti occorsi agli occupanti di altrettante Tesla, l’auto elettrica equipaggiata da uno dei più sofisticati sistemi di guida assistita, il cosiddetto AutoPilot. Il patron della Tesla, Elon Musk, ammette che il sistema non potrà mai essere perfetto, ma aggiunge anche che, con tutte le sue imperfezioni, garantirà una sicurezza almeno dieci volte superiore a quella offerta dagli umani. Umani che, si sa, spesso guidano con un grado di attenzione assolutamente insufficiente: stanchezza, abuso di alcol o sostanze stupefacenti, semplice spericolatezza… tutte situazioni non presenti in una macchina condotta da un robot. Ma è chiaro che, come ammette lo stesso Musk, un software confezionato per la guida assistita può prevedere quasi tutto, ma non proprio tutto. E su questo la discussione infuria.

Bene ha fatto Gian Franco Simonini ad approcciare il tema con il piglio del giurista, per mettere qualche punto fermo su un tema che non ci deve cogliere impreparati. L’auto che si guida da sola, la cosiddetta guida autonoma, è sì un rischio, ma è anche una grande opportunità. Lo è, per esempio, per le persone che soffrono di handicap che non consentono loro di districarsi tra volante, pedali, leve e quant’altro. Ma lo è anche per chi per lavoro deve fare molti chilometri e che potrebbe quindi utilizzare il tempo degli spostamenti inviando messaggi o facendo telefonate, attività oggi vietate a chi guida. Il mondo va avanti e scommettere contro il progresso conduce sempre a una sicura sconfitta. Occupiamocene ora, per dare risposte chiare a chi ci andrà a sbattere contro. Speriamo solo in modo figurato.

10 maggio 2018

Mauro Tedeschini

PARTE I

L’intelligenza artificiale e le vetture

1. Premesse

La recente, parzialmente legalizzata¹, comparsa di veicoli autonomi² sulle strade di alcuni paesi per effettuare test di prova, induce ad alcune riflessioni sull’effettiva rispondenza delle attuali norme sulla responsabilità civile ad assicurare ai danneggiati un’efficace tutela dai danni provocati da tali, singolari, beni: un po’ prodotti (dell’industria) e un po’ soggetti³. Ci si è addirittura chiesto se sia opportuno attendere, per la loro comparsa, ulteriori perfezionamenti tecnici quando essi potrebbero, sin d’ora, salvare molte vite umane⁴. Al di là del fatto che i tempi siano effettivamente maturi per la commercializzazione al pubblico di tali veicoli (si prevede che già nel 2020 molte vetture saranno allineate al Livello 3 SAE di automazione, ad un Livello cioè in cui il sistema elettronico decide autonomamente d’iniziare una manovra che dovrà essere completata dal conducente in caso di richiesta d’intervento effettuata dal sistema stesso), rimane la condivisa constatazione che essi saranno più sicuri di quelli convenzionali (peraltro, è evidente che se essi avessero uno standard di sicurezza inferiore a questi ultimi, non dovrebbe essere messi in circolazione⁵).

Per veicoli autonomi si intende, in una massima estensione della definizione⁶, un veicolo capace, attraverso la propria strumentazione, governata da un’intelligenza artificiale (IA), di trasferirsi da un punto di partenza ad uno arrivo, fissati dal suo utilizzatore, senza alcun aiuto da parte di questo (inteso come persona umana o infrastruttura) a bordo del mezzo, seguendo le regole della circolazione stradale. Forme meno sofisticate di automazioni, denominate sistemi autonomi (ADAS), sono oggi presenti sulle più moderne vetture le quali, ad esempio, effettuano, da sole, operazioni di parcheggio, di rientro nella mezzeria stradale di percorrenza o di frenata⁷.

Mentre nei veicoli autonomi le IA operano, esse stesse, scelte decisionali complete, sulla base delle opzioni strategiche che possiedono, nei veicoli parzialmente autonomi i sistemi aiutano il conducente (salvo eccezioni) ad effettuare determinate operazioni; tuttavia, tale aiuto, non esime il conducente da una consapevole e prudente guida del mezzo.

Va anche premesso che la rivoluzione culturale creata dalla circolazione di queste vetture connesse ad un ambiente cooperativo (fatto di altre vetture e infrastrutture stradali) non interesserà solo il settore della circolazione stradale, ma anche quelli dell’omologazione dei veicoli, della guida con patente, delle assicurazioni stradali e della privacy⁸.

Si deve subito notare che, quantomeno per le vetture autonome e per quelle convenzionali dotate di sistemi autonomi, non si è verificata un’eccessiva preoccupazione, da parte dei costruttori di vetture⁹, per un possibile incremento del carico della loro responsabilità, quali produttori, tale da rallentarne lo sviluppo (c.d. chilling effect), in quanto vi è molto interesse degli automobilisti per questi prodotti ed i rischi da essi esplicati e attesi sembrano controllabili.

Alcuni costruttori di vetture, come si dirà in seguito, hanno addirittura comunicato (prim’ancora che la legge inglese e quella tedesca lo disponessero) di volersi assumere il costo dei danni derivanti dal malfunzionamento dei loro sistemi, ove solo si provi che essi erano attivi al momento del sinistro, evidentemente molto sicuri della loro efficienza¹⁰.

Avverte, tuttavia, il Parlamento Europeo¹¹ che l’andamento attuale tende a sviluppare macchine autonome e intelligenti in grado di apprendere e prendere decisioni in modo indipendente e genererà, nel lungo periodo, non solo vantaggi, ma anche una serie di preoccupazioni circa gli effetti diretti ed indiretti sulla Società nel suo complesso ed è possibile che, nel lungo termine, l’intelligenza artificiale (IA) supererà la capacità intellettuale umana. Con il che il colegislatore europeo sembra avere un’altra preoccupazione: quando l’intelligenza umana sarà superata da quella artificiale, quale sarà il parametro di riferimento per differenziare un’azione buona da una cattiva, non essendoci più un Modello umano di riferimento?¹² Di un Modello di riferimento ha peraltro necessariamente bisogno il Giudice quando deve valutare un fatto illecito o un inadempimento, dovendo raffrontare un evento (quand’anche esplicazione dinamica di una cosa) a un comportamento (umano) prestabilito, assunto come diligente (anche considerato come obbligo di custodia).

Ci si può allora chiedere se l’IA dovrà comportarsi come un Uomo (ed osservare, ad esempio, il diritto naturale o il diritto di un ordinamento statuale) o come un’IA¹³ (ammesso che vi sia un tal modo di ragionare¹⁴)? Secondo alcuni, l’opzione di fare in modo che le vetture autonome si comportino sulle strade in modo da offrire sempre la precedenza a tutte le vetture (opzione che eliminerebbe totalmente i rischi della circolazione stradale) potrà essere superata da quella di insegnare all’IA (della vettura) tutte le (o la maggior parte delle) scelte possibili, in base al comportamento pretendibile dall’uomo medio, nell’osservanza della normativa sulla circolazione stradale¹⁵. In tal modo l’IA riprodurrebbe esperienze pregresse dell’uomo, salvo non assumesse, usando anche il dato esperienziale, nuove iniziative dettate dalla propria intelligenza evolutiva¹⁶.

La Commissione Europea¹⁷ utilizza un ampio concetto di "Safe System e ritiene che la responsabilità per la sicurezza stradale vada equamente suddivisa tra conducenti, costruttori di vetture e gestori di infrastrutture (secondo la Haddon Matrix"). Emerge così un ulteriore protagonista delle problematiche sulla circolazione delle vetture: il gestore di infrastrutture. Figura che assumerà sempre più importanza (si pensi alla tecnologia E-call o servizio di chiamata automatica di emergenza, in vigore nell’Unione Europea dal 31 marzo 2018). Cambierà anche l’ambiente in cui si muoveranno le autovetture con sistemi autonomi: si parla -al proposito- di ambiente cooperativo per indicare uno scenario in cui le vetture sono connesse fra loro (V2V) o con le infrastrutture (V2I)¹⁸. I test di prova stanno dimostrando che i veicoli autonomi e le vetture convenzionali con sistemi autonomi riescono a gestire anche le più complesse situazioni di traffico congestionato e sono sufficientemente sicuri (pur essendosi verificati, anche di recente, alcuni tragici eventi¹⁹).

Com’è noto, l’attuale legislazione non consente la circolazione di veicoli autonomi su strada (se non per effettuare test di prova). Per poter autorizzare i costruttori di vetture ad effettuare i test sono stati necessari interventi legislativi da parte degli Stati (nota 1). Va rilevato che sia la Convenzione di Ginevra del 1949 sia la Convenzione di Vienna del 1968, dettate entrambe in tema di circolazione stradale (la prima è stata sottoscritta dagli USA e dalla Gran Bretagna), impongono, in particolare la seconda, la presenza di un conducente sulla vettura e la condizione necessaria che il medesimo abbia costantemente il controllo della medesima ("every driver shall at all times be able to control his vehicle", art. 8). La Convenzione di Vienna non specifica però cosa essa intenda per conducente che esercita un controllo sulla vettura; si è così prospettata l’ipotesi che il controllo possa essere esercitato con ogni modalità. Quest’interpretazione (sostenuta dalla Svezia in sede di Economic Commission for Europe presso le Nazioni Unite) consentirebbe già l’uso delle vetture autonome, ma è avversata (nella stessa sede) da altri Stati (tra essi, la Germania) che ritengono necessaria la presenza fisica del conducente sul mezzo per il suo costante controllo. Seguendo quest’ultima interpretazione, l’utilizzo sulle strade delle vetture autonome necessita della modifica (del testo) della Convenzione di Vienna. Nel 2014 è stato raggiunto un compromesso su alcuni emendamenti alla Convenzione, poi inseriti all’art. 8 bis²⁰, con efficacia dal 2016, finalizzati a consentire al conducente di non svolgere, seppur temporaneamente, una guida attiva, allorché operano i sistemi autonomi. È però sempre necessario che il conducente²¹ possa, in ogni momento, intervenire per assumere il controllo del veicolo ("such systems can be overridden or switched by the driver").

La modifica alla Convenzione rimane, allo stato, incompleta²² e necessita di ulteriori interventi²³. Per ora, l’art. 8, punto 5 bis legittima solo l’uso di sistemi autonomi di ausilio alla guida (che operano sotto il controllo del conducente) se sono conformi alla normativa tecnica di omologazione, sottrae alla Convenzione questa materia e l’inserisce nella normativa tecnica sulla omologazione.

2. Le macchine intelligenti o autonome

Le macchine intelligenti o, genericamente, robot sono studiate contemporaneamente dal diritto²⁴, dalla scienza²⁵, dall’economia²⁶, dalla filosofia morale²⁷ e dell’etica²⁸.

Asimov²⁹, cui si deve la creazione del termine «Robot»³⁰, nella sua opera Il Circolo vizioso del 1942 elencava tre Leggi, basate sul principio di beneficenza³¹, che i progettisti dovrebbero rispettare nella progettazione³² dei robot per fare in modo che il loro comportamento sia conforme all’etica (e al diritto) dell’uomo³³.

Con opposta visione meccanicistica, si potrebbe però anche pensare che l’Uomo stesso non sia altro che una macchina complessa e che ogni materia organizzata sia dotata del principio di movimento e sensibilità come insegnava De La Mettrie nel 1747³⁴.

Oltre al problema se i robot possono agire in difformità dalla Legge morale dell’Uomo (problema che, peraltro, è fuorviante, come vedremo), ne è subito emerso un altro: chi sarà il responsabile delle loro azioni dannose?

Oggi i robot acquisiscono dati provenienti anche da ambienti esterni (in quanto sono sempre più usati in scenari cooperativi, con connessioni multiple), ciò fa sì che essi possono anche comportarsi in modo inatteso (o non facilmente comprensibile). A ciò si aggiunga che i moderni robot sono adattivi, utilizzano cioè i dati appresi all’esterno per creare nuovi comportamenti, modificando i precedenti³⁵. In conseguenza, in un gruppo decisionale (ed operativo) a composizione mista di uomini, infrastrutture e IA, può essere difficile riuscire ad individuare