Il 6 ottobre l'Europa decide se fidarsi di un algoritmo al volante. Voi salireste?

Sono le sei e mezza di sera sulla Milano-Venezia, direzione casa. Davanti un camion che frena senza motivo, dietro uno che non frena mai. Avete fatto dieci ore, l'ultima riunione è finita male, e a un certo punto vi accorgete che gli ultimi tre chilometri non li ricordate. Non li avete guidati voi: li ha guidati qualcosa che sta nel vostro cervello e lavora da solo, senza chiedervi il permesso. Vi è mai successo? A me sì. E credo a chiunque onestamente.

Tenete quella sensazione da parte. Il 6 ottobre, a Bruxelles, un comitato tecnico dal nome impronunciabile deciderà se quel "qualcosa che guida da solo" potrà essere, per legge, un software invece che la vostra stanchezza.

Di cosa si tratta, in due righe

Il sistema di guida supervisionata di Tesla quello in cui l'auto sterza, accelera e frena da sola, ma il conducente deve restare pronto a intervenire è già omologato in sei Paesi dell'Unione: Paesi Bassi, Danimarca, Belgio, Estonia, Lituania e Slovenia. Sono passati tutti da una porta laterale, un'esenzione prevista per le tecnologie che le norme ancora non contemplano. Il 6 ottobre si vota se aprire la porta principale: un'unica omologazione valida ovunque, Italia compresa. Servono quindici Stati che rappresentino il 65% degli europei.

Fin qui la cronaca. Ma se fosse solo cronaca non vi annoierei! :)

La domanda vera non è se la macchina sa guidare

La domanda vera è: in base a cosa decidiamo di fidarci?

Tesla, per la prima volta, ha messo sul tavolo i suoi dati: settantamila conducenti europei, un milione di chilometri al giorno, e la dichiarazione che su cento milioni di chilometri gli incidenti siano stati 4,1 volte meno frequenti che con la guida umana. Sono numeri di chi vende il prodotto, e vanno letti così. Ma sono numeri, e prima non c'erano.

Dall'altra parte c'è la Francia, che ha detto no. E il suo no merita rispetto, perché non è un no di principio (almeno loro hanno dato una risposta). È un no su due punti precisi: il sistema, per adeguarsi al traffico, supera i limiti di velocità senza che il conducente lo chieda; e il controllo su chi sta al volante non basta a garantire che stia davvero guardando la strada. La Svezia ha chiesto la bocciatura. Il Consiglio europeo per la sicurezza dei trasporti vuole prove indipendenti, non quelle del produttore.

Ora fermatevi un attimo sul primo punto, perché contiene un paradosso che vale l'intera discussione. Il sistema supera i limiti perché lo fa il traffico intorno. Fa esattamente quello che facciamo noi ogni giorno sulla tangenziale. Lo stiamo condannando per essere troppo umano? E allora: vogliamo una macchina che guidi come noi, o una che guidi meglio di noi? E chi decide cosa vuol dire "meglio" l'ingegnere che l'ha progettata, il ministro che la vota, o le migliaia di persone che ogni giorno, con le mani sul volante, la stanno già usando?

Cosa cambia se passa

Un sì il 6 ottobre sarebbe una prima volta assoluta. Fino a oggi l'Europa ha omologato sistemi che fanno quello che un programmatore ha scritto: se succede A, fai B. Il sistema Tesla è diverso: nessuno gli ha scritto le regole della strada, le ha ricavate da solo osservando miliardi di chilometri di guida. Approvarlo significa stabilire, per la prima volta, come si giudica un software di questo tipo: quali dati deve portare, quali risultati deve dimostrare, sotto quale soglia non passa. Una volta scritto, quel metodo vale per tutti: per i costruttori che vorranno seguire la stessa strada, e per i regolatori che potranno pretenderlo.

C'è un secondo effetto, ed è economico. Chi ha un'azienda lo sa senza bisogno di economisti: nessuno costruisce un capannone su un terreno di cui non conosce il piano regolatore. Oggi chi vuole investire sulla guida assistita in Europa si trova davanti ventisette piani regolatori diversi, e aspetta. Con un'omologazione unica l'incertezza sparisce, e gli investimenti possono muoversi su scala continentale: lo sviluppo del software e i centri dati che lo alimentano; le assicurazioni, che oggi non sanno che polizza scrivere per un'auto che frena da sola; le flotte aziendali e i servizi di mobilità, che non possono pianificare senza sapere in quali Paesi potranno circolare.

E c'è l'effetto sui concorrenti, che è quello che ci riguarda più da vicino. I costruttori europei hanno sistemi simili in sviluppo, ma nessuno ha fretta di portarli davanti a un regolatore che non ha ancora deciso come valutarli. Un sì a Tesla li obbligherebbe ad accelerare. E dietro ogni costruttore c'è una filiera di fornitori, componentisti, software house: aziende con cento persone e un capannone, come quelle che dalle nostre parti si vedono dal finestrino della  Milano-Venezia.

Cosa cambia se non passa

Non finisce il mondo. I sei Paesi restano sei, l'Italia ha già la pratica al Ministero e può andare avanti da sola (ma dubito). Ma cambia la velocità, e cambia il messaggio.

E qui devo dire una cosa che a molti non piacerà: un no non sarebbe necessariamente un errore. Un no che dice "correggete quella funzione, migliorate quel controllo, portate quelle prove, e poi ne riparliamo" è governance. È quello che ognuno di noi pretende da un fornitore prima di firmare. Il no che fa paura è un altro: quello senza criteri. Quello che boccia e non dice cosa servirebbe per approvare. Quello che lascia Tesla e concorrenti, nella stessa nebbia di prima, e nella nebbia il capitale non entra: aspetta fuori, o va altrove.

L'Europa non ha il dovere di dire sì. Ha il dovere di dire cosa serve per un sì.

Perché ve lo racconto su questo blog

Perché la stessa decisione, in scala ridotta, è sulla scrivania di quasi tutti quelli che mi leggono. Un fornitore vi propone un'intelligenza artificiale: in amministrazione, in produzione, a rispondere ai clienti. Promette. Mostra una demo. Qualche volta mostra anche dei numeri. E voi dovete decidere se salire.

Le domande che l'Europa si sta facendo per un'automobile sono esattamente quelle che dovreste fare per un gestionale: su quali dati è stato valutato, chi li ha verificati, cosa fa quando il caso non è previsto, cosa succede quando "funziona" ma nel modo sbagliato come una macchina che accelera perché accelerano tutti e chi risponde se sbaglia. Non serve capire di reti neurali per farle. Serve solo non avere fretta di firmare.

Quindi ve lo chiedo davvero, perché mi interessa più della vostra opinione sulle auto: voi salireste? E se la risposta è "dipende" da cosa dipende? Cosa vi servirebbe vedere, sapere, toccare, per affidare a un algoritmo gli ultimi tre chilometri della Venezia-Trieste, o l'ultima riga del vostro bilancio?

Scrivetemelo nei commenti. Il 6 ottobre qualcuno deciderà per tutti; vale la pena aver deciso prima per sé.

Questo blog è curato da 4ZEIT, consulenza informatica indipendente per le PMI. Maggiori informazioni su www.4zeit.it