La pietra e il coltello. Quando l’uomo riuscì a lavorare la selce, levigandola sino a disporre di uno strumento tutto nuovo per andare a caccia, per tagliare i rami e per rendere meno faticosi certi lavori, allo stesso tempo si dotò anche di un’arma micidiale per uccidere i propri simili. All’uomo, però, è affidata la scelta di come utilizzare i nuovi arnesi, così ricchi di opportunità, ma anche di rischi. Oggi la stessa cosa si può dire anche per le possibilità offerte dalle intelligenze artificiali? Certamente sì, ma con un di più: l’intelligenza artificiale può essere progettata non solo per eseguire il compito che le viene affidato, ma anche per operare in maniera indipendente dalle scelte dell’uomo. Che, dunque, ne perde il controllo.

Non è un’eventualità di scuola, una semplice ipotesi teorica. Ci sono già programmi militari (“Lavander”, quello utilizzato da Israele a Gaza) in grado di riconoscere le persone a distanza, individuare il bersaglio e colpire con bombardamenti mirati. Tutto viene fatto e deciso dalle macchine, da un algoritmo che valuta l’importanza dell’obiettivo e la compatibilità con il limite (più o meno ampio) delle vittime “consentite”.

Il monito di papa Francesco sull’Intelligenza Artificiale parte proprio da queste situazioni: «Nessuna macchina dovrebbe mai scegliere se togliere la vita ad un essere umano». Lo ha ripetuto in maniera perentoria al cospetto dei Capi di Stato e Premier del “G7”, i Paesi più ricchi del pianeta, che si sono riuniti in Puglia. La prima volta di un Pontefice ad un vertice di questo tipo allargato, per l’occasione, anche ai Leader di una decina di Paesi, come India e Brasile, che contano sempre di più in un contesto internazionale che sta cambiando rapidamente.

Francesco nel suo intervento ha ripreso i temi contenuti nel Messaggio di Capodanno per la Giornata Mondiale della Pace: le intelligenze artificiali devono essere al servizio dell’uomo. Perché solo l’uomo ha la capacità di giudizio morale e di scelte etiche. La macchina deve rimanere una macchina (seppur con enormi potenzialità) e gli stessi algoritmi devono essere sempre condizionati da un’ispirazione etica. “L’innovazione non è mai neutrale”, ha aggiunto Francesco quasi a rispondere alla logica di chi, soprattutto negli Stati Uniti, teorizza che il progresso tecnologico e della ricerca non deve in alcun modo essere condizionato.

Se la rivoluzione industriale aveva riguardato le fabbriche (portando a un diffuso benessere per tutti), le tante facce delle intelligenze artificiali (non a caso citate al plurale) invadono invece tutti i campi: non solo quello bellico, ma anche quello produttivo (con le incognite legate al mondo del lavoro), della sanità, dell’economia e della finanza, della comunicazione e dell’informazione. Della nostra stessa vita quotidiana. Mille facce e mille conseguenze diverse, compresa quella di allargare il divario tra nazioni ricche e nazioni in via di sviluppo, tra ceti dominanti e ceti sociali oppressi, tra persone attrezzate e persone meno preparate, “mettendo così in pericolo la possibilità di una “cultura dell’incontro” a vantaggio di una “cultura dello scarto”.

C’è un appello alla responsabilità dei Leader mondiali, nelle parole del Pontefice. C’è un richiamo all’etica che è al tempo stesso anche un messaggio di speranza: quel bisogno di politica, della “buon politica”, che deve impedire che il paradigma tecnologico incarnato dall’intelligenza artificiale si trasformi in “paradigma tecnocratico”, ovvero – come Francesco ha più volte sottolineato, a partire dalla Laudato si’ – il rischio che l’immensa crescita tecnologica non venga accompagnata da uno sviluppo dell’essere umano per quanto riguarda la responsabilità, i valori e la coscienza.