Intervista a Padre Benanti

Intervista a Padre Benanti

Quale governance per l’IA
Un’ipotesi di dialogo tra etica, scienza e tecnologia

A cura di Massimiliano Cannata

Benvenuti nel post umano, dove macchine intelligenti parlano con noi e meglio di noi, dove il virtuale è una categoria dell’essere, dove viviamo la rete in una dimensione omeopatica, senza una distinzione tra dentro e fuori. Siamo all’alba di un nuovo mondo? Difficile dirlo. Neanche Colombo all’alba del 3 agosto del 1949 dopo aver allestito le tre caravelle poteva immaginare la portata della rivoluzione che avrebbe innescato. Le sue mappe geografiche erano lacunose, anche le nostre mappe cognitive lo sono. Il grande navigatore agognava la meta, sicuro che durante il percorso avrebbe aggiornato la cartografia senza farsi disorientare. La nostra condizione è la stessa, camminiamo verso l’ignoto, non sappiamo la catena di implicazioni che l’uso dei potenti strumenti del digitale comporterà, intanto stiamo andiamo. Per governare la paura, istintiva e incomprimibile possiamo solo tentare di aumentare il grado di conoscenza di cui disponiamo.

Lo sviluppo e la diffusione delle intelligenze artificiali ha cambiato il nostro modo di essere nel mondo, oltre ai nostri processi conoscitivi. La svolta non è solo di natura tecnica, ma spirituale e filosofica. Tornano di attualità grandi interrogativi che hanno segnato l’evoluzione del pensiero occidentale. Ne abbiamo parlato con Padre Paolo Benanti, teologo, specializzato in bioetica e nel rapporto tra teologia morale, bioingegneria e neuroscienze. Consigliere del Papa consulente della presidenza del Consiglio sullo sviluppo dell’IA tra le voci più ascoltate del pianeta, ha appena pubblicato insieme al filosofo Sebastiano Maffettone “Noi e la macchina”, edito da Luiss University Press.

Padre Benanti di IA si parla ormai in tutti i consessi, dal G7 che ha visto per la prima volta la partecipazione di un Papa, all’Onu, il tema rimbalza sollecitando una molteplicità di letture. Il Pontefice nel documento “IA e sapienza del cuore: per una comunicazione pienamente umana” ha chiesto ai capi di governo del pianeta l’applicazione dei principi dell’etica all’intelligenza delle macchine. Da che cosa è dettata l’universalità di questo interesse che attraversa discipline, professioni, campi del sapere?

Innanzi tutto va detto che esiste, ed ha un profondo radicamento storico, una cultura ecclesiale che si pone il problema di essere fermento per la società, cercando di rispondere a una profonda domanda di senso oggi molto diffusa. Mi pare dunque legittimo, oltre che necessario, che l’impegno del Papa possa andare in questa direzione. Non dobbiamo stupirci se il tema dell’IA sta condizionando di fatto le agende dei governi e le strategie aziendali a tutti i livelli. Provo a fare un passo indietro per rispondere più compitamente alla sua sollecitazione, risalendo agli anni difficili del secondo conflitto mondiale. In quel momento sono state, infatti, poste le premesse che hanno portato a qualcosa di irripetibile: il mondo che ci circonda non è più quella di una volta. Nei celebri Bell Labs non è stata, infatti, solo ridefinita la realtà dell’informazione, perché è stato introdotto un componente essenziale il transistor, la cui diffusione massiva avrebbe cambiato per sempre la natura degli oggetti intorno a noi.

Soffermiamoci su questo passaggio cruciale. Per capirci: dobbiamo fare i conti con un “salto ontologico”, che Byung-chul Han, filosofo di Seul, pensatore tra i più influenti del Pianeta, definisce in un recente saggio come il “regno delle non-cose” (ed. Einaudi ndr,)?

Significa che dovremo imparare a gestire un nuovo potere, ne parlerò in uno studio di prossima pubblicazione: il potere computazionale. La realtà è definita dal software. L’auto è l’emblema di questa trasformazione. Divenuta una commodity, non negoziamo il suo acquisto, possediamo solo la licenza d’uso. Il vecchio diritto romano associava tre attribuzioni alla proprietà degli oggetti: usus, abusus e fructus. Possiamo, una volta acquistato, usare a nostro piacimento lo smart phone, ma lo sfruttamento dei dati che convergono su quel bene, che sia un cellulare o un’auto è solo parzialmente e temporaneamente appannaggio nostro. Il cambio di prospettiva è molto profondo perché di fatto sta mutando la catena di potere all’interno del mondo.

Che cosa ha comportato e soprattutto che cosa comporterà la “transistorizzazione” della realtà?

Che la realtà è ormai definita dal software. Se in un negozio oggi per un motivo qualsiasi la connettività viene meno cambia la natura di quel luogo. Pensiamo, per fare un esempio molto familiare, a un supermercato, se privo di connessione non sarà possibile fare nessuna transazione, né verificare quello che c’è in magazzino. Se un ransomware, cosa che avviene sempre più spesso, si insinua nei sistemi IT di un ospedale, si arrestano le sale operatorie, si congelano pratiche mediche e terapie, con le conseguenze del caso. Inoltre se il è il software che definisce la realtà, quest’ultima diventa una commodity del software, colui che lo possiede definisce gli oggetti che ci troviamo di fronte.

Detto in sintesi: un software sofisticato come la IA può molto semplicemente cambiare il controllo e la percezione stessa che abbiamo del mondo che ci circonda. Non a caso si parla sempre più sovente di software defined reality.

Quella che Lei sta tratteggiando è una rivoluzione profonda che ha una duplice matrice: tecno-scientifica e filosofico- epistemologica. Per governare l’innovazione senza pregiudizi, con equilibrio razionale, con capacità di analisi Servirebbe, come ha scritto in un fortunato pamphlet di alcuni anni fa Tòmas Maldonado l’esercizio di una “critica della ragione informatica”, quale scandaglio utile per andare al fondo dei problemi, senza alimentare spettri di superficie. Siamo fronti ad affrontare la sfida?

“Non ci può essere una risposta univoca alla domanda: l’IA è un bene o un male. UnA cosa è certa: dobbiamo fare i conti con questo salto ontologico, perché questo è il territorio entro cui ci muoviamo. Siamo di fronte a un’altra specie di sapiens che abita il pianeta, ecco perché la comprensione di questa macchina diventa particolarmente impegnativa. Ma questo non deve spaventarci. Se ormai l’”anima del mondo” è data dal software, il tesoro che muove economia e società è rappresentato dai dati e dalle informazioni. Per questa ragione l’IA si è spostata dai tavoli degli ingegneri ed è arrivata a investire tutti gli ambiti strategici dell’economia e della politica. Quello che dobbiamo affrontare (mi riferisco in particolare alla nostra Europa che ha sperimentato il disastro del totalitarismo) è un nuovo inizio, una nuova età dei diritti per usare la celebre definizione di Norberto Bobbio. Bisogna, in atri termini, cominciare a maturare una coscienza giuridica, che ci permetta di proteggere l’individuo nel divenire di un eco-sistema segnato dalla tecnologia.

Siamo dentro la sfera che Stefano Rodotà definiva “corpo elettronico”, dove reale e virtuale si mescolano. In questo orizzonte la persona va tutelata nel suo profilo fisico e immateriale. Lavoro improbo per i giuristi, non crede?

Non solo per loro. L’individuo deve relazionarsi con la sua estensione digitale, sempre più articolata in virtù del prepotente sviluppo delle applicazioni della tecno-scienza. Dobbiamo cercare di “addomesticare” questa nuova potente tecnologia all’interno di un sistema sociale che crede nella mediazione del potere democratico. Se vediamo il progresso normativo passi avanti ne sono stati fatti. Il GDPR è stata per esempio una grande conquista, ma siamo già oltre. La questione che si apre oggi riguarda i dati aziendali, che sono le informazioni prodotte dai processi produttivi. Nella definizione delle norme il legislatore dovrà tenere conto del mutato scenario. Bisognerà espandere l’IA ACT alla tutela integrale del consumatore, guardando agli ambiti di privatezza e alla sfera sensibile che si intreccia con la dimensione professionale che ci realizza nelle organizzazioni industriali.

Molte aziende che appaiono molto “disinvolte” nell’utilizzazione dell’algoritmo per osservare comportamenti, mansioni e ruoli dei dipendenti. Sono aspetti della società della sorveglianza che generano paure nella collettività. E’ questo il progresso che le macchine intelligenti dovrebbero garantirci?

Faccio riferimento all’“l’IA ACT per dare una risposta. La normativa vieta l’uso di meccanismi come il riconoscimento facciale per leggere lo stato emotivo della persona, ma non impone nessun alt alla possibilità di valutare la performance e il rendimento, con strumenti quali i copilot che tracciano l’efficacia efficienza di ogni attore dell’organizzazione. Si fa strada una logica nuova che attiene a una diversa concezione del lavoro, ormai focalizzato sulla performance individuale. Vacilla il “noi” per dare spazio alla predominanza dell’io, i legami di solidarietà che sostanziano l’azione del sindacato e dei corpi intermedi appaiono chiaramente slabbrati. L’intelligenza collettiva che dovrebbe sostanziare la rete, evapora in una prospettiva che, dietro il miraggio di maggiori guadagni, si preoccupa solo del destino individuale. Deriva molto pericolosa, che trova una corrispondenza inquietante nella platformizzazione del lavoro, che è un fenomeno emergente, che rappresenta la nuova frontiera di analisi e di studio, che dovrebbe sollecitare corpi intermedi e sindacati, oltre alle istituzioni. Rispetto a tutto questo non si può rimanere inerti, mentre si staglia un orizzonte che riguarda la cultura del lavoro oltre che la difesa dei diritti che va presidiato e che impegnerà le menti più illuminate, quelle che si dimostreranno realmente capaci di uno sguardo profetico.

Etica e sviluppo tecnologico. Vorrei chiudere la nostra conversazione toccando questo delicato nesso, cui Lei faceva riferimento all’inizio. Vengono necessariamente in mente le preoccupazioni espresse negli ultimi scritti di Emanuele Severino. Si tratta di timori infondati?

Probabilmente Severino è stato troppo tranchant nella manifestazione di alcuni pareri e posizioni sull’argomento. In realtà noi sappiamo che la tecnologia non è solo cieca volontà di potenza ma anche strumento eccezionale di risposta alle domande che l’uomo si fa, da quando è apparso sulla terra, sulla realtà che ci circonda. L’uomo che nel passato si è sentito minacciato dalla realtà, ha fatto uno strumento che si chiama fucile. Quel fucile non è solo uno strumento di offesa, ma è anche uno strumento ermeneutico, che mi fa vedere il mondo diviso tra amici e nemici. Ecco che entra in gioco l’artefatto tecnologico, come risposta a una domanda sulla realtà. Solo se vedo la domanda che sta dietro l’artefatto potrò avere un rapporto etico con l’artefatto. Definire un codice etico vuol dire in conclusione proprio questo: far risuonare la domanda dal produttore al consumatore in ogni istante, affinché quella domanda non risulti soffocata con indifferenza e superficialità.