L’algoritmo dell’Apocalisse e la responsabilità dell’umano

La convergenza tra l’apice della potenza distruttiva industriale, rappresentata dagli arsenali nucleari, e la frontiera dell’evoluzione digitale, incarnata dall’intelligenza artificiale, pone l’umanità dinanzi a un bivio storico senza precedenti. La “Dichiarazione di Roma per una pace disarmata e disarmante”, sottoscritta in Campidoglio da un’eterogenea coalizione di premi Nobel, scienziati, leader religiosi e statisti, non si configura semplicemente come un appello diplomatico, bensì come un manifesto filosofico ed etico essenziale per il XXI secolo. Nato a conclusione del vertice presso il Borgo Laudato si’ all’ interno delle Ville Pontificie di Castel Gandolfo, il documento solleva interrogativi profondi sulla natura della sovranità, della decisione clinica e del limite che l’essere umano deve autoimporsi nel rapporto con la tecnica.

La riflessione centrale della Dichiarazione ruota attorno al concetto di delega decisionale. Nel contesto bellico, la rapidità di calcolo dell’intelligenza artificiale viene spesso presentata come un vantaggio strategico in grado di minimizzare i tempi di reazione. Tuttavia, questa accelerazione algoritmica introduce un rischio sistemico intollerabile: l’eliminazione del fattore umano dai processi di comando e controllo nucleare.

La storia della guerra fredda ha ampiamente dimostrato che la salvezza del pianeta è dipesa, in più occasioni, non dalla precisione dei sistemi di rilevamento, ma dal dubbio metodico, dall’intuizione e dall’esitazione etica di singoli individui che decisero di non rispondere a falsi allarmi tecnologici. Automatizzare queste decisioni significa escludere a priori la possibilità del dubbio, sostituendo la coscienza con un calcolo probabilistico privo di flessibilità morale.

L’appello a una “pace disarmata e disarmante” interroga direttamente la dottrina della deterrenza nucleare, che per decenni ha regolato gli equilibri geopolitici mondiali attraverso il paradigma della distruzione mutua assicurata. L’integrazione di sistemi di intelligenza artificiale capaci di automiglioramento e auto-ottimizzazione rischia di rendere tale equilibrio intrinsecamente instabile. Un sistema autonomo che percepisce una minaccia basandosi su modelli predittivi potrebbe avviare un attacco preventivo per ottimizzare le proprie possibilità di difesa, innescando un conflitto globale senza che alcuna volontà politica umana lo abbia effettivamente deliberato. La Dichiarazione di Roma, pertanto, individua nella governance globale e nella supervisione umana non solo un argine tecnico, ma un dovere ontologico.

In conclusione, la Dichiarazione di Roma ci ricorda che lo sviluppo tecnologico non è un processo biologico inevitabile, ma un prodotto della cultura e della scelta umana. Proteggere il processo decisionale dall’automatismo bellico significa riaffermare il primato dell’etica sulla pura tecnica. Solo attraverso un impegno multilaterale volto al disarmo reale e alla regolamentazione rigorosa delle nuove tecnologie sarà possibile garantire che il progresso scientifico rimanga uno strumento al servizio della vita e non il catalizzatore della nostra stessa estinzione.