L’ombra degli algoritmi e il bagliore dell’Uomo: riflessioni sull’età dell’Intelligenza Artificiale

di Francesco Pacienza

Quando Isaac Asimov pubblicava nel 1950 la sua celebre raccolta Io, Robot, la figura dei “cervelli positronici” appariva come una raffinata speculazione teorica. Asimov, scienziato prima ancora che scrittore, non descriveva la tecnologia del suo tempo, ma intuiva con straordinario presagio i nodi etici che avrebbero avviluppato il futuro. La domanda che ogni lettore della saga asimoviana si pone oggi di fronte all’accelerazione travolgente delle reti neurali e degli agenti autonomi è inevitabile: quanto c’è ancora di fantascienza in quelle pagine e quanto è già diventato la nostra quotidianità?

Gli allarmi che dipingono uno scenario imminente – in cui i modelli generativi finirebbero per controllare la quasi totalità dei contenuti del web o minacciare la continuità stessa della civiltà – riflettono una paura ancestrale. Tuttavia, per comprendere l’ampiezza di questo snodo storico senza cedere al panico, occorre intrecciare la lucidità dell’analisi tecnologica, la saggezza dei classici e il discernimento etico.

Nel ciclo di Io, Robot, Asimov non temeva la macchina in sé, quanto piuttosto l’imprevedibilità del contesto e le crepe logiche nell’applicazione delle sue celebri Tre Leggi della Robotica. La Prima Legge – un robot non può recar danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno – si fondava su un presupposto geometrico: l’impossibilità morale per la macchina di causare la morte o il dolore di un individuo.

Nella realtà odierna, la transizione dai modelli di linguaggio al web sintetico sta trasformando la rete in un ecosistema dominato da algoritmi che generano contenuti per altri algoritmi. Il rischio non risiede tanto nell’improvviso risveglio di una coscienza artificiale ostile, quanto nell’automatizzazione cieca dei processi decisionali, nella perdita di tracciabilità delle fonti e nella delegazione del giudizio umano a sistemi probabilistici.

L’urgenza di un argine morale all’espansione incontrollata della tecnologia ha trovato una risposta solenne nell’ambito del pensiero etico contemporaneo. Nella sua Enciclica Magnifica Humanitas, incentrata sulla custodia della persona umana nell’era dell’intelligenza artificiale, Papa Leone XIV ha posto al centro la necessità di impedire che il paradigma tecnocratico riduca la vita umana a un mero fascio di dati.

Il documento pontificio richiama la responsabilità di mantenere l’uomo al centro di ogni innovazione, avvertendo che nessuna architettura algoritmica può sostituire la coscienza, l’empatia e la discernibilità morale propri dell’essere umano. Se Asimov cercava di inscrivere l’etica nel codice matematico delle Tre Leggi, l’insegnamento sociale della Chiesa ci ricorda che l’etica non è un algoritmo da programmare nella macchina, ma una responsabilità inalienabile da esigere dall’uomo che progetta, impiega e governa quei sistemi.

Mentre il dibattito pubblico spesso si concentra sui rischi ipotetici di un’IA superintelligente che prende il sopravvento nel futuro, esiste un pericolo concreto e drammaticamente attuale: l’applicazione delle tecnologie AI in ambito bellico.

L’uso di piattaforme algoritmiche per l’individuazione di bersagli e la gestione delle operazioni militari – come emerso tragicamente nei recenti contesti di guerra, tra cui le devastanti operazioni sulla Striscia di Gaza – evidenzia la portata di questa minaccia. Quando la decisione sulla vita e sulla morte viene delegata, anche solo parzialmente, ad algoritmi di “ottimizzazione” delle perdite o a sistemi di sorveglianza di massa, il confine della Prima Legge di Asimov viene sistematicamente violato.

Come sottolineato anche nei moniti vaticani e da numerosi osservatori internazionali, distanziare il giudizio umano dal volto delle vittime abolisce la pietà e trasforma la tragedia umanitaria in un’operazione di calcolo probabilistico. Questo rappresenta il vero e immediato pericolo: non la macchina che si ribella, ma l’uomo che abdica al proprio ruolo di custode della dignità altrui, impiegando la tecnologia per amplificare l’efficienza della distruzione. 

Di fronte a uno scenario che può apparire schiacciante, la risposta non risiede nel rifiuto luddista della tecnologia, né nella rassegnazione passiva. Il futuro della convivenza tra essere umano e intelligenza artificiale dipende dalle scelte culturali, normative e individuali che compiamo oggi.

• La centralità del discernimento umano: Ogni tecnologia deve rimanere uno strumento di supporto, un’estensione dell’ingegno che amplia le possibilità di cura, studio e salvaguardia della terra, mai il giudice supremo della vita altrui. 
• Sovranità critica della persona: Nel quotidiano, ciascuno di noi può esercitare una resistenza attiva al flusso indistinto dell’informazione sintetica, coltivando il pensiero critico, la verifica delle fonti e il valore della relazione interpersonale diretta.
• Governance e divieto delle armi autonome: La pressione dell’opinione pubblica globale e l’impegno istituzionale devono convergere verso trattati internazionali vincolanti che mettano al bando i sistemi d’arma autonomi privi di un effettivo e significativo controllo umano (meaningful human control).

La fantascienza di Asimov non era un presagio di sventura, ma un invito alla maturità scientifica ed etica. Come la storia insegna, la tecnologia rispecchia la direzione che la comunità umana sceglie di imprimerle: preservare il primato della coscienza significa garantire che l’algoritmo resti al servizio della vita, e mai il contrario.