L’uomo non è un algoritmo

L’enciclica Magnifica Humanitas coglie il rischio della nuova potenza tecnica. Ma la difesa della persona non può tradursi in un nuovo potere pubblico chiamato a regolare, distribuire e sorvegliare tutto.

di Sandro Scoppa

L’enciclica Magnifica Humanitas di Leone XIV, dedicata alla custodia della persona umana nel tempo dell’intelligenza artificiale, parla della tecnica, ma pone una questione molto più radicale: chi comanda sull’uomo quando dati, algoritmi e piattaforme diventano strumenti di selezione sociale? Il testo non respinge l’innovazione. Riconosce che la tecnologia può curare, connettere, educare, migliorare la vita. Nondimeno, rifiuta l’illusione più pericolosa del nostro tempo: credere che ciò che è tecnico sia per ciò stesso neutrale, giusto, inevitabile.

Il Papa scrive che la tecnologia “non è di per sé una soluzione ai problemi dell’umanità”, ma “concretamente, non è neutrale, perché assume il volto di chi la pensa, la finanzia, la regola, la usa” (n. 9). È un’affermazione decisiva. Ogni sistema incorpora interessi, incentivi, criteri, priorità. Misura alcune cose e ne ignora altre; premia certi comportamenti e ne penalizza altri; rende visibili alcuni soggetti e ne cancella altri. Dietro l’apparente freddezza del calcolo non vi è mai il nulla: vi sono uomini, poteri, capitali, uffici, finalità.

L’enciclica coglie anche il mutamento del potere contemporaneo. Non è più soltanto lo Stato a orientare le grandi trasformazioni. Leone XIV osserva che oggi i motori dello sviluppo sono spesso “attori privati, spesso transnazionali”, dotati di risorse superiori a quelle di molti governi, e che il potere tecnologico assume un volto “prevalentemente privato” (n. 5). È vero. La nuova sovranità non passa solo dal Parlamento o dal ministero: passa dal motore di ricerca, dalla piattaforma, dal sistema di rating, dall’accesso ai dati, dalla visibilità digitale.

Ma proprio qui occorre evitare l’equivoco. Il fatto che esista un potere privato opaco non rende automaticamente benefico il potere pubblico. Una piattaforma può filtrare, orientare, escludere; ma anche lo Stato può schedare, classificare, condizionare, distribuire premi e sanzioni attraverso procedure digitali altrettanto opache. Il problema non è sostituire un padrone privato con un padrone pubblico. Il problema è limitare tutti i poteri: economici, tecnologici, politici, amministrativi.

Il passaggio più forte dell’enciclica riguarda comunque la decisione automatizzata. Leone XIV avverte che affidare a un algoritmo “il potere di selezionare chi merita e chi no” significa consentirgli di ridefinire “i confini delle possibilità umane” (n. 103). Qui il testo centra il punto. Se un cittadino viene escluso da un lavoro, da un credito, da un servizio, da un’opportunità senza conoscere il criterio, senza poter contestare la decisione e senza individuare un responsabile, non vive più in un ordine giuridico libero. Vive dentro una burocrazia invisibile.

Il Papa aggiunge poi che l’ingiustizia può così diventare “silenziosa”, perché ammantata di “neutralità e oggettività” (n. 103). È la nuova forma del dominio: non più il comando brutale, ma la procedura che non discute; non più l’arbitrio dichiarato, ma il verdetto impersonale; non più l’ufficio che firma, ma il sistema che produce un esito. Un potere senza volto è più difficile da combattere di un potere arrogante, perché si presenta come necessità tecnica.

Per questo è importante anche il richiamo dell’enciclica alla responsabilità. Il testo afferma che ogni artefatto tecnico porta con sé “scelte e priorità: ciò che misura, ciò che ignora, ciò che ottimizza” (n. 104). Questa frase dovrebbe valere contro le grandi piattaforme, ma anche contro le pubbliche amministrazioni. Quando lo Stato invoca l’algoritmo per accelerare, prevedere, assegnare, controllare, non esce dalla politica: la nasconde. La decisione resta politica, ma diventa meno visibile e meno contestabile.

Più problematica è invece la parte economica. L’enciclica afferma che, nell’epoca dell’IA e della robotica, non è più possibile affidarsi alla sola “mano invisibile” del mercato e che la politica deve orientare le dinamiche economico-tecnologiche verso il bene comune (n. 163). La preoccupazione per monopoli, esclusioni e squilibri è comprensibile. Ma la politica non è un soggetto puro. È fatta di interessi, clientele, cattura regolatoria, burocrazia, errori, presunzione di conoscenza. Nessun ministero possiede le informazioni disperse nella società. Nessuna autorità centrale conosce meglio di milioni di persone i loro bisogni, le loro iniziative, le loro capacità di adattamento.

Quando si chiede alla politica di “orientare” l’economia, il rischio è che l’innovazione venga consegnata a piani, autorizzazioni, fondi, tavoli, strategie nazionali, apparati sovranazionali. Il potere promette di correggere il mercato, ma spesso finisce per bloccarlo, selezionarlo, addomesticarlo. E dove la concorrenza viene sostituita dalla direzione politica, i più forti non scompaiono: imparano a negoziare con il regolatore, a scrivere le regole, a trasformare l’intervento pubblico in barriera contro i nuovi entranti.

Lo stesso nodo emerge sul terreno della proprietà. L’enciclica ricorda che il diritto alla proprietà privata è “sempre subordinato alla destinazione universale dei beni” (n. 66) e include tra i nuovi beni anche “brevetti, algoritmi, piattaforme digitali, infrastrutture tecnologiche, dati” (n. 67). È un passaggio delicatissimo. Una cosa è combattere privilegi, frodi, monopoli protetti, abusi di posizione dominante. Altra cosa è rendere ogni proprietà, materiale o immateriale, dipendente da una valutazione politica permanente. Senza proprietà sicura non vi sono autonomia, investimento, responsabilità, pluralismo sociale. Una società nella quale ogni titolarità è revocabile in nome di finalità superiori non è più una società libera: è una società amministrata.

L’espressione migliore dell’enciclica è tuttavia “disarmare” l’IA. Leone XIV scrive che ciò significa rompere “l’equivalenza tra potenza tecnica e diritto di governare” (n. 110). È una formula potente. Avere più dati, più calcolo, più infrastrutture, più capacità predittiva non autorizza nessuno a governare la vita degli altri. Ma lo stesso principio deve valere anche per lo Stato: avere più uffici, più banche dati, più poteri regolatori non rende automaticamente giusta l’azione pubblica.

Disarmare l’IA, allora, non può significare frenare l’innovazione o consegnarla alla tutela permanente dei governi. Significa impedirle di diventare sovranità. L’algoritmo può aiutare una decisione, non sostituire il responsabile; può offrire strumenti, non produrre verdetti incontestabili; può aumentare la conoscenza, non trasformarsi in tribunale invisibile. Servono concorrenza reale, pluralità di soluzioni, libertà di uscita, criteri conoscibili, responsabilità identificabili, possibilità di ricorso.

La lezione più utile di Magnifica Humanitas sta dunque nella critica della tecnica come potere. La sua parte meno convincente emerge quando sembra confidare troppo nella politica come rimedio al potere. Non si custodisce l’uomo sostituendo la piattaforma onnipotente con l’amministrazione onnisciente. Non si difende la dignità trasformando ogni rapporto sociale in materia da autorizzare, redistribuire e controllare.

L’uomo non è un algoritmo. Ma non è neppure un fascicolo pubblico. È persona, responsabilità, proprietà, relazione, libertà. E nessuna civiltà resta umana quando dimentica che il primo compito della politica non è guidare la società, ma limitare sé stessa.