L’intelligenza artificiale ha a lungo e profondamente penetrato le varie sfere della società moderna – dalla scienza all’industria, dalla sanità all’istruzione, dallo sport all’arte. Abbiamo superato il confine oltre il quale all’IA è affidato il compito di risolvere non solo questioni tecniche, ma anche estetiche, etiche e legali. Grazie alle sue capacità, è possibile disegnare quadri, comporre musica e rendere ogni persona assolutamente “trasparente” – sia nel suo comportamento che nella sua mente, al fine di controllare entrambi. Sulla base di questa tecnologia, è stato creato un sistema di rating sociale, implementato in Cina e, molto probabilmente, preparato in una forma o nell’altra per il mondo intero. Il rating sociale è un monitoraggio digitale del comportamento delle persone, sulla base del quale vengono introdotti incentivi o restrizioni per ciascun individuo al fine di aumentare il senso di affidabilità, decoro e fiducia nella società. Da un punto di vista tradizionale (pre-digitale), questa pratica cambia radicalmente l’approccio alla soluzione della questione eterna di “crimine e punizione”.
Per molto tempo, questa domanda è stata affrontata su due piani: pubblico (il campo del diritto), cioè il bene è ciò che è buono per la comunità, il clan, il paese; pertanto, il crimine è ciò che danneggia questo bene. Per questo sono previste punizioni corrispondenti alle norme esistenzialmente importanti in una determinata società. Un altro piano (il campo della moralità) è legato a categorie come coscienza, vergogna, virtù, rettitudine, onestà, che una persona apprende dalla famiglia, dalla religione, dalla cultura; ciò che rientra nella sfera della responsabilità personale per la sua scelta morale. Come sappiamo, il primo e il secondo non sempre coincidono, ed è di questo che parla, tra l’altro, il romanzo di Dostoevskij Delitto e castigo (1866). L’appello al “potere ultraterreno”, alla ricerca di una giustizia superiore (e di un giudizio giusto) accompagna l’umanità lungo tutta la sua storia; ma è il cristianesimo (e in un certo senso anche l’Islam) a trasportare le questioni morali sul piano della scelta personale, e l’essere umano provoca danno morale da un crimine principalmente a se stesso. Nonostante il fatto che “la volontà di Dio sia su tutto”, l’essere umano ha la libertà di prendere decisioni. Come insegnava Sant’Agostino, la grazia di Dio si estende ugualmente a tutte le persone, ma la libertà dell’uomo si manifesta nell’accettazione o nel rifiuto di questa grazia. Di conseguenza, la punizione che può colpire in questa vita è di natura trascendentale, e la vita quotidiana si trasforma in una scelta tra accettare la grazia o rifiutarla: “Entrate per la porta stretta, perché larga è la porta e spaziosa la via che conduce alla perdizione, e molti sono quelli che vi entrano; perché stretta è la porta e angusta la via che conduce alla vita, e pochi sono quelli che la trovano” (Matteo 7:13-14). Da questo punto di vista, tutta la vita diventa una ricerca interiore della “porta stretta” e della strada giusta. È molto importante capire che una tale paradigma di vita si applica anche a coloro che non si considerano aderenti alla religione; in qualche modo esistiamo ancora nella tradizione culturale, nei geni della quale questo paradigma è incorporato, e la domanda su cosa ci guidi lungo il cammino della vita – i comandamenti di Cristo o il “cielo stellato sopra di noi e la legge morale dentro di noi” di Kant – è piuttosto una questione terminologica. “Cosa è buono e cosa è cattivo” è infatti una domanda fondamentale e sacramentale per la civiltà cristiana, ma non solo, la cui drammaturgia secolare è basata su una ricerca infinita di una risposta. La responsabilità personale e la scelta personale tra bene e male sono temi centrali nelle opere di Dante e Shakespeare, Bach e Čajkovskij, Hindemith e Schoenberg, Faulkner e Tolstoj e molti altri, e soprattutto, ovviamente, Dostoevskij, le cui idee sono importanti per persone in tutto il mondo. Delegare le questioni etiche all’IA elimina a priori la questione di distinguere tra male e bene su un piano personale. Se la fine della civiltà avverrà, come hanno previsto molti filosofi e futuristi, da Spengler a Fukuyama negli ultimi cento anni, accadrà insieme all’abolizione di questa questione per ogni individuo o, meglio, per la sua anima.
È significativo che il rating sociale sia stato testato e applicato con successo prima in Cina: l’etica confuciana e l’ideologia non presuppongono alcun potere trascendentale; tutti i problemi morali sono risolti sulla Terra; gli interessi individuali, nell’ambito di questa etica, sono totalmente subordinati a quelli generali; e se le leggi adottate per tutti sembrano a qualcuno ingiuste, il confucianesimo suggerisce di coltivare il “coraggio morale”. Pertanto, la responsabilità personale per prendere decisioni morali è notevolmente ridotta e con l’introduzione del rating sociale è quasi eliminata (è interessante notare che la Cina è in prima linea nell’applicazione dell’IA nel campo dell’estetica. Ad esempio, lì sono molto popolari i concerti in cui un robot dirige musica composta da IA per un’orchestra).
D’altro canto, anche nel campo del diritto, che mira a una definizione obiettiva di “crimine e punizione”, non tutto è chiaro in relazione alla risposta alla domanda: a chi, nel mondo digitale, è delegata la soluzione della questione “cosa è buono e cosa è cattivo”? La logica di determinare il soggetto di questa decisione si è storicamente mossa verso un aumento della spersonalizzazione: da un capo tribù, monarca o presidente di partito, a istituzioni pubbliche democratiche che hanno sancito numerosi codici e leggi. In nome della massima obiettività e imparzialità, la “corte suprema” è diventata non solo impersonale, ma anche senz’anima, “gettando via il bambino con l’acqua sporca”. Nel mondo digitale, la “corte suprema” passa alla competenza dell'”intelligenza artificiale”, “la più obiettiva di tutte le obiettive” (l’IA è già ampiamente utilizzata nella pratica giudiziaria in molti Paesi). Il numero, i numeri, sono il nuovo Dio che non è solo oggettivo, ma anche senz’anima, e questo gli impone inevitabili limitazioni. Per esempio, nella determinazione della verità: l’IA separa il vero dal falso per coincidenza/discrepanza con l’algoritmo; ma la verità spesso va oltre l’algoritmo e l’analisi matematica, come dimostrato nel secolo scorso da K. Goedel nel suo famoso “teorema di incompletezza”. Per stabilire la verità su una persona, sono necessari strumenti umani. Lo stesso si può dire dell’uso dell’IA nell’arte: la pittura non è uguale alla composizione di colori, la musica non è uguale alla composizione di suoni, la poesia non è uguale alla composizione di parole. Senza la dimensione umana, che significa non solo l’operare algoritmi ma creare idee umane, l’arte cessa di essere arte.
Oggi non si possono negare i benefici pratici dell’IA. Ma esiste una linea oltre la quale il beneficio si trasforma nel suo opposto: il bene comune – in assenza di responsabilità personale e indipendenza, il desiderio di stabilità e sicurezza – nella perdita del diritto di scelta e nella completa subordinazione. Finché le questioni di moralità e bellezza saranno decise dalle persone e non dall’IA, l’essere umano rimarrà il suo padrone e signore, e non uno schiavo.
BIBLIOGRAFIA
Agostino. “Introduzione”. Confessioni ed Enchiridion. Biblioteca dei Classici Cristiani. Tradotto da Outler, Albert C. Filadelfia: Westminster Press. Stampa, 1955
Creel, Herrlee Glessner. Confucio e la Via Cinese. New York: Harper, 1949
Dostoevskij Fëdor. *Delitto e Castigo*. Tradotto da Constance Garnett. eBook Project Gutenberg, 2001
Kostka, Genia. Il sistema sociale della Cina e l’opinione pubblica: spiegare gli alti livelli di approvazione. *New Media & Society*, 21(7), 2019