In una conferenza viennese della primavera del 1937 Robert Musil (e possiamo ben immaginare i volti superciliosi dei suoi dotti ascoltatori) esordiva osservando che «se la stupidità non rassomigliasse perfettamente al progresso, al talento, alla speranza, o al miglioramento, nessuno vorrebbe essere stupido», passando poi al vaglio le diverse e quasi imprendibili forme di stupidità – che è l’intelligenza oscurata da interesse personale, egoismo, egocentrismo, bra­ma di profitto, sete di potere – in un mondo che «potrebbe mutare a ogni istante in tutte le direzioni».

Si tratta in definitiva di quella malattia dell’anima che affligge Ulrich, l’uomo senza qualità del suo celebre romanzo, il quale prende atto dello stato dell’intelligenza e della ragione che «già verso la metà del secolo diciannovesimo o poco dopo non erano più tanto in buone condizioni» e, quasi riflettendovisi come in uno specchio, scetticamente (cioè incapace di farsi domande e di coltivare dubbi, come un automa) osserva che «lo spirito ha sperimentato che la bellezza rende buoni, cattivi, stupidi o affascinanti.

Esso seziona una pecora o un penitente e trova in entrambi sommissione e pazienza… Lo spirito disfa, scompiglia e ristabilisce in un nuovo rapporto. Il bene e il male, il sopra e il sotto non sono per lui concetti scetticamente relativi, ma membri di una funzione, valori che dipendono dalla concatenazione in cui si trovano». Si tratta, in fin dei conti, di quell’apateismo di cui parlava il cardinal Ravasi come cifra del nostro tempo, e che viene ricordato in queste pagine da Alberto Mattioli nel suo intervento dedicato a Intelligenza artificiale e nuovo umanesimo.

Le parole del Papa

È l’esordio di una riflessione che proseguirà nei prossimi mesi con interventi di opinionisti ed esperti delle diverse scienze umane interpellate da una realtà che diventerà sempre più importante e le cui sfide non sono squisitamente tecniche, ma anche «antropologiche, educative, sociali e politiche», come avverte papa Francesco nel suo messaggio per la LVII Giornata mondiale della Pace dello scorso 1° gennaio e che titola, per l’appunto, Intelligenza artificiale e pace.

La prima delle sfide antropologiche da raccogliere tra quelle mosse dall’espansione dell’intelligenza artificiale è pertanto l’“antiapateismo”, quella cioè di sanare – nelle famiglie, nelle scuole, nelle sedi deputate all’educazione e alla formazione dei giovani, tanto per cominciare – le buone condizioni dell’intelligenza e della ragione naturali, perché, come ricorda il Papa nel prosieguo del messaggio, «la ricerca scientifica e le innovazioni tecnologiche non sono disincarnate dalla realtà e “neutrali”, ma soggette alle influenze culturali.

In quanto attività pienamente umane, le direzioni che prendono riflettono scelte condizionate dai valori personali, sociali e culturali di ogni epoca […] Sviluppi come il machine learning o come l’apprendimento profondo (deep learning) sollevano questioni che trascendono gli ambiti della tecnologia e dell’ingegneria e hanno a che fare con una comprensione strettamente connessa al significato della vita umana, ai processi basilari della conoscenza e alla capacità della mente di raggiungere la verità».

Il pericolo è la confusione

«Le macchine “intelligenti”», pro­segue il Papa, «possono svolgere i compiti loro assegnati con sempre maggiore efficienza, ma lo scopo e il significato delle loro operazioni continueranno a essere determinati o abilitati da esseri umani in possesso di un proprio universo di valori. Il rischio è che i criteri alla base di certe scelte diventino meno chiari, che la responsabilità decisionale venga nascosta e che i produttori possano sottrarsi all’obbligo di agire per il bene della comunità. In un certo senso, ciò è favorito dal sistema tecnocratico, che allea l’economia con la tecnologia e privilegia il criterio dell’efficienza».

Una conclusione e un impegno: «L’educazione all’uso di forme di intelligenza artificiale dovrebbe mirare soprattutto a promuovere il pensiero critico. È necessario che gli utenti di ogni età, ma soprattutto i giovani, sviluppino una capacità di discernimento nell’uso di dati e contenuti raccolti sul web o prodotti da sistemi di intelligenza artificiale».