Carlotta gestisce un interessante blog letterario (Ineedabook,blog). Lei, Carlotta, si definisce così:

“Sono laureata in Lingue e Letterature Straniere e mi occupo di contenuti editoriali, lettura professionale e comunicazione culturale. Dopo un’esperienza significativa nel mondo della moda e dell’imprenditoria creativa, mi sono dedicata alla scrittura e alla consulenza editoriale. Con il mio blog I Need a Book – The Thrill of Literature, approfondisco la letteratura classica e contemporanea attraverso recensioni, rubriche e interviste d’autore. Collaboro con Case editrici come Garzanti, Corbaccio e Marcos y Marcos, curo progetti editoriali e culturali, sono redattrice di riviste letterarie come Critica Letteraria e L’indice dei libri del mese, sempre con uno sguardo attento alla parola e alla qualità dei contenuti. Per me, leggere è una fortuna, non un semplice passatempo. È una ricchezza intima, personale, inalienabile. Un piccolo miracolo che possiamo compiere ogni giorno, sfogliando una pagina dopo l’altra, e scoprendo, ogni volta, che le parole sanno ancora sorprenderci.”

Tra le varie recensioni questa mi è parsa particolarmente interessante che con il suo permesso copio integralmente. Buona lettura.

Cosa fareste se vi dicessero che, secondo un algoritmo, vostro figlio di sedici anni diventerà un potenziale criminale? E se vi predicessero tramite calcoli statistici che rimarrete incinte entro i vostri quindici anni di vita? A queste inquietanti predizioni risponde con lucidità e analisi la scrittrice e giornalista Madhumita Murgia che, in questo saggio, espone con linearità e voluta accessibilità, i casi realmente accaduti di persone che hanno visto sconvolgere la propria esistenza a causa dell’intervento dell’AI. Tra questi, l’autrice stessa.

C’è qualcosa di profondamente inquietante nell’idea che le decisioni più importanti della nostra vita, come chi assume un’azienda, chi ottiene un mutuo, chi viene curato prima o chi viene escluso, siano sempre più spesso affidate a sistemi che nessuno di noi vede davvero, e che pochissimi sanno comprendere fino in fondo.

In Essere umani Madhumita Murgia non scrive un saggio sull’intelligenza artificiale: scrive un libro sulle persone e su ciò che resta di noi quando il potere di decidere scivola lentamente dalle mani umane a quelle degli algoritmi.

Il cuore del libro non è la tecnologia, ma le sue conseguenze. Murgia racconta storie vere, vite programmate da sistemi automatizzati che promettono efficienza e neutralità, ma che spesso producono esclusione, disuguaglianze ed errori difficili da correggere. Il risultato è un mosaico di esperienze che mostrano come l’IA non sia un’entità astratta, futuristica, lontana: è già dentro il nostro lavoro, dentro la nostra sanità, la giustizia, l’istruzione.

La forza del libro sta proprio qui: nel rendere visibile ciò che normalmente non ha né volto né consistenza. Quasi come fosse un’entità ignota. Gli algoritmi infatti non hanno volto, ma chi ne subisce le conseguenze sì. E Murgia ci invita a riflettere e ad ascoltare le loro storie.

Il suo sguardo è lucido e analitico. Non c’è tecnofobia, non c’è nostalgia per un passato idealizzato. C’è invece una domanda che si ripropone di pagina in pagina: chi controlla davvero questi sistemi? E soprattutto: chi si assume la responsabilità delle loro decisioni?

Perché l’illusione più pericolosa è quella della neutralità. L’idea che un algoritmo sia “oggettivo” solo perché matematico. In realtà, come mostra Murgia, ogni sistema è costruito su dati, scelte, priorità, visioni del mondo. E quindi porta con sé pregiudizi, interessi, asimmetrie di potere.

Leggendo Essere umani si ha la sensazione di trovarsi davanti a un bivio: da una parte il conforto della delega (“decide la macchina”), dall’altra la fatica della responsabilità (“decidiamo noi”). Ed è un bivio in cui tutti ci imbattiamo, non soltanto gli addetti ai lavori.

Questo è un libro che non promette un futuro luminoso governato dalla tecnologia. Ma fa qualcosa di più importante: ci restituisce il diritto di porci le domande giuste.

In un’epoca che corre velocissima verso l’automazione, Essere umani è un invito a rallentare e a buttare i nostri dispositivi elettronici e tornare a guardarci l’un l’altro per parlare, ridere e piangere. A ricordarci che il progresso, se non è guidato da una coscienza collettiva, rischia di diventare solo una forma più elegante di disumanizzazione.

E ci insegna infine, che essere umani, oggi, è forse l’atto più radicale che possiamo compiere.

Dalla presentazione della casa editrice:

Una poetessa britannica, un rider di Pittsburgh, un’attivista cinese in esilio, una rifugiata irachena a Sofia, un frate francescano a Roma apparentemente non avrebbero nulla in comune se le loro storie non fossero raccontate qui nel momento in cui l’intelligenza artificiale è entrata nelle loro vite. Inveterata tecno-ottimista, Madhumita Murgia si è occupata di IA fin dai suoi albori, quando la tecnologia era neonata, fortunata erede del business dei big data. Ora, però, dopo un decennio di studi approfonditi, sente il dovere di raccontare le tante facce dell’entità che nel frattempo ha fagocitato un’immane quantità di dati dal comportamento digitale di miliardi di individui, incessantemente alimentata da lavoratori (umani) sottopagati. Se non ci fa più alcun effetto interagire con un chatbot, dovrebbe invece scuoterci sapere che non c’è più ambito umano che non sia colonizzato da sistemi automatizzati – dall’istruzione al lavoro, dal bene pubblico ai diritti, dall’economia alla salute – e che il libero arbitrio forse non esiste più. Dando voce a tante persone comuni, fuori dalla privilegiata Silicon Valley, Murgia smaschera la silenziosa violenza quotidiana di potentissime tecnologie imperfette su individui, comunità, società. Come verranno governati negli anni a venire gli algoritmi e i loro effetti sarà decisivo per il nostro futuro, eppure all’orizzonte non si vedono decisioni condivise su come esercitare una qualunque forma di controllo, su come non consegnare la nostra autorità morale alle macchine. L’autrice tuttavia non si limita, per così dire, a buttare la bomba, ma indica un percorso di resistenza. Se l’IA sta già modificando, nel piccolo e nel grande, ciò che significa essere umani, cosa accadrebbe se, tutti insieme, rivendicassimo la nostra umanità? “Ognuna delle storie che racconterò potrebbe essere la vostra. I sistemi di IA avranno un impatto sulla vostra salute, sul vostro lavoro, sulle vostre finanze, sui vostri figli, sui vostri genitori, sui vostri servizi pubblici e sui vostri diritti umani. Se non l’hanno già avuto”.