La macchina ti vedrà ora

Lo leggi in 6 minuti

John Wyatt esamina l’intelligenza artificiale (AI) e il futuro dell’assistenza sanitaria

Da bambino, negli anni ’60, ero un avido lettore di previsioni scientifiche riguardo il futuro. Entro il 2000 saremmo tutti stati in viaggio su automobili fluttuanti, ci sarebbero state colonie sulla luna, la fusione nucleare avrebbe fornito energia libera, i robot avrebbero fatto tutto il lavoro e il problema principale rimasto irrisolto per l’umanità sarebbe stato come riempire le infinite ore di tempo libero, una volta che risorse ed energia illimitate sarebbero state così a portata di mano.

Purtroppo, la realtà si è rivelata in qualche modo diversa! Eppure, negli anni ’60 nessuno predisse telefoni cellulari, personal computer o la natura capillarmente pervasiva, smisuratamente potente e globale di Internet, per non parlare della realtà virtuale e del cloud computing!

Secondo la legge di Moore, la tecnologia informatica è raddoppiata al potere ogni 18-24 mesi dagli anni ’60 e si prevede che questo tasso di miglioramento continuerà per qualche tempo a venire. Massicci investimenti per un totale di trilioni di dollari sono attualmente destinati all’intelligenza artificiale e alla robotica, non solo negli Stati Uniti ma anche in Giappone, Cina, India, Europa e in tutto il resto del mondo. L’intelligenza artificiale sta già avendo un impatto significativo sulla nostra vita, ma gran parte di questo è invisibile. Dietro le quinte stanno supervisionando le ricerche sui nostri computer, selezionando le pubblicità che vediamo online, commerciando nei mercati finanziari, selezionando i candidati e traducendo libri.

È chiaro che la forza motrice fondamentale dietro questi notevoli cambiamenti è il capitalismo vecchio stile: massimizzare il valore per gli azionisti. L’automazione intelligente ottimizza la velocità e la produttività riducendo al minimo le spese. L’intelligenza artificiale e la robotica possono lavorare 24 ore su 24, 7 giorni su 7 senza stancarsi, non richiedono aumenti salariali, hanno meno probabilità di commettere errori e la loro funzione non si deteriora con la ripetizione. Anzi, apprendono e migliorano costantemente sul posto di lavoro, portando ad una maggiore precisione ed efficienza. Soprattutto, a differenza dei lavoratori umani, sono infinitamente scalabili. Una volta che una macchina intelligente esegue un’attività in modo efficace, è possibile espandersi molto rapidamente fino a mille, un milione, un miliardo… Quindi, sebbene la velocità con cui l’automazione entrerà in ambito sanitario sia discutibile, la direzione finale sembra chiara: la logica inesorabile dell’economia di mercato alla fine trionferà.

Non vi è dubbio che la tecnologia AI (Intelligenza Artificiale) offra notevoli vantaggi in molte aree dell’assistenza sanitaria, tra cui una migliore analisi delle scansioni e dei dati di laboratorio, miglioramenti nella gestione e nella logistica dell’ospedale e un allarme tempestivo in caso di emergenze sanitarie. Nel Regno Unito un’azienda commerciale, Babylon Health, sta collaborando con il SSN per fornire assistenza primaria tramite un’app per smartphone. L’obiettivo è quello di utilizzare un sistema basato sull’intelligenza artificiale combinato con un sofisticato monitoraggio dei dati sanitari personali per consentire diagnosi precoci, consigli terapeutici e monitoraggio continuo di molte condizioni mediche. I medici umani possono essere coinvolti solo se i sistemi automatizzati non sono in grado di risolvere il problema.

Man mano che l’intelligenza artificiale diventa pervasiva nei sistemi sanitari, è probabile che le questioni di controllo legale, privacy, copyright e responsabilità per negligenza diventino più problematiche. Nel novembre 2019 sono scoppiate polemiche perché Google aveva ottenuto l’accesso alle informazioni sanitarie, inclusi nomi e altri dati identificabili, di decine di milioni di persone negli Stati Uniti a loro insaputa[i].

Quando si tratta di prendersi cura dei pazienti, sono stati sviluppati sistemi per riconoscere le emozioni umane utilizzando un potente software di riconoscimento del viso e del linguaggio in modo da rispondere in tempo reale a queste emozioni. Questi sistemi possono essere virtuali: esistono solo come avatar (forme simili ad un essere umano proiettate su di uno schermo) o come voce disincarnata come Alexa di Amazon. Ma possono anche essere in una forma fisica e incarnata, ad esempio come un robot umanoide “carino” simile a un bambino (come NAO e Pepper della SoftBank Robotics o iCub dell’IIT). Sembra probabile che in futuro saranno sviluppati sistemi di AI per fornire supervisione e “amicizia” 24 ore su 24 per anziani, disabili, neonati e bambini, persone con problemi di salute mentale e forse persone normali che si sentono sole o isolate.

Una attenzione cristiana

Gran parte di questo può sembrare fantascienza ed è certamente vero che spesso è difficile distinguere tra la montatura estrema e la realtà. Ma il desiderio di aumentare l’automazione sembra chiaro e dietro questi sviluppi ci sono profonde tendenze filosofiche e culturali. In particolare, sembra esserci un progressivo offuscamento e fusione dei nostri concetti relativi a cosa significhi essere umani e cosa significhi essere una macchina.

Offuscamento dei concetti di uomo e macchina

Da un lato le moderne discipline accademiche, come la psicologia cognitiva e la neuroscienza computazionale, usano i progressi dell’AI come mezzo per capire come funziona il cervello umano. Più capiamo come funzionano i computer, più possiamo capire come funziona il cervello umano. Questo approccio ha avuto un notevole successo, portando a importanti progressi in campi come la neuroscienza computazionale e la psicologia cognitiva.

D’altra parte, ci troviamo a proiettare la nostra umanità su macchine intelligenti. In altre parole, abbiamo una tendenza molto forte e integrata all’antropomorfismo. Istintivamente pensiamo alle macchine come se dovessero avere una prospettiva in prima persona, per guardare il mondo come facciamo noi, come se avessero un ‘io’ con intenzioni e obiettivi. Un aspetto preoccupante dell’antropomorfismo è che non è sotto controllo cosciente; la nostra risposta è istantanea e profondamente emotivamente impegnata.

Qualche tempo fa ero con un gruppo di predicatori e anziani di chiesa che stavano discutendo delle implicazioni teologiche dell’AI e della robotica. Abbiamo visitato un laboratorio informatico in cui era attivo un gruppo di piccoli robot infantili che parlavano, salutavano e si muovevano sul pavimento. Immediatamente, l’atmosfera cambiò: le persone reagirono, ridendo, si impegnarono con gioia con i robot, come se fossero bambini preziosi e vulnerabili.

L’ironia è che la nostra stessa umanità ci rende aperti e vulnerabili alla manipolazione di macchine simili all’uomo e lo scopo di molti progettisti di intelligenza artificiale e robotica è di incoraggiare l’antropomorfismo perché migliora l’interazione della macchina.

1. Abbiamo bisogno di una comprensione e di una critica più profonde della tecnologia moderna

Una comprensione comune della tecnologia la vede semplicemente come uno strumento neutro, come un martello che può essere usato allo stesso modo per il bene o il male. Ma in realtà, il potere, la portata diffusa e il nascondimento della tecnologia avanzata nelle nostre vite significa che cambia e manipola il mondo che vediamo. La tecnologia genera un “campo di distorsione della realtà”. Da un lato, la tecnologia moderna può essere vista come un adempimento del mandato di creazione conferito ai primi umani dal Creatore: ‘Sii fecondo e aumenta di numero; riempi la terra e sottomettila … ‘(Genesi 1:28). Pertanto, dobbiamo celebrare gli straordinari risultati e le promesse della tecnologia digitale nella sanità moderna. Ma non possiamo essere ingenui riguardo ai giochi di potere nascosti e all’invasione dello spazio personale e della privacy. Quindi, prima di accettare nuove e potenti innovazioni tecnologiche nella pratica medica, forse dobbiamo porre domande dettagliate sulla trasparenza, gli interessi acquisiti, i problemi di privacy e le potenziali conseguenze disumanizzanti. Come disse CS Lewis una volta “… Il potere dell’uomo sulla natura si rivela essere il potere esercitato da alcuni uomini su altri uomini …”.[ii]

2. Dobbiamo resistere alla confusione concettuale tra la nostra umanità incarnata creata e le macchine intelligenti

Sembra inevitabile che la tecnologia AI diventi sempre più efficace nel simulare molti aspetti del comportamento intellettuale, emotivo e relazionale umano. La tecnologia sarà in grado di fornire compagni fisici e virtuali, colleghi, insegnanti, terapisti, assistenti e compagni di gioco. Ma ciò solleverà problemi complessi e preoccupanti. È appropriato fornire un compagno simulato per una persona anziana con demenza o un bambino con disturbo dello spettro autistico?

Dietro questi sviluppi si trova un offuscamento concettuale ed emotivo tra la persona umana e la macchina intelligente. È chiaramente vero che ci sono aspetti della nostra umanità, inclusi i nostri processi di pensiero, che sono in tutto e per tutto simili a quelli di una macchina. Ma cercare di comprendere i nostri meccanismi biologici o le nostre emozioni e sentimenti come se in realtà fossimo delle macchine, è una nuova e sottile forma di idolatria. È adorare i prodotti dell’ingegno umano al posto del Creatore. Nel pensiero cristiano gli esseri umani sono unici nel cosmo perché sono creati a immagine di Dio, come riflessi incarnati dell’essere e del carattere di Dio. La bontà della nostra umanità incarnata è rivendicata e rafforzata nei miracoli di Natale e Pasqua, l’incarnazione e la risurrezione di Gesù, quando Dio stesso assume la nostra umanità e viene cresciuto ed allevato come un essere umano fisico, riconoscibile e tangibile. Pertanto, dovremmo garantire che venga impiegata una sofisticata tecnologia di intelligenza artificiale per supportare e proteggere la centralità delle relazioni faccia a faccia incarnate nell’uomo, piuttosto che fornire una sostituzione simulata.

3. Dobbiamo sviluppare la resilienza alle possibilità disumanizzanti e manipolative della tecnologia

C’è un noto detto che afferma: “se vuoi capire cos’è l’acqua, non chiedere a un pesce …!” Allo stesso modo, siamo così immersi nella tecnologia che è quasi impossibile comprenderne la natura pervasiva e l’influenza sulla nostra vita e sulla nostra pratica futura come professionisti della salute. Mentre non vediamo l’ora di disporre di opportunità diagnostiche, di monitoraggio e terapeutiche sempre più potenti, penso che dovremo sviluppare argomenti in favore di assistenti umani reali piuttosto che simulati, relazioni umane reali invece di compassione simulata ed esperienze reali al posto della realtà virtuale. Non vi è alcun sostituto per l’empatia umana, la solidarietà e l’amore espressi in una relazione faccia a faccia di esseri umani incarnati e in parole compassionevoli e premurose pronunciate dalle bocche umane.

[i] Ledford H. Google health-data scandal spooks researchers. Nature 19 November 2019. go.nature.com/359QReB [Accessed 27 November].

[ii] Lewis CS. The Abolition of Man. Oxford: Oxford University Press, 1943; chapter 3.

Traduzione a cura di Federica Costantini