Gli enormi progressi teorici e pratici dell’intelligenza artificiale nell’ultimo decennio hanno sollevato serie preoccupazioni sulle sue conseguenze etiche. Come risposta, più di 80 organizzazioni hanno proposto codici di principi per un’intelligenza artificiale eticamente accettabile. I principi proposti sono sovrapponibili nella comune attenzione a valori come la trasparenza, la giustizia, la correttezza, i benefici umani, l’evitare i rischi, la responsabilità e la privacy. Ma non c’è stata nessuna discussione di sostanza su come i principi per un’intelligenza artificiale eticamente accettabile possano essere analizzati, giustificati e conciliati tra loro. Inoltre, i valori assunti da quei principi hanno ricevuto una scarsa analisi e una scarsa valutazione. Può darsi che le questioni sui principi e i valori possano essere evase dalla proposta di Stuart Russell, secondo il quale un’intelligenza artificiale che porti benefici ha a che fare con le preferenze degli individui, anziché con i loro principi e valori etici.
In questo capitolo, vorrei sostenere che l’uso dei principi nell’etica medica fornisce un buon modello per mettere ordine alla sovrabbondanza di proposte sull’intelligenza artificiale. Di contro alle centinaia di principi che sono stati proposti per un’etica dell’intelligenza artificiale, un approccio comune all’etica medica se la cava con quattro principi chiave, che riguardano l’autonomia, la giustizia, i benefici e l’evitare i rischi.
Esemplificando le proposte attuali sull’intelligenza artificiale, ne deduco che i principi etici per l’intelligenza artificiale ricadono sotto questi quattro principi. Le considerazioni che forniscono legittimazione ai quattro principi dell’etica medica si trasferiscono quindi ai più specifici principi sull’intelligenza artificiale.
I principi etici in medicina e nell’ambito dell’intelligenza artificiale presuppongono valori come la trasparenza e la correttezza: ma che cosa sono questi valori e come possono essere giustificati? Io sostengo che i valori sono rappresentazioni mentali emotive, che sono giustificate nella misura in cui esse contribuiscono alla soddisfazione dei bisogni umani biologici e psicologici. Questi valori possono essere obiettivi, oppure psicologici ed emotivi, il che consente loro di fornire una guida legittima alla pratica della ricerca sull’intelligenza artificiale e alla sua applicazione.
L’approccio “principi e valori” all’etica dell’intelligenza artificiale presenta numerosi vantaggi rispetto al cercare di costruire, a partire dalle preferenze umane, un’intelligenza artificiale che generi benefici. In pratica, è molto più facile lavorare su pochi principi e valori, anziché con miliardi di preferenze. Principi e valori possono essere obiettivamente giudicati legittimi in modi che evitino la soggettività delle preferenze.
L’etica della medicina come modello per un’etica dell’intelligenza artificiale
Laddove l’etica dell’intelligenza artificiale è un campo nuovo, l’etica della medicina risale a oltre 2.500 anni fa, al giuramento di Ippocrate; il termine “etica medica” è poi nato nel 1803. L’etica è un campo controverso della filosofia, con molti approcci in contrasto tra loro, come l’etica religiosa, l’etica della virtù, l’utilitarismo e l’etica kantiana; e questo contrasto si riverbera anche nella discussione su quale debba essere l’approccio all’etica della medicina. Ciononostante, un approccio basato su 4 semplici principi si è dimostrato enormemente utile nella teoria, nell’applicazione e nell’insegnamento.
In un libro di testo arrivato alla settima edizione, Tom Beauchamp e James Childress dimostrano l’importanza, per le decisioni mediche, di 4 principi che possono essere sinteticamente così riassunti:
• (Med1) Autonomia: Rispettare la libertà del paziente;
• (Med2) Beneficio: Fornire un beneficio al paziente;
• (Med3) Non maleficenza: primum non nocere, evitare danni al paziente;
• (Med4) Giustizia: Distribuire equamente benefici, rischi e costi.
Che cosa giustifica l’adozione e l’applicazione di questo particolare elenco di principi? Beauchamp e Childress considerano questi principi come parte di una moralità comune che è universale, di tutti gli esseri umani, ma non forniscono alcuna prova che questi principi siano accettati nelle migliaia di diverse culture umane. Perfino nella cultura americana alcuni di questi principi sono messi in discussione, per esempio da libertari come i seguaci di Ayn Rand, i quali ritengono che i principi di beneficio e giustizia siano segni di un flebile altruismo che minaccia la libertà dell’individuo supremo.
Il principio di autonomia è stato ignorato da innumerevoli regimi autoritari, sia oggi che nel passato, e il principio di giustizia è implicitamente messo in discussione dalla crescente diseguaglianza nella maggior parte dei Paesi del mondo. Tutti questi rifiuti dei principi dimostrano che essi non sono in alcun modo né comuni né universali, e minano qualunque affermazione che essi debbano essere accettati perché evidenti in sé o comunque intuitivamente ovvi. Perfino se i principi fossero culturalmente universali, sarebbe pur sempre legittimo chiedersi se sono effettivamente validi. Di riflesso, il fatto che i principi non siano universali sul piano culturale non dimostra che essi siano sbagliati, dal momento che le culture popolari sono spesso ignoranti rispetto a molte verità, come quelle scientifiche.
Ciononostante, possiamo identificare alcuni buoni motivi per i quali i quattro principi sono appropriati per affrontare i problemi etici in medicina.
Il primo è che essi hanno contribuito a una discussione informata, da parte di numerosi autori, sulle questioni più stringenti dell’etica medica, tra cui il consenso informato, l’eutanasia, il processo decisionale surrogato, la previdenza sanitaria universale e il rapporto di confidenzialità con il paziente. La loro applicazione non è semplice, perché spesso tra i principi sorgono conflitti – per esempio, quando il beneficio incoraggia la somministrazione ai pazienti di trattamenti utili che però essi non vogliono. Ciononostante, i principi forniscono una cornice per la decisione, che a sua volta spinge la gente a riflettere in modo approfondito su ciò che è giusto e ciò che è sbagliato in medicina.
In secondo luogo, quando sono stati proposti principi aggiuntivi per l’etica della medicina, essi possono ragionevolmente essere sussunti nei quattro. Per esempio, dire la verità e la confidenzialità sono stati talvolta proposti come aggiunte, ma entrambi possono essere giustificati dal loro contributo al beneficio, alla non maleficenza e all’autonomia. Le Nazioni Unite hanno adottato sei “Principi dell’Etica Medica Importanti per il Ruolo del Personale Sanitario nella Protezione dei Prigionieri”: tutti questi principi, però, si rifanno a questioni come la libertà, i benefici, il danno e la correttezza. Per esempio, il Principio 1 recita:
Il personale sanitario, in particolare i medici, cui spettano le cure mediche dei prigionieri e dei detenuti, hanno il dovere di fornire loro la protezione della loro salute fisica e mentale e un trattamento della malattia di identica qualità e standard rispetto a quello riservato a chi non è imprigionato o detenuto.
L’attenzione alla salute e alla malattia contiene in sé la beneficenza e la giustizia, e altre considerazioni come la proibizione della tortura contengono la non maleficenza e l’autonomia.
Il terzo motivo per apprezzare i quattro principi dell’etica medica è che essi incorporano in modo efficiente ed elegante intuizioni dai principali approcci alla teoria etica: la religione, le conseguenze, i doveri e le virtù.
L’etica religiosa sostiene che ciò che è giusto e ciò che è sbagliato derivano da istruzioni divine come i Dieci Comandamenti, ma molti di essi sono casi di beneficenza (“Onora tuo padre e tua madre”), o di non maleficenza (“Non rubare”). L’utilitarismo è la teoria etica che invoca la ricerca del bene maggiore per il maggior numero di persone, dove “il bene” indica il piacere e l’evitare il dolore. Calcolare tali conseguenze è un compito empirico e computazionale improbo, ma i principi di beneficio e non maleficenza servono come approssimazioni. L’etica basata sui doveri, come l’imperativo categorico di Kant, è stata utilizzata come giustificazione per consentire le azioni libere e le azioni corrette, che rientrano nei principi di autonomia e giustizia. Infine, l’etica delle virtù consiglia di agire in linea con caratteristiche personali quali il prendersi cura degli altri, la compassione, l’integrità e l’esser degni di fiducia, tutte le quali contribuiscono al beneficio.
La quarta ragione per adottare i quattro principi è che essi rientrano nella prospettiva secondo cui l’obiettività dell’etica deriva dalla realtà dei bisogni umani già trattata nel Capitolo 7. I bisogni vitali sono differenti da ciò che si vuole e che interessa, nel senso che essi sono fatti della natura umana, che possono essere identificati con studi empirici su ciò che è requisito per vivere come essere umano. I bisogni biologici sono ovvi: una persona muore quando è priva di ossigeno, acqua, cibo, riparo e cure mediche. I bisogni psicologici sono più sottili, ma includono le relazioni con gli altri, l’autonomia nel perseguire i propri obiettivi e la competenza per realizzarli; molte ricerche confermano la loro validità. Soddisfare questi bisogni in tutti gli esseri umani viene promosso dal riconoscere gli obiettivi del beneficio e della non maleficenza e i limiti dell’autonomia e della giustizia. Per soddisfare i suoi bisogni, un essere umano ha bisogno di essere trattato con benevolenza e correttezza.
L’ultimo motivo per accettare i quattro principi chiave come un buon approccio all’etica medica è che la loro applicazione si estende ben oltre la medicina. Fare del bene, evitare di procurare danni, incoraggiare la libertà e riaffermare la giustizia sono preziosi in molti altri campi dell’attività umana, come la politica, gli affari e le scienze. L’applicabilità dei 4 principi all’intelligenza artificiale può essere dimostrata legandoli alla miriade di principi fin qui proposti.
da “Cervelli a confronto. Perché l’intelligenza umana è diversa da quella degli animali e dei robot”, di Paul Thagard, FrancoAngeli editore, 2021, pagine 400, euro 32