In una recente intervista, il Ceo di Google Sundar Pichai si è detto preoccupato per lo scollamento tra lo sviluppo delle nuove tecnologie legate all’intelligenza artificiale e la capacità di adattamento della società e delle sue istituzioni. La velocità di sviluppo dell’Ai è poderosa e la rivoluzione ch’essa comporta in tutti i settori della società è impressionante, mentre la nostra capacità di comprenderne la portata e soprattutto di regolarne le conseguenze sulla vita umana procede in modo assai lento e impacciato.
Le direttive nazionali e internazionali in quest’ambito, con i loro giustamente lenti tempi di elaborazione, sono rese obsolete dai nuovi sviluppi prima di poter entrare in vigore. Eppure, secondo Pichai, se non vogliamo che queste innovazioni abbiano effetti indesiderati, non è pensabile lasciare alle sole aziende il compito di disciplinare questo sviluppo: serve una mobilitazione intellettuale, morale e civile per introdurre leggi e costumi che possano allineare l’uso delle nuove tecnologie ai nostri principi morali: «It’s not for a company to decide», ha detto «This is why I think the development of this needs to include not just engineers but social scientists, ethicists, philosophers and so on». […]
Si può dire che fin dal suo sorgere come riflessione formalizzata nell’Antica Grecia, la filosofia politica abbia dovuto confrontarsi con il tema dell’artificiale, ossia con la realtà prodotta dall’attività umana e con le conseguenze di tale attività sulla vita personale e collettiva. Non è da oggi che ogni innovazione tecnica contribuisce alla trasformazione della realtà sociale e, talvolta, a una sua radicale innovazione.
Si pensi agli strumenti tecnici applicati alla caccia o all’agricoltura, agli spostamenti o alla guerra. Ognuno di essi ha portato con sé non solo una trasformazione del rapporto tra essere umano e natura, ma anche tra gli esseri umani stessi. Il potere insito in tali strumenti ha contribuito allo sviluppo di ricchezze economiche e sfruttamenti sociali, alla creazione di domini politici, di oppressioni e liberazioni.
Insomma la filosofia politica si è esercitata fin dal suo sorgere su una vita sociale e politica segnate dalla presenza di tecniche diverse, dal diseguale possesso dei saperi a esse relativi e dalla diseguale proprietà dei mezzi di produzione economica e di conquista politica. […]
Oggi siamo di fronte a un passo ulteriore. Tramite la tecnica, l’intelligenza umana non solo domina la realtà naturale o produce una realtà sociale artificiale, ma arriva a produrre un’altra se stessa, ossia un’intelligenza artificiale, i cui successi, nei diversi settori, vengono quotidianamente celebrati come superiori a quelli conseguiti dall’intelligenza umana. […]
La domanda è se la tecnica sia in grado di svolgere questo ruolo di neutralizzazione e spoliticizzazione di un conflitto sociale o politico percepito come potenzialmente minaccioso per l’assetto esistente. Non c’è dubbio che la tecnica, agli occhi di molti, si presti a questo ruolo. Nel linguaggio corrente siamo abituati a contrapporre la sfera dei tecnici a quella dei politici e a concepire la prima come la sfera della neutralità per eccellenza, quella a cui possiamo affidarci fiduciosi perché non viziata dall’essere partigiana, ma docilmente al servizio di tutti.
Ora, se è vero che ogni strumento o pratica tecnica può essere usato per finalità diverse (e anche politicamente di segno diverso), è vero però che, in qualsiasi caso, ogni strumento e ogni pratica struttura in un modo o nell’altro l’insieme delle relazioni con la natura e tra esseri umani e ciò è tanto più vero quanto più lo strumento o la pratica sono tecnicamente sofisticate e quindi dipendono quanto al loro uso da saperi e poteri diversamente distribuiti.
Parlare di una neutralità assoluta della tecnica o pensare che vi possa essere un governo imparziale delle cose da parte della pura tecnica è dunque illusorio e mistificatorio, vuoi per il fatto che ogni tecnica porta con sé il segno della sua produzione e della sua applicazione, vuoi per il fatto che essa rimanda comunque a una decisione, trasparente o occulta che sia, di un soggetto umano che l’ha prodotta o che la utilizza.
L’utilizzo degli algoritmi nell’assunzione di decisioni socialmente e politicamente rilevanti, una delle pratiche maggiormente controverse dell’intelligenza artificiale, lo ha mostrato chiaramente. Esso infatti si è rivelato spesso non come il trionfo dell’oggettività e imparzialità, ma, al contrario, come l’occultamento della parzialità e della tendenziosità che si celano in ogni scelta dei dati di partenza e in ogni loro applicazione. In alcuni casi ha prodotto palesi ingiustizie. […]
Come con efficacia rilevava Guardini nelle sue riflessioni sul potere e la tecnica negli anni Cinquanta, il tema chiave è la responsabilità, ossia la riconduzione dell’azione a un soggetto umano. Il rischio insito nel potere della tecnica, oggi esaltato dall’Ai, non è solo quello di un suo cattivo uso, ma di un suo uso impersonale, anonimo, in cui l’imputazione etica, giuridica e politica dell’azione dell’uomo sull’uomo non sia chiaramente individuabile e la soggettività venga così dissolta.
Il processo di potenziale disumanizzazione sta qui: non solo nel rendere l’essere umano oggetto di manipolazione da parte della tecnica, ma nel dissolvere la responsabilità del soggetto umano che se ne serve. Dato che la tecnica e l’Ai sono un potere, e un potere formidabile, è inevitabile che la filosofia politica si misuri con esse a partire dalle questioni che essa tradizionalmente pone sul potere stesso.
Come è distribuito tale potere e come interviene sulla minore o maggiore eguaglianza degli esseri umani? Quale rapporto ha con la libertà del singolo e delle comunità? La amplifica o la mortifica e in quali diversi sensi? Quali confini si possono porre a questa forma di potere sia per quanto riguarda la natura esterna che per quanto riguarda la natura interna e l’interiorità umana? Quali forme di coercizione o di manipolazione o di condizionamento o costruzione della soggettività umana questo potere mette in campo? È possibile pensare a una divisione dei poteri che possa introdurre meccanismi di verifica e bilanciamento o si deve pensare solo a forme di resistenza a questa forma di potere?
Se i sistemi totalitari del Novecento si sono distinti – rispetto ai tradizionali sistemi autoritari – per il loro regime di sorveglianza poliziesca non solo della sfera pubblica, ma anche della sfera privata e intima delle persone, è evidente che quello che è stato definito come il capitalismo della sorveglianza incuta preoccupazione per il futuro della libertà personale.
Non è in gioco solo la possibilità di agire liberamente, ma anche quella di pensare liberamente, nel momento in cui gli spazi dell’interiorità vengono colonizzati e resi inagibili dall’invadenza dei meccanismi di proposta, di comunicazione, di controllo e sorveglianza. Non solo la libertà di pensare e di agire sono essenziali, ma anche il luogo e le condizioni in cui esse possono darsi.
Come si forma, nelle nuove condizioni, quella che per secoli abbiamo chiamato coscienza critica e abbiamo considerato un pilastro non solo dell’esercizio della filosofia, ma anche della vita sociale e politica? L’intelligenza artificiale sarà un formidabile potenziamento della inclinazione naturale al conformismo o saprà – e come? – farsi veicolo della creatività? E così non solo la formazione del pensiero e del linguaggio sono investite da questa rivoluzione, ma anche la comunicazione tra le persone e dunque la costruzione della intersoggettività e della socialità umana. Le forme dell’incontro, del dialogo, del conflitto, insomma del con-essere, che fino ad oggi hanno forgiato la condizione umana, come usciranno dall’impatto delle nuove tecnologie?
