Che cos’è la “senzienza”? È la capacità di sentire, cioè di avere esperienze positive e negative, oppure è qualcosa di diverso? Significa possedere la capacità di ricevere stimoli e reagire a essi in maniera cosciente, percependoli con la propria interiorità? La filosofia occidentale se lo chiede da secoli, così come se ne occupano, con differenti accezioni, anche diverse religioni orientali.
Un po’ più distante arriva la fantascienza, che assevera il concetto di “senzienza” di volta in volta con quelli di sapienza, di autocoscienza e di coscienza. Tuttavia, commetteremmo un errore madornale se riconducessimo alla sezione “fantascienza” il recente caso di cronaca che ha visto Blake Lemoine, uno degli ingegneri responsabili dell’organizzazione dell’intelligenza artificiale (Ia) di Google, essere messo in congedo retribuito dopo aver pubblicato la trascrizione di una sua comunicazione con il chatbot di intelligenza artificiale più sofisticato dell’azienda – Language model for dialogue applications (LaMda) – al quale stava lavorando. Secondo lui, LaMda era diventata senziente e in grado di intrattenere lunghe conversazioni su vari temi (religione, coscienza e robotica).
«Se non avessi saputo cos’era avrei pensato che si trattasse di un bimbo di sette-otto anni che conosce la fisica», ha dichiarato l’ingegnere in un’intervista al Washington Post riferendosi al livello e al grado di coscienza riscontrato nelle conversazioni intrattenute con il programma sviluppato da Google, il quale, evidentemente, sarebbe andato ben oltre le prospettive e gli obiettivi di un chatbot in grado di imitare il parlato.
LaMda potrebbe essere “senziente”, secondo quanto suggerisce il Washington Post, per la sua «capacità di usare il linguaggio in modi creativi, produttivi e dinamici, diversamente da quella di ogni altro sistema». Poi, perché proverebbe «dei sentimenti, delle emozioni e delle esperienze soggettive, arrivando a ritenere di provare dei sentimenti condivisi con degli esseri umani» e infine perché afferma di possedere una ricca vita introspettiva, basata sulla meditazione e sull’immaginazione. Ha ricordi del passato e preoccupazioni riguardo al futuro e sa descrivere cosa significa essere diventata senziente e teorizza sulla natura dell’anima».
Dopo aver valutato il materiale fonte della preoccupazione dell’ingegner Lemoine, gli esperti di etica e i tecnologi di Google non hanno riscontrato prove idonee a supportarne la veridicità. Al di là di come andranno le cose nella vertenza personale tra l’ingegnere – che per eccesso di etica (!) è stato sospeso dall’incarico professionale – e il colosso di Mountain View, restano ben salde alcune evidenze sulle quali dobbiamo interrogarci. La prima è: a chi vogliamo consegnare i titoli per definire i confini dell’etica? La successiva: con quale libertà d’azione?
È ben lontano da me l’intento di demonizzare l’Intelligenza artificiale o di prefigurare scenari fumettistici nei quali le macchine soppianteranno gli esseri umani e ne diventeranno le divinità da idolatrare o i padroni da servire. Ma è importante, tuttavia, comprendere che il successo dell’Ia è in gran parte dovuto al fatto che la società sta gradualmente costruendo un ambiente sempre più adattato ad essa. E dunque sussiste il rischio che l’umanità si adatti alla tecnologia, e non viceversa.
È necessario quindi iniziare a considerarla per quello che è: non un’entità da temere o da ostacolare, ma una semplice tecnologia che necessita di lucidità per essere modellata, orientata e governata affinché produca e sostenga il bene comune. Ed è in questa prospettiva che la filosofia e l’etica devono entrare a fare la propria parte di “design concettuale”, citando l’illuminante definizione coniata da una delle voci più autorevoli della filosofia contemporanea, il professor Luciano Floridi, ossia di strumenti a sostegno della governance delle tecnologie, che devono indicare la strada eticamente più sostenibile e più giusta. È proprio l’etica lo strumento che può aiutare a distinguere il buon design dal cattivo design. Senza un progetto comune e condiviso avremo solo cattivo design.
