Con l’avvento della robotica e dell’intelligenza artificiale basata sulle reti neurali, i computer operano sempre di più con dati provenienti dal mondo reale, che possono includere anche l’informazione prodotta da eventi quantistici e da decisioni umane. Ciò porta il computer a operare al di fuori dei limiti di un sistema deterministico classico. Questa situazione presenta sfide e opportunità non del tutto comprese, nemmeno dagli addetti ai lavori.
Pattern complessi, come volti, parole o situazioni del traffico urbano, hanno una variabilità sbalorditiva, al punto che il tasso di riconoscimento non può essere perfetto, specialmente in condizioni ambientali sfavorevoli. Pertanto, le prestazioni di un robot o di un computer non possono essere garantite, a differenza delle situazioni in cui il computer esegue un algoritmo deterministico. Con le reti neurali artificiali, l’imprevedibilità del mondo reale viene portata all’interno del computer, specialmente se le reti neurali determinano parametri chiave del programma. Perciò, se il computer fosse autorizzato a prendere decisioni importanti sulla base della presunta validità del suo riconoscimento di pattern, le conseguenze potrebbero essere catastrofiche. È un problema gravissimo, visto che il computer non ha alcuna comprensione delle situazioni in cui si trova. E la scelta etica non può essere di un algoritmo!
Possiamo fidarci di un robot se il suo comportamento può essere imprevedibile? Se un robot opera interamente nella linea di produzione di una fabbrica dove si limita a ripetere la stessa serie di operazioni in un ambiente controllato, la risposta è sì. Tuttavia anche in questo caso, qualora si verificasse un guasto o un imprevisto, occorrerebbe comunque un intervento umano. Se si tratta invece di costruire un’auto a guida autonoma, la situazione cambia completamente, data l’enorme quantità di variabili imponderabili da controllare che aumenterebbero a dismisura a seconda che il percorso riguardi un’autostrada o il centro di una grande città come New York o Roma.
Il fatto è che la complessità e il costo di un sistema computerizzato in grado di coprire tutte le possibili condizioni di guida sono elevatissimi e i molti problemi non potranno mai essere risolti completamente. Se al mix aggiungiamo poi anche l’eventualità dell’inganno deliberato, ovvero di agenti ostili che potrebbero creare apposta situazioni miranti a confondere il robot, la performance potrebbe crollare in modi imprevedibili.
L’esistenza e la diffusione dei crimini informatici (cybercrime), anche senza le ambiguità dell’intelligenza artificiale, è un’anteprima di ciò che potrebbe succedere. Il cybercrime dovrebbe essere di monito sui pericoli e sugli imprevisti connessi con il dare piena autonomia ai robot. Esiste un divario incolmabile tra l’intelligenza artificiale e quella umana, che è caratterizzata dalla comprensione: una proprietà della coscienza spesso sottovalutata e inaccessibile ai computer, come vedremo nel corso di questo libro.
Finora non ho fatto nessuna distinzione tra computer e robot, come se avessero lo stesso livello di complessità, ma non è questo il caso. I robot aggiungono ai computer le capacità di percepire il mondo mediante sensori, agire nel mondo, misurare le proprie prestazioni e confrontarle con standard interni e la possibilità di modificare i propri programmi. Tutto ciò rappresenta un importante passo avanti verso la creazione di macchine autonome.
Un robot che opera in una fabbrica può agire solo localmente, e in generale non può cambiare se stesso. Non ha una vera autonomia e le sue interazioni con esseri viventi e con altri robot sono tipicamente inesistenti o minime. Ma se gli consentissimo di modificare il proprio programma in modo significativo, esso non sarebbe più predicibile e la sua affidabilità non sarebbe più garantita.
La complessità di un robot che impara da solo è di molti ordini di grandezza superiore a quella di un robot ordinario. Mi aspetto che, grazie allo sviluppo di veicoli a guida autonoma, capiremo molto sull’apprendimento dei robot, e prevedo che questa conoscenza potrà migliorare anche l’efficienza dell’apprendimento umano. Come dice la professoressa di Scienze cognitive Margaret Boden: “La lezione più importante che l’IA ci ha insegnato è di apprezzare e riconoscere per la prima volta l’enorme potere e la sottigliezza della mente umana”.
I robot hanno proprietà complementari a quelle umane. Sta a noi usarli con saggezza per migliorare la nostra condizione e quella dell’ecosistema.
