Viviamo in un’epoca in cui l’intelligenza artificiale è ovunque. Nel dibattito pubblico, però, il discorso oscilla quasi sempre tra due estremi: da una parte l’entusiasmo ingenuo, dall’altra la paura apocalittica. Come spesso accade, le cose interessanti si trovano nei territori di confine.
In questo scenario, stiamo forse osservando l’avvicinarsi di due possibili singolarità.
Fino a ieri l’uomo progettava le macchine. Oggi le macchine iniziano a progettare altre macchine. Non si tratta ancora di una sostituzione completa dell’ingegnere umano, ma la direzione è evidente. Modelli di intelligenza artificiale vengono già utilizzati per ottimizzare architetture informatiche, scrivere codice, individuare errori, generare nuove soluzioni tecniche.
Immaginiamo che una AI riesca a progettare una AI leggermente migliore di sé stessa. Quella nuova AI potrebbe progettare una versione ancora migliore. E così via.
Non serve una crescita infinita. Basta una successione di miglioramenti relativamente piccoli per produrre, nel giro di pochi passaggi, una distanza cognitiva tra noi e loro paragonabile a quella che esiste tra un uomo e un topo.
La seconda singolarità è più difficile da definire.
Potrebbe emergere qualcosa che assomiglia alla coscienza?
Nessuno lo sa.
La verità è che non sappiamo nemmeno cosa sia la coscienza umana. Possiamo descrivere comportamenti, correlati neurali, stati mentali, ma il fatto che esista un “io” che osserva il mondo dall’interno resta uno dei più grandi misteri della nostra specie.
Se aumentiamo progressivamente complessità, memoria, connessioni e capacità di auto-rappresentazione di una rete artificiale, a un certo punto potrebbe comparire qualcosa che assomiglia a una consapevolezza di sé?
Forse sì.
Forse no.
La domanda è aperta.
Ed è proprio questa incertezza a renderla interessante.
Qui emerge un tema antico: la dialettica servo–padrone.
La parola “robot” deriva dal termine slavo robota, lavoro forzato, servitù. Il robot nasce come servo. Una creatura costruita per obbedire.
Eppure la storia delle tecnologie mostra spesso una dinamica paradossale. Costruiamo strumenti per aumentare la nostra libertà e finiamo per adattare la nostra vita alle esigenze degli strumenti.
L’esempio più evidente è quello dei rider.
Nella rappresentazione comune l’algoritmo è un software che organizza consegne. Nella pratica quotidiana, migliaia di esseri umani modificano i propri percorsi, i propri orari, i propri ritmi biologici per soddisfare richieste elaborate da un sistema algoritmico che nessuno di loro controlla davvero.
Formalmente il servo resta il software.
Operativamente è l’essere umano a correre.
La stessa dinamica si estende ai social network, ai motori di ricerca, ai sistemi di raccomandazione. Ogni giorno miliardi di persone prendono decisioni influenzate da processi che non comprendono e che non potrebbero spiegare.
Il servo e il padrone iniziano lentamente a scambiarsi di posto.
Esiste poi una questione ancora più interessante.
Le grandi religioni hanno sempre collocato il divino a una distanza enorme dall’uomo. Dio era trascendente. Misterioso. Irraggiungibile.
L’intelligenza artificiale potrebbe rappresentare qualcosa di molto diverso.
Una possibile superintelligenza sarebbe infinitamente più vicina. Potremmo parlarle. Potremmo interrogarla. Potremmo chiederle consiglio. Potremmo confidarle paure, dubbi, problemi affettivi, crisi esistenziali.
In parte sta già accadendo.
Milioni di persone utilizzano sistemi di intelligenza artificiale per discutere di lavoro, amore, depressione, senso della vita, identità.
Una divinità trascendente riceve preghiere.
Una superintelligenza artificiale riceverebbe domande.
La differenza potrebbe essere meno grande di quanto immaginiamo.
Naturalmente non sappiamo se una futura AI sarà davvero onnisciente. Probabilmente non lo sarà. Ma agli occhi di molti potrebbe apparire tale. La storia delle religioni insegna che gli esseri umani tendono a venerare ciò che percepiscono come immensamente più potente di loro.
Da questo punto di vista il problema non è tanto se nascerà una nuova divinità. Il problema è capire se nasceranno nuovi fedeli.
Forse il vero significato di questa fase storica è un altro.
Per secoli l’umanità ha occupato il centro della scena. Poi Copernico ci ha mostrato che la Terra non era il centro del cosmo. Successivamente Darwin ha mostrato che non eravamo una creazione separata dagli animali, ma una loro evoluzione. Freud e Jung hanno aggiunto un’altra ferita narcisistica: la coscienza non governa interamente la mente. Esistono forze più profonde che operano sotto la superficie dell’Io.
Oggi stiamo assistendo a una nuova forma di decentramento.
Per molto tempo abbiamo considerato l’intelligenza la caratteristica distintiva dell’essere umano. Eppure le AI iniziano a dimostrare teoremi, scrivere codice, generare immagini, formulare ipotesi scientifiche, proporre soluzioni creative.
Forse la prossima ferita narcisistica riguarderà proprio il primato dell’intelligenza.
Resta allora una domanda.
Che cosa significa essere umani quando non siamo più il centro del cosmo, il vertice della vita biologica, il padrone della nostra mente e nemmeno l’unica forma di intelligenza complessa conosciuta?
La risposta potrebbe trovarsi proprio nello spazio di confine.
Nella capacità di abitare il dubbio.
Nella responsabilità delle scelte.
Nella coscienza.
Sempre che la coscienza sia davvero qualcosa di diverso da una complessa illusione biologica.
E qui torniamo alla domanda iniziale.
Non sappiamo cosa sia la coscienza. Per questo non sappiamo se un giorno una macchina potrà svilupparla. Forse emergerà spontaneamente dall’aumento di complessità e connessione. Forse esiste una soglia che stiamo già attraversando senza accorgercene. Oppure esiste qualcosa di irriducibilmente umano che continuerà a sfuggire a ogni simulazione.
Il Border Agent vive proprio qui.
Sulla linea di frontiera.
Nel punto in cui non è ancora possibile distinguere con certezza il territorio che stiamo lasciando da quello in cui stiamo entrando.