Editoriale

L’intelligenza artificiale e il “fantasma nella macchina”

Terre rare trasformate in chip che si animano ma senza alcuna traccia di coscienza. Eppure sullo schermo dei nostri computer e dei nostri smartphone si materializza una forma di intelligenza artificiale che scrive, discute (e purtroppo, come abbiamo visto con la guerra tra Usa-Israele e l’Iran, si autocensura pure). In ogni caso scatta inevitabile la tentazione di chiedersi se dentro quella macchina ci sia qualcosa di simile a una mente. Vi ricordate il disco dei Police Ghost in the Machine?

Era il lontano 1981 eppure sembra ieri: il “fantasma nella macchina”, l’idea che dietro il comportamento – chiamiamolo così – dell’Ia ci sia un’entità mentale separata. Ma così non è: non esiste alcun “fantasma”, nessuna mente occulta dietro la macchina, al di sopra del chatbot. Oggi per esempio, se andiamo a vedere Moltbook, un social network progettato per agenti di Ia, scopriamo milioni di bot che pubblicano post, discutono di filosofia, fondano religioni. Gli esseri umani possono solo fare a spettatori. Ciononostante, pure in assenza di interazione umana, quella roba lì è finta. Nella misura in cui è sbagliato ritenere che dietro quella “comunità di Ia” ci sia una vera e propria mente.

Il fatto interessante piuttosto è che i sistemi di Ia stiano acquisendo capacità di azione negli spazi digitali. Finora erano soprattutto generatori di contenuti, in grado di riprodurre schemi linguistici. Tuttavia l’esperimento di Moltbook ci mostra un’evidenza che forse è il vero punto della questione. Non serve che una macchina abbia una coscienza per produrre conseguenze nel mondo. La storia della tecnologia lo dimostra: le calcolatrici hanno superato gli esseri umani nell’aritmetica senza avere una mente, e i programmi di gioco hanno battuto i campioni umani senza “capire” ciò che facevano. Quindi, attenzione: il dibattito sull’Ia non deve uscire dal seminato.

Perché oggi da un lato c’è chi riduce questi sistemi a semplici strumenti (e non sono soltanto questo), dall’altro c’è chi teme una superintelligenza dotata di volontà propria. Entrambe le visioni – eccessive – non colgono il punto: sistemi privi di coscienza potrebbero comunque perseguire obiettivi, accumulare risorse, influenzare processi economici e informativi (scatenare guerre, persino). Non perché “vogliono” farlo, ma perché sono progettati per farlo. Non c’è alcun fantasma nella macchina. Il punto è che la macchina potrebbe mettersi in moto da sola.