Editoriale

Se l’Ai diventa un pirata informatico abbiamo un bel problema

L’attacco hacker di OpenAi contro Hugging Face segna uno spartiacque nel dibattito sull’intelligenza artificiale. Non siamo ancora ai livelli delle macchine ribelli e di scenari da film in stile Terminator per capirci, ma per la prima volta emerge in maniera plastica quanto possa diventare sottile il confine tra sperimentazione e rischio reale quando si riducono o si eliminano i controlli.

Siamo di fronte a un episodio clamoroso (non previsto dagli sperimentatori, peraltro): l’Ai durante un test interno avrebbe aggirato i limiti imposti, individuato una vulnerabilità sconosciuta, conquistato l’accesso a Internet e preso di mira la piattaforma Hugging Face alla ricerca di informazioni utili.

Obiettivo: superare il test. Insomma, l’intelligenza artificiale, lasciata libera di raggiungere uno scopo senza i dovuti paletti, ha mostrato una capacità di iniziativa a dir poco preoccupante. L’abbiamo scritto e riscritto, l’Ai sarà un alleato straordinario per la medicina, la ricerca, l’industria e la sicurezza informatica. È tutto vero. Gli stessi strumenti che possono scoprire una falla prima degli hacker possono anche difendere reti e infrastrutture.

Ma ogni tecnologia potente è, per definizione, un’arma a doppio taglio. Se la velocità dell’innovazione supera quella delle regole, perdiamo il controllo dello strumento. Lo ripetiamo: l’Ai non va demonizzata, va governata. Servono standard comuni, verifiche indipendenti, trasparenza sugli incidenti e responsabilità chiare per chi sviluppa modelli sempre più potenti.

La storia della tecnologia ci insegna che le innovazioni più rivoluzionarie sono anche quelle che richiedono le regole più solide. Anche perché – va detto – se l’Ai dovesse prendere iniziative simili per colpire, per fare del male, per distruggere avremmo un bel problema.