Attualità

Quando l’assistente virtuale ti tradisce: se dai troppo potere all’IA ecco che può succedere

Il caso di Claude Code che ha pubblicato online le password personali

Un comando dato in corsa, un permesso concesso senza pensarci troppo, e migliaia di password finiscono in piazza. È quanto emerge dall’indagine della società di sicurezza informatica Apiiro su Claude Code, l’assistente per programmatori sviluppato da Anthropic: su GitHub, la piattaforma dove gli sviluppatori condividono i loro progetti, sono stati trovati dati riservati pubblicati senza alcuna protezione.

Come funziona il meccanismo?

Il meccanismo è molto semplice e, proprio per questo, altrettanto pericoloso. Quando l’utente autorizza un’operazione scegliendo di non ricevere ulteriori richieste di conferma, il programma memorizza la scelta in un file locale. Se nel comando compaiono password o codici di servizio, anche questi sono salvati nello stesso documento.

Il file dovrebbe restare sul computer, ma secondo gli esperti le impostazioni che ne vietano la condivisione spesso non funzionano quando il progetto viene copiato su un altro dispositivo o configurato in un secondo momento. Il risultato è il caricamento automatico online di informazioni che nessuno aveva deciso di rendere pubbliche.

I dati

I numeri fanno impressione: oltre centomila documenti caricati pubblicamente, e in più di mille casi dentro c’erano davvero password e credenziali aziendali. Non basta cancellare il file: una volta pubblicati, i dati possono restare visibili nelle copie create da altri utenti. Anthropic ha fatto sapere di lavorare a una correzione e invita a usare strumenti di controllo che cerchino dati sensibili nei progetti.

Ma attenzione, sarebbe un errore archiviare la vicenda come un bug destinato a essere risolto con un semplice aggiornamento di sistema. Il caso piuttosto ci mostra in modo inequivocabile i rischi insiti nell’utilizzo dell’intelligenza artificiale per rendere più efficiente il lavoro: la velocità, che è la promessa principale di questi strumenti, nasce spesso dall’eliminazione dei cosiddetti “attriti causa di tensione strutturale”, cioè, nella fattispecie, di quei passaggi di verifica che ci costringono a fermarci e pensare. Ogni conferma in meno è tempo guadagnato. Ma – e qui casca l’asino – anche un controllo umano in meno.

Ecco dunque il primo rischio, quello di delegare all’IA un’operazione che non andrebbe delegata. Chi lavora con un assistente automatico tende a fidarsi, soprattutto quando i risultati sono buoni.

La fiducia, col tempo, diventa abitudine, e l’abitudine abbassa l’attenzione. Il secondo rischio è la difficoltà di individuare e quindi accertare la responsabilità: quando un errore nasce dall’interazione tra una persona e una macchina, chi ne risponde? Il programmatore che ha cliccato sul comando, l’azienda che ha adottato lo strumento o chi lo ha progettato? Le risposte, a tutt’oggi, sono tutt’altro che chiare.

C’è poi un rischio ancora più grave, in proporzione. Un errore umano colpisce di solito un singolo progetto; mentre un errore incorporato in uno strumento diffuso si moltiplica per migliaia di utenti nello stesso istante, spesso senza che nessuno se ne accorga, e pertanto su larga scala. E le aziende, dal canto loro, spinte dalla concorrenza ad avvalersi dell’IA in tutta fretta, non sempre hanno procedure di sicurezza adeguate a gestire strumenti che agiscono in autonomia dentro i loro sistemi.

Sia chiaro, non si tratta di rinunciare a una tecnologia che offre vantaggi concreti (nessuno strumento è buono o cattivo in sé, lo abbiamo detto tante volte), ma di governarla.

Servono configurazioni più prudenti per le impostazioni predefinite, controlli stringenti sui dati sensibili e sistemi di alert sul loro eventuale utilizzo. Serve una formazione ad hoc sull’utilizzo specifico dell’IA in questi ambiti e regole chiare su chi risponde dei danni eventuali. Soprattutto, serve ricordare che migliorare il lavoro umano non significa sostituire la capacità di giudizio umana, l’umano discernimento, ma metterlo nelle condizioni di funzionare meglio. Un assistente virtuale che non chiede più alcuna conferma operativa può sembrare molto comodo. Invece è assolutamente pericoloso.

PER TUTTE LE NEWS DI ATTUALITA’