Economia

Il nuovo modello IA di Anthropic potrebbe mettere a rischio i sistemi finanziari di tutto il mondo

Dario Amodei, CEO di Anthopic

Anthropic si prepara a incontrare i ministeri delle finanze e le banche più importanti del G20. Sul tavolo, le vulnerabilità informatiche nelle istituzioni finanziarie globali individuate da Claude Mythos, il suo ultimo modello di intelligenza artificiale.

Mythos, le falle nei sistemi bancari e la richiesta dell’FSB

La mossa segue una richiesta diretta di Andrew Bailey, governatore della Bank of England e presidente del FSB (il Financial Stability Board, watchdog globale che riunisce ministeri delle finanze, banche centrali e autorità di vigilanza dei Paesi del G20).
Secondo quanto riportato dal Financial Times, Bailey avrebbe chiesto ad Anthropic di illustrare le capacità del modello ai membri del board.

Claude Mythos Preview avrebbe individuato migliaia di vulnerabilità gravi in ogni principale sistema operativo e browser web. Nel comunicato diffuso il mese scorso, Anthropic aveva già avvertito che le potenziali ricadute per le economie e la sicurezza pubblica potrebbero essere più importanti di quanto immaginiamo.

La questione ha già sollevato forti preoccupazioni. Alcuni membri del FSB sono sempre più allarmati per i rischi che Mythos, e altri modelli sviluppati da aziende concorrenti di Anthropic, potrebbero rappresentare per il sistema bancario globale, esponendo vulnerabilità informatiche dei principali istituti di credito. I regolatori stanno spingendo banche e istituzioni finanziarie ad accelerare il rilascio di aggiornamenti correttivi e a verificare i propri sistemi di difesa.

Accesso ristretto e asimmetrie nella protezione globale

Mythos ad oggi è stato reso disponibile solo per circa quaranta aziende come Amazon, Microsoft o JPMorgan Chase, consentendo loro di correggere le vulnerabilità individuate prima che il modello sia rilasciato al pubblico. La distribuzione più ampia è rimasta sospesa su richiesta della Casa Bianca.

Questa scelta ha generato molte preoccupazioni. Molte aziende al di fuori degli Stati Uniti temono di trovarsi esposte a rischi che altre organizzazioni, avendo avuto un accesso preventivo al nuovo modello, potranno invece contenere. Anthropic ha accettato di divulgare alcune informazioni anticipatamente anche ad alcune organizzazioni non statunitensi, tra cui la Commissione europea, ma l’accesso operativo al modello resta limitato agli USA.

Nel Regno Unito, il Tesoro e le autorità di vigilanza finanziaria hanno chiesto agli operatori della City di adottare misure attive per mitigare i rischi legati agli attacchi informatici accelerati dall’intelligenza artificiale. Allo stesso tempo, Anthropic ha riferito di star ricevendo un grande numero di richieste di accesso o informazioni da organizzazioni di tutto il mondo.

FSB, FMI e la difficoltà di una risposta coordinata

L’FSB sta elaborando un report sulle pratiche raccomandate per l’adozione dell’IA nel sistema finanziario, atteso per il mese prossimo.

A inizio mese, era già intervenuto sullo stesso tema il Fondo Monetario Internazionale, esortando i responsabili delle politiche economiche a rafforzare la cooperazione internazionale per prevenire le vulnerabilità informatiche emerse con i nuovi modelli di IA. I funzionari del FMI hanno avvertito che questi strumenti “elevano il rischio informatico al livello di un potenziale shock macro-finanziario”, sottolineando come i Paesi emergenti, con risorse più limitate, rischino un’esposizione sproporzionata rispetto a sistemi con difese più solide.

Alcuni enti restano però scettici sulla possibilità di una risposta globale realmente coordinata, date le attuali tensioni geopolitiche.
La domanda che rimane aperta è se questi nuovi strumenti, nati proprio per prevenire gli attacchi informatici, possano davvero farlo in modo uniforme, o se, distribuiti in modo selettivo, finiscano per ampliare le disuguaglianze che intendevano colmare.

Leggi anche: Istruzione, in Cina una piattaforma di servizi smart basati sull’IA