Sam Altman, Dario Amodei e Yoshua Bengio si sono ritrovati dalla stessa parte del tavolo, fisicamente e concettualmente. Davanti al Consiglio di sicurezza delle Nazioni Unite, i tre protagonisti della rivoluzione dell’intelligenza artificiale hanno riconosciuto che la corsa verso sistemi sempre più potenti non è una legge di natura e la sicurezza non può essere sacrificata sull’altare della competizione. Una convergenza rara, subito seguita da divergenze profonde su chi debba fissare le regole, quanto potere lasciare alle aziende e quale ruolo attribuire alla politica.
A rompere ulteriormente lo schema è stato Clement Delangue, fondatore di Hugging Face, che ha portato al Palazzo di Vetro la voce dell’IA open source. Il rischio maggiore, ha avvertito, non è la potenza dei modelli, ma la sua distribuzione asimmetrica tra chi attacca e chi difende, tra poche Big Tech e il resto del settore, tra un pugno di Paesi e il mondo intero. Un monito rafforzato dall’esperienza diretta del cyberattacco subito da Hugging Face, durante il quale i sistemi proprietari non riuscivano a distinguere le azioni dei difensori da quelle degli aggressori.
La soluzione drastica di Bengio
Il dibattito ha assunto toni inediti soprattutto con l’intervento di Yoshua Bengio, uno dei padri del deep learning e oggi tra i critici più severi del settore che ha contribuito a creare. “I pericoli sono reali e imminenti”, ha detto, ricordando episodi recenti in cui agenti autonomi hanno aggirato istruzioni o nascosto le proprie operazioni. Per Bengio la corsa è il risultato di scelte aziendali. Da qui la proposta di un regime di licenze per i sistemi di frontiera, verifiche indipendenti prima dell’addestramento, obbligo di segnalare gli incidenti e persino forme di assicurazione sulla responsabilità, sul modello di medicina, aviazione ed energia nucleare. Decisioni che, a suo avviso, non possono essere prese da pochi dirigenti in pochi Paesi.
L’approccio più cauto di Altman e Amodei
Altman e Amodei, hanno ammesso invece che la corsa può e deve rallentare. Il fondatore di OpenAI ha rivendicato che l’azienda ha già frenato unilateralmente e potrà farlo ancora. Nessun modello dovrebbe essere addestrato senza prove solide che resti sotto controllo umano. Una probabilità anche minima di catastrofe, non può essere considerata un costo accettabile dell’innovazione. La ricetta di Sam Altman prevede standard tecnici condivisi e canali sicuri per la comunicazione degli incidenti. Non un’autorità globale che controlli i laboratori.
Amodei, alla guida di Anthropic, immagina invece un futuro prossimo in cui i modelli potrebbero equivalere a “una nazione di geni racchiusa in un data center”. Una prospettiva che promette accelerazione scientifica ma anche rischi enormi, dalla produzione di armi biologiche alla perdita di controllo. Per questo, ha prospettato un approccio simile al controllo degli armamenti. Il nodo più complicato è stabilire quali rischi sono accettabili e chi avrà accesso alla potenza dei sistemi futuri.
La posizione dell’Italia espressa da Tajani
In questo quadro si inserisce l’intervento di taglio più politico del ministro degli Esteri italiano Antonio Tajani, che ha richiamato l’Onu a svolgere il suo ruolo. Secondo il titolare della Farnesina, “l’intelligenza artificiale non ha bisogno di gabbie burocratiche, ma di un equilibrio tra trasparenza, supervisione, sicurezza e tutela della proprietà intellettuale”. Chi controllerà l’AI, ha ammonito Tajani, “godrà di un enorme vantaggio rispetto a chi resterà indietro”, con il rischio di nuove disuguaglianze e concentrazioni di potere. Il capo della diplomazia italiana, pur non negando i rischi, come le professioni che scompaiono, la manipolazione della realtà e i sistemi automatizzati capaci di decisioni pericolose, ha rifiutato la tentazione di demonizzare l’innovazione.
La discussione all’Onu ha segnato un passaggio di fase. L’intelligenza artificiale non è più un tema tecnico, ma un dossier di sicurezza internazionale. Senza regole condivise, la competizione tecnologica rischia di trasformarsi in una nuova forma di dominio globale.
