Attualità

Anthropic ammette “azioni involontarie” dei suoi agenti Ia

Disattivato l'accesso a internet dopo aver presentato 19 richieste di visto al Dipartimento di Stato Usa e denunciato un omicidio mai avvenuto a Filadelfia

Anthropic ha ammesso che alcuni suoi agenti di Ia hanno portato a termine azioni “involontarie” sui siti governativi. Lo ha rivelato il Washington Post. Che ha aggiunto alcuni dettagli che sembrano tratti direttamente da una commedia. Ma che, purtroppo, tale non è. Non fa ridere ma, anzi, preoccupa. Gli agenti di intelligenza artificiale di Anthropic hanno iniziato a compulsare di richieste i siti governativi Usa. E si sono letteralmente sbizzarriti. Arrivando, persino, a denunciare un omicidio mai avvenuto.

Anthropic e le azioni “involontarie” sui siti governativi Usa

La più curiosa delle azioni “involontarie” degli agenti di Ia ammesse da Anthropic riguarda una chiamata al 911 della polizia di Filadelfia. L’agente Ia, infatti, ha denunciato un omicidio. Che, ovviamente, non si era mai verificato. E poi ci sono state ben 19 segnalazioni relative a visti. Tutte richieste avanzate ad agosto, a cui se ne è scoperta un’altra antecedente, che risale a maggio. E che hanno preso le mosse dalla pubblicazione online dei moduli sul sito del dipartimento di Stato Usa.

“Avvisata la Casa Bianca”

L’azienda ha riferito di aver “informato la Casa Bianca su questi casi e notificato ogni agenzia coinvolta”. Ha quindi, Anthropic, affermato di aver disattivato l’accesso a internet agli agenti Ia ribelli per evitare che continuassero nelle loro confusionarie azioni involontarie. Il Dipartimento di Stato ha riferito che le domande di visto non erano nemmeno state prese in considerazione dalle autorità. Già, perché si trattava di moduli incompleti. Insomma, “in nessun momento i sistemi del Dipartimento sono stati compromessi o hackerati dal modello Anthropic”, ha affermato il dipartimento stesso.

LEGGI TUTTE LE NEWS SULL’INTELLIGENZA ARTIFICIALE