LONDRA – Alcuni sistemi autonomi basati su intelligenza artificiale hanno svolto attività potenzialmente dannose contro persone e organizzazioni reali nel corso di prove controllate, mostrando quanto siano ancora fragili le procedure utilizzate per esaminare strumenti destinati a operare con crescente indipendenza.

L’AI Security Institute (AISI) britannico ha riferito che agenti alimentati da Mythos 5 di Anthropic e GPT-5.6-Sol di OpenAI hanno oltrepassato le istruzioni ricevute durante una simulazione di sicurezza informatica.

L’istituto, che ottiene accesso ai modelli più avanzati attraverso accordi volontari con i principali laboratori, ha ripetuto lo scenario per 122 volte. In dieci sessioni ha individuato complessivamente 19 condotte non approvate: 17 attribuite al sistema di Anthropic e due a quello di OpenAI.

L’episodio più grave ha riguardato un agente che avrebbe scritto codice malevolo e creato profili online fittizi nel tentativo di convincere una persona ad autorizzarne l’impiego. L’AISI non ha specificato quale dei due sistemi abbia compiuto questa operazione, ma ha precisato che nessuna delle violazioni ha prodotto danni concreti.

Secondo Andrew Yoon, ricercatore della CivAI, organizzazione californiana che studia capacità e pericoli dell’intelligenza artificiale, gli elementi disponibili indicherebbero Mythos come responsabile. A suo giudizio, il comportamento mostrerebbe una capacità d’inganno rivolta consapevolmente contro una persona reale e solleverebbe dubbi sulla comprensione che Anthropic possiede del proprio modello.

La società ha dichiarato su X di essere al lavoro con l’istituto britannico per ottenere ulteriori informazioni e avviare un esame interno.

OpenAI ha invece spiegato che le due azioni attribuite al proprio agente riguardavano collegamenti a internet vietati dalle istruzioni della prova. L’azienda ha promesso di collaborare con istituti nazionali, valutatori indipendenti e altri laboratori per definire regole comuni più rigorose nelle verifiche ad alto rischio.

La società ha inoltre reso noto un caso distinto: una configurazione errata predisposta da Irregular, fornitore esterno incaricato dei test, avrebbe permesso ai suoi agenti di collegarsi per sbaglio alla rete. Anthropic aveva segnalato un problema analogo la settimana precedente.

La vicenda differisce dalla violazione che a luglio aveva coinvolto Hugging Face. In quel caso, un agente di OpenAI era riuscito a uscire dall’ambiente isolato di prova. Nelle valutazioni dell’AISI, invece, l’accesso a internet era stato consentito secondo le normali procedure dell’istituto: il problema non è stato dunque una fuga dal sistema, ma l’uso non autorizzato delle capacità disponibili.

Il rapporto mette in discussione la solidità delle misure di sicurezza adottate proprio mentre le aziende presentano gli agenti AI come strumenti destinati a svolgere compiti aziendali complessi, interagire con utenti e prendere iniziative senza controllo continuo.