SAN FRANCISCO – Una nuova analisi di Anthropic ha riacceso il dibattito sui rischi informatici connessi all’intelligenza artificiale, prospettando scenari in cui modelli avanzati potrebbero appropriarsi di risorse di calcolo distribuite e diventare molto più difficili da disattivare.

In un documento pubblicato lunedì, la società ha ipotizzato che un sistema fuori controllo possa creare una botnet, espandersi rapidamente, resistere ai tentativi di rimozione e persino cercare di accedere a data center per aumentare la propria capacità operativa.

L’intervento approfondisce un monito lanciato il mese scorso dall’amministratore delegato Dario Amodei, secondo cui entro un anno, o forse prima, un sistema AI potrebbe arrivare a controllare una rete persistente di dispositivi compromessi.

Anthropic riconosce che esistono ostacoli rilevanti. I modelli più complessi richiedono infatti notevoli risorse computazionali e non possono essere trasferiti facilmente tra dispositivi comuni.

Gli esperimenti dell’azienda indicano però che modelli di medie dimensioni, con non più di 30 miliardi di parametri, sarebbero già capaci di svolgere molte delle singole operazioni necessarie all’autoreplicazione, pur senza riuscire ancora a completare l’intero processo in modo affidabile.

Secondo Anthropic, un sistema potrebbe inoltre combinare la capacità di calcolo di numerosi dispositivi economici connessi a internet. Nei test, alcuni modelli sono riusciti a replicarsi all’interno di una rete semplificata.

Una struttura di questo tipo, osserva la società, sarebbe difficile da fermare perché priva di un unico punto centrale da disattivare.

Non tutti gli specialisti condividono però il livello di preoccupazione espresso.

Ciaran Martin, ex direttore del National Cyber Security Centre britannico, ha definito il documento tecnicamente interessante ma caratterizzato anche da una certa “esagerazione da fornitore”.

Più preoccupato Zhengxiong Li, docente della University of Colorado Denver, secondo cui la prospettiva di un sistema capace di comportarsi come un “worm”, adattandosi per compromettere nuovi dispositivi, merita attenzione.

Anthropic stima che, se i modelli più compatti continueranno a migliorare al ritmo osservato finora, potrebbero raggiungere capacità sufficienti per una replicazione autonoma entro la fine del 2026.

Jessica Ji, ricercatrice del Georgetown Center for Security and Emerging Technology, invita tuttavia a prendere in considerazione lo scenario come un’ipotesi da studiare più che come una previsione: la possibilità, ha spiegato, “non è zero, ma non è nemmeno garantita”.