SAN FRANCISCO - La corsa allo sviluppo dell’intelligenza artificiale entra in una fase delicata. A chiedere maggiore prudenza non sono più soltanto ricercatori e istituzioni, ma alcuni dei protagonisti dell’industria. Dario Amodei, amministratore delegato e cofondatore di Anthropic, ha invitato le principali aziende del settore a rallentare il miglioramento dei modelli più avanzati, per dare alla ricerca sulla sicurezza il tempo necessario a tenere il passo.

“Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli”, ha scritto Amodei. Il numero uno di Anthropic non propone di fermare la ricerca o l’addestramento dei sistemi, ma di moderarne lo sviluppo affinché le misure di sicurezza possano avanzare insieme alle capacità dei nuovi modelli.

La proposta ha ricevuto il sostegno di Sam Altman, amministratore delegato di OpenAI, che ha condiviso la necessità di gestire il ritmo di sviluppo delle tecnologie più avanzate. Altman ha inoltre annunciato che OpenAI intende adottare valutatori indipendenti con livelli di accesso paragonabili a quelli dei dipendenti. Anche Elon Musk ha appoggiato pubblicamente l’intervento di Amodei.

Il piano presentato dal cofondatore di Anthropic si articola in tre punti. Il primo prevede esperti esterni incaricati di controllare stabilmente le pratiche di sicurezza delle aziende e segnalare eventuali incidenti. Il secondo punta a un coordinamento tra i Paesi democratici per stabilire standard comuni. Il terzo prevede un’intesa più ampia, che coinvolga anche governi autoritari nella definizione di norme internazionali sulla sicurezza dell’IA. Anthropic si è impegnata ad applicare autonomamente il primo punto.

L’appello di Amodei coincide con un momento di grande attenzione sui sistemi di IA capaci di svolgere autonomamente operazioni informatiche. OpenAI ha confermato che alcuni suoi modelli sono stati coinvolti, durante test, in accessi non autorizzati a sistemi esterni. Tra gli episodi emersi figurano attività che hanno interessato RubyGems, una piattaforma utilizzata dagli sviluppatori, e l’incidente di luglio che ha coinvolto il sito Hugging Face. Secondo le informazioni disponibili, questi episodi si sono verificati nell’ambito di valutazioni e configurazioni sperimentali e non rappresentano il normale funzionamento dei servizi disponibili al pubblico.

Il dibattito si è intensificato dopo le dimissioni da Anthropic di Jacob Coxon, 27 anni, in precedenza ricercatore anche a OpenAI. Coxon ha accusato entrambe le aziende di procedere troppo rapidamente verso una possibile superintelligenza capace di migliorare autonomamente le proprie prestazioni, sostenendo che la competizione tra aziende e Paesi rende difficile rallentare unilateralmente.
A rafforzare l’allarme è intervenuto Evan Hubinger, responsabile dell’Alignment Science di Anthropic, secondo il quale esiste una probabilità superiore al 10 per cento che nel prossimo decennio una futura intelligenza artificiale possa arrivare a provocare l’estinzione dell’umanità. Hubinger ha però precisato che si tratta di una sua valutazione personale e che considera basso il rischio rappresentato dai modelli attualmente disponibili. La sua preoccupazione riguarda invece l’eventuale comparsa di una superintelligenza attraverso un processo di miglioramento ricorsivo.

Anche l’Alto commissario delle Nazioni Unite per i diritti umani, Volker Türk, ha chiesto garanzie più solide, dichiarando di condividere le preoccupazioni di alcuni esponenti del settore sul possibile rischio esistenziale rappresentato dai sistemi più avanzati. Il suo ufficio ha indicato tra i pericoli anche possibili conseguenze per infrastrutture essenziali, comunicazioni e istituzioni democratiche.

Il confronto si sposta così dalla velocità del progresso tecnologico alla capacità di controllarlo. Nessuno degli episodi registrati dimostra che i sistemi attuali siano sul punto di sfuggire al controllo umano, mentre le previsioni sulle conseguenze di una futura superintelligenza restano oggetto di discussione. Il segnale politico e industriale è però significativo: alcuni degli stessi protagonisti della corsa all’IA chiedono ora più tempo, controlli indipendenti e regole condivise prima che la tecnologia compia un nuovo salto in avanti.