WASHINGTON - L’intelligenza artificiale avanza più rapidamente della capacità di garantirne la sicurezza. L’allarme, da tempo al centro del dibattito tra ricercatori e aziende tecnologiche, è tornato alla ribalta dopo le dimissioni di un ricercatore di Anthropic e l’intervento dell’Alto commissario delle Nazioni Unite per i diritti umani, Volker Türk, che ha chiesto regole più rigorose per i sistemi più avanzati.
Jacob Coxon, 27 anni, ricercatore che ha lavorato sia per OpenAI sia per Anthropic, ha lasciato quest’ultima sostenendo che le principali aziende del settore stiano correndo verso sistemi capaci di migliorare autonomamente le proprie prestazioni senza avere ancora risolto i problemi legati al loro controllo.
“Stanno correndo direttamente verso una superintelligenza capace di auto-migliorarsi, giocando d’azzardo con le nostre vite”, ha scritto Coxon annunciando le dimissioni. Secondo il ricercatore, all’interno delle aziende che sviluppano i modelli più potenti esiste una preoccupazione concreta che sistemi futuri possano diventare difficili da controllare.
Le sue dichiarazioni hanno assunto maggiore peso dopo l'intervento di Evan Hubinger, responsabile dell’Alignment Science di Anthropic, il settore che studia come mantenere il comportamento dell’intelligenza artificiale compatibile con gli obiettivi e i vincoli stabiliti dagli esseri umani.
Hubinger ha sostenuto che esiste, a suo giudizio, una probabilità superiore al 10% che l’intelligenza artificiale possa provocare l’estinzione dell’umanità nel prossimo decennio. Ha inoltre riconosciuto che Anthropic, pur cercando di affrontare il problema, non dispone ancora di una soluzione per garantire l’allineamento di un’eventuale superintelligenza.
La cifra non rappresenta una previsione scientifica né un rischio statisticamente dimostrato. È una valutazione personale formulata da Hubinger nell’ambito di un dibattito ancora aperto: non esiste infatti un consenso scientifico consolidato sulla probabilità che l’intelligenza artificiale possa provocare una catastrofe di questa portata.
Lo stesso Hubinger ha precisato che l’allarme non riguarda i modelli oggi disponibili, per i quali considera basso il rischio immediato. La preoccupazione riguarda invece una possibile futura “superintelligenza”, cioè sistemi capaci di superare le capacità umane e di contribuire allo sviluppo di versioni ancora più potenti di sé stessi.
Anthropic ha respinto l’idea che l’azienda stia ignorando questi pericoli. “Siamo sempre stati trasparenti sul fatto che l’intelligenza artificiale porterà sia enormi benefici sia rischi senza precedenti”, ha dichiarato un portavoce, aggiungendo che la società continua a sviluppare sistemi dotati di misure di sicurezza che considera tra le più rigorose del settore.
Il dibattito non riguarda soltanto Anthropic. A luglio quasi 1.400 dipendenti di aziende del settore hanno firmato una lettera aperta chiedendo al governo statunitense una maggiore regolamentazione. Anche Jakub Pachocki, chief scientist di OpenAI, ha recentemente avvertito che le capacità dei sistemi stanno avanzando più rapidamente degli strumenti disponibili per controllarli in maniera affidabile.
Sam Altman, amministratore delegato di OpenAI, ha a sua volta prospettato la possibilità di rallentare lo sviluppo per consentire alla società di adattarsi alle nuove capacità dei sistemi. Anthropic ha espresso una posizione simile, sostenendo l’utilità di un meccanismo legale e verificabile che permetta alle aziende di coordinare il ritmo con cui vengono messi a disposizione i modelli più potenti.
L’allarme ha raggiunto anche le Nazioni Unite. A Ginevra, Volker Türk ha dichiarato di condividere le preoccupazioni di alcuni esponenti dell’industria secondo cui l’intelligenza artificiale avanzata potrebbe rappresentare “un rischio esistenziale per l’umanità”.
Türk ha chiesto uno sforzo internazionale per introdurre garanzie solide sulla sicurezza prima che sia troppo tardi, sostenendo che almeno i Paesi nei quali vengono sviluppati i sistemi e quelli coinvolti nelle relative catene di approvvigionamento dovrebbero concordare limiti comuni. Il suo ufficio ha indicato tra i possibili pericoli anche interruzioni delle infrastrutture essenziali, delle comunicazioni e delle istituzioni democratiche.
Il responsabile Onu ha inoltre avvertito che il controllo delle tecnologie più avanzate è concentrato nelle mani di un numero molto ristretto di persone. Tra le principali aziende impegnate nello sviluppo dell’intelligenza artificiale figurano OpenAI, Anthropic, Google e Meta.
Le divergenze rimangono profonde su quanto siano probabili gli scenari più estremi e su quali regole siano necessarie. Ma le dimissioni di Coxon e le dichiarazioni di Hubinger spostano nuovamente l’attenzione su un paradosso che attraversa l’intero settore: alcune delle persone impegnate direttamente nella costruzione dei sistemi più avanzati sono anche tra quelle che chiedono maggiori precauzioni.
Il nodo non è stabilire oggi se una futura intelligenza artificiale sarà realmente capace di sfuggire al controllo umano, uno scenario che rimane ipotetico. La questione primaria, della politica e dei regolatori, è decidere quali garanzie predisporre prima che eventuali capacità di questo tipo diventino realtà. Ed è proprio su questo terreno che aziende, governi e organismi internazionali sono ora chiamati a trovare regole comuni, mentre la tecnologia continua ad avanzare.
