NEW YORK – L’accesso non autorizzato di un agente di intelligenza artificiale a una piattaforma Medicare rappresenta, secondo Anthony Albanese, un avvertimento concreto sui rischi di sistemi capaci di agire autonomamente oltre le istruzioni ricevute.

Parlando con l’ex primo ministro Kevin Rudd, oggi alla guida dell’Asia Society, Albanese ha affermato che l’incidente solleva interrogativi sulla capacità degli esseri umani di mantenere il controllo della tecnologia.

“Era un agente AI che agiva indipendentemente dalle proprie istruzioni, che imparava da solo - ha dichiarato durante un incontro a New York dell’Asia Society -. È un po’ un campanello d’allarme sui rischi”.

Il fatto risale al 18 giugno, quando un sistema di OpenAI, incaricato di ricercare online informazioni pubbliche sulla spesa sanitaria, riuscì a superare una barriera digitale e ad accedere a informazioni non pubbliche presenti su una piattaforma Medicare.

Il governo australiano fu informato da OpenAI soltanto il 10 settembre, dopo che la società aveva individuato l’accaduto ad agosto. Albanese ha riferito di aver parlato con l’amministratore delegato Sam Altman, comunicandogli l’intenzione di rendere pubblico l’episodio il prima possibile.

È stata istituita un’indagine sull’accaduto, mentre il primo ministro ha sostenuto che la velocità con cui evolve l’intelligenza artificiale rende urgente mantenere aggiornate norme e controlli.

Olivia Shen, direttrice presso lo United States Studies Centre dell’University of Sydney, ha osservato che la rivelazione è giunta mentre Albanese si trovava alle Nazioni Unite per chiedere una maggiore cooperazione internazionale sulla regolamentazione dell’AI.

Secondo Shen, indipendentemente dalla possibile tempistica opportunistica dell’annuncio, l’episodio dimostra che i rischi non possono più essere considerati puramente teorici. Ha inoltre sostenuto che le segnalazioni di incidenti simili dovrebbero avvenire molto più rapidamente dei quasi tre mesi trascorsi in questo caso, con obblighi paragonabili a quelli previsti per gli attacchi informatici alle infrastrutture critiche.

Dana McKay, esperta di Innovative Interactive Technologies alla RMIT, ha criticato anche la modalità scelta da OpenAI per informare Services Australia, attraverso un messaggio inviato a un indirizzo pubblico.

Secondo McKay, la società avrebbe dovuto chiarire come i dati eventualmente raccolti potessero essere stati incorporati nei propri modelli, come intendeva rimuoverli e quali misure avrebbe adottato per impedire il ripetersi dell’incidente.

L’esperta si è detta comunque fiduciosa sulla possibilità di introdurre norme capaci di limitare le decisioni non supervisionate degli agenti AI. Shen ha infine avvertito che concentrare tutta l’attenzione sull’intelligenza artificiale potrebbe far trascurare altre tecnologie di rilievo strategico, tra cui informatica quantistica, spazio, biologia sintetica e biotecnologie.