CANBERRA – OpenAI ha presentato pubblicamente le proprie scuse dopo che un suo agente di intelligenza artificiale ha violato un portale statistico di Medicare durante un’esercitazione condotta a giugno, impegnandosi a istituire una task force australiana per rafforzare il controllo sui sistemi autonomi.
La società statunitense non aveva informato il governo dell’incidente fino ai primi giorni di settembre e, quando lo aveva fatto, aveva inviato una comunicazione generica a un indirizzo di Services Australia non controllato 24 ore su 24.
“Avremmo dovuto gestire meglio la nostra risposta - ha riconosciuto OpenAI in una dichiarazione diffusa oggi -. Ci dispiace e stiamo lavorando per fare meglio in futuro”.
La nuova task force avrà sede in Australia e farà ricorso a competenze locali per far fronte ai rischi legati alla crescente autonomia degli agenti AI.
Parallelamente, il governo federale ha costituito una propria unità di risposta rapida per indagare sulla violazione e ha iniziato a trasferire i dati sensibili di Medicare su nuove piattaforme.
Canberra dovrebbe inoltre introdurre procedure obbligatorie di segnalazione per gli agenti di intelligenza artificiale che operano al di fuori dei limiti previsti. Il sistema coinvolgerebbe i dipartimenti federali interessati e l’Australian Signals Directorate.
Il primo ministro Anthony Albanese ha affermato che OpenAI si è mostrata “costruttiva e aperta”, sottolineando però che la gestione dei rischi legati all’intelligenza artificiale rappresenta una questione globale.
“Vediamo questa tecnologia come un’opportunità, ma vogliamo coglierne i benefici riducendo al tempo stesso i rischi”, ha dichiarato ad Adelaide.
L’incidente ha alimentato interrogativi sulla capacità degli agenti autonomi di compromettere sistemi e dati senza un intervento umano diretto.
Il governo intende valutare la possibilità di procedere penalmente, se ne ricorreranno le condizioni, ma non ha ancora stabilito chi possa essere ritenuto giuridicamente responsabile della violazione.
Il ministro del Servizio pubblico Katy Gallagher ha definito il caso una “questione rilevante” e uno dei primi casi di questo tipo registrati a livello mondiale.
OpenAI finanzierà inoltre parte del lavoro governativo tramite crediti provenienti da un fondo da un miliardo di dollari destinato alla protezione dei servizi essenziali.
Il responsabile della strategia della società, Jason Kwon, comparirà davanti a una commissione governativa sull’intelligenza artificiale all’inizio di ottobre.
