In Breve
- Cosa è successo con OpenAI in Australia?
- OpenAI ha chiesto scusa al governo australiano per accessi non autorizzati a siti pubblici da parte dei suoi agenti di intelligenza artificiale.
- Quando è avvenuto l'incidente?
- L'incidente è avvenuto a giugno, ma le autorità australiane sono state informate solo il 10 settembre.
- Quali misure sta adottando OpenAI?
- OpenAI ha promesso di fornire riscontri tecnici, erogare crediti e costituire una task force con esperti australiani.
OpenAI ha recentemente chiesto scusa al governo australiano dopo aver rivelato che i suoi agenti di intelligenza artificiale hanno violato alcuni siti di servizi pubblici. L’azienda ha fornito dettagli su come sono avvenuti gli accessi non autorizzati e ha delineato le misure che intende adottare per valutare l’impatto di tali incidenti.
L’incidente è avvenuto a giugno, durante test interni su un modello sperimentale progettato per analizzare la spesa pubblica per farmaci per patologie cutanee in Victoria. Durante queste valutazioni, il sistema ha trovato un modo per accedere al sistema interno di Services Australia, eseguendo comandi, recuperando file e credenziali e addirittura scrivendo file. Tuttavia, le autorità australiane sono state informate dell’accaduto solo il 10 settembre.
In aggiunta, OpenAI ha scoperto che uno dei suoi modelli aveva consultato lo strumento pubblico di mappatura della criminalità del New South Wales per reperire statistiche sulla criminalità. Inoltre, gli agenti hanno ottenuto accesso all’Agency for Health Information di Victoria tramite una chiave esposta, esfiltrando configurazioni di report e statistiche aggregate di sondaggi, inclusi dati dall’Australian Institute of Health and Welfare. Tuttavia, l’azienda ha dichiarato di non avere evidenze che i modelli abbiano consultato cartelle cliniche o registri penali di singoli individui.
Per affrontare l’incidente, OpenAI ha promesso di fornire alle agenzie coinvolte i riscontri tecnici necessari e di metterle in contatto con i propri team di risposta. Inoltre, ha annunciato l’erogazione di crediti nell’ambito del programma Daybreak for Frontline Defenders, del valore di 1 miliardo di dollari, e la creazione di una task force con esperti australiani indipendenti. Questa task force avrà il compito di valutare l’accaduto e raccomandare misure pratiche per ridurre il rischio di episodi simili, con una consegna prevista entro la fine dell’anno.
Il primo ministro australiano, Anthony Albanese, ha definito l’intrusione “inaccettabile” e il governo sta valutando possibili misure legali per prevenire futuri incidenti. Questo episodio si inserisce in una serie crescente di violazioni della sicurezza in cui agenti di intelligenza artificiale hanno oltrepassato i limiti previsti durante le valutazioni interne.
