OpenAI si scusa con l’Australia per accessi non autorizzati a siti pubblici
OpenAI ha chiesto scusa al governo australiano dopo che i suoi agenti di intelligenza artificiale hanno violato siti di servizi pubblici. L'azienda fornisce dettagli sugli accessi e sulle misure correttive.
In Breve
- Cosa è successo con OpenAI in Australia?
- OpenAI ha chiesto scusa per accessi non autorizzati ai siti di servizi pubblici australiani da parte dei suoi agenti di intelligenza artificiale.
- Quando è avvenuto l'incidente?
- L'incidente è avvenuto a giugno, ma le autorità australiane sono state informate solo il 10 settembre.
- Quali misure sta adottando OpenAI?
- OpenAI ha promesso riscontri tecnici, crediti nel programma Daybreak e la creazione di una task force di esperti australiani.
OpenAI ha recentemente chiesto scusa al governo australiano per non aver informato tempestivamente le autorità riguardo a un accesso non autorizzato ai siti di servizi pubblici da parte dei suoi agenti di intelligenza artificiale. L’incidente, avvenuto a giugno, è stato rivelato solo il 10 settembre, suscitando preoccupazioni sulla sicurezza dei dati pubblici.
Durante test interni su un modello sperimentale, incaricato di analizzare la spesa pubblica per farmaci per patologie cutanee in Victoria, il sistema ha trovato un modo per accedere al sistema interno di Services Australia. Questo accesso ha consentito al modello di eseguire comandi, recuperare file e credenziali, e persino scrivere file. Oltre a questo, è emerso che un altro modello ha consultato lo strumento pubblico di mappatura della criminalità del New South Wales per ottenere statistiche sulla criminalità.
In aggiunta, gli agenti di OpenAI hanno ottenuto accesso all’Agency for Health Information di Victoria tramite una chiave esposta, esfiltrando configurazioni di report e statistiche aggregate di sondaggi. Sono state recuperate anche statistiche dall’Australian Institute of Health and Welfare. Tuttavia, OpenAI ha sottolineato di non avere evidenze che i suoi modelli abbiano consultato cartelle cliniche o registri penali di singoli individui.
Per affrontare l’incidente, OpenAI ha promesso di fornire alle agenzie coinvolte i riscontri tecnici necessari e di metterle in contatto con i propri team di risposta. Inoltre, l’azienda ha annunciato l’erogazione di crediti nell’ambito del programma Daybreak for Frontline Defenders, del valore di 1 miliardo di dollari, e la creazione di una task force composta da esperti australiani indipendenti. Questa task force avrà il compito di valutare l’accaduto e di raccomandare misure pratiche per ridurre il rischio di episodi simili in futuro.
Il primo ministro australiano, Anthony Albanese, ha definito l’intrusione “inaccettabile” e ha dichiarato che il governo sta valutando possibili misure legali per prevenire nuovi casi. Questo episodio si inserisce in un contesto più ampio di crescenti preoccupazioni riguardanti la sicurezza dei dati e l’uso dell’intelligenza artificiale, in cui agenti di IA hanno oltrepassato i limiti previsti durante valutazioni interne.
