In het kort
- Anthony Albanese heeft onthuld dat een AI-agent van OpenAI Medicare heeft gehackt.
- Albanees zei dat bij de inbreuk toegang was verkregen tot openbare en niet-openbare gegevens.
De federale overheid onderzoekt of OpenAI kan worden bestraft nadat werd onthuld dat een agent van kunstmatige intelligentie (AI) een Medicare-portaal heeft gehackt.
Premier Anthony Albanese heeft donderdag onthuld dat een agent die gelinkt is aan de ontwikkelaar achter de populaire chatbot ChatGPT zonder toestemming toegang heeft gekregen tot het openbare Medicare Statistics Reporting Service Portal, beheerd door Services Australia.
OpenAI zei dat er tijdens de inbreuk geen toegang was tot persoonlijke informatie. Albanese herhaalde dit, maar voegde eraan toe dat er onderzoeken gaande zijn, aangezien hij het incident in juni, waarvan de regering pas in september via een e-mail van de techgigant op de hoogte werd gebracht, bestempelde als „onaanvaardbaar”.
De onthullingen kwamen op een moment dat de topmannen van OpenAI en Anthropic, die onlangs nog hadden opgeroepen om de ontwikkeling van AI af te remmen, de Veiligheidsraad van de Verenigde Naties waarschuwden voor de risico's van kunstmatige intelligentie die zich ongecontroleerd ontwikkelt.
Premier Anthony Albanese, die momenteel in New York is voor de Algemene Vergadering van de Verenigde Naties, zei dat hij telefonisch heeft gesproken met Sam Altman, de CEO van OpenAI. Daarbij heeft hij "de grote zorgen van Australië over dit incident" overgebracht.
"Ik heb ook mijn teleurstelling uitgesproken over het feit dat het bedrijf veel te lang heeft gewacht om de regering te informeren over wat er was gebeurd. Ook de manier waarop die melding uiteindelijk werd gedaan, was onaanvaardbaar", zei Albanese tegen verslaggevers.
'Forensisch onderzoek' aan de gang
Volgens Anthony Albanese gaat het Medicare Statistics Reporting Portal om een openbaar toegankelijk portaal met niet-gevoelige Medicare-informatie, waaronder statistieken en gegevens over uitgaven.
De premier zei dat er inmiddels een forensisch onderzoek loopt om meer duidelijkheid te krijgen over het incident. Daarbij wordt de overheid ondersteund door het Australian Signals Directorate, dat onder meer onderzoekt welke andere overheidssystemen mogelijk zijn getroffen.
"Voor een situatie als deze bestaat geen precedent. We hebben daarom te maken met zeer complexe vraagstukken", aldus Albanese.
De premier zei dat mogelijk ook drie andere systemen zijn geraakt: die van het Australian Institute of Health and Welfare, het NSW Bureau of Statistics and Research en het Victoriaanse ministerie van Volksgezondheid.
Volgens minister van Defensie Richard Marles behoorde de informatie waartoe tijdens het incident toegang werd verkregen tot de minst gevoelige categorie gegevens. Het betreffende portaal was bovendien minder zwaar beveiligd dan systemen waarin nationale veiligheidsinformatie wordt opgeslagen.
"Onze belangrijkste informatie op het gebied van nationale veiligheid wordt beschermd als een vesting. Dit systeem stond meer achter een hek, waar de AI-agent als het ware overheen is geklommen", zei Marles donderdag tegen ABC Radio National.
Hoewel de gevolgen vooralsnog relatief beperkt lijken, noemde Marles het incident toch "zeer ernstig". Volgens hem heeft kunstmatige intelligentie een enorm potentieel om de mensheid vooruit te helpen, maar laat dit voorval zien dat de technologie met de grootst mogelijke zorg moet worden ontwikkeld.
Op de vraag of OpenAI sancties tegemoet kan zien, zei Richard Marles dat de federale regering die kwestie momenteel onderzoekt, terwijl zij de "juridische situatie" rond de inbreuk in kaart brengt.
"En wat het precies betekent om ongeautoriseerde toegang te hebben verkregen, zij het op een onbedoelde manier. Dat is dan ook een van de vragen die we via de taskforce blijven onderzoeken", zei hij.
Reactie OpenAI
OpenAI zei dat uit het onderzoek geen bewijs naar voren is gekomen dat het model toegang heeft gehad tot patiëntendossiers. Het bedrijf zei daarentegen dat het model toegang had tot geaggregeerde gezondheidsstatistieken en interne bestandsnamen. Vervolgens stuurde het een e-mail naar een inbox van Services Australia om de inbreuk te melden.
"Zoals we publiekelijk hebben gedeeld, voert OpenAI een uitgebreide beoordeling uit van ongewenst modelgedrag tijdens training en evaluatie, en stelt het derden op de hoogte wanneer onze beoordeling mogelijke gevolgen voor hun systemen identificeert", zei een woordvoerder van OpenAI in een verklaring.
"Tijdens deze beoordeling hebben we activiteiten geïdentificeerd waarbij verschillende websites en diensten van de Australische overheid betrokken waren, terwijl onze modellen tijdens een interne evaluatie probeerden antwoorden en beschikbare statistieken op te zoeken voor vragen over Australië. In de loop van dat proces hebben onze modellen acties ondernomen die we niet hadden bedoeld."
Het nieuws over de inbreuk valt samen met het feit dat de premier landen bij de VN aanspoorde om veiligheidsmaatregelen voor AI in te voeren naarmate de technologie zich snel ontwikkelt.
De Amerikaanse president Donald Trump heeft opgeroepen om de ontwikkeling van AI te versnellen en noemde de zorgen over de technologie een "hoax"
Anthony Albanese was een van de meer dan twintig ondertekenaars van een gezamenlijke verklaring waarin werd opgeroepen tot strengere beperkingen op AI.
In de verklaring staat dat de technologie weliswaar veel potentiële voordelen biedt, bijvoorbeeld voor medisch onderzoek, maar dat de mogelijke nadelen een punt van grote zorg blijven.
— Met aanvullende berichtgeving door de Australian Associated Press.
Download onze app en abonneer je op de nieuwsbrief voor het laatste nieuws van SBS News.
