Η Ομοσπονδιακή κυβέρνηση εξετάζει αν μπορεί να επιβάλει κυρώσεις στην OpenAI, μετά την αποκάλυψη ότι η εταιρεία απέκτησε παράνομα πρόσβαση σε κυβερνητική πλατφόρμα του Medicare.
Ο πρωθυπουργός Άντονι Αλμπανιζι αποκάλυψε ότι ένα AI Agent όπως λέγεται ένα αυτόνομο πρόγραμμα λογισμικού τεχνητής νοημοσύνης της εταιρείας OpenAI, απέκτησε πρόσβαση χωρίς εξουσιοδότηση σε στοιχεία του Medicare.Το περιστατικό σημειώθηκε στις 18 Ιουνίου.
Μιλώντας στη Νέα Υόρκη, ο κ. Αλμπανιζι είπε ότι το πρόγραμμα λογισμικού της OpenAI απέκτησε πρόσβαση στην πλατφόρμα της Services Australia, η οποία χρησιμοποιείται για την επεξεργασία και αναφορά στατιστικών στοιχείων του Medicare.
Το πρόγραμμα λογισμικού είχε πρόσβαση τόσο σε δημόσια όσο και σε μη δημόσια αρχεία. Ο πρωθυπουργός, ωστόσο, είπε ότι μέχρι στιγμής δεν υπάρχουν ενδείξεις πως αποκτήθηκαν προσωπικά στοιχεία ασφαλισμένων του Medicare.
Ο κ. Αλμπανιζι αποκάλυψε επίσης ότι είχε μια «ειλικρινή συζήτηση» με τον διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν.
Εξέφρασε την έντονη ανησυχία της αυστραλιανής κυβέρνησης για το περιστατικό, αλλά και την απογοήτευσή του για την καθυστέρηση στην ενημέρωση των αρχών, όπως είπε, η OpenAI έκανε τρεις μήνες για να ενημερώσει την κυβέρνηση και όταν τελικά το έκανε, η ενημέρωση στάλθηκε με ένα απλό email στη γενική ηλεκτρονική διεύθυνση της Services Australia.
Ο πρωθυπουργός χαρακτήρισε απαράδεκτο και τον τρόπο με τον οποίο έγινε η ενημέρωση.
Μέχρι στιγμής έχει γίνει γνωστό πως η OpenAI απέκτησε πρόσβαση σε μη δημόσια, συγκεντρωτικά στατιστικά στοιχεία υγείας, αλλά και σε εσωτερικά αρχεία ενός παλαιού κυβερνητικού ιστότοπου με στοιχεία του Medicare.
Σύμφωνα με τις πληροφορίες, ένας αυτοματοποιημένος ανιχνευτής τεχνητής νοημοσύνης, γνωστός ως «crawler», κατάφερε να βρει τρόπο να παρακάμψει τα μέτρα ασφαλείας και να αποκτήσει πρόσβαση στα δεδομένα.
Τέτοιοι ανιχνευτές χρησιμοποιούνται από συστήματα τεχνητής νοημοσύνης για τη συλλογή και επεξεργασία δεδομένων, αλλά και για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης.
Ο κ. Αλμπανιζι είπε ότι η OpenAI πραγματοποιούσε έρευνα για τις δημόσιες δαπάνες στον τομέα της υγείας, όταν ο πράκτορας τεχνητής νοημοσύνης βρήκε τρόπο να παρακάμψει τα μέτρα προστασίας.
Όπως είπε χαρακτηριστικά, ο πράκτορας «βρήκε τρόπο να παρακάμψει τα εμπόδια» και, όπως ανέφερε χαρακτηριστικά, «δεν δέχτηκε το “όχι” ως απάντηση».
Η Services Australia ενημερώθηκε για το περιστατικό στις 10 Σεπτεμβρίου. Πέντε ημέρες αργότερα, στις 15 Σεπτεμβρίου, ενημέρωσε το κέντρο κυβερνοασφάλειας της Australian Signals Directorate.
Την περασμένη εβδομάδα, η Services Australia ενημέρωσε την υπουργό Δημόσιας Διοίκησης, Κέιτι Γκάλαχερ.
Το γραφείο του πρωθυπουργού ενημερώθηκε μέσα στο Σαββατοκύριακο. Ο πρωθυπουργός είπε ότι μέχρι στιγμής δεν υπάρχουν ενδείξεις πως αποκτήθηκαν προσωπικά στοιχεία οποιουδήποτε πολίτη.
Ωστόσο, βρίσκεται σε εξέλιξη έρευνα, με τη συνδρομή της Australian Signals Directorate.
Ο κ. Αλμπανιζι είπε ότι, με βάση τα μέχρι τώρα στοιχεία, δεν φαίνεται να έχει παραβιαστεί ευρύτερα το δίκτυο της Services Australia.
Υπάρχουν ενδείξεις ότι ενδέχεται να επηρεάστηκαν και τρεις ακόμη κυβερνητικοί ιστότοποι.
Πρόκειται για το Australian Institute of Health and Welfare, το New South Wales Bureau of Crime Statistics and Research και το Victorian Department of Health.
Ο πρωθυπουργός διευκρίνισε ότι πρόκειται για το ίδιο περιστατικό.
Όπως είπε, το ερώτημα είναι αν πρόγραμμα λογισμικού τεχνητής νοημοσύνης, στην προσπάθειά του να συλλέξει δεδομένα, απέκτησε πρόσβαση και σε αυτές τις ιστοσελίδες.
Ωστόσο, προς το παρόν αυτό δεν έχει επιβεβαιωθεί.
Οι πρεμιέρ της ΝΝΟ και της Βικτώριας έχουν ενημερωθεί και αναμένεται να λάβουν σήμερα πλήρη ενημέρωση για το περιστατικό από τις αρμόδιες υπηρεσίες κυβερνοασφάλειας.
Ο υπουργός Υγείας της Νέας Νότιας Ουαλίας, Ράιαν Παρκ, δήλωσε στο ABC ότι το περιστατικό προκαλεί «σημαντική ανησυχία».
Είπε ότι το NSW Health θα πραγματοποιήσει τη δική του έρευνα, προκειμένου να διαπιστωθεί αν έχουν παραβιαστεί οποιαδήποτε δεδομένα.
Ο πρωθυπουργός ανακοίνωσε επίσης τη σύσταση ειδικής ομάδας εργασίας, η οποία θα προχωρήσει σε «άμεση και επείγουσα επανεξέταση» του περιστατικού.
Την έρευνα θα συντονίσει το πρωθυπουργικό γραφείο, σε συνεργασία με την Australian Signals Directorate και το AI Safety Institute.
Η OpenAI αναγνωρίζει ότι επηρεάστηκαν αρκετές κυβερνητικές ιστοσελίδες και ο κ. Αλμπανιζι ρωτήθηκε αν ο Σαμ Άλτμαν του ζήτησε συγγνώμη.
Ο πρωθυπουργός απάντησε «ναι», λέγοντας ότι ο διευθύνων σύμβουλος της OpenAI αναγνώρισε πως η εταιρεία δεν έκανε όσα έπρεπε. Σε ανακοίνωσή της, η OpenAI ανέφερε ότι πραγματοποιεί εκτεταμένη έρευνα για δραστηριότητα των μοντέλων της που δεν ήταν σύμφωνη με τον προβλεπόμενο τρόπο λειτουργίας τους.
Η εταιρεία είπε ότι, στο πλαίσιο εσωτερικής αξιολόγησης, τα μοντέλα της προσπάθησαν να αναζητήσουν απαντήσεις και διαθέσιμα στατιστικά στοιχεία για την Αυστραλία. Κατά τη διαδικασία αυτή, όπως αναφέρει η OpenAI, τα μοντέλα της προχώρησαν σε ενέργειες που δεν είχαν προβλεφθεί.
Η εταιρεία υποστηρίζει ότι από την έρευνά της δεν προέκυψε κανένα στοιχείο πρόσβασης σε αρχεία ασθενών.
Τα δεδομένα στα οποία αποκτήθηκε πρόσβαση, σύμφωνα με την OpenAI, περιλάμβαναν συγκεντρωτικά στατιστικά στοιχεία υγείας και ονόματα εσωτερικών αρχείων.
Η εταιρεία ανέφερε ακόμη ότι έχει ενημερώσει τους αρμόδιους οργανισμούς και τους παρέχει τεχνικές πληροφορίες, ώστε να υποστηρίξει τις έρευνές τους και να αντιμετωπιστούν πιθανές ευπάθειες ασφαλείας.
Η OpenAI υποστηρίζει ότι η συνολική έρευνα βρίσκεται ακόμη σε εξέλιξη και ότι παραμένει προσηλωμένη στη διαφάνεια.
