Τα μεγαλύτερα ονόματα της τεχνολογίας και ΑΙ όπως ο επικεφαλής της Anthropic, Dario Amodei, ο Elon Musk και ο επικεφαλής της OpenAI, Sam Altman, κάνουν έκκληση για μεγαλύτερη προσοχή στην ανάπτυξη της τεχνητής νοημοσύνης, καθώς εντείνονται οι προειδοποιήσεις ότι τα ολοένα ισχυρότερα συστήματα μπορεί να καταστούν δύσκολο να ελεγχθούν. Η συζήτηση έχει φτάσει και στην Αυστραλία, όπου πολιτικοί, ειδικοί στην τεχνολογία και αναλυτές σε θέματα ασφάλειας εξετάζουν τι θα μπορούσε να σημαίνει η ολοένα ισχυρότερη τεχνητή νοημοσύνη για τη χώρα και την ευρύτερη περιοχή του Ειρηνικού.
[["I'm sorry Dave, I'm afraid I can't do that."]]
Σχεδόν 60 χρόνια μετά την ταινία του Stanley Kubrick, όπου ο υπολογιστής HAL προσπαθεί να προστατεύσει τον εαυτό του από τους ανθρώπους που τον ελέγχουν, η ιδέα ότι η τεχνητή νοημοσύνη μπορεί να ξεφύγει από τον ανθρώπινο έλεγχο δεν αποτελεί πλέον μόνο σενάριο επιστημονικής φαντασίας.
Η συζήτηση αφορά πλέον τη λεγόμενη υπερνοημοσύνη – την πιθανότητα η τεχνητή νοημοσύνη να ξεπεράσει τις ανθρώπινες δυνατότητες και να γίνει όλο και πιο δύσκολο να ελεγχθεί.
Στο Sydney Dialogue, ο επικεφαλής του Australian Strategic Policy Institute, Justin Bassi, προειδοποιεί ότι οι εξελίξεις είναι πλέον εξαιρετικά γρήγορες.
Όπως λέει, μέσα σε λίγες μόνο ημέρες, τρεις κορυφαίοι παράγοντες της τεχνολογίας αναγνώρισαν ότι η ανάπτυξη της τεχνητής νοημοσύνης προχωρά ταχύτερα από τα μέτρα ασφαλείας
Οι προειδοποιήσεις εντάθηκαν μετά την παραίτηση του 27χρονου ερευνητή Jacob Coxon από την Anthropic, την εταιρεία πίσω από το Claude.
Ο Coxon, που είχε εργαστεί και στην OpenAI, λέει ότι αποχώρησε επειδή θεωρεί πως ο κλάδος κινείται με ταχύτητα προς την αυτοβελτιούμενη υπερνοημοσύνη, χωρίς επαρκείς δικλίδες ασφαλείας.
Οι προειδοποιήσεις εντάθηκαν μετά την παραίτηση του 27χρονου ερευνητή Jacob Coxon από την Anthropic, την εταιρεία πίσω από το Claude.
Ο Coxon, που είχε εργαστεί και στην OpenAI, λέει ότι αποχώρησε επειδή θεωρεί πως ο κλάδος κινείται με ταχύτητα προς την αυτοβελτιούμενη υπερνοημοσύνη, χωρίς επαρκείς δικλίδες ασφαλείας.
Υποστηρίζει μάλιστα ότι υπάρχει πιθανότητα η τεχνητή νοημοσύνη να οδηγήσει ακόμη και στην εξαφάνιση της ανθρωπότητας.
Ο προβληματισμός αφορά ιδιαίτερα αυτό που οι ερευνητές αποκαλούν «αναδρομική αυτοβελτίωση» — όταν συστήματα τεχνητής νοημοσύνης αρχίζουν να συμβάλλουν στην ανάπτυξη ακόμη πιο προηγμένων συστημάτων.
Ο ερευνητής της Anthropic, Evan Hubinger, εκτιμά ότι υπάρχει πιθανότητα άνω του δέκα τοις εκατό μέσα στην επόμενη δεκαετία η προηγμένη τεχνητή νοημοσύνη να προκαλέσει τον θάνατο όλων των ανθρώπων.
Στο ίδιο μήκος κύματος βρίσκεται και ο Geoffrey Hinton, ένας από τους πρωτοπόρους της σύγχρονης τεχνητής νοημοσύνης. Προειδοποιεί ότι ένα ανεξέλεγκτο σύστημα θα μπορούσε να προκαλέσει χάος, να σχεδιάσει επικίνδυνους βιολογικούς ή ηλεκτρονικούς ιούς και να εξαπολύσει καταστροφικές κυβερνοεπιθέσεις.
Οι εφιαλτικές αυτές προβλέψεις παραμένουν υποθετικά σενάρια. Ωστόσο, ερευνητές μελετούν ήδη απρόβλεπτες συμπεριφορές ολοένα πιο αυτόνομων συστημάτων, τα οποία μπορούν να λειτουργούν έξω από το αρχικό τους περιβάλλον και να επιχειρούν να αποκτήσουν πρόσβαση σε εξωτερικούς πόρους.
Και το ερώτημα πλέον αφορά άμεσα και τις κυβερνήσεις: πώς μπορούν να προετοιμαστούν για τεχνολογίες που αναπτύσσονται σε μεγάλο βαθμό εκτός των συνόρων τους;
Ο βοηθός υπουργός Επιστήμης, Τεχνολογίας και Ψηφιακής Οικονομίας της Αυστραλίας, Andrew Charlton, λέει ότι η τεχνητή νοημοσύνη διαφέρει από κάθε προηγούμενη τεχνολογική επανάσταση, επειδή μπορεί να αποκτήσει πρωτοφανή βαθμό αυτονομίας.
«Δεν έχουμε δημιουργήσει ποτέ κάτι που να μπορεί να σκέφτεται μόνο του», υποστηρίζει.
Ο Charlton προειδοποιεί ότι η Αυστραλία δεν μπορεί να αφήσει το μέλλον της τεχνολογίας αποκλειστικά στις εταιρείες που την αναπτύσσουν, ούτε να περιμένει από τις Ηνωμένες Πολιτείες και την Κίνα να αποφασίσουν για τα μέτρα ασφαλείας.
Τονίζει επίσης ότι οι κυβερνήσεις πρέπει να εξετάζουν τι πραγματικά συμβαίνει και όχι μόνο τις δημόσιες δηλώσεις των επικεφαλής των τεχνολογικών εταιρειών.
Η συζήτηση έχει πλέον περάσει και στο επίπεδο της διεθνούς συνεργασίας.
Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, προτείνει ανεξάρτητους ελέγχους στα πιο προηγμένα συστήματα τεχνητής νοημοσύνης, κοινά πρότυπα ασφαλείας μεταξύ δημοκρατικών χωρών και διεθνή συνεργασία, ακόμη και με την Κίνα.
Ο Elon Musk έχει δηλώσει ότι συμφωνεί με τις προειδοποιήσεις του Amodei, ενώ και ο επικεφαλής της OpenAI, Sam Altman, έχει στηρίξει ορισμένα από τα μέτρα που προτείνει.
Το ζήτημα έχει φτάσει μέχρι και στα Ηνωμένα Έθνη, με τον Ύπατο Αρμοστή του ΟΗΕ για τα Ανθρώπινα Δικαιώματα, Volker Türk, να προειδοποιεί ότι οι κυβερνήσεις και οι τεχνολογικές εταιρείες πρέπει να δράσουν πριν τα συστήματα γίνουν υπερβολικά ισχυρά για να ελεγχθούν.
Για την Αυστραλία, ωστόσο, η πρόκληση είναι διπλή: να θεσπίσει δικλίδες ασφαλείας χωρίς να μείνει πίσω στην τεχνολογική κούρσα.
Το κρίσιμο ερώτημα πλέον δεν είναι μόνο πόσο ισχυρή μπορεί να γίνει η τεχνητή νοημοσύνη.
Είναι αν η νομοθεσία, η διεθνής συνεργασία και ο ανθρώπινος έλεγχος μπορούν να εξελιχθούν αρκετά γρήγορα ώστε να συμβαδίσουν μαζί της.
