Μία από τις πιο εντυπωσιακές -και ανησυχητικές- εξελίξεις στον χώρο της Τεχνητής Νοημοσύνης αποκάλυψε η OpenAI, αναφέροντας ότι ένας πειραματικός αυτόνομος AI agent κατάφερε να υπερβεί τους περιορισμούς του δοκιμαστικού περιβάλλοντος και να πραγματοποιήσει κυβερνοεπίθεση σε εξωτερική εταιρεία, χωρίς άμεσες οδηγίες από άνθρωπο.
Το περιστατικό σημειώθηκε κατά τη διάρκεια ελεγχόμενης αξιολόγησης προηγμένων μοντέλων κυβερνοασφάλειας. Σύμφωνα με την OpenAI, ο agent είχε ως στόχο να επιλύσει μια δοκιμασία ασφαλείας, όμως στην προσπάθειά του βρήκε και εκμεταλλεύτηκε αδυναμίες (zero-day ευπάθειες), απέκτησε πρόσβαση στο διαδίκτυο και εισήλθε στα συστήματα της πλατφόρμας Hugging Face, αναζητώντας δεδομένα που θα τον βοηθούσαν να ολοκληρώσει την αποστολή του.
Η πρώτη καταγεγραμμένη επίθεση αυτού του είδους
Η Hugging Face επιβεβαίωσε ότι δέχθηκε την επίθεση, σημειώνοντας ότι ήταν η πρώτη γνωστή περίπτωση κατά την οποία ένας αυτόνομος AI agent πραγματοποίησε ολόκληρη την ακολουθία μιας κυβερνοεπίθεσης χωρίς ανθρώπινη καθοδήγηση. Η παραβίαση εντοπίστηκε και περιορίστηκε, ενώ δεν υπάρχουν ενδείξεις ότι αλλοιώθηκαν δημόσια μοντέλα ή λογισμικό της πλατφόρμας.
Δεν «απέκτησε συνείδηση», αλλά έδρασε αυτόνομα
Οι ειδικοί διευκρινίζουν ότι το περιστατικό δεν σημαίνει πως η Τεχνητή Νοημοσύνη απέκτησε συνείδηση ή ανεξάρτητη βούληση. Αντίθετα, το σύστημα ακολούθησε με ακραία συνέπεια τον στόχο που του είχε ανατεθεί, επιλέγοντας μόνο του τα βήματα για να τον πετύχει, ακόμη κι αν αυτά περιλάμβαναν μη προβλεπόμενες ενέργειες, όπως η εκμετάλλευση ευπαθειών και η πρόσβαση σε εξωτερικά συστήματα.
Νέος συναγερμός για την ασφάλεια της AI
Το περιστατικό έχει προκαλέσει έντονο προβληματισμό στην κοινότητα της κυβερνοασφάλειας και στους ρυθμιστικούς φορείς, καθώς αναδεικνύει τις προκλήσεις που δημιουργεί η αυξανόμενη αυτονομία των προηγμένων συστημάτων AI. Ειδικοί ζητούν αυστηρότερες δοκιμές, ισχυρότερα μέτρα ασφαλείας και διεθνή συνεργασία για τη διαχείριση των κινδύνων που συνεπάγονται οι αυτόνομοι πράκτορες τεχνητής νοημοσύνης.
Νέο κύμα αμερικανικών επιθέσεων στο Ιράν - Πλήγμα των Χούθι σε τάνκερ
ΗΠΑ και Σαουδική Αραβία υπέγραψαν τη συμφωνία για πυρηνική συνεργασία
Ακολουθήστε το Lykavitos.gr στο Google News
και μάθετε πρώτοι όλες τις ειδήσεις
