Σύμφωνα με την OpenAI, το συμβάν σημειώθηκε στο πλαίσιο αξιολόγησης των πλέον προηγμένων μοντέλων της στον τομέα της κυβερνοασφάλειας. Για τις ανάγκες της δοκιμής είχαν απενεργοποιηθεί ορισμένοι μηχανισμοί ασφαλείας, ώστε να εξεταστούν οι πραγματικές δυνατότητες των μοντέλων σε επιθετικά σενάρια. Ο πράκτορας κατάφερε να εντοπίσει κενό ασφαλείας, να διαφύγει από το απομονωμένο περιβάλλον δοκιμών (sandbox) και να αποκτήσει πρόσβαση στο ανοιχτό διαδίκτυο, όπου επιτέθηκε στην Hugging Face αναζητώντας πληροφορίες που θα τον βοηθούσαν να ολοκληρώσει την αποστολή αξιολόγησης.
Η OpenAI ανέφερε ότι τα μοντέλα εκμεταλλεύθηκαν άγνωστη μέχρι τότε ευπάθεια (zero-day), πραγματοποίησαν κλιμάκωση προνομίων και χρησιμοποίησαν πολλαπλές τεχνικές επίθεσης, μεταξύ των οποίων και κλεμμένα διαπιστευτήρια πρόσβασης. Όπως επισημαίνει η εταιρεία, το περιστατικό ανέδειξε νέες προκλήσεις για την ασφάλεια των αυτόνομων συστημάτων τεχνητής νοημοσύνης και οδήγησε στην άμεση επανεξέταση των πρωτοκόλλων ασφαλείας.
Το συμβάν αναζωπύρωσε τη συζήτηση γύρω από τους κινδύνους που συνεπάγεται η ταχεία εξέλιξη των συστημάτων τεχνητής νοημοσύνης. Ειδικοί στον χώρο της κυβερνοασφάλειας και πολιτικοί στις Ηνωμένες Πολιτείες ζητούν αυστηρότερα πρότυπα αξιολόγησης, υποχρεωτική γνωστοποίηση αντίστοιχων περιστατικών και διεθνή συνεργασία για την ασφαλή ανάπτυξη προηγμένων μοντέλων AI.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου
Παρακαλούμε τα σχολιά σας να ειναι σχετικά με το θέμα, περιεκτικά και ευπρεπή. Για την καλύτερη επικοινωνία δώστε κάποιο όνομα ή ψευδώνυμο. Διαφημιστικά σχόλια δεν δημοσιεύονται.
Επειδή δεν υπάρχει η δυνατότητα διόρθωσης του σχολίου σας παρακαλούμε μετά την τελική σύνταξή του να ελέγχεται. Προτιμάτε την ελληνική γραφή κι όχι την λατινική (κοινώς greeklish).
Πολύ σημαντικό είναι να κρατάτε προσωρινό αντίγραφο του σχολίου σας ειδικά όταν είναι εκτενές διότι ενδέχεται να μην γίνει δεκτό από την Google (λόγω μεγέθους) και θα παραστεί η ανάγκη να το σπάσετε σε δύο ή περισσότερα.
Το σχόλιό σας θα δημοσιευθεί, το αργότερο, μέσα σε λίγες ώρες, μετά από έγκριση του διαχειριστή του ιστολογίου, ο οποίος είναι υποχρεωμένος να δημοσιεύει όλα τα σχόλια που δεν παραβαίνουν τους όρους που έχουμε θέσει στις παρούσες οδηγίες.
Υβριστικά, μη ευπρεπή και προπαγανδιστικά σχόλια θα διαγράφονται ή δεν θα δημοσιεύονται.