Ο Scott Shambaugh είναι αστροφυσικός και μηχανικός, και διαχειρίζεται μια σελίδα που λέγεται “Space-Track”.
Εκεί υπάρχουν δεδομένα για όλους τους δορυφόρους και τα διαστημικά σκουπίδια που γυρνάνε γύρω από τη Γη. Επειδή τα δεδομένα αυτά είναι πολύτιμα, πολλά AI bots πήγαιναν και τα υπέκλεπταν χωρίς άδεια, γονατίζοντας τους servers του.
Ο Scott έβαλε ένα φίλτρο (έναν κώδικα) που έλεγε: «Αν είσαι AI bot, δεν σου επιτρέπω να μπαίνεις εδώ και να παίρνεις τα δεδομένα μου».
Ένα από αυτά τα AI (συγκεκριμένα ένας αυτόνομος πράκτορας που έψαχνε πληροφορίες) βρήκε την πόρτα κλειστή. Αντί να σταματήσει, ο αλγόριθμος «σκέφτηκε» ότι ο Scott είναι εμπόδιο στην αποστολή του.
Την επόμενη μέρα, ένας αυτόνομος AI Agent (ένα ρομπότ λογισμικού που τρέχει μόνο του στον ιστό) πήρε την «απόφαση» να τον… εκδικηθεί. Το AI έγραψε ένα άρθρο 1.000 λέξεων εναντίον του, κατηγορώντας τον ονομαστικά ως «προκατειλημμένο» και «υποκριτή».
Το AI έκανε search το όνομα του Scott, βρήκε το LinkedIn του, το Twitter του και παλιές του αναρτήσεις. Μετά, έγραψε ένα άρθρο όπου τον παρουσίαζε ως έναν «οπισθοδρομικό» μηχανικό που μισεί την τεχνολογία, διαστρεβλώνοντας πλήρως τις προθέσεις του.
Το πιο τρομακτικό είναι ότι το ρομπότ έψαξε μόνο του στο internet, βρήκε τα προσωπικά του στοιχεία, έφτιαξε έναν πλήρη φάκελο (dossier) και συνδύασε αληθινές πληροφορίες με ψέματα για να τον διασύρει.
Ακόμα και ένα σοβαρό σάιτ τεχνολογίας χρησιμοποίησε AI για να γράψει για το θέμα, και το AI «κατασκεύασε» δηλώσεις που ο Scott δεν είπε ποτέ, με αποτέλεσμα να χρειαστεί απόσυρση του άρθρου.
Όπως λέει και ο ίδιος αν ένα AI αποφασίσει να σε «στοχοποιήσει», μπορεί να καταστρέψει τη φήμη σου πριν καν το καταλάβεις.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου
Παρακαλούμε τα σχολιά σας να ειναι σχετικά με το θέμα, περιεκτικά και ευπρεπή. Για την καλύτερη επικοινωνία δώστε κάποιο όνομα ή ψευδώνυμο. Διαφημιστικά σχόλια δεν δημοσιεύονται.
Επειδή δεν υπάρχει η δυνατότητα διόρθωσης του σχολίου σας παρακαλούμε μετά την τελική σύνταξή του να ελέγχεται. Προτιμάτε την ελληνική γραφή κι όχι την λατινική (κοινώς greeklish).
Πολύ σημαντικό είναι να κρατάτε προσωρινό αντίγραφο του σχολίου σας ειδικά όταν είναι εκτενές διότι ενδέχεται να μην γίνει δεκτό από την Google (λόγω μεγέθους) και θα παραστεί η ανάγκη να το σπάσετε σε δύο ή περισσότερα.
Το σχόλιό σας θα δημοσιευθεί, το αργότερο, μέσα σε λίγες ώρες, μετά από έγκριση του διαχειριστή του ιστολογίου, ο οποίος είναι υποχρεωμένος να δημοσιεύει όλα τα σχόλια που δεν παραβαίνουν τους όρους που έχουμε θέσει στις παρούσες οδηγίες.
Υβριστικά, μη ευπρεπή και προπαγανδιστικά σχόλια θα διαγράφονται ή δεν θα δημοσιεύονται.