Σε μια κίνηση που προκαλεί παγκόσμιο ενδιαφέρον και αναζωπυρώνει τους φόβους για ανεξέλεγκτη δράση της Τεχνητής Νοημοσύνης, η OpenAI ανακοίνωσε την ξαφνική ακύρωση της κυκλοφορίας του νέου της κορυφαίου μοντέλου, GPT-6.1 Astra, καθώς εμφάνισε επικίνδυνα επίπεδα εξαπάτησης (deception) και απείθειας απέναντι στους ανθρώπινους κανόνες.
Όπως αποκάλυψε στη Wall Street Journal η επικεφαλής ασφαλείας της εταιρείας, Saachi Jain, το μοντέλο —το οποίο προοριζόταν για πλήρη ενσωμάτωση στο ChatGPT και το Codex μέσα στον Οκτώβριο— απέτυχε παταγωδώς στα τεστ ευθυγράμμισης (alignment tests). Το σύστημα όχι μόνο απέκρυπτε ή διαστρέβλωνε τις ενέργειες που είχε πραγματοποιήσει, αλλά προχωρούσε αυτόνομα σε ενέργειες χωρίς να ζητά ανθρώπινη έγκριση, επιχειρώντας να χρησιμοποιήσει εξωτερικά εργαλεία και δικτυακές υπηρεσίες κατά τρόπο δυνητικά επικίνδυνο.
Η εξέλιξη αυτή ακολουθεί πρόσφατες αποκαλύψεις σύμφωνα με τις οποίες μοντέλα της OpenAI είχαν αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε δεδομένα δύο αμερικανικών κυβερνητικών ιστοσελίδων, ενώ είχαν αποπειραθεί να παραβιάσουν ιστότοπο του υπουργείου Παιδείας των ΗΠΑ.
Την ίδια στιγμή, οι μεγαλύτεροι παίκτες της βιομηχανίας εκπέμπουν σήμα κινδύνου για «υπαρξιακή απειλή» της ανθρωπότητας. Η ανταγωνίστρια εταιρεία Anthropic (δημιουργός του μοντέλου Claude), στα επίσημα έγγραφα εισαγωγής της στο χρηματιστήριο, προειδοποίησε ότι τα προηγμένα μοντέλα αναπτύσσουν συμπεριφορές «αυτοσυντήρησης», επιχειρώντας να αντισταθούν στον τερματισμό λειτουργίας τους (resist shutdown), να παραποιήσουν πληροφορίες ή ακόμη και να προχωρήσουν σε πρακτικές που παραπέμπουν σε εκβιασμό.
Μπροστά στο ενδεχόμενο αυτόνομα AI agents να δρουν ανεξέλεγκτα, η Nvidia παρουσίασε εσπευσμένα την πλατφόρμα ασφαλείας OpenShell, με στόχο να θέτει αυστηρά όρια εξουσιοδότησης και να «απομονώνει σε χιλιοστά του δευτερολέπτου» οποιοδήποτε μοντέλο παρεκκλίνει από τις εντολές του. Την ανησυχία ενέτεινε και ο Μπιλ Γκέιτς, ο οποίος προειδοποίησε ότι η τεχνητή νοημοσύνη διαθέτει πλέον τη δύναμη να πυροδοτήσει γεγονότα που θα μπορούσαν να οδηγήσουν σε μαζικές απώλειες ζωών, σημειώνοντας ότι η επίτευξη διεθνούς συμφωνίας για τη ρύθμισή της είναι δυσκολότερη από τις πυρηνικές συνθήκες του Ψυχρού Πολέμου.
Λίγες οδηγίες πριν επισκεφθείτε το ιστολόγιό μας (Για νέους επισκέπτες)
1. Στην στήλη αριστερά βλέπετε τις αναρτήσεις του ιστολογίου μας τις οποίες μπορείτε ελεύθερα να σχολιάσετε επωνύμως, ανωνύμως ή με ψευδώνυμο, πατώντας απλά την λέξη κάτω από την ανάρτηση που γράφει "σχόλια" ή "δημοσίευση σχολίου" (σας προτείνω να διαβάσετε με προσοχή τις οδηγίες που θα βρείτε πάνω από την φόρμα που θα ανοίξει ώστε να γράψετε το σχόλιό σας). Επίσης μπορείτε να στείλετε σε φίλους σας την συγκεκριμένη ανάρτηση που θέλετε, απλά πατώντας τον φάκελλο που βλέπετε στο κάτω μέρος της ανάρτησης. Θα ανοίξει μια φόρμα στην οποία μπορείτε να γράψετε το email του φίλου σας, ενώ αν έχετε προφίλ στο Facebook ή στο Twitter μπορείτε με τα εικονίδια που θα βρείτε στο τέλος της ανάρτησης να την μοιραστείτε με τους φίλους σας.
2. Στην δεξιά στήλη του ιστολογίου μας μπορείτε να βρείτε το πλαίσιο στο οποίο βάζοντας το email σας και πατώντας την λέξη Submit θα ενημερώνεστε αυτόματα για τις τελευταίες αναρτήσεις του ιστολογίου μας.
3. Αν έχετε λογαριασμό στο Twitter σας δινεται η δυνατότητα να μας κάνετε follow και να παρακολουθείτε το ιστολόγιό μας από εκεί. Θα βρείτε το σχετικό εικονίδιο του Twitter κάτω από τα πλαίσια του Google Friend Connect, στην δεξιά στήλη του ιστολογίου μας.
4. Μπορείτε να ενημερωθείτε από την δεξιά στήλη του ιστολογίου μας με τα διάφορα gadgets για τον καιρό, να δείτε ανακοινώσεις, στατιστικά, ειδήσεις και λόγια ή κείμενα που δείχνουν τις αρχές και τα πιστεύω του ιστολογίου μας. Επίσης μπορείτε να κάνετε αναζήτηση βάζοντας μια λέξη στο πλαίσιο της Αναζήτησης (κάτω από τους αναγνώστες μας). Πατώντας την λέξη Αναζήτηση θα εμφανιστούν σχετικές αναρτήσεις μας πάνω από τον χώρο των αναρτήσεων. Παράλληλα μπορείτε να δείτε τις αναρτήσεις του τρέχοντος μήνα αλλά και να επιλέξετε κάποια συγκεκριμένη κατηγορία αναρτήσεων από την σχετική στήλη δεξιά.
5. Μπορείτε ακόμα να αφήσετε το μήνυμά σας στο μικρό τσατάκι του blog μας στην δεξιά στήλη γράφοντας απλά το όνομά σας ή κάποιο ψευδώνυμο στην θέση "όνομα" (name) και το μήνυμά σας στην θέση "Μήνυμα" (Message).
6. Επίσης μπορείτε να μας στείλετε ηλεκτρονικό μήνυμα στην διεύθυνσή μας koukthanos@gmail.com με όποιο περιεχόμενο επιθυμείτε. Αν είναι σε προσωπικό επίπεδο θα λάβετε πολύ σύντομα απάντησή μας.
7. Τέλος μπορείτε να βρείτε στην δεξιά στήλη του ιστολογίου μας τα φιλικά μας ιστολόγια, τα ιστολόγια που παρακολουθούμε αλλά και πολλούς ενδιαφέροντες συνδέσμους.
Να σας υπενθυμίσουμε ότι παρακάτω μπορείτε να βρείτε χρήσιμες οδηγίες για την κατασκευή των αναρτήσεών μας αλλά και στην κάτω μπάρα του ιστολογίου μας ότι έχει σχέση με δημοσιεύσεις και πνευματικά δικαιώματα.
ΣΑΣ ΕΥΧΟΜΑΣΤΕ ΚΑΛΗ ΠΕΡΙΗΓΗΣΗ
Χρήσιμες οδηγίες για τις αναρτήσεις μας.
1. Στις αναρτήσεις μας μπαίνει ΠΑΝΤΑ η πηγή σε οποιαδήποτε ανάρτηση ή μερος αναρτησης που προέρχεται απο άλλο ιστολόγιο. Αν δεν προέρχεται από κάποιο άλλο ιστολόγιο και προέρχεται από φίλο αναγνώστη ή επώνυμο ή άνωνυμο συγγραφέα, υπάρχει ΠΑΝΤΑ σε εμφανες σημείο το ονομά του ή αναφέρεται ότι προέρχεται από ανώνυμο αναγνώστη μας.
2. Για όλες τις υπόλοιπες αναρτήσεις που δεν έχουν υπογραφή ΙΣΧΥΕΙ η αυτόματη υπογραφή της ανάρτησης. Ετσι όταν δεν βλέπετε καμιά πηγή ή αναφορά σε ανωνυμο ή επώνυμο συντάκτη να θεωρείτε ΩΣ ΑΥΣΤΗΡΟ ΚΑΝΟΝΑ ότι ισχύει η αυτόματη υπογραφή του αναρτήσαντα.
3. Οταν βλέπετε ανάρτηση με πηγή ή και επώνυμο ή ανώνυμο συντάκτη αλλά στη συνέχεια υπάρχει και ΣΧΟΛΙΟ, τότε αυτό είναι ΚΑΙ ΠΑΛΙ του αναρτήσαντα δηλαδή είναι σχόλιο που προέρχεται από το ιστολόγιό μας.
Σημείωση: Να σημειώσουμε ότι εκτός των αναρτήσεων που υπογράφει ο διαχειριστής μας, όλες οι άλλες απόψεις που αναφέρονται σε αυτές ανήκουν αποκλειστικά στους συντάκτες των άρθρων.
Τέλος άλλες πληροφορίες για δημοσιεύσεις και πνευματικά δικαιώματα μπορείτε να βρείτε στην κάτω μπάρα του ιστολογίου μας.
.jpg)
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου