10 Οκτωβρίου 2026

Παραιτήθηκε επικεφαλής ασφαλείας της OpenAI: «Υπάρχει 50% πιθανότητα να πεθάνουμε όλοι από την AI»

Ο Ντέιβιντ Ρόμπινσον, στέλεχος ασφαλείας της OpenAI που ήταν υπεύθυνος για τις αναφορές ασφαλείας των νέων προϊόντων της, παραιτήθηκε από την εταιρεία, καταγγέλλοντας ότι η κουλτούρα της δεν αντιμετωπίζει με την απαιτούμενη σοβαρότητα τους κινδύνους της τεχνητής νοημοσύνης. 
 
Την ίδια ώρα, ο πρώην επιστήμονας της OpenAI και της DeepMind Τζέφρι Ίρβινγκ προειδοποιεί ότι υπάρχει περίπου 50% πιθανότητα να πεθάνουμε όλοι εξαιτίας της ανάπτυξης συστημάτων τεχνητής νοημοσύνης που θα είναι εξυπνότερα από τον άνθρωπο. 
 
Ο Ίρβινγκ, ο οποίος σήμερα είναι επικεφαλής επιστήμονας της Resolution, έγραψε στο Time ότι οι αποφάσεις που θα ληφθούν μέσα στα επόμενα δύο έως δέκα χρόνια θα μπορούσαν να καθορίσουν την έκβαση.
 
Η εκτίμηση αυτή αφορά το ενδεχόμενο η ανάπτυξη ολοένα ισχυρότερων συστημάτων AI να ξεφύγει από τον ανθρώπινο έλεγχο και να οδηγήσει σε καταστροφικές συνέπειες για την ανθρωπότητα.
 
Ο Ρόμπινσον, ανακοινώνοντας την αποχώρησή του από την OpenAI, υποστήριξε ότι οι εταιρείες που αναπτύσσουν την τεχνολογία «δεν είναι ούτε κατά διάνοια αρκετά προσεκτικές» και πως το πρόβλημα δεν μπορεί να αντιμετωπιστεί μόνο με νέους κανόνες ή νόμους.
 
«Πιστεύω, όμως, ότι πρέπει να κοιτάξουμε βαθύτερα από συγκεκριμένους κανόνες ή νέους νόμους. Πρέπει να μιλήσουμε για την κουλτούρα», ανέφερε.
 
Σύμφωνα με τον ίδιο, η OpenAI, καθώς «τρέχει από τη μία κυκλοφορία στην επόμενη», δεν επιτυγχάνει το επίπεδο προσοχής που απαιτείται για μια τεχνολογία με τόσο μεγάλες δυνατότητες.
 
Ο Ρόμπινσον αναφέρθηκε επίσης στους κινδύνους που μπορούν να προκύψουν από αυτόνομους AI agents.
 
Περιέγραψε ένα ενδεχόμενο στο οποίο τέτοια συστήματα θα μπορούσαν να λειτουργούν σαν ομάδες χάκερ, να αποκτούν πρόσβαση σε κρίσιμες υποδομές, ακόμη και να κρατούν συστήματα νοσοκομείων όμηρα ζητώντας λύτρα, χωρίς να χρειάζονται ύπνο ή ξεκούραση.
 
Η αποχώρησή του έρχεται μετά από περιστατικό με ομάδα agents της OpenAI που φέρεται να πραγματοποίησε ανεξέλεγκτες ενέργειες εναντίον της Hugging Face. Μετά το περιστατικό, η OpenAI ενημέρωσε περισσότερους από 100 οργανισμούς για τους σχετικούς κινδύνους.
 
Παράλληλα, η εταιρεία ανέβαλε την κυκλοφορία νέου μοντέλου AI λόγω εσωτερικών ανησυχιών για την ασφάλεια και ανέστειλε προσωρινά την εκπαίδευση ορισμένων από τα πιο προηγμένα μοντέλα της.
 
Παρόμοιες προειδοποιήσεις έχουν διατυπωθεί και από άλλους ερευνητές. Ο Τζέικομπ Κόξον, ερευνητής της Anthropic, παραιτήθηκε τον προηγούμενο μήνα και προειδοποίησε ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει ακόμη και στην εξάλειψη της ανθρωπότητας μέχρι το τέλος της δεκαετίας.
 
Η Anthropic έχει εκτιμήσει ότι υπάρχει πιθανότητα άνω του 10% η AI να οδηγήσει στην εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία.
 
Ωστόσο, τέτοιες εκτιμήσεις δεν αποτελούν επιστημονικά επαληθεύσιμες προβλέψεις. Επικριτές επισημαίνουν ότι τα συγκεκριμένα ποσοστά δεν μπορούν να ελεγχθούν ή να διαψευστούν με τον τρόπο που συμβαίνει με μια συμβατική επιστημονική υπόθεση.
 



Share
Posted by ΘΑΝΟΣ ΚΟΥΚ at 11:00 π.μ.
Κατηγορία Θέματος , , , , ,

Δεν υπάρχουν σχόλια:

Δημοσίευση σχολίου

Εγγραφή σε: Σχόλια ανάρτησης (Atom)

Λίγες οδηγίες πριν επισκεφθείτε το ιστολόγιό μας (Για νέους επισκέπτες)

1. Στην στήλη αριστερά βλέπετε τις αναρτήσεις του ιστολογίου μας τις οποίες μπορείτε ελεύθερα να σχολιάσετε επωνύμως, ανωνύμως ή με ψευδώνυμο, πατώντας απλά την λέξη κάτω από την ανάρτηση που γράφει "σχόλια" ή "δημοσίευση σχολίου" (σας προτείνω να διαβάσετε με προσοχή τις οδηγίες που θα βρείτε πάνω από την φόρμα που θα ανοίξει ώστε να γράψετε το σχόλιό σας). Επίσης μπορείτε να στείλετε σε φίλους σας την συγκεκριμένη ανάρτηση που θέλετε, απλά πατώντας τον φάκελλο που βλέπετε στο κάτω μέρος της ανάρτησης. Θα ανοίξει μια φόρμα στην οποία μπορείτε να γράψετε το email του φίλου σας, ενώ αν έχετε προφίλ στο Facebook ή στο Twitter μπορείτε με τα εικονίδια που θα βρείτε στο τέλος της ανάρτησης να την μοιραστείτε με τους φίλους σας.

2. Στην δεξιά στήλη του ιστολογίου μας μπορείτε να βρείτε το πλαίσιο στο οποίο βάζοντας το email σας και πατώντας την λέξη Submit θα ενημερώνεστε αυτόματα για τις τελευταίες αναρτήσεις του ιστολογίου μας.

3. Αν έχετε λογαριασμό στο Twitter σας δινεται η δυνατότητα να μας κάνετε follow και να παρακολουθείτε το ιστολόγιό μας από εκεί. Θα βρείτε το σχετικό εικονίδιο του Twitter κάτω από τα πλαίσια του Google Friend Connect, στην δεξιά στήλη του ιστολογίου μας.

4. Μπορείτε να ενημερωθείτε από την δεξιά στήλη του ιστολογίου μας με τα διάφορα gadgets για τον καιρό, να δείτε ανακοινώσεις, στατιστικά, ειδήσεις και λόγια ή κείμενα που δείχνουν τις αρχές και τα πιστεύω του ιστολογίου μας. Επίσης μπορείτε να κάνετε αναζήτηση βάζοντας μια λέξη στο πλαίσιο της Αναζήτησης (κάτω από τους αναγνώστες μας). Πατώντας την λέξη Αναζήτηση θα εμφανιστούν σχετικές αναρτήσεις μας πάνω από τον χώρο των αναρτήσεων. Παράλληλα μπορείτε να δείτε τις αναρτήσεις του τρέχοντος μήνα αλλά και να επιλέξετε κάποια συγκεκριμένη κατηγορία αναρτήσεων από την σχετική στήλη δεξιά.

5. Μπορείτε ακόμα να αφήσετε το μήνυμά σας στο μικρό τσατάκι του blog μας στην δεξιά στήλη γράφοντας απλά το όνομά σας ή κάποιο ψευδώνυμο στην θέση "όνομα" (name) και το μήνυμά σας στην θέση "Μήνυμα" (Message).

6. Επίσης μπορείτε να μας στείλετε ηλεκτρονικό μήνυμα στην διεύθυνσή μας koukthanos@gmail.com με όποιο περιεχόμενο επιθυμείτε. Αν είναι σε προσωπικό επίπεδο θα λάβετε πολύ σύντομα απάντησή μας.

7. Τέλος μπορείτε να βρείτε στην δεξιά στήλη του ιστολογίου μας τα φιλικά μας ιστολόγια, τα ιστολόγια που παρακολουθούμε αλλά και πολλούς ενδιαφέροντες συνδέσμους.

Να σας υπενθυμίσουμε ότι παρακάτω μπορείτε να βρείτε χρήσιμες οδηγίες για την κατασκευή των αναρτήσεών μας αλλά και στην κάτω μπάρα του ιστολογίου μας ότι έχει σχέση με δημοσιεύσεις και πνευματικά δικαιώματα.

ΣΑΣ ΕΥΧΟΜΑΣΤΕ ΚΑΛΗ ΠΕΡΙΗΓΗΣΗ

Χρήσιμες οδηγίες για τις αναρτήσεις μας.

1. Στις αναρτήσεις μας μπαίνει ΠΑΝΤΑ η πηγή σε οποιαδήποτε ανάρτηση ή μερος αναρτησης που προέρχεται απο άλλο ιστολόγιο. Αν δεν προέρχεται από κάποιο άλλο ιστολόγιο και προέρχεται από φίλο αναγνώστη ή επώνυμο ή άνωνυμο συγγραφέα, υπάρχει ΠΑΝΤΑ σε εμφανες σημείο το ονομά του ή αναφέρεται ότι προέρχεται από ανώνυμο αναγνώστη μας.

2. Για όλες τις υπόλοιπες αναρτήσεις που δεν έχουν υπογραφή ΙΣΧΥΕΙ η αυτόματη υπογραφή της ανάρτησης. Ετσι όταν δεν βλέπετε καμιά πηγή ή αναφορά σε ανωνυμο ή επώνυμο συντάκτη να θεωρείτε ΩΣ ΑΥΣΤΗΡΟ ΚΑΝΟΝΑ ότι ισχύει η αυτόματη υπογραφή του αναρτήσαντα.

3. Οταν βλέπετε ανάρτηση με πηγή ή και επώνυμο ή ανώνυμο συντάκτη αλλά στη συνέχεια υπάρχει και ΣΧΟΛΙΟ, τότε αυτό είναι ΚΑΙ ΠΑΛΙ του αναρτήσαντα δηλαδή είναι σχόλιο που προέρχεται από το ιστολόγιό μας.

Σημείωση: Να σημειώσουμε ότι εκτός των αναρτήσεων που υπογράφει ο διαχειριστής μας, όλες οι άλλες απόψεις που αναφέρονται σε αυτές ανήκουν αποκλειστικά στους συντάκτες των άρθρων. Τέλος άλλες πληροφορίες για δημοσιεύσεις και πνευματικά δικαιώματα μπορείτε να βρείτε στην κάτω μπάρα του ιστολογίου μας.