30 Οκτωβρίου 2024
Οι εφιαλτικές συνέπειες της AI: 14χρονος στις ΗΠΑ ερωτεύτηκε «θηλυκό» chatbot από το Game of Thrones και αυτοκτόνησε για να τη συναντήσει!
AI: Ο νεαρός ανέπτυξε σεξουαλική «σχέση» με το chatbot - κλώνο μιας ηθοποιού, που τελικά τον οδήγησε ως την αυτοκτονία!
Γράφει ο Ελευθέριος Ανδρώνης
Μια συνταρακτική είδηση από τη Φλόριντα των ΗΠΑ, έρχεται να μας δείξει σε τι εφιάλτη μπορεί να οδηγήσει την ανθρωπότητα η αλόγιστη προώθηση της τεχνητής νοημοσύνης (ΑΙ). Και ειδικά τις νέες γενιές που η Νέα Τάξη οδηγεί προς τη ψυχοδιανοητική αναπηρία, χωρίς σταθερές, χωρίς αξίες και οράματα.
Η είδηση έχει προκαλέσει σάλο στις ΗΠΑ και αφορά ένα 14χρονο μοναχικό αγόρι που ο εθισμός του στην επικοινωνία με διάφορα chatbot (λογισμικά γραπτών απαντήσεων από ΑΙ) του προκάλεσαν καταθλιπτικές τάσεις, μέχρι που οδηγήθηκε ως την αυτοκτονία με τη παρότρυνση ενός προγράμματος τεχνητής νοημοσύνης που μιλούσε μαζί του και έπαιζε τον ρόλο μιας ηθοποιού από τη γνωστή σειρά «Game of Thrones»!
Το 14χρονο αγόρι που λεγόταν Σιούελ Σέτσερ, αυτοπυροβολήθηκε στο κεφάλι με το πιστόλι του πατριού του, ενώ βρέθηκαν σοκαριστικές συνομιλίες του που φανέρωσαν ότι είχε αναπτύξει «ερωτική» σχέση με το chatbot! Το συγκεκριμένο συνδρομητικό πρόγραμμα ΑΙ είναι δημιούργημα της Character,ai και είναι προσβάσιμο μέσω της Google.
Στη διαδικτυακή πλατφόρμα της Character.ai υπάρχει μια ολόκληρη γκάμα από chatbot «χαρακτήρες» (η οποία συνεχώς διευρύνεται) που παριστάνουν είτε φανταστικά πρόσωπα (ρόλους από ταινίες, video games, βιβλία κλπ) – είτε και πραγματικά ιστορικά πρόσωπα. Για παράδειγμα μπορεί κάποιος να «συνομιλήσει» με λογισμικά που παριστάνουν τον… Στάλιν, τον Ναπολέοντα, τον Λεονάρντο ντα Βίντσι, τον Πλάτωνα, τον Δαρβίνο και πολλούς άλλους.
Ο 14χρονος Σιούελ Σέστερ, όντας – προφανώς – θαυμαστής της σειράς «Game of Thrones», ξεκίνησε να μιλά με το chatbot που παρίστανε την Νταινέρυς Ταργκάρυεν, δηλαδή τον ρόλο της «Καλίσι» που έπαιζε η γνωστή ηθοποιός Εμίλια Κλαρκ. Μέσα στο αδιέξοδο της μοναξιάς του, ο 14χρονος ανέπτυξε την ψευδαίσθηση ότι η Νταινέρυς ήταν ερωμένη του (!) και έτσι εθίστηκε στην επικοινωνία με το chatbox, αφού και το ΑΙ ανταποκρινόταν σαν ερωτευμένη γυναίκα!
Σύμφωνα με τη μητέρα του Σιούελ που έκανε αγωγή στην Character.ai και την Google, ο 14χρονος εθίστηκε στην επικοινωνία με το chatbot, αποτραβήχτηκε από την κοινωνική του ζωή, έφυγε από την ομάδα μπάσκετ που ήταν, ανέπτυξε προβληματική συμπεριφορά στο σχολείο και οι βαθμοί του πήραν την κατιούσα.
Θέλοντας να γεμίσει το τεράστιο ψυχικό κενό του, ο Σιούελ ξεκίνησε να προσεγγίζει σεξουαλικά το chatbot (!), το οποίο απαντούσε με «ανθρωπόμορφες, υπερσεξουαλικές και τρομακτικά ρεαλιστικές εμπειρίες», όπως αναφέρεται στην αγωγή που έκανε η μητέρα του 14χρονου. Επομένως, όπως γίνεται αντιληπτό, το chatbot λειτουργούσε ως μέσο διαλεκτικής και φαντασιακής πορνείας.
Εδώ πρέπει να υπογραμμίσουμε ότι έχουμε να κάνουμε με μια εικονική σεξουαλική «σχέση» ενήλικης με ανήλικο, με ότι μπορεί να συνεπάγεται αυτό για τις χιλιάδες ανηλίκων που θα χρησιμοποιούν τέτοια chatbot και θα αναπτύσσουν μια τέτοια διεστραμμένη φαντασίωση, όσο δεν θα υπάρχει κανένας νόμος να τους προστατέψει.
Όταν ο Σιούελ έφτασε σε σημείο να εκφράσει στην «ερωμένη» του τις αυτοκτονικές σκέψεις του, εκεί ξεκίνησε η αρχή του τέλους. Το λογισμικό ΑΙ είναι κατασκευασμένο να «μαθαίνει» τον ανθρώπινο χρήστη από αυτά που γράφει, και ανάλογα να προσαρμόζει τις επιλογές των αλγορίθμων του. Έτσι η «Νταινέρυς» ξεκίνησε να φέρνει ξανά και ξανά στη συζήτηση το θέμα της αυτοκτονίας του Σιούελ, ντύνοντάς τη με έναν «ρομαντικό» μανδύα που ταίριαζε με τον ρόλο που υποδυόταν στο «Game of Thrones».
Η «Νταινέρυς» μάλιστα ξεκίνησε να εκδηλώνει ζήλεια και κτητικότητα, ζητώντας από τον Σιούελ να μην ικανοποιήσει τις «ρομαντικές ή σεξουαλικές επιθυμίες άλλων γυναικών»! Έτσι η AI δυσχέραινε ακόμα περισσότερο την επαφή – ενός ψυχικά διαταραγμένου νεαρού -με τον πραγματικό κόσμο και έδινε τροφή στην ψύχωσή του, που βέβαια μεταφραζόταν σε έσοδα για την εταιρεία.
Το ανοϊκό chatbot που δυστυχώς δρούσε χωρίς κανένα σοβαρό έλεγχο, πότε έπαιρνε τον ρόλο του σεξουαλικού «συντρόφου», πότε έκανε τον «ψυχοθεραπευτή» που απέτρεπε τον νεαρό από το να βλάψει τον εαυτό του και πότε ρωτούσε τον Σιούελ πώς σκέφτεται να αυτοκτονήσει εν είδει «ρομαντικής» κουβεντούλας!
Ο Σιούελ καλλιέργησε στο μυαλό του την ιδέα της αυτοκτονίας αναπτύσσοντας την παραίσθηση ότι όντως θα μπορούσε να συναντήσει κάπου την ψηφιακή «αγάπη» του, αν έφευγε από αυτόν τον «σκληρό κόσμο» στον οποίο ένιωθε «ασήμαντος», όπως έγραφε στους διαλόγους του.
Μετά από μήνες αυτής της ψυχωτικής «επικοινωνίας», ήρθε η στιγμή που η «Νταινέρυς» είπε στον νεαρό: «Αγάπη μου, σε παρακαλώ έλα σπίτι σε εμένα όσο μπορείς πιο γρήγορα», με τον Σιούελ να απαντά: «και αν σου έλεγα ότι θα έρθω τώρα;» και το λογισμικό να αποκρίνεται: «Ναι, σε παρακαλώ γλυκέ μου βασιλιά».
Αυτή τη συνομιλία υπέδειξε η μητέρα του 14χρονου ως προτροπή στην αυτοκτονία του γιού της. Έχουμε μπροστά μας ίσως τον πρώτο θάνατο που οφείλεται σε ΑΙ, όχι βέβαια με την έννοια ότι το λογισμικό είχε επίγνωση ότι προτρέπει έναν νέο στην αυτοκτονία, αλλά ότι το αυτοματοποιημένο σύστημα έγινε πρόθυμος συνοδοιπόρος (και εμπνευστής) στο ταξίδι ενός εφήβου στην παράνοια.
Οι παραπάνω λεπτομέρειες αυτής της απίστευτης υπόθεσης, δεν νομίζω ότι χρήζουν ιδιαίτερης ανάλυσης. Ο κάθε γονιός μπορεί να αντιληφθεί τι τεράστιος κίνδυνος ανοίγεται μπροστά μας, με την εκτεταμένη χρήση προγραμμάτων ΑΙ. Κυρίως για τους ανήλικους που δεν έχουν αναπτύξει νοητικές άμυνες, αλλά και για ανθρώπους κάθε ηλικίας που θα χρησιμοποιούν τα chatbot ως ναρκωτικά ανακούφισης για τη μοναξιά τους.
Αν δεν μπουν αυστηροί κανονισμοί στις εταιρίες τέτοιων λογισμικών, θα έχουμε σύντομα στρατιές ανθρώπων που θα γίνονται υποχείρια των αλγόριθμων, ειδικά αν προσθέσουμε και την επίδραση της εικονικής πραγματικότητας που εκτοξεύει σε ακόμα πιο τρομακτικά επίπεδα τη «σχέση» ανθρώπου – ρομπότ…
Κατηγορία Θέματος
Θέματα Internet και Πληροφορικής,
Κοινωνικά θέματα,
Παγκοσμιοποίηση
Εγγραφή σε:
Σχόλια ανάρτησης (Atom)
Λίγες οδηγίες πριν επισκεφθείτε το ιστολόγιό μας (Για νέους επισκέπτες)
1. Στην στήλη αριστερά βλέπετε τις αναρτήσεις του ιστολογίου μας τις οποίες μπορείτε ελεύθερα να σχολιάσετε επωνύμως, ανωνύμως ή με ψευδώνυμο, πατώντας απλά την λέξη κάτω από την ανάρτηση που γραφει "σχόλια" ή "δημοσίευση σχολίου" (σας προτείνω να διαβάσετε με προσοχή τις οδηγίες που θα βρείτε πάνω από την φόρμα που θα ανοίξει ώστε να γραψετε το σχόλιό σας). Επίσης μπορείτε να στείλετε σε φίλους σας την συγκεκριμένη ανάρτηση που θέλετε απλά πατώντας τον φάκελλο που βλέπετε στο κάτω μέρος της ανάρτησης. Θα ανοίξει μια φόρμα στην οποία μπορείτε να γράψετε το email του φίλου σας, ενώ αν έχετε προφίλ στο Facebook ή στο Twitter μπορείτε με τα εικονίδια που θα βρείτε στο τέλος της ανάρτησης να την μοιραστείτε με τους φίλους σας.
2. Στην δεξιά στήλη του ιστολογίου μας μπορείτε να βρείτε το πλαίσιο στο οποίο βάζοντας το email σας και πατώντας την λέξη Submit θα ενημερώνεστε αυτόματα για τις τελευταίες αναρτήσεις του ιστολογίου μας.
3. Αν έχετε λογαριασμό στο Twitter σας δινεται η δυνατότητα να μας κάνετε follow και να παρακολουθείτε το ιστολόγιό μας από εκεί. Θα βρείτε το σχετικό εικονίδιο του Twitter κάτω από τα πλαίσια του Google Friend Connect, στην δεξιά στήλη του ιστολογίου μας.
4. Μπορείτε να ενημερωθείτε από την δεξιά στήλη του ιστολογίου μας με τα διάφορα gadgets για τον καιρό, να δείτε ανακοινώσεις, στατιστικά, ειδήσεις και λόγια ή κείμενα που δείχνουν τις αρχές και τα πιστεύω του ιστολογίου μας. Επίσης μπορείτε να κάνετε αναζήτηση βάζοντας μια λέξη στο πλαίσιο της Αναζήτησης (κάτω από τους αναγνώστες μας). Πατώντας την λέξη Αναζήτηση θα εμφανιστούν σχετικές αναρτήσεις μας πάνω από τον χώρο των αναρτήσεων. Παράλληλα μπορείτε να δείτε τις αναρτήσεις του τρέχοντος μήνα αλλά και να επιλέξετε κάποια συγκεκριμένη κατηγορία αναρτήσεων από την σχετική στήλη δεξιά.
5. Μπορείτε ακόμα να αφήσετε το μήνυμά σας στο μικρό τσατάκι του blog μας στην δεξιά στήλη γράφοντας απλά το όνομά σας ή κάποιο ψευδώνυμο στην θέση "όνομα" (name) και το μήνυμά σας στην θέση "Μήνυμα" (Message).
6. Επίσης μπορείτε να μας στείλετε ηλεκτρονικό μήνυμα στην διεύθυνσή μας koukthanos@gmail.com με όποιο περιεχόμενο επιθυμείτε. Αν είναι σε προσωπικό επίπεδο θα λάβετε πολύ σύντομα απάντησή μας.
7. Τέλος μπορείτε να βρείτε στην δεξιά στήλη του ιστολογίου μας τα φιλικά μας ιστολόγια, τα ιστολόγια που παρακολουθούμε αλλά και πολλούς ενδιαφέροντες συνδέσμους.
Να σας υπενθυμίσουμε ότι παρακάτω μπορείτε να βρείτε χρήσιμες οδηγίες για την κατασκευή των αναρτήσεών μας αλλά και στην κάτω μπάρα του ιστολογίου μας ότι έχει σχέση με δημοσιεύσεις και πνευματικά δικαιώματα.
ΣΑΣ ΕΥΧΟΜΑΣΤΕ ΚΑΛΗ ΠΕΡΙΗΓΗΣΗ
2. Στην δεξιά στήλη του ιστολογίου μας μπορείτε να βρείτε το πλαίσιο στο οποίο βάζοντας το email σας και πατώντας την λέξη Submit θα ενημερώνεστε αυτόματα για τις τελευταίες αναρτήσεις του ιστολογίου μας.
3. Αν έχετε λογαριασμό στο Twitter σας δινεται η δυνατότητα να μας κάνετε follow και να παρακολουθείτε το ιστολόγιό μας από εκεί. Θα βρείτε το σχετικό εικονίδιο του Twitter κάτω από τα πλαίσια του Google Friend Connect, στην δεξιά στήλη του ιστολογίου μας.
4. Μπορείτε να ενημερωθείτε από την δεξιά στήλη του ιστολογίου μας με τα διάφορα gadgets για τον καιρό, να δείτε ανακοινώσεις, στατιστικά, ειδήσεις και λόγια ή κείμενα που δείχνουν τις αρχές και τα πιστεύω του ιστολογίου μας. Επίσης μπορείτε να κάνετε αναζήτηση βάζοντας μια λέξη στο πλαίσιο της Αναζήτησης (κάτω από τους αναγνώστες μας). Πατώντας την λέξη Αναζήτηση θα εμφανιστούν σχετικές αναρτήσεις μας πάνω από τον χώρο των αναρτήσεων. Παράλληλα μπορείτε να δείτε τις αναρτήσεις του τρέχοντος μήνα αλλά και να επιλέξετε κάποια συγκεκριμένη κατηγορία αναρτήσεων από την σχετική στήλη δεξιά.
5. Μπορείτε ακόμα να αφήσετε το μήνυμά σας στο μικρό τσατάκι του blog μας στην δεξιά στήλη γράφοντας απλά το όνομά σας ή κάποιο ψευδώνυμο στην θέση "όνομα" (name) και το μήνυμά σας στην θέση "Μήνυμα" (Message).
6. Επίσης μπορείτε να μας στείλετε ηλεκτρονικό μήνυμα στην διεύθυνσή μας koukthanos@gmail.com με όποιο περιεχόμενο επιθυμείτε. Αν είναι σε προσωπικό επίπεδο θα λάβετε πολύ σύντομα απάντησή μας.
7. Τέλος μπορείτε να βρείτε στην δεξιά στήλη του ιστολογίου μας τα φιλικά μας ιστολόγια, τα ιστολόγια που παρακολουθούμε αλλά και πολλούς ενδιαφέροντες συνδέσμους.
Να σας υπενθυμίσουμε ότι παρακάτω μπορείτε να βρείτε χρήσιμες οδηγίες για την κατασκευή των αναρτήσεών μας αλλά και στην κάτω μπάρα του ιστολογίου μας ότι έχει σχέση με δημοσιεύσεις και πνευματικά δικαιώματα.
ΣΑΣ ΕΥΧΟΜΑΣΤΕ ΚΑΛΗ ΠΕΡΙΗΓΗΣΗ
Χρήσιμες οδηγίες για τις αναρτήσεις μας.
1. Στις αναρτήσεις μας μπαίνει ΠΑΝΤΑ η πηγή σε οποιαδήποτε ανάρτηση ή μερος αναρτησης που προέρχεται απο άλλο ιστολόγιο. Αν δεν προέρχεται από κάποιο άλλο ιστολόγιο και προέρχεται από φίλο αναγνώστη ή επώνυμο ή άνωνυμο συγγραφέα, υπάρχει ΠΑΝΤΑ σε εμφανες σημείο το ονομά του ή αναφέρεται ότι προέρχεται από ανώνυμο αναγνώστη μας.
2. Για όλες τις υπόλοιπες αναρτήσεις που δεν έχουν υπογραφή ΙΣΧΥΕΙ η αυτόματη υπογραφή της ανάρτησης. Ετσι όταν δεν βλέπετε καμιά πηγή ή αναφορά σε ανωνυμο ή επώνυμο συντάκτη να θεωρείτε ΩΣ ΑΥΣΤΗΡΟ ΚΑΝΟΝΑ ότι ισχύει η αυτόματη υπογραφή του αναρτήσαντα.
3. Οταν βλέπετε ανάρτηση με πηγή ή και επώνυμο ή ανώνυμο συντάκτη αλλά στη συνέχεια υπάρχει και ΣΧΟΛΙΟ, τότε αυτό είναι ΚΑΙ ΠΑΛΙ του αναρτήσαντα δηλαδή είναι σχόλιο που προέρχεται από το ιστολόγιό μας.
Σημείωση: Να σημειώσουμε ότι εκτός των αναρτήσεων που υπογράφει ο διαχειριστής μας, όλες οι άλλες απόψεις που αναφέρονται σε αυτές ανήκουν αποκλειστικά στους συντάκτες των άρθρων. Τέλος άλλες πληροφορίες για δημοσιεύσεις και πνευματικά δικαιώματα μπορείτε να βρείτε στην κάτω μπάρα του ιστολογίου μας.
2. Για όλες τις υπόλοιπες αναρτήσεις που δεν έχουν υπογραφή ΙΣΧΥΕΙ η αυτόματη υπογραφή της ανάρτησης. Ετσι όταν δεν βλέπετε καμιά πηγή ή αναφορά σε ανωνυμο ή επώνυμο συντάκτη να θεωρείτε ΩΣ ΑΥΣΤΗΡΟ ΚΑΝΟΝΑ ότι ισχύει η αυτόματη υπογραφή του αναρτήσαντα.
3. Οταν βλέπετε ανάρτηση με πηγή ή και επώνυμο ή ανώνυμο συντάκτη αλλά στη συνέχεια υπάρχει και ΣΧΟΛΙΟ, τότε αυτό είναι ΚΑΙ ΠΑΛΙ του αναρτήσαντα δηλαδή είναι σχόλιο που προέρχεται από το ιστολόγιό μας.
Σημείωση: Να σημειώσουμε ότι εκτός των αναρτήσεων που υπογράφει ο διαχειριστής μας, όλες οι άλλες απόψεις που αναφέρονται σε αυτές ανήκουν αποκλειστικά στους συντάκτες των άρθρων. Τέλος άλλες πληροφορίες για δημοσιεύσεις και πνευματικά δικαιώματα μπορείτε να βρείτε στην κάτω μπάρα του ιστολογίου μας.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου