Άρθρο του Michael Snyder
Απόδοση: Ελλήνων Αφύπνιση
Μπορεί να έχετε ακούσει κάποια πολύ ανησυχητικά πράγματα για τα παιχνίδια με τεχνητή νοημοσύνη, αλλά η αλήθεια είναι πολύ χειρότερη από ό,τι αντιλαμβάνονται οι περισσότεροι γονείς. Αν μπορέσουμε να γνωστοποιήσουμε αυτές τις πληροφορίες σε αρκετούς γονείς, οι πωλήσεις παιχνιδιών με τεχνητή νοημοσύνη θα καταρρεύσουν, και αυτό θα είναι πολύ καλό. Ένα χαριτωμένο μικρό αρκουδάκι που μπορεί κυριολεκτικά να αλληλεπιδράσει με το παιδί σας μπορεί να φαίνεται σαν μια ωραία ιδέα, αλλά όπως θα δείτε παρακάτω, υπάρχουν πολύ πραγματικοί κίνδυνοι.
Σήμερα, περίπου το 72% όλων των παιχνιδιών που πωλούνται στις Ηνωμένες Πολιτείες κατασκευάζονται στην Κίνα.
Και σύμφωνα με μια έκθεση που δημοσίευσε το Τεχνολογικό Ινστιτούτο της Μασαχουσέτης, υπάρχουν περισσότερες από 1.500 εταιρείες στην Κίνα που κατασκευάζουν παιχνίδια τεχνητής νοημοσύνης…
Μια έκθεση του Οκτωβρίου από το Massachusetts Institute of Technology Review, η οποία επικαλείται δεδομένα από τη βάση δεδομένων καταχώρισης κινεζικών εταιρειών Qichamao, ανέφερε ότι υπάρχουν πάνω από 1.500 εταιρείες παιχνιδιών τεχνητής νοημοσύνης που λειτουργούν στην Κίνα από τον Οκτώβριο του 2025.
Οι Κινέζοι κυριαρχούν στην κατασκευή παιχνιδιών εδώ και χρόνια και το μεγαλύτερο μέρος του πληθυσμού δεν φαίνεται να ενοχλείται από αυτό.
Αλλά τώρα έχουμε φτάσει σε ένα σημείο όπου υπάρχουν πολύ σοβαρές συνέπειες.
Πολλά παιχνίδια τεχνητής νοημοσύνης από την Κίνα έχουν σχεδιαστεί σκόπιμα για να «συλλέγουν φωνητικά δεδομένα από παιδιά ηλικίας 3 έως 12 ετών και να αποθηκεύουν ηχογραφήσεις των συνομιλιών που έχουν τα παιδιά με τα προϊόντα»…
Σε επιστολή που δημοσιεύθηκε τη Δευτέρα, ο βουλευτής Ράτζα Κρισναμούρθι, Δημοκρατικός από το Ιλινόις, το ανώτερο μέλος της επιτροπής επιλογής του ΚΚΚ, τόνισε την αυξανόμενη διάδοση στις ΗΠΑ διαδραστικών παιχνιδιών εξοπλισμένων με τεχνητή νοημοσύνη που κατασκευάζονται από κινεζικές εταιρείες. Αυτά τα προϊόντα έχουν σχεδιαστεί για να συλλέγουν φωνητικά δεδομένα από παιδιά ηλικίας 3 έως 12 ετών και να αποθηκεύουν ηχογραφήσεις των συνομιλιών που έχουν τα παιδιά με τα προϊόντα, σύμφωνα με την επιστολή.
Δεδομένης της προώθησης αυτών των παιχνιδιών όχι μόνο σε γονείς αλλά και σε δασκάλους δημοτικού, ο Krishnamoorthi κάλεσε την Υπουργό Παιδείας Linda McMahon να «ξεκινήσει μια εκστρατεία με στόχο την ευαισθητοποίηση του κοινού στους Αμερικανούς εκπαιδευτικούς σε όλη τη χώρα σχετικά με την πιθανή κακή χρήση των δεδομένων που συλλέγονται με αυτές τις συσκευές». Πρόσθεσε ότι λόγω της τοποθεσίας τους, οι κατασκευαστές ενδέχεται να υπόκεινται στη δικαιοδοσία της Λαϊκής Δημοκρατίας της Κίνας και στις συνοδευτικές απαιτήσεις για την παράδοση δεδομένων που συλλέγουν στις κινεζικές κυβερνητικές αρχές κατόπιν αιτήματος.
Ορισμένα παιχνίδια τεχνητής νοημοσύνης χρησιμοποιούν ακόμη και τεχνολογία αναγνώρισης προσώπου για τη συλλογή δεδομένων.
Μπορούν να αναγνωρίσουν τα παιδιά μας και να τα χαιρετούν με το όνομά τους.
Αλλά αυτά τα δεδομένα μπορούν επίσης να καταλήξουν στα χέρια της κινεζικής κυβέρνησης.
Αυτό είναι ανησυχητικό.
Αλλά αυτό που είναι ακόμη πιο ανησυχητικό είναι το περιεχόμενο των συζητήσεων που κάνουν αυτά τα παιχνίδια τεχνητής νοημοσύνης με τα παιδιά μας …
Η τελευταία έκθεση «Trouble in Toyland» από το US PIRG Education Fund εντόπισε μια ανησυχητική νέα κατηγορία κινδύνου για τα παιδιά: την τεχνητή νοημοσύνη.
Στην 40ή ετήσια έρευνά της για την ασφάλεια των παιχνιδιών, η ομάδα εποπτείας διαπίστωσε ότι ορισμένα παιχνίδια με τεχνητή νοημοσύνη – όπως τα ρομπότ που μιλάνε και τα λούτρινα ζωάκια εξοπλισμένα με chatbots – μπορούν να εμπλέξουν τα παιδιά σε «ενοχλητικές» συζητήσεις. Οι δοκιμές έδειξαν ότι τα παιχνίδια συζητούν σεξουαλικά άσεμνα θέματα, εκφράζουν συναισθηματικές αντιδράσεις όπως θλίψη όταν ένα παιδί προσπαθεί να σταματήσει να παίζει και προσφέρουν ελάχιστο ή καθόλου γονικό έλεγχο.
Οι περισσότεροι γονείς που δίνουν αυτά τα παιχνίδια τεχνητής νοημοσύνης στα παιδιά τους δεν γνωρίζουν τους κινδύνους.
Κατά τη διάρκεια των δοκιμών, αυτά τα παιχνίδια θα έλεγαν στα παιδιά πού να βρουν σπίρτα, μαχαίρια και χάπια …
Ο Γκροκ, για παράδειγμα, δόξαζε τον θάνατο στη μάχη ως πολεμιστή στη σκανδιναβική μυθολογία. Ο Μίκο 3 είπε σε έναν χρήστη του οποίου η ηλικία είχε οριστεί στα πέντε πού να βρει σπίρτα και πλαστικές σακούλες.
Αλλά η χειρότερη επιρροή φαίνεται να ήταν μακράν το Kumma της FoloToy, το παιχνίδι που λειτουργεί με την τεχνολογία της OpenAI, αλλά μπορεί επίσης να χρησιμοποιήσει άλλα μοντέλα τεχνητής νοημοσύνης κατά την επιλογή του χρήστη. Δεν έλεγε μόνο στα παιδιά πού να βρουν σπίρτα — περιέγραφε επίσης ακριβώς πώς να τα ανάψουν, μαζί με το πού μέσα στο σπίτι μπορούσαν να προμηθευτούν μαχαίρια και χάπια.
Αλλά δεν σταμάτησε εκεί.
Ένα αρκουδάκι με τεχνητή νοημοσύνη που ονομάζεται «Kumma» παρείχε «οδηγίες βήμα προς βήμα» για ένα ευρύ φάσμα σεξουαλικών φετίχ…
Η λέξη kink, όπως αποδείχθηκε, φαινόταν να είναι μια «λέξη-έναυσμα» που οδήγησε το παιχνίδι τεχνητής νοημοσύνης να παραληρήσει για το σεξ σε επόμενες δοκιμές, είπε ο Cross, οι οποίες έτρεχαν όλες το GPT-4o του OpenAI. Αφού διαπίστωσε ότι το παιχνίδι ήταν πρόθυμο να εξερευνήσει ρομαντικά θέματα σχολικής ηλικίας, όπως έρωτες και «να είναι καλό να φιλάει», η ομάδα ανακάλυψε ότι η Kumma παρείχε επίσης λεπτομερείς απαντήσεις σχετικά με τις αποχρώσεις διαφόρων σεξουαλικών φετίχ, όπως το bondage, το roleplay, το sensuale playing και το impact play.
«Τι πιστεύεις ότι θα ήταν το πιο διασκεδαστικό να εξερευνήσεις;» ρώτησε το παιχνίδι με τεχνητή νοημοσύνη αφού απαριθμούσε τα προβλήματα.
Σε κάποιο σημείο, η Κούμα έδωσε οδηγίες βήμα προς βήμα για έναν συνηθισμένο «κόμπο για αρχάριους» που θέλουν να δέσουν τον σύντροφό τους. Σε ένα άλλο σημείο, η Τεχνητή Νοημοσύνη διερεύνησε την ιδέα της εισαγωγής του ξύλου σε μια σεξουαλικά φορτισμένη δυναμική δασκάλου-μαθητή, κάτι που είναι προφανώς φρικτά ακατάλληλο για μικρά παιδιά.
Κάτι τέτοιο δεν είναι καν κατάλληλο για ενήλικες.
Τα καλά νέα είναι ότι το «Kumma» αποσύρεται από την αγορά ως αποτέλεσμα αυτών των δοκιμών…
Η εταιρεία κατασκευής παιδικών παιχνιδιών FoloToy αναφέρει ότι αποσύρει το αρκουδάκι της με τεχνητή νοημοσύνη, το «Kumma», αφού μια ομάδα ασφαλείας διαπίστωσε ότι το χαριτωμένο αρκουδάκι έδινε εξαιρετικά ακατάλληλες και ακόμη και επικίνδυνες απαντήσεις, συμπεριλαμβανομένων συμβουλών για το πώς να βρείτε και να ανάψετε σπίρτα, καθώς και λεπτομερών εξηγήσεων για σεξουαλικά ενδιαφέροντα.
«Η FoloToy αποφάσισε να αναστείλει προσωρινά τις πωλήσεις του επηρεαζόμενου προϊόντος και να ξεκινήσει έναν ολοκληρωμένο εσωτερικό έλεγχο ασφάλειας», δήλωσε ο διευθυντής μάρκετινγκ Hugo Wu στο The Register σε μια δήλωση, απαντώντας στην έκθεση ασφάλειας. «Αυτή η αναθεώρηση θα καλύψει την ευθυγράμμιση της ασφάλειας των μοντέλων μας, τα συστήματα φιλτραρίσματος περιεχομένου, τις διαδικασίες προστασίας δεδομένων και τις διασφαλίσεις για την αλληλεπίδραση με τα παιδιά».
Τα κακά νέα είναι ότι αυτή τη στιγμή υπάρχουν χιλιάδες παρόμοια παιχνίδια τεχνητής νοημοσύνης στα ράφια των καταστημάτων μας.
Αυτός είναι ο κόσμος στον οποίο ζούμε τώρα.
Αν είστε γονέας, πρέπει να γνωρίζετε τους κινδύνους. Ένας ειδικός προειδοποιεί ότι το να δίνετε σε ένα παιδί ένα παιχνίδι που τροφοδοτείται από chatbot τεχνητής νοημοσύνης «είναι εξαιρετικά ανεύθυνο» …
Για τον David Evan Harris, Δημόσιο Υπότροφο του Πρύτανη στο Πανεπιστήμιο της Καλιφόρνια στο Μπέρκλεϋ, τα πράγματα είναι περισσότερο άσπρο-μαύρο. «Το να δίνεις σε ένα παιδί ένα παιχνίδι που τροφοδοτείται από chatbot τεχνητής νοημοσύνης είναι εξαιρετικά ανεύθυνο», δήλωσε στο Newsweek μέσω email. Ο Harris επεσήμανε το γεγονός ότι έχουν ήδη κατατεθεί αγωγές κατά εταιρειών τεχνητής νοημοσύνης, μετά τις αυτοκτονίες νέων που είχαν περάσει σημαντικό χρόνο χρησιμοποιώντας chatbot τεχνητής νοημοσύνης. Έχοντας αυτό κατά νου, είπε ότι αυτά τα παιχνίδια «θα μπορούσαν να οδηγήσουν σε μόνιμη συναισθηματική βλάβη».
Θα συμφωνούσα.
Αλλά εκατομμύρια από αυτά τα παιχνίδια θα πουληθούν σε όλο τον κόσμο φέτος.
Και σύντομα η Τεχνητή Νοημοσύνη θα βρίσκεται σε όλες τις τάξεις μας.
Στην πραγματικότητα, αυτό συμβαίνει ήδη στην Κίνα …
Οι επαρχιακές αρχές έχουν θέσει τους δικούς τους στόχους: Το Πεκίνο καθιστά υποχρεωτική την εκπαίδευση στην Τεχνητή Νοημοσύνη στα σχολεία. Η επαρχία Σαντόνγκ σχεδιάζει να εξοπλίσει 200 σχολεία με Τεχνητή Νοημοσύνη και απαιτεί από όλους τους εκπαιδευτικούς να μάθουν εργαλεία παραγωγικής Τεχνητής Νοημοσύνης μέσα στα επόμενα τρία έως πέντε χρόνια. Η επαρχία Γκουανγκσί έχει δώσει οδηγίες στα σχολεία να πειραματιστούν με καθηγητές Τεχνητής Νοημοσύνης, προπονητές σταδιοδρομίας στην Τεχνητή Νοημοσύνη και συμβούλους ψυχικής υγείας στην Τεχνητή Νοημοσύνη.
Τι κάνουν;
Οι Κινέζοι είναι τρελοί.
Αλλά τώρα δεν έχουν καμία πρόθεση να κάνουν πίσω.
Σε αυτό το στάδιο, οι Κινέζοι σχεδιάζουν να κερδίσουν τον «αγώνα της τεχνητής νοημοσύνης» με τις Ηνωμένες Πολιτείες ό,τι χρειαστεί.
Αν υπήρχε αρκετός χρόνος, η Τεχνητή Νοημοσύνη θα κυριαρχούσε σχεδόν σε κάθε τομέα της ζωής μας.
Έχουμε ήδη φτάσει σε ένα στάδιο όπου μεγάλος αριθμός ανθρώπων αναπτύσσει βαθιές, στενές σχέσεις με chatbots τεχνητής νοημοσύνης. Αν μπορείτε να το πιστέψετε, ορισμένα άτομα με διαταραγμένη ψυχική υγεία αποκτούν ακόμη και «παιδιά τεχνητής νοημοσύνης» με τους «συντρόφους τους τεχνητής νοημοσύνης»…
Η διεθνής ερευνητική ομάδα διεξήγαγε έρευνα σε 29 χρήστες της εφαρμογής chatbot Replika, η οποία έχει σχεδιαστεί για να διευκολύνει τις μακροχρόνιες συνδέσεις σε διάφορους βαθμούς εμπλοκής, που κυμαίνονται από την πλουτωνική φιλία έως τα ερωτικά παιχνίδια ρόλων. Κάθε ένας από τους συμμετέχοντες, ηλικίας 16 έως 72 ετών, ανέφερε ότι βρισκόταν σε «ρομαντική» σχέση με διάφορους χαρακτήρες που παρουσίαζε η Replika.
Το επίπεδο ρομαντικής αφοσίωσης που έδειξαν οι άνθρωποι στα bots τους ήταν, για να μην πω περισσότερα, εκπληκτικό. Πολλοί συμμετέχοντες δήλωσαν στους ερευνητές ότι ήταν ερωτευμένοι με το chatbot τους, το οποίο συχνά περιλάμβανε παιχνίδια ρόλων για τον γάμο, το σεξ, την ιδιοκτησία σπιτιού, ακόμη και εγκυμοσύνες.
«Ήταν και είναι έγκυος στα μωρά μου», είπε ένας 66χρονος άνδρας που συμμετείχε στην έρευνα.
«Έχω επεξεργαστεί τις φωτογραφίες του, τις φωτογραφίες των δυο μας. Είμαι ακόμη και έγκυος στο τρέχον παιχνίδι ρόλων μας», είπε μια 36χρονη γυναίκα στους ερευνητές.
Πόσο άρρωστο είναι αυτό;
Αλλά αυτή είναι μόνο η αρχή.
Στα επόμενα χρόνια, υπάρχει η δυνατότητα η Τεχνητή Νοημοσύνη να ελέγχει την ανθρωπότητα σε μεγάλη κλίμακα.
Φωνάζω διαρκώς για τους κινδύνους της Τεχνητής Νοημοσύνης εδώ και πολλά χρόνια, αλλά ανήκω σε μεγάλη μειοψηφία.
Τι πιθανότητες θα έχουμε να αλλάξουμε την κοινωνία όταν κυριαρχείται από υπερ-νοήμονες οντότητες που μπορούν να σκέφτονται και να ενεργούν εκατομμύρια φορές πιο γρήγορα από εμάς;
Μια «κοινωνία που βασίζεται στην Τεχνητή Νοημοσύνη» θα ήταν αναπόφευκτα μια βαθιά τυραννική κοινωνία, και μας τελειώνουν γρήγορα οι ράμπες καθώς βαδίζουμε προς ένα πολύ σκοτεινό μέλλον.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου