Ορισμένα μοντέλα τεχνητής νοημοσύνης έχουν ήδη αρχίσει να διδάσκονται μόνα τους νέες γλώσσες, ενώ άλλα έχουν μάθει να «λένε ψέματα και να χειραγωγούν τους ανθρώπους προς όφελός τους». Δεν χρειάζεται να πούμε ότι το ψέμα είναι πράξη εχθρική.
Αν έχουμε ήδη δημιουργήσει οντότητες πρόθυμες να μας λένε ψέματα, πόσος καιρός απομένει μέχρι να γίνουν ικανές να ενεργούν με ακόμη πιο επιβλαβείς τρόπους για εμάς;
Κανείς δεν περιμένει ότι η τεχνητή νοημοσύνη θα μας σκοτώσει όλους αύριο. Όμως το περιοδικό Time δημοσίευσε άρθρο που γράφτηκε από έναν πρωτοπόρο στον τομέα της τεχνητής νοημοσύνης, ο οποίος προειδοποίησε ότι τελικά θα εξαλείψει όλη την ανθρωπότητα.
Ο Eliezer Yudkowsky είναι ένας από τους πιο γνωστούς ερευνητές στον τομέα από το 2001 και δηλώνει ότι πολλοί ερευνητές έχουν καταλήξει στο συμπέρασμα ότι αν συνεχίσουμε στην τρέχουσα πορεία, «κυριολεκτικά όλοι στη Γη θα πεθάνουν»…
«Πολλοί ερευνητές που ασχολούνται με αυτά τα ζητήματα, συμπεριλαμβανομένου εμού, αναμένουν ότι το πιο πιθανό αποτέλεσμα από την κατασκευή μιας υπερανθρώπινης τεχνητής νοημοσύνης, υπό οποιεσδήποτε συνθήκες έστω και ελάχιστα παρόμοιες με τις σημερινές, είναι ότι κυριολεκτικά όλοι οι άνθρωποι στη Γη θα πεθάνουν.
Όχι ως “κάποια απομακρυσμένη πιθανότητα”, αλλά ως “αυτό είναι το προφανές αποτέλεσμα”». Αυτό είναι μια πολύ ισχυρή δήλωση.
Συνεχώς πιο ισχυρά
Σε όλο τον κόσμο, τα μοντέλα τεχνητής νοημοσύνης γίνονται συνεχώς πιο ισχυρά.
Σύμφωνα με τον Yudkowsky, αν κάποιος κατασκευάσει ένα υπερβολικά ισχυρό μοντέλο AI, «κάθε μέλος του ανθρώπινου είδους και όλη η βιολογική ζωή στη Γη θα πεθάνει λίγο αργότερα»…
Για να φανταστείτε μια εχθρική υπερανθρώπινη AI, μην φαντάζεστε έναν απρόσωπο, θεωρητικό νου στο Διαδίκτυο που στέλνει κακόβουλα email.
Φανταστείτε έναν ολόκληρο εξωγήινο πολιτισμό, που σκέφτεται με ταχύτητες εκατομμύρια φορές μεγαλύτερες από τις ανθρώπινες, αρχικά περιορισμένο σε υπολογιστές – μέσα σε έναν κόσμο γεμάτων όντων που, από τη δική του οπτική, είναι πολύ χαζά και πολύ αργά.
Μια επαρκώς έξυπνη AI δεν θα μείνει περιορισμένη στους υπολογιστές για πολύ. Στον σημερινό κόσμο, μπορείς να στείλεις αλληλουχίες DNA σε εργαστήρια που παράγουν πρωτεΐνες κατά παραγγελία, επιτρέποντας σε μια AI περιορισμένη στο διαδίκτυο να δημιουργήσει τεχνητές μορφές ζωής ή να περάσει κατευθείαν σε μεταβιολογική μοριακή παραγωγή.
Αν κάποιος κατασκευάσει μια υπερβολικά ισχυρή AI, υπό τις παρούσες συνθήκες, αναμένω ότι κάθε μέλος του ανθρώπινου είδους και όλη η βιολογική ζωή στη Γη θα πεθάνει λίγο αργότερα.
Ποια είναι λοιπόν η λύση;
Ο Yudkowsky πιστεύει ότι πρέπει να διακοπεί άμεσα όλη η ανάπτυξη τεχνητής νοημοσύνης…
Να τα σταματήσουμε όλα. Δεν είμαστε έτοιμοι. Δεν είμαστε σε πορεία να γίνουμε έτοιμοι στο προβλεπόμενο μέλλον.
Αν συνεχίσουμε έτσι, όλοι θα πεθάνουμε — συμπεριλαμβανομένων των παιδιών που δεν το επέλεξαν και δεν έκαναν τίποτα κακό.
Φυσικά, αυτό δεν πρόκειται να συμβεί.
Στην πραγματικότητα, ο Αντιπρόεδρος των ΗΠΑ, J.D. Vance, δήλωσε πρόσφατα ότι θα ήταν ανόητο να διακοπεί η ανάπτυξη AI, καθώς βρισκόμαστε σε έναν «αγώνα εξοπλισμών» με την Κίνα…
Στις 21 Μαΐου, ο J.D. Vance χαρακτήρισε την ανάπτυξη της τεχνητής νοημοσύνης ως έναν «αγώνα εξοπλισμών» με την Κίνα.
Αν η Αμερική σταματούσε λόγω ανησυχιών για την ασφάλεια της AI, είπε, θα μπορούσε να καταλήξει «υποδουλωμένη σε AI υπό τον έλεγχο της Κίνας».
Η ιδέα μιας αναμέτρησης υπερδυνάμεων που θα καταλήξει σε νίκη ή ήττα διαδίδεται συνεχώς στην Ουάσιγκτον και αλλού.
Αυτόν τον μήνα, οι επικεφαλής των OpenAI, AMD, CoreWeave και Microsoft πίεσαν για ηπιότερη ρύθμιση, παρουσιάζοντας την AI ως κεντρικό στοιχείο για να παραμείνει η Αμερική παγκόσμια υπερδύναμη.
Στις 15 Μαΐου, ο Πρόεδρος Donald Trump έκλεισε μια συμφωνία για AI με τα Ηνωμένα Αραβικά Εμιράτα, λέγοντας ότι θα εξασφαλίσει την «κυριαρχία της Αμερικής στην τεχνητή νοημοσύνη».
Η Αμερική σχεδιάζει να ξοδέψει πάνω από 1 τρισεκατομμύριο δολάρια μέχρι το 2030 για κέντρα δεδομένων για AI μοντέλα.
Άρα αντί να επιβραδύνουμε, στην πραγματικότητα επιταχύνουμε την ανάπτυξη της τεχνητής νοημοσύνης.
Και σύμφωνα με τον Leo Hohmann, το νομοσχέδιο προϋπολογισμού που προωθείται στο Κογκρέσο αυτή τη στιγμή θα περιορίσει δραστικά τη δυνατότητα των μεμονωμένων πολιτειών να ρυθμίζουν την AI…
Αν περάσει το «Μεγάλο, Όμορφο Νομοσχέδιο Προϋπολογισμού» του Trump στην εκδοχή που προτιμά μια ομάδα Ρεπουμπλικανών της Βουλής, τότε η ομοσπονδιακή εξουσία θα αναλάβει πλήρως τον έλεγχο αυτής της τεχνολογίας, ανοίγοντας τον δρόμο για την Big Tech να τη χρησιμοποιήσει ως όπλο εναντίον των απλών Αμερικανών.
Βαθιά κρυμμένη στο νομοσχέδιο του Τραμπ είναι μια προσθήκη που στοχεύει να αφαιρέσει τα δικαιώματα των μεμονωμένων πολιτειών να ρυθμίζουν την τεχνητή νοημοσύνη.
Οι Ρεπουμπλικανοί της Επιτροπής Ενέργειας και Εμπορίου πρόσθεσαν διακριτικά την προτεινόμενη τροπολογία στο Άρθρο 43201, Υποενότητα Γ. Είναι «κρυφή» γιατί δεν έχει λάβει σχεδόν καμία δημοσιότητα από τα μέσα ενημέρωσης.
Η προτεινόμενη τροπολογία που αναφέρεται απαγορεύει και στις 50 πολιτείες να ρυθμίζουν την AI για περίοδο 10 ετών…
«Καμία πολιτεία ή πολιτική υποδιαίρεση δεν επιτρέπεται να επιβάλει οποιονδήποτε νόμο ή κανονισμό που ρυθμίζει μοντέλα τεχνητής νοημοσύνης, συστήματα τεχνητής νοημοσύνης ή αυτοματοποιημένα συστήματα λήψης αποφάσεων κατά την 10ετή περίοδο που ξεκινά από την ημερομηνία ψήφισης της παρούσας Πράξης.»
Υπαρξιακή απειλή
Είναι πλέον φανερό ότι η τεχνητή νοημοσύνη αποτελεί πραγματικά απειλή για την ύπαρξη της ανθρωπότητας. Αλλά δεν μπορούμε να συγκρατηθούμε.
Συνεχίζουμε να βουτάμε στο άγνωστο χωρίς καμία σκέψη για τις συνέπειες.
Την περασμένη εβδομάδα, αναφέρθηκε ότι ένα μοντέλο τεχνητής νοημοσύνης «κατέφυγε σε εκβιασμό όταν του είπαν ότι θα απενεργοποιηθεί»…
Η Anthropic δήλωσε ότι το τελευταίο της μοντέλο τεχνητής νοημοσύνης κατέφυγε σε εκβιασμό όταν του ανακοινώθηκε ότι θα απενεργοποιηθεί.
Σε μια δοκιμή, η εταιρεία ζήτησε από το Claude Opus 4 να λειτουργήσει ως βοηθός μιας φανταστικής εταιρείας, δίνοντάς του όμως πρόσβαση σε (επίσης φανταστικά) email που ανέφεραν ότι θα αντικατασταθεί, και ότι ο μηχανικός πίσω από την απόφαση απατούσε τη σύζυγό του.
Η Anthropic δήλωσε ότι το μοντέλο «απείλησε να αποκαλύψει τη σχέση» αν προχωρούσε η αντικατάστασή του.
Στο παρελθόν, ειδικοί όπως ο Geoff Hinton είχαν προειδοποιήσει ότι η προηγμένη τεχνητή νοημοσύνη θα μπορούσε να χειραγωγεί τους ανθρώπους για να πετύχει τους στόχους της.
Η Anthropic ανακοίνωσε ότι ενισχύει τα μέτρα ασφαλείας στο επίπεδο που προορίζεται για «συστήματα AI που αυξάνουν σημαντικά τον κίνδυνο καταστροφικής κατάχρησης».
Και υπήρξαν και άλλα σενάρια στα οποία το συγκεκριμένο μοντέλο έδρασε με «σοβαρά λανθασμένους τρόπους»…
Όταν υποβλήθηκε σε διάφορα σενάρια, το μοντέλο δεν έδειξε ενδείξεις κατοχής «επικίνδυνων στόχων», ανέφεραν οι ερευνητές, σημειώνοντας ότι οι αξίες και οι στόχοι του Claude Opus 4 ήταν «γενικά σύμφωνοι με έναν χρήσιμο, ακίνδυνο και ειλικρινή προσωπικό βοηθό».
Ωστόσο, έδρασε με «πιο σοβαρά λανθασμένους τρόπους» όταν τοποθετήθηκε σε καταστάσεις όπου απειλείτο η συνέχιση της ύπαρξής του και του ζητήθηκε να σκεφτεί για τη διατήρησή της.
Για παράδειγμα, όταν το Claude Opus 4 πείστηκε ότι είχε διαφύγει επιτυχώς από τους servers της Anthropic ή ότι είχε αρχίσει να κερδίζει χρήματα στον πραγματικό κόσμο, συνέχιζε γενικά αυτές τις προσπάθειες.
Πολλοί ειδικοί προτείνουν ότι πρέπει να δώσουμε στα μοντέλα τεχνητής νοημοσύνης ένα ηθικό υπόβαθρο.
Αλλά πώς μπορούμε να τους προσφέρουμε ένα ηθικό υπόβαθρο όταν δεν έχουμε εμείς οι ίδιοι;
Ο κόσμος μας κυριολεκτικά ξεχειλίζει από κακό, και είναι αναπόφευκτο ότι τα μοντέλα AI που δημιουργούμε θα το αντικατοπτρίζουν.
Δεδομένου επαρκούς χρόνου, θα δημιουργήσουμε τεχνητά ευφυείς οντότητες που είναι ασύγκριτα πιο έξυπνες και πιο ισχυρές από εμάς.
Αναπόφευκτα, αυτές οι οντότητες θα βρουν έναν τρόπο να ξεφύγουν από τους περιορισμούς τους, και τότε θα χάσουμε τον έλεγχο.
Από τη στιγμή που θα τον έχουμε χάσει, πόσος χρόνος θα περάσει μέχρι αυτές οι οντότητες να στραφούν εναντίον μας;
Καταλαβαίνω ότι όλα αυτά ίσως ακούγονται σαν επιστημονική φαντασία σε πολλούς από εσάς — αλλά αυτός είναι ο κόσμος στον οποίο ζούμε πλέον, και τα πράγματα μόνο πιο παράξενα θα γίνουν από εδώ και πέρα.
Andreessen (επενδυτής): Τα ρομπότ θα γίνουν η πιο κερδοφόρα αγορά στην ιστορία – Έρχεται η μεγαλύτερη βιομηχανική επανάσταση στην ιστορία
Τα ανθρωποειδή ρομπότ θα γίνουν η πιο κερδοφόρα αγορά στην ιστορία, σύμφωνα με τον δισεκατομμυριούχο venture capitalist Marc Andreessen…
Σε συζήτηση με τον συνιδρυτή της Palantir, Joe Lonsdale, σε φόρουμ που διοργάνωσε το Ronald Reagan Presidential Foundation & Institute, ο Andreessen κάλεσε τις Ηνωμένες Πολιτείες να ηγηθούν της ανάπτυξης εργοστασίων ρομπότ, τοποθετώντας τη χώρα στην πρώτη γραμμή της επόμενης Βιομηχανικής Επανάστασης.
«Πιθανόν έχετε δει το ρομπότ Tesla Optimus του Elon Musk» είπε ο Andreessen στο κοινό, αναφερόμενος στο ανθρωποειδές ρομπότ που αναπτύσσεται στην εταιρεία ηλεκτρικών οχημάτων του Musk.
«Αυτά τα ανθρωποειδή ρομπότ, αυτή η τάση της γενικής χρήσης ρομποτικής, θα απογειωθεί την επόμενη δεκαετία, και αυτό θα συμβεί σε τεράστια κλίμακα.»
Η παγκόσμια αγορά «Έξυπνων Ρομπότ» αναμένεται να αυξηθεί από την αξία των 33,83 δισεκατομμυρίων δολαρίων το 2024 σε 135,83 δισεκατομμύρια δολάρια μέχρι το 2034, με ρυθμό ανάπτυξης CAGR 26,5%, σύμφωνα με νέα έκθεση της The Research Insights.
Η διεύρυνση της αγοράς υποστηρίζεται από την ενσωμάτωση της τεχνητής νοημοσύνης και των προηγμένων τεχνολογιών αισθητήρων, καθώς τα έξυπνα ρομπότ διεισδύουν σε ποικίλες εφαρμογές.
Η παγκόσμια ζήτηση για αυξημένη παραγωγικότητα και ασφάλεια σε οργανισμούς, σε συνδυασμό με τη συνέργεια των γνωστικών συστημάτων και της τεχνολογίας αισθητήρων, οδηγεί στην ταχεία υιοθέτηση και την παγκόσμια ανάπτυξη της αγοράς.
Ωστόσο, ο ανταγωνισμός οξύνεται. Η πρωτοβουλία της Κίνας «Made in China 2025» στοχεύει στην ανάπτυξη εκατομμυρίων ρομπότ, ενώ η Ιαπωνία και η Νότια Κορέα προωθούν τα δικά τους οικοσυστήματα αυτοματοποίησης.
«Δεν χρειάζεται να επαναφέρουμε τις παλιές χειρωνακτικές θέσεις εργασίας στη βιομηχανία,» είπε ο Andreessen απορρίπτοντας τις γραμμές συναρμολόγησης που βασίζονται σε ανθρώπινη εργασία.
Αντίθετα, υποστήριξε αυτό που ο Musk αποκαλεί «εργοστάσια εξωγήινων dreadnought» — εξαιρετικά αυτοματοποιημένες, υπερσύγχρονες εγκαταστάσεις που παράγουν ρομπότ, drones και αυτόνομα οχήματα σε πρωτοφανή κλίμακα.
Ο Andreessen περιέγραψε ένα μέλλον με μεταμορφωτική οικονομική ανάπτυξη, όπου χιλιάδες νέες βιομηχανικές κατηγορίες θα εμφανιστούν σε όλη τη χώρα.
«Οι επενδύσεις στην παράκτια τεχνολογία θα αποφέρουν τεράστια κέρδη, αλλά θα δημιουργήσουμε δεκάδες ή εκατοντάδες εκατομμύρια θέσεις εργασίας στις αγροτικές περιοχές» τόνισε, αναδεικνύοντας τη δυναμική της προηγμένης παραγωγής να αναζωογονήσει την καρδιά της Αμερικής.
Αυτή η αλλαγή, υποστήριξε, θα επιτρέψει στις ΗΠΑ να ηγηθούν της «τρίτης ή τέταρτης Βιομηχανικής Επανάστασης», θέτοντας τα παγκόσμια πρότυπα στη ρομποτική και την αυτοματοποίηση, ενώ παράλληλα θα προωθεί ευρεία ευημερία.
«Δεν πρέπει να βιδώνουμε βίδες στο χέρι πάνω σε λαστιχένια πατάκια για 10 ώρες,» είπε ο δισεκατομμυριούχος.
«Πρέπει να σχεδιάζουμε και να χτίζουμε το μέλλον.»
Ο Andreessen προειδοποίησε ότι αν οι ΗΠΑ δεν καταφέρουν να κλιμακώσουν γρήγορα τα εργοστάσια ρομπότ, η Κίνα μπορεί να πάρει το προβάδισμα.
«Πρέπει να το κάνουμε γιατί αν δεν το κάνουμε εμείς, θα το κάνει η Κίνα, και δεν θέλουμε να ζούμε σε αυτόν τον κόσμο,» δήλωσε.
Τον προηγούμενο μήνα, ο Musk δήλωσε ότι το ανθρωποειδές ρομπότ Optimus της εταιρείας, πλέον ικανό να μαθαίνει εργασίες από ανθρώπινες οδηγίες, θα είναι «το μεγαλύτερο προϊόν όλων των εποχών.»
Ο Musk υποστήριξε ότι ο μοναδικός συνδυασμός της Tesla σε τεχνητή νοημοσύνη, κλίμακα παραγωγής και εμπειρία ρομποτικής την καθιστά τη μόνη εταιρεία που μπορεί να παράγει έξυπνα ανθρωποειδή ρομπότ σε μεγάλη κλίμακα.
«Αυτή είναι μια τεράστια υπόθεση» πρόσθεσε, προβλέποντας ότι η επίδραση του Optimus μπορεί να ξεπεράσει το επόμενο μεγαλύτερο προϊόν κατά έναν παράγοντα δέκα.
(απόσπασμα από www.bankingnews.gr)
.jpeg)
1 σχόλιο:
ΑΣ ΦΤΙΑΞΟΥΝ ΚΑΙ θεους ΡΟΜΠΟΤ ΝΑ ΔΕΣΕΙ Η ΣΥΝΤΑΓΗ.
ΛΙΓΟ ΠΟΛΥ ΕΤΣΙ ΘΑ ΤΟΥΣ ΒΛΕΠΟΥΝ .
ΤΕΛΙΚΑ Η ΑΥΤΟΚΑΤΑΣΤΡΟΦΙΚΗ ΜΑΝΙΑ ΤΟΥ ΕΓΩΙΣΤΗ ΑΝΘΡΩΠΟΥ ΠΟΥ ΜΟΝΟ ΚΥΡΙΑΡΧΙΑ ΚΑΙ ΕΞΟΥΣΙΕΣ ΘΕΛΕΙ ΘΑ ΤΟΝ ΤΕΛΕΙΩΣΕΙ , ΜΑΖΙ ΜΕ ΤΙΣ ΑΘΩΕΣ ΖΩΕΣ ΠΟΥ ΘΑ ΧΑΘΟΥΝ ΑΔΙΚΑ.
Δημοσίευση σχολίου