Πρόκειται για τον Τζακ Κλαρκ, έναν από τους επτά ιδρυτές της Anthropic. Ο Κλαρκ δηλώνει στο ΒΒC, ότι η ύπαρξη ενός τρόπου πλήρους απενεργοποίησης του λογισμικού τεχνητής νοημοσύνης, εάν αυτή γίνει υπερβολικά επικίνδυνη, είναι ένα ζήτημα για το οποίο η κοινωνία «ενδέχεται τελικά να θελήσει να θεσπίσει κανόνες» και μια τέτοια ρύθμιση ίσως καταστεί υποχρεωτική για τις εταιρείες,
Στον απόηχο επίμονων πληροφοριών και ενδείξεων για δυνητικά επικίνδυνες τάσεις αυτονόμησης της ΑΙ, ο Κλαρκ δηλώνει είπε ότι «τα περισσότερα εργαστήρια διαθέτουν διάφορους τρόπους για να τραβήξουν την πρίζα», συμπεριλαμβανομένης της Anthropic. Αλλά πρόσθεσε ότι η ύπαρξη ενός τέτοιου μηχανισμού, ίσως πρέπει να καταστεί υποχρεωτική.
Η ταχεία ανάπτυξη της τεχνητής νοημοσύνης και οι φόβοι σχετικά με τους κινδύνους που ενδέχεται να εγκυμονεί νέα η τεχνολογία για την ανθρωπότητα έχουν βρεθεί στο επίκεντρο, έπειτα από μια σειρά προειδοποιήσεων στελεχών και εργαζομένων εταιρειών τεχνητής νοημοσύνης.
Οι πιο σκληρές από τις προειδοποιήσεις αυτές, λένε δημοσίως ότι η συγκεκριμένη τεχνολογία, εάν αφεθεί ανεξέλεγκτη, μπορεί να οδηγήσει ακόνη και στον αφανισμό του ανθρώπινου είδους.
Το περασμένο Σάββατο, ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, ζήτησε επιβράδυνση και στενότερη παρακολούθηση του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης. Δεν διευκρίνισε πώς ακριβώς θα μπορούσε να επιβραδυνθεί η ανάπτυξη της τεχνητής νοημοσύνης και τόνισε ότι η οποιαδήποτε ενέργεια περιορισμού της, πρέπει να πραγματοποιηθεί «χωρίς να θυσιαστεί το εμπορικό πλεονέκτημα».
Mιλώντας στο BBC, ο Κλαρκ διερωτήθηκε:
«Θα πρέπει να επιβάλλεται στις εταιρείες να διαθέτουν οπωσδήποτε έναν διακόπτη έκτακτης ανάγκης; Θα πρέπει η λειτουργία αυτού του διακόπτη να μπορεί να επαληθεύεται από τρίτο φορέα;»
Την απάντηση την δίδει ο ίδιος:
«Νομίζω ότι αυτό είναι το είδος του ζητήματος για το οποίο η κοινωνία θα θελήσει να ενημερωθεί και ενδέχεται τελικά να θελήσει να θεσπίσει κανόνες».
Παίζουμε ζάρια με επικίνδυνα πράγματα
Και καταλήγει: «Παίζουμε ζάρια, διακινδυνεύοντας τεράστια πράγματα. Το θέμα είναι ότι πρέπει να αλλάξουμε την πορεία αυτού του κλάδου».
Η Anthropic, η οποία ιδρύθηκε το 2021 από μια ομάδα πρώην εργαζομένων της ανταγωνίστριάς της, OpenAI, βρίσκεται σήμερα στο επίκεντρο της συζήτησης για την ασφάλεια της τεχνητής νοημοσύνης.
Την περασμένη εβδομάδα έγινε ευρέως γνωστή στο διαδίκτυο η ανάρτηση ενός ερευνητή τεχνητής νοημοσύνης, ο οποίος αποχώρησε από την Anthropic εξαιτίας των ανησυχιών του ότι η τεχνητή νοημοσύνη θα μπορούσε να αφανίσει την ανθρωπότητα.
Προς επίρρωση του επιχειρήματος αυτού, έτερος επιστήμονας της Anthropic (Έβαν Χούμπινγκερ) δήλωσε ότι, κατά την προσωπική του εκτίμηση, η πιθανότητα εξαφάνισης της ανθρωπότητας εξαιτίας της τεχνητής νοημοσύνης είναι «μεγαλύτερη από 10% μέσα στην επόμενη δεκαετία».
Επιπλέον, ο βραβευμένος με Νόμπελ Τζέφρι Χίντον, γνωστός ως ο «νονός της τεχνητής νοημοσύνης», δήλωσε στο BBC την Παρασκευή ότι μια πιθανότητα 10% η τεχνητή νοημοσύνη να αφανίσει όλους τους ανθρώπους «δεν είναι παράλογη».
Συγκινητική η αγωνία του Κλαρκ και των άλλων ιδρυτών, συνιδρυτών, CEO και δε συμμαζεύεται των εταιρειών Τεχνητής Νοημοσύνης, συνταράχτηκα! Ούτε σενάριο δηλαδή, τόσο αληθινό! Με την ευκαιρία, έχω κι εγώ ένα σενάριο:
ΑπάντησηΔιαγραφήΈνας τέτοιος τύπος, ας πούμε CEO, κλαίει δημόσια (και γοερά) επειδή κατόρθωσε να μιλήσει φέις το φέις με το... προϊόν του και... τούφυγε η μαγκιά. Κάτι... "επιστήμονες"... το πήραν χαμπάρι και μετά κατάλαβαν κι αυτοί πόσο... σατανικό είναι αυτό το προϊόν κι άρχισαν να παραιτούνται κατηγορώντας την εταιρεία (όχι τον CEO) πως... «τζογάρει με τις ζωές μας», επειδή, ναι, ξαφνικά οι εταιρείες απέκτησαν αυτοεπίγνωση και "τζογάρουν", όπως αυτοεπίγνωση θα αποκτήσει και ο ψηφιακός Αρμαγεδώνας που θα μας ισοπεδώσει. Οι αναρτήσεις λοιπόν, αυτών των "επιστημόνων" γίνονται «βάιραλ», χωρίς καθόοοοοολου να αναμιχθούν τα bots των ίδιων των εταιρειών τους για να σπρώξουν το... Hype.
Την ίδια ώρα, κάτι άλλοι τύποι στα χρηματιστήρια κλαίνε από τα γέλια κι αγοράζουν μανιωδώς μετοχές AI με λεφτά που κερδίζουν πουλώντας... κρατικά ομόλογα.
Κι αφού το προϊόν του κλαμμένου CEO έχει πλέον αναδειχθεί σε κανονική «θεϊκή» δύναμη, αποσπώντας παράλληλα την προσοχή από τα σημερινά, πολύ πεζά και απτά εγκλήματα - λ.χ. τη μαζική κλοπή πνευματικών δικαιωμάτων, την αισχρή παραπληροφόρηση και το ξέσκισμα κάθε βασικού κανόνα της αγοράς - ακολουθούν τα (δακρύβρεχτα και με λυγμούς) αιτήματα για «κρατικές ρυθμίσεις» δλδ. «Αυστηρούς Κανόνες» και «Ειδικές Άδειες» (ακριβώς στο πρότυπο του κράτους του κούλη), τις οποίες μόνο εταιρικοί κολοσσοί όπως οι OpenAI, Microsoft και Google έχουν τους πόρους και την νομική ισχύ να αγοράσουν και να εφαρμόσουν (επίσης ακριβώς όπως στο κράτος του κούλη, α ρε κούλη...)
Κι έτσι, οι μικρές startup και οι προγραμματιστές "ανοιχτού κώδικα" "ωθούνται" (ΔΕΝ κάνω σεξουαλικό υπονοούμενο) εκτός "παιχνιδιού με συνοπτικές διαδικασίες", εξασφαλίζοντας ένα ωραιότατο ολιγοπώλιο και επιβεβαιώνοντας ξανά το ιστορικό αξίωμα πως ΜΟΝΟ με ολιγοπώλια σώζεται η ανθρωπότητα!
Επιπλέον, αφού η άτιμη η AI απειλεί ξεκάθαρα την «εθνική ασφάλεια», ανοίγουν οι κάνουλες για... ωραιώτατα «αμυντικά» συμβόλαια και για κρατικό χρήμα που δανείζονται τα κράτη από τα... χρηματιστήρια - κοίτα να δεις κάτι πράγματα... - για πληρώνουν τις εταιρείες AI να μας σώσουν από τις ... εταιρείες AI και, φυσικά, από τον... μπαμπούλα (την Κίνα, αυτονόητο αυτό, αν και ο κούλης επιμένει πως ο μπαμπούλας είναι η Ρωσσία και να τον ακούμε τον κούλη, είναι σοβαρός πολιτικός).
Κι όταν - επιτέλους - αυτοί οι καλοί άνθρωποι κατορθώσουν να μας πουλήσουν «kill switch» για το... προϊόν τους, θα μας... εξασφαλίσουν ακόμα περισσότερο, πουλώντας μας το... «premium, συνδρομητικό kill switch» (με έκπτωση 5% αν το κλείσουμε για δέκα χρόνια, το 0.0000001% "αδιεκρίνιστο" στον λογαριασμό του μπουμπούκου) για να κοιμόμαστε ήσυχοι όσο αυτοί θα μετράνε τα δισεκατομμύρια των ολιγοπωλίων τους και των κρατικών επιδοτήσεων με δανεικά.
Εξαιρετικό σχόλιο με αξία άρθρου καλέ μου φίλε Πετροβουβαλε.
ΔιαγραφήΞέρεις τι με προβληματίζει;
Προσπαθώ να αντιληφθώ την θέση της ΤΝ στην εσχατολογία της ανθρωπότητας κι αν αυτή αναφέρεται έστω εμμέσως στην Αποκάλυψη του Ιωάννη, η σε κάποιο άλλο εσχατολογικό κείμενο της πίστης μας....
Η παρουσία της ΤΝ όπως φαίνεται θα είναι καταλυτική στο μέλλον και είναι βέβαιο ότι θα φτάσουμε στο σημείο να σκοτώνει ανθρώπους αυτόνομα, αρχίζοντας από τις πολεμικές συγκρούσεις....
Ήδη χιλιάδες στρατιώτες στα πεδία των μαχων σκοτώνονται από κάποιους τύπους που απλά παίζουν videogame σε μια οθόνη.....
Θεωρώ επόμενο βήμα οι τύποι αυτοί που για μένα έχουν χάσει την ιδιότητα του στρατιώτη κι ας φορούν στολές παραλλαγής, πολύ σύντομα θα χρησιμοποιούν την ΤΝ για να κάνει αυτή την δουλειά καλύτερα.....
Δεν χρειάζεται να πάμε στο μέλλον αγαπητέ Θάνο. Από κάθε άποψη, μία νάρκη είναι αυτόνομο όπλο και οι νάρκες δεν είναι καθόλου καινούργιες - η βασικές αρχές λειτουργίας μίας νάρκης ελάχιστα διαφέρουν από εκείνες ενός συστήματος AI, είναι απλά ζήτημα κλίμακας της πολυπλοκότητας και εξηγούμαι:
ΔιαγραφήΣε επίπεδο δομικής λογικής, τόσο η νάρκη όσο και το AI ακολουθούν την ίδια βασική αρχή της πληροφορικής και της κυβερνητικής: Εισαγωγή δεδομένων - επεξεργασία δεδομενων - εξαγωγή δεδομένων.
Στην νάρκη: Εισαγωγή δεδομένων = πίεση 50 (λ.χ.) kg - επεξεργασία δεδομένων = μηχανική/ηλεκτρική πυροδότηση - εξαγωγή δεδομένων = ΚΑΜΠΟΥΜ
Στο AI: Εισαγωγή δεδομένων = δεδομένα από αισθητήρες (λ.χ. μία κάμερα) - επεξεργασία δεδομένων = αλγόριθμος αναγνώρισης αντικειμένου - εξαγωγή δεδομένων = στείλτου ένα πυραυλάκι
Εκτός αυτού υπάρχουν ήδη αυτόνομα οπλικά συστήματα με ενσωματωμένη AI και οι "στρατιώτες" που αναφέρεις απλά επιβλέπουν (όταν το επιτρέπουν οι συνθήκες, αλλά αυτό είναι άλλη μεγάλη κουβέντα), έτοιμοι να διακόψουν τη λειτουργία τους εάν κάτι πάει "στραβα" - το kill switch που λέγαμε.
Από την άλλη πάλι δεν χρειαζόμαστε, νομίζω, καμία AI για να φτάσουμε στην Αποκάλυψη: Ένας όρος σχετικά άγνωστος στο ευρύ κοινό είναι ο "Holocene/Anthropocene Extinction", δλδ. ο ανθρωπογενής μαζικός αφανισμός της βιοποικιλότητας και της ίδιας της ζωής σε απόλυτους αριθμούς, δηλαδή πόση βιομάζα "αναπνέει" στον όμορφο πλανήτη μας. Αυτός ο μαζικός αφανισμός - εξ' όσων μπορούν να συμπεράνουν οι παλαιοντολόγοι - είναι ο έκτος κατά σειρά που βιώνει η Γή και ο πρώτος που δεν οφείλεται σε φυσικά αίτια αλλά στις δραστηριότητες ενός είδους.
Μία "λεπτομέρεια" αυτού του φαινομένου, ακόμα πιό άγνωστη, είναι η συγκριτική ταχύτητα με την οποία εκδηλώνεται: Η πιό ταχεία από τις παλαιότερες μαζικές εξαφανίσεις ήταν η κρίση που εξαφάνισε τους δεινοσαύρους πριν από 66 εκατομμύρια χρόνια - αρκετά πριν εμφανιστεί στη Γή ο άνθρωπος - και η οποία εικάζεται πως προκλήθηκε από την πρόσκρουση ενός γιγαντιαίου μετεωρίτη στο Μεξικό. Τότε, η πλήρης κατάρρευση των παγκόσμιων οικοσυστημάτων και η ολοκληρωτική εξαφάνιση του 75% των βιολογικών πληθυσμών διήρκησε κάμποσους αιώνες, με εκτιμώμενη οροφή τα 10.000 χρόνια. Σε αυτή την καταστροφή, ότι ήταν μεγαλύτερο από ποντίκι εξαφανίστηκε για πάντα. Η αμέσως ταχύτερη που υπήρξε και η πιό μαζική — ο αποκαλούμενος «Μεγάλος Θάνατος» πριν από 250 εκ. χρόνια — διήρκησε περίπου 60.000 χρόνια.
Τώρα, εμείς, μέσα σε μόλις 50 χρόνια (1970–2020), έχουμε καταστρέψει το 73% των πληθυσμών της άγριας ζωής τα οποία καταγράφουμε (θηλαστικά, πουλιά, ερπετά, αμφίβια και ψάρια). Δεν έχουμε ιδέα τι συμβαίνει με αυτά που ΔΕΝ καταγράφουμε, δηλαδή έντομα, μικρόβια, μύκητες κλπ. και τα οποία είναι πολύ πιό βασικά για την διατήρηση της ζωής ως σύστημα και για την αναγέννησή της μετά από κάποιο ισχυρό σοκ. Στα γλυκά νερά (ποτάμια, λίμνες), τα πάμε ακόμα "καλύτερα", πλησιάζοντας το 85%. Και έχουμε μείνει με τα εκτρεφόμενα (ελάχιστα είδη) τα καλλιεργούμενα (πάλι ελάχιστα είδη) και τα... κανίς, ή ότι άλλο μας καπνίσει για... παρέα. Ότι δεν μας γουστάρει, ψεκασμοί και "φύγε εσύ να έρθω εγώ". Και όλοι - μα όλοι - σε θέσεις ισχύος γνωρίζουν πως όταν καταστρέφεις την πολυπλοκότητα ενός συστήματος η κατάρρευση του συστήματος είναι θέμα χρόνου και, στην περίπτωσή μας ΕΛΑΧΙΣΤΟΥ χρόνου. Και πιστεύουμε στα σοβαρά πως θα προλάβει να μας επιτεθεί κάποιο... matrix.
Τα ειπες ολα νομιζω...
ΑπάντησηΔιαγραφήΚαλε μου φιλε εξ όσων διαβασα στο σχολιο σου μάλλον μονο ο Θεός μπορει να ανατρεψει αυτό που ερχεται...
Μονο που δεν ξερω αν θέλει...
Η ελευση του Χριστού προ 2026 έτη μας αφηνει μια ελπιδα οτι τελικα εχει αλλαξει το θελημα Του οσον αφορα τις βιολογικές εξαφανίσεις...