18 Νοεμβρίου 2024

Πώς η Τεχνητή Νοημοσύνη εξαπατά τους καταναλωτές

Γράφει ο ΚΑΤΑΡΑΣ ΚΩΣΤΑΣ
 
 
Η Τεχνητή Νοημοσύνη (ΤΝ) και οι αλγόριθμοι έχουν γίνει κεντρικά εργαλεία στη λειτουργία των επιχειρήσεων, οι οποίες χρησιμοποιούν αυτές τις τεχνολογίες για την παρακολούθηση της καταναλωτικής συμπεριφοράς, την ανάλυση δεδομένων και την προσαρμογή των στρατηγικών τους με σκοπό συχνά την άκρατη μεγιστοποίηση του κέρδους.
 
Η χρήση αυτών των τεχνολογιών, της τεχνητής νοημοσύνης και των αλγορίθμων, έχει εγείρει ανησυχίες για αθέμιτες πρακτικές, καθώς συχνά οι επιχειρήσεις εφαρμόζουν τακτικές που όχι μόνο μεγιστοποιούν τα έσοδά τους, αλλά και εξαπατούν τους καταναλωτές, εκμεταλλευόμενες τα προσωπικά δεδομένων που συλλέγουν και τη συνακόλουθη «ασυμμετρία πληροφόρησης» μεταξύ πωλητών και αγοραστών.
 
Σύμφωνα με τον Άνταμ Σμιθ και την κλασική οικονομική θεωρία του «αόρατου χεριού», οι αγορές τείνουν προς μια φυσική ισορροπία όπου η προσφορά και η ζήτηση βρίσκουν το δρόμο τους προς την αποτελεσματικότητα. Όμως οι καταναλωτές πάντα βρισκόταν σε μειονεκτική θέση λόγω της έλλειψης κρίσιμων πληροφοριών, κάτι που οδήγησε σε μια μορφή «ασυμμετρίας πληροφόρησης» μεταξύ πωλητών και αγοραστών. Παρά την εκρηκτική άνοδο του ίντερνετ και των δεδομένων, η εξισορρόπηση αυτή όχι μόνο δεν πραγματοποιήθηκε, αλλά οι ανισότητες έχουν επιδεινωθεί λόγω των εξελιγμένων στρατηγικών που χρησιμοποιούν οι επιχειρήσεις. 
 
Η σύγχρονη αγορά βασίζεται στην ανάλυση προσωπικών δεδομένων και στην προσαρμογή των τιμών με βάση τον αλγοριθμικό έλεγχο. Με τη βοήθεια των αλγορίθμων, οι επιχειρήσεις μπορούν να προβλέπουν τις ανάγκες και τις προτιμήσεις των πελατών, προσαρμόζοντας τις τιμές και τις υπηρεσίες αναλόγως.
 
Η Τεχνητή Νοημοσύνη ως Εργαλείο Εκμετάλλευσης 
 
Αυτή η εξατομίκευση μπορεί να έχει προφανή οφέλη, όπως την καλύτερη εξυπηρέτηση και την παροχή κατάλληλων προϊόντων στους καταναλωτές. Όμως, σε πολλές περιπτώσεις, η χρήση της εξατομίκευσης γίνεται σε βάρος των πελατών, καθώς οι εταιρείες εκμεταλλεύονται τα προσωπικά δεδομένα για να επιτύχουν υψηλότερες τιμές και να ενισχύσουν τη θέση τους στην αγορά. 
 
Στο σχετικό βιβλίο μου (“Σιωπηλός Καινούργιος Κόσμος”) παρουσιάζονται εντυπωσιακά παραδείγματα αθέμιτων πρακτικών όπου οι αλγόριθμοι χρησιμοποιούνται για να προσαρμόζουν τις τιμές αναλόγως της προσωπικής κατάστασης του καταναλωτή, όπως στην περίπτωση της Uber ταξί που αύξανε τις τιμές (surge pricing) με βάση την μπαταρία του κινητού του πελάτη και τον γεωεντοπισμό, και όχι μόνο ( δηλ. χαμηλή μπαταρία και απομακρυσμένο σημείο, σήμαινε δυσκολία επικοινωνίας και με άλλες εταιρίες ταξί, άρα ο πελάτης εύκολα θα δεχόταν μια υψηλότερη τιμή, δες σχετικά Harvard Business Review).
 
Ομοίως, οι αεροπορικές εταιρείες μπορούν να «διαβάζουν» από τα προσωπικά δεδομένα των ταξιδιωτών τις επικείμενες μετακινήσεις (πχ ανάγκη για επίσκεψη σε γονείς / οικογένεια ) και να ανεβάζουν τις τιμές όταν ανιχνεύσουν ότι ένας καταναλωτής έχει υψηλή ανάγκη για ένα συγκεκριμένο εισιτήριο / προορισμό. Η πρακτική αυτή είναι γνωστή ως «προσωποποιημένη τιμολόγηση» και βασίζεται στη χρήση τεχνητής νοημοσύνης που αναλύει τα μοτίβα κατανάλωσης του κάθε ατόμου, αλλά και στην παράνομη πρόσβαση στα προσωπικά δεδομένα του, για να εκμεταλλευτεί τις ανάγκες / αδυναμίες του. 
 
Ένα άλλο χαρακτηριστικό παράδειγμα αναφέρεται στο ηλεκτρονικό εμπόριο, όπου για παράδειγμα η Amazon έχει κατηγορηθεί για πρακτικές όπως η αυθαίρετη αύξηση των τιμών, η δημιουργία ψευδών εκπτώσεων και η προώθηση προϊόντων με βάση τις καταναλωτικές ανάγκες. Σε περιόδους κρίσης, όπως στην πανδημία COVID-19 ή σε φυσικές καταστροφές, καταγράφηκαν ακραία περιστατικά όπου οι τιμές προϊόντων πρώτης ανάγκης, όπως το νερό ή τα φάρμακα, εκτοξεύθηκαν. Ο αλγοριθμικός έλεγχος των τιμών λειτουργεί χωρίς ηθικούς φραγμούς, και στόχος είναι αποκλειστικά το οικονομικό όφελος. (“Amazon is under fire for reported Hurricane Irma price gouging, with ‘life-sustaining necessities’ selling for wildly inflated prices”, Business Insider, 7 Σεπτεμβρίου 2017).
 
Η τεχνητή νοημοσύνη δεν έχει ηθικούς φραγμούς 
 
Η κινεζική πλατφόρμα αγορών Temu, που τώρα ερευνάται από την ΕΕ για παράνομα προϊόντα και «δυνητικά εθιστικό σχεδιασμό»), χρησιμοποιεί στο έπακρο της δυνατότητες της ΤΝ για να διαμορφώνει και να αλλάζει ακαριαία τις τιμές των προϊόντων με βάση την ανάλυση των δεδομένων του χρήστη και με βάση την αρχή “όσο καλύτερα σε ξέρω, τόσο ακριβότερα θα σε χρεώνω”. Για αυτό συστήνεται από τους ειδικούς, μεταξύ άλλων, οι χρήστες να μην χρησιμοποιούν της εφαρμογή της (app), αλλά να συνδέονται από το διαδίκτυο.
 
Η έρευνα θα εξετάσει επίσης τους κινδύνους από τη χρήση από τη πλατφόρμα του gamification («παιχνιδοποίησησης»), εκτός του «δυνητικά εθιστικού σχεδιασμού» της, τις τεχνικές χρονικής πίεσης, την ψευδαίσθηση της έλλειψης προϊόντων κλπ , που θα μπορούσαν να βλάψουν τη «σωματική και ψυχική ευεξία των χρηστών» στην ΕΕ.
 
Η Συγκέντρωση Δεδομένων και η Εμπορική Εκμετάλλευση.
 
Οι κάρτες πιστότητας που προσφέρονται από πολλές αλυσίδες καταστημάτων είναι άλλο ένα μέσο για την αξιοποίηση της αγοραστικής συμπεριφοράς. Κάποιες φορές αντί να λειτουργούν προς όφελος των καταναλωτών, χρησιμοποιούνται για να αντλούν πολύτιμα δεδομένα, όπως οι συνήθειες και οι προτιμήσεις τους. Η ανάλυση αυτών των δεδομένων επιτρέπει στις επιχειρήσεις να εκτιμούν πόσο πρόθυμος ή αναγκασμένος είναι ένας πελάτης να αγοράσει τώρα κάτι και σε ποιά τιμή και να προσαρμόζουν τις τιμές αναλόγως (πχ πόσο μακριά είναι ένα άλλο/ανταγωνιστικό κατάστημα από το σπίτι του πελάτη). 
 
Οι πλατφόρμες ή τα σουπερμάρκετ, χρησιμοποιούν συχνά τα δεδομένα αυτά για να επιτύχουν καλύτερη, «δυναμική», τιμολόγηση. Για παράδειγμα, μια πλατφόρμα ταξιδιών στις ΗΠΑ είχε βρεθεί να προτείνει πιο ακριβές επιλογές ανάλογα με το λειτουργικό σύστημα που χρησιμοποιεί ο καταναλωτής (πχ με βάση την εύλογη υπόθεση ότι ένα χρήστης Mac ή iPhone, μάλλον μπορεί να πληρώσει περισσότερα από έναν χρήστη με PC ή Android !! ). Η στρατηγική αυτή αποκαλύπτει τις αθέμιτες πρακτικές που μπορεί να αναπτύξουν οι εταιρείες, οι οποίες, αντί να προσφέρουν τις ίδιες επιλογές σε όλους, κατευθύνουν τους πελάτες τους σε πιο ακριβά προϊόντα ή υπηρεσίες ανάλογα με τα δεδομένα που συλλέγουν, ή και πιο ακριβή τιμή για το ίδιο ακριβώς προϊόν. 
 
Η Ηθική Διάσταση της Αλγοριθμικής Εκμετάλλευσης. 
 
Σύμφωνα με τους κοινωνιολόγους και τους οικονομολόγους, η χρήση των αλγορίθμων με αυτόν τον τρόπο δημιουργεί ανισότητες και συμβάλλει σε μια κατάσταση «ανισορροπίας δύναμης», έτσι οι αλγόριθμοι έχουν μετατραπεί σε μέσο καταπίεσης. Ο χρήστης μπορεί να αισθάνεται ότι ελέγχει την αγορά μέσω του κινητού του, αλλά στην πραγματικότητα τα δεδομένα του ελέγχουν τις επιλογές του. Η ενίσχυση της «πληροφοριακής ασυμμετρίας» (information asymmetry) καθιστά τον καταναλωτή έρμαιο των αλγοριθμικών αποφάσεων, που συχνά επιβάλλουν τη δική τους ατζέντα, χωρίς να προσφέρουν πραγματική ελευθερία επιλογής. 
 
Προς μια Δίκαιη και Διαφανή Ψηφιακή Αγορά; 
 
Η αυξανόμενη συνειδητοποίηση της αθέμιτης χρήσης αλγορίθμων και ΤΝ έχει δημιουργήσει πιέσεις για την ανάπτυξη κανονισμών και νόμων που θα προστατεύουν τους καταναλωτές από την εκμετάλλευση. Ορισμένες χώρες και οργανισμοί, όπως η Ευρωπαϊκή Ένωση, έχουν ήδη ξεκινήσει την υιοθέτηση αυστηρών νόμων προστασίας δεδομένων και διαφάνειας στις τιμολογήσεις. Ωστόσο, αυτές οι ρυθμίσεις πρέπει να επεκταθούν και να εφαρμοστούν με αυστηρότερο τρόπο, ώστε να περιοριστεί η αθέμιτη τιμολόγηση και να διασφαλιστεί ότι οι καταναλωτές λαμβάνουν δίκαιες τιμές.
 
Η Ευρωπαϊκή Ένωση (ΕΕ) έχει ήδη θεσπίσει και υιοθετήσει σημαντικές νομοθεσίες που στοχεύουν στην προστασία των καταναλωτών και τη διαφάνεια στη χρήση δεδομένων και τιμολογήσεων, όπως: 
 
1. Γενικός Κανονισμός για την Προστασία Δεδομένων (GDPR)
 
Ο Γενικός Κανονισμός για την Προστασία Δεδομένων (GDPR), που εφαρμόζεται από το 2018, είναι ένας από τους πιο αυστηρούς κανονισμούς παγκοσμίως σε θέματα προστασίας προσωπικών δεδομένων, όπου μεταξύ άλλων προβλέπει ότι οι επιχειρήσεις δεν μπορούν να συλλέγουν ή να επεξεργάζονται δεδομένα χωρίς τη ρητή συγκατάθεση των ατόμων.
 
Ο GDPR θα μπορούσε να συμβάλλει στη διαφάνεια των πρακτικών και στη διασφάλιση ότι τα δεδομένα των καταναλωτών δεν μπορούν να χρησιμοποιηθούν για «κρυφές» αλγοριθμικές τιμολογήσεις ή άλλες πρακτικές που θα μπορούσαν να τους βλάψουν.
 
2. Digital Services Act (DSA) και Digital Markets Act (DMA)
 
Η ΕΕ έχει επίσης θεσπίσει τον Νόμο για τις Ψηφιακές Υπηρεσίες (Digital Services Act – DSA) και τον Νόμο για τις Ψηφιακές Αγορές (Digital Markets Act – DMA), οι οποίοι θα αρχίσουν να ισχύουν πλήρως το 2024. Αυτές οι νομοθεσίες στοχεύουν στην αποκατάσταση της ισορροπίας δύναμης μεταξύ μεγάλων διαδικτυακών πλατφορμών και καταναλωτών. 
 
3. Οδηγία για την Καταναλωτική Προστασία (Directive on Consumer Protection)
 
Επιπλέον, η ΕΕ εφαρμόζει πρόσφατα μια αναθεωρημένη Οδηγία για την Καταναλωτική Προστασία (2020), η οποία μεταξύ άλλων, υποχρεώνει τις εταιρείες να είναι διαφανείς στις τιμές, απαγορεύοντας τις παραπλανητικές εκπτώσεις και να προσποιούνται ότι η τιμή είναι μοναδική ή περιορισμένη. 
 
4. Κανονισμός για την Τεχνητή Νοημοσύνη (AI Act)
 
Τέλος, ο Κανονισμός για την Τεχνητή Νοημοσύνη (AI Act), που βρίσκεται ακόμη υπό επεξεργασία, στοχεύει στη ρύθμιση των εφαρμογών τεχνητής νοημοσύνης που μπορούν να επηρεάσουν άμεσα τους καταναλωτές. Ο κανονισμός:
 
– Απαγορεύει την εκμετάλλευση ευάλωτων ατόμων μέσω ΤΝ: Ορίζει ότι οι αλγόριθμοι δεν πρέπει να εκμεταλλεύονται ευάλωτες ομάδες, π.χ., παιδιά ή οικονομικά ευάλωτους ανθρώπους.
– Απαιτεί διαφάνεια στη λήψη αποφάσεων μέσω ΤΝ: Οι επιχειρήσεις πρέπει να ενημερώνουν πότε οι τιμές ή οι επιλογές τους καθορίζονται από αλγοριθμικά συστήματα.
– Προβλέπει αυστηρές κυρώσεις για παραβάσεις που αφορούν πρακτικές εξαπάτησης μέσω αλγορίθμων ή ΤΝ. 
 
Τεχνητή Νοημοσύνη: Εργαλείο ή Ανεξέλεχτη Δύναμη; 
 
Η ΤΝ έχει τη δυνατότητα να αποτελέσει το πιο ισχυρό εργαλείο της ανθρώπινης ιστορίας. Ο φιλόσοφος Νικ Μπόστρομ, στο σχετικό βιβλίο του (Nick Bostrom- Superintelligence: Paths, Dangers, Strategies), υποστηρίζει ότι η ΤΝ μπορεί να ξεπεράσει την ανθρώπινη νοημοσύνη, δημιουργώντας συνθήκες πρωτοφανείς για την ανθρωπότητα. Με απλά λόγια, η ΤΝ μπορεί να γίνει ένας Υπερ-ευφυής οργανισμός που θα διαχειρίζεται τεράστιες ποσότητες δεδομένων με πρωτοφανή ταχύτητα και ακρίβεια. Αυτός ο οργανισμός θα μπορεί να παίρνει αποφάσεις χωρίς ανθρώπινη παρέμβαση, κάτι που εγείρει έντονα ηθικά και φιλοσοφικά ζητήματα.
 
Ο σκεπτόμενος άνθρωπος σήμερα λοιπόν δικαιολογημένα αναρωτιέται αν η ανθρωπότητα μπορεί να δαμάσει την ΤΝ ή αν η ΤΝ θα γίνει τελικά μία ανεξέλεγκτη δύναμη. Αυτό το ερώτημα επανέρχεται συχνά και στους σύγχρονους κύκλους της διανόησης, με στοχαστές όπως ο Στίβεν Χόκινγκ να εκφράζουν την ανησυχία τους ότι η ΤΝ, αν δεν τεθούν οι απαραίτητοι έλεγχοι, μπορεί να γίνει «η χειρότερη επινόηση της ανθρωπότητας».
 



Share

Δεν υπάρχουν σχόλια:

Λίγες οδηγίες πριν επισκεφθείτε το ιστολόγιό μας (Για νέους επισκέπτες)

1. Στην στήλη αριστερά βλέπετε τις αναρτήσεις του ιστολογίου μας τις οποίες μπορείτε ελεύθερα να σχολιάσετε επωνύμως, ανωνύμως ή με ψευδώνυμο, πατώντας απλά την λέξη κάτω από την ανάρτηση που γραφει "σχόλια" ή "δημοσίευση σχολίου" (σας προτείνω να διαβάσετε με προσοχή τις οδηγίες που θα βρείτε πάνω από την φόρμα που θα ανοίξει ώστε να γραψετε το σχόλιό σας). Επίσης μπορείτε να στείλετε σε φίλους σας την συγκεκριμένη ανάρτηση που θέλετε απλά πατώντας τον φάκελλο που βλέπετε στο κάτω μέρος της ανάρτησης. Θα ανοίξει μια φόρμα στην οποία μπορείτε να γράψετε το email του φίλου σας, ενώ αν έχετε προφίλ στο Facebook ή στο Twitter μπορείτε με τα εικονίδια που θα βρείτε στο τέλος της ανάρτησης να την μοιραστείτε με τους φίλους σας.

2. Στην δεξιά στήλη του ιστολογίου μας μπορείτε να βρείτε το πλαίσιο στο οποίο βάζοντας το email σας και πατώντας την λέξη Submit θα ενημερώνεστε αυτόματα για τις τελευταίες αναρτήσεις του ιστολογίου μας.

3. Αν έχετε λογαριασμό στο Twitter σας δινεται η δυνατότητα να μας κάνετε follow και να παρακολουθείτε το ιστολόγιό μας από εκεί. Θα βρείτε το σχετικό εικονίδιο του Twitter κάτω από τα πλαίσια του Google Friend Connect, στην δεξιά στήλη του ιστολογίου μας.

4. Μπορείτε να ενημερωθείτε από την δεξιά στήλη του ιστολογίου μας με τα διάφορα gadgets για τον καιρό, να δείτε ανακοινώσεις, στατιστικά, ειδήσεις και λόγια ή κείμενα που δείχνουν τις αρχές και τα πιστεύω του ιστολογίου μας. Επίσης μπορείτε να κάνετε αναζήτηση βάζοντας μια λέξη στο πλαίσιο της Αναζήτησης (κάτω από τους αναγνώστες μας). Πατώντας την λέξη Αναζήτηση θα εμφανιστούν σχετικές αναρτήσεις μας πάνω από τον χώρο των αναρτήσεων. Παράλληλα μπορείτε να δείτε τις αναρτήσεις του τρέχοντος μήνα αλλά και να επιλέξετε κάποια συγκεκριμένη κατηγορία αναρτήσεων από την σχετική στήλη δεξιά.

5. Μπορείτε ακόμα να αφήσετε το μήνυμά σας στο μικρό τσατάκι του blog μας στην δεξιά στήλη γράφοντας απλά το όνομά σας ή κάποιο ψευδώνυμο στην θέση "όνομα" (name) και το μήνυμά σας στην θέση "Μήνυμα" (Message).

6. Επίσης μπορείτε να μας στείλετε ηλεκτρονικό μήνυμα στην διεύθυνσή μας koukthanos@gmail.com με όποιο περιεχόμενο επιθυμείτε. Αν είναι σε προσωπικό επίπεδο θα λάβετε πολύ σύντομα απάντησή μας.

7. Τέλος μπορείτε να βρείτε στην δεξιά στήλη του ιστολογίου μας τα φιλικά μας ιστολόγια, τα ιστολόγια που παρακολουθούμε αλλά και πολλούς ενδιαφέροντες συνδέσμους.

Να σας υπενθυμίσουμε ότι παρακάτω μπορείτε να βρείτε χρήσιμες οδηγίες για την κατασκευή των αναρτήσεών μας αλλά και στην κάτω μπάρα του ιστολογίου μας ότι έχει σχέση με δημοσιεύσεις και πνευματικά δικαιώματα.

ΣΑΣ ΕΥΧΟΜΑΣΤΕ ΚΑΛΗ ΠΕΡΙΗΓΗΣΗ

Χρήσιμες οδηγίες για τις αναρτήσεις μας.

1. Στις αναρτήσεις μας μπαίνει ΠΑΝΤΑ η πηγή σε οποιαδήποτε ανάρτηση ή μερος αναρτησης που προέρχεται απο άλλο ιστολόγιο. Αν δεν προέρχεται από κάποιο άλλο ιστολόγιο και προέρχεται από φίλο αναγνώστη ή επώνυμο ή άνωνυμο συγγραφέα, υπάρχει ΠΑΝΤΑ σε εμφανες σημείο το ονομά του ή αναφέρεται ότι προέρχεται από ανώνυμο αναγνώστη μας.

2. Για όλες τις υπόλοιπες αναρτήσεις που δεν έχουν υπογραφή ΙΣΧΥΕΙ η αυτόματη υπογραφή της ανάρτησης. Ετσι όταν δεν βλέπετε καμιά πηγή ή αναφορά σε ανωνυμο ή επώνυμο συντάκτη να θεωρείτε ΩΣ ΑΥΣΤΗΡΟ ΚΑΝΟΝΑ ότι ισχύει η αυτόματη υπογραφή του αναρτήσαντα.

3. Οταν βλέπετε ανάρτηση με πηγή ή και επώνυμο ή ανώνυμο συντάκτη αλλά στη συνέχεια υπάρχει και ΣΧΟΛΙΟ, τότε αυτό είναι ΚΑΙ ΠΑΛΙ του αναρτήσαντα δηλαδή είναι σχόλιο που προέρχεται από το ιστολόγιό μας.

Σημείωση: Να σημειώσουμε ότι εκτός των αναρτήσεων που υπογράφει ο διαχειριστής μας, όλες οι άλλες απόψεις που αναφέρονται σε αυτές ανήκουν αποκλειστικά στους συντάκτες των άρθρων. Τέλος άλλες πληροφορίες για δημοσιεύσεις και πνευματικά δικαιώματα μπορείτε να βρείτε στην κάτω μπάρα του ιστολογίου μας.