↑ Επιστροφή σε Ψηφιακό περιβάλλον

ΔΙΑΔΙΚΤΥΟ

https://www.kathimerini.gr/opinion/sketches/561186514/skitso-toy-dimitri-chantzopoyloy-06-12-20/

 

ΒΙΒΛΙΟ

Oι μεροληψίες και η ηθική της τεχνητής νοημοσύνης

Οταν το 2014 η DeepMind, εταιρεία τεχνητής νοημοσύνης (Τ.Ν.) του Ντέμις Χασάμπις, εξαγοράστηκε για 400 εκατομμύρια δολάρια από την Google, ένας από τους όρους που τέθηκε στο συμβόλαιο ήταν να ιδρύσει ένα συμβούλιο ηθικής της Τ.Ν. Το 2019, η Google συντάσσει αυτό το συμβούλιο, όμως, δύο εβδομάδες αργότερα, διαλύεται. Εκτοτε η προσπάθεια ταύτισης της Google με την ηθική της T.N. γίνεται όλο και πιο προβληματική.

Στις αρχές του Δεκεμβρίου του 2020, η 37χρονη Τίμνιτ Γκεμπρού, από τις ελάχιστες μαύρες γυναίκες σε υψηλή θέση στη Σίλικον Βάλεϊ και ερευνήτρια για την ηθική της Τ.Ν. στην Google, απέστειλε ένα email στους ανώτερούς της, όπου ζητούσε να γίνουν περισσότερες προσλήψεις ανθρώπων που ανήκουν σε μειονότητες και μιλούσε για σοβαρές μεροληψίες στους αλγόριθμους της εταιρείας. Αμέσως μετά, ενημερώθηκε ότι είχε… παραιτηθεί.
Η Γκεμπρού υποστήριξε ότι απολύθηκε εξαιτίας έρευνάς της, την οποία συνυπέγραψαν ακόμη τέσσερις συνάδελφοί της στην εταιρεία. Στη δημοσίευσή τους, οι ερευνητές ασκούσαν τεκμηριωμένη κριτική στα αλγοριθμικά μοντέλα επεξεργασίας γλωσσών που χρησιμοποιεί κατά κόρον η Google στα προϊόντα της. Υπάρχουν πάρα πολύ μεγάλες πιθανότητες να εκπαιδεύουμε τις μηχανές να μεροληπτούν, ανέφερε η έρευνα, καθώς τις ταΐζουμε με άφθονα μεροληπτικά δεδομένα. Αλλά το ακόμη πιο κρίσιμο σημείο ήταν η επισήμανση ότι αυτά τα μοντέλα μπορούν να μιμούνται τόσο καλά την πραγματική ανθρώπινη γλώσσα, που τους είναι πολύ εύκολο να κοροϊδεύουν τους ανθρώπους. «Υπάρχει ο κίνδυνος», γράφει η δημοσιογράφος Κάρεν Χάο στο περιοδικό MIT Technology Review, «να χρησιμοποιηθούν αυτά τα μοντέλα της Τ.Ν. με τέτοιο τρόπο, ώστε να παραχθεί παραπληροφόρηση για εκλογές ή για την πανδημία της COVID-19. Μπορεί επίσης να κάνουν και σοβαρά λάθη στη μετάφραση, με επιβλαβείς συνέπειες».

Οι περισσότεροι από εμάς δεν μπορούμε να κατανοήσουμε ούτε το νόημα των φράσεων «ηθική της Τ.Ν.» και «αλγοριθμικές μεροληψίες», αλλά ούτε και τον τρόπο με τον οποίο μπορεί να συνδέονται αυτά τα δύο. Πολλοί δυσκολεύονται να καταλάβουν γιατί πρέπει να είναι ψηλά στις προτεραιότητες των ενδιαφερόντων μας τέτοια πράγματα. Εδώ έχουμε πανδημίες, προβλήματα με τα εμβόλια, με τους γείτονές μας, με την ηθική της Τ.Ν. θα ασχολούμαστε;

Ας πάμε ένα βήμα πίσω. Τις τελευταίες δεκαετίες, οι τεχνολογικές εξελίξεις σχετίζονται με την αυτοματοποίηση. Οταν μπαίνουμε σ’ ένα αεροπλάνο γνωρίζουμε ότι η πτήση μας μπαίνει στον αυτόματο πιλότο, ενώ έχουμε όλοι δει σε ρεπορτάζ κάποια ρομπότ σε βιομηχανικές εγκαταστάσεις να εκτελούν αυτοματοποιημένες εργασίες. Η τάση είναι ξεκάθαρη, αν και όχι τόσο οφθαλμοφανής: δημιουργούμε μηχανές που μας απαλλάσσουν από εργασίες, κάνοντάς τις πιο αποδοτικές, πιο ελεγχόμενες κι ίσως πιο ασφαλείς. Η Τ.Ν., αλλά και το παρακλάδι της, η μηχανική μάθηση (Μ.Μ.), είναι το κύριο πεδίο της αυτοματοποίησης. Με απλά λόγια, η Τ.Ν. είναι ένα σύστημα το οποίο επεξεργάζεται δεδομένα, μέσω μεταβλητών κι εντολών, κι έχει στόχο την εξαγωγή ενός σταθερά προβλέψιμου αποτελέσματος. Αυτά που βλέπουμε στο Facebook είναι το αποτέλεσμα μιας τέτοιας νοημοσύνης.
Οι μεγάλες επενδύσεις που θα γίνουν το επόμενο διάστημα παγκοσμίως στην Τ.Ν. και στη Μ.Μ. θα αυτοματοποιήσουν καθετί που μπορεί να αυτοματοποιηθεί και θα απελευθερώσουν τον άνθρωπο από τα δεσμά της εργασίας και το άγχος της περιπλοκότητας. Αυτή είναι η θετική πλευρά και δεν είναι καθόλου αμελητέα. Προσδεθείτε, μιλάμε για μια τεράστια επανάσταση. Απ’ την άλλη, η πιο γνωστή αρνητική πλευρά έχει να κάνει με την απώλεια των θέσεων εργασίας που αναπόφευκτα θα επέλθει.

Το κόστος που θα χρειαστεί να πληρώσουν οι κοινωνίες είναι ακόμα αχαρτογράφητο πεδίο. Αλλά μια εξίσου σοβαρή συνέπεια είναι η ίδια η φύση των αποτελεσμάτων που προσδοκούμε από τα συστήματα της Τ.Ν., καθώς η αυτοματοποίηση –ιδίως εκείνη των ανθρώπινων αποφάσεων– δεν είναι κάτι απλό, ούτε ουδέτερο. Μπορεί στην πορεία να κάνουμε μεγάλα λάθη, υπονομεύοντας καθετί που κατακτήσαμε με κόπους αιώνων. Εδώ, λοιπόν, έρχεται να μας βοηθήσει η φιλοσοφία.

Η ηθική της Τ.Ν. απασχολεί τους επιστήμονες από την αρχή της εξερεύνησης του πεδίου. Σταδιακά, αρχίζει να απασχολεί ολοένα και περισσότερους, καθώς αυτοματοποιημένες διαδικασίες λήψης αποφάσεων χρησιμοποιούνται σε νευραλγικούς τομείς της κοινωνίας και της οικονομίας, τόσο από ιδιωτικούς όσο και από δημόσιους οργανισμούς.

Πώς θα νιώθατε αν ένας αλγόριθμος σας έφραζε τον δρόμο για ένα δάνειο ή για μια θέση εργασίας; Πώς θα νιώθατε αν ένας αλγόριθμος διάβαζε λάθος την πινακίδα του STOP την ώρα που βρίσκεστε στο αυτοκινούμενο όχημά σας; Ή αν παραποιηθούν ξαφνικά τα δεδομένα του ιατρικού σας ιστορικού την ώρα που ετοιμάζεστε για ένα σοβαρό χειρουργείο; Η ηθική διάσταση της Τ.Ν., το αν δηλαδή θέλει το καλό μας, αν είναι σωστή ή αν μεροληπτεί υπέρ ή εναντίον μας, αλλά και η ασφάλεια, η διαφάνεια, η ιδιωτικότητα, όσο και η εξηγησιμότητα των αποφάσεών της, είναι κάτι που τα επόμενα χρόνια θα μας αφορά όλους. Πώς θα διασφαλίσουμε όμως ότι η Τ.Ν. θα είναι υπεύθυνη; Πρέπει πρώτα να καταλάβουμε γιατί πράγμα μιλάμε.
Το υπουργείο Οικονομικών της Ελλάδας άφησε να διαρρεύσει πρόσφατα ότι θα χρησιμοποιήσει μια τεχνητή νοημοσύνη στην υπηρεσία της πάταξης της φοροδιαφυγής. Αυτό μπορεί να είναι ένα πολύ καλό νέο, καθώς η μηχανή θα βγάλει από την εξίσωση τον δυνητικά διεφθαρμένο υπάλληλο της εφορίας, αλλά θα δώσει μεγάλη ισχύ στους προγραμματιστές και στους σχεδιαστές της Τ.Ν. Θα πρέπει το μοντέλο τους να δοκιμαστεί με πλήθος κριτηρίων προκειμένου να είναι αξιόπιστο και υπεύθυνο. Υπάρχει, μ’ άλλα λόγια, ο ορατός κίνδυνος, σε μια εποχή μεγάλης ψηφιακής επιτάχυνσης, να μην υπολογιστούν σημαντικά κόστη και παρενέργειες και να δημιουργηθούν συνθήκες που θα είναι πολύ δύσκολο να αντιστραφούν. Φυσικά, όπως θα δούμε, υπάρχουν λύσεις.

Η εξέλιξη και ο ανθρώπινος εγκέφαλος

Ας πάμε ακόμη ένα βήμα πίσω. Οπως έχει δείξει ο κάτοχος του Νομπέλ Οικονομίας Ντάνιελ Κάνεμαν στο διαυγές έργο του «Σκέψη, αργή και γρήγορη» (μτφρ. Βασιλική Παπαδοπούλου, εκδ. Κάτοπτρο, 2013), είμαστε βαθύτατα μεροληπτικά όντα, διχασμένα ανάμεσα σ’ έναν εαυτό που σκέφτεται γρήγορα κι αυτόματα και σ’ έναν εαυτό που σκέφτεται αργά κατόπιν μεγάλης προσπάθειας. Πιστεύουμε, ως το έξυπνο ανθρώπινο ον που είναι ο καθένας μας, ότι οι αποφάσεις μας είναι προϊόντα συνειδητής σκέψης. Ομως οι συλλογισμοί μας είναι ευάλωτοι σε μια σειρά μεροληψιών, οι οποίες αλλοιώνουν την κρίση μας αποφασιστικά, ενώ την ίδια στιγμή αγνοούμε την άγνοιά μας. Είναι αδυναμίες που έχει εγκαταστήσει η εξέλιξη στον εγκέφαλό μας εδώ και χιλιάδες χρόνια.

Αν ανατρέξει κανείς στο λήμμα της Wikipedia με τίτλο «Κατάλογος γνωστικών μεροληψιών» https://en.wikipedia.org/wiki/List_of_cognitive_biases, θα καταλάβει ότι ο εγκέφαλός μας είναι πραγματικά έκθετος σε δεκάδες συστηματικά γνωστικές μεροληψίες και οι αποφάσεις μας ευεπίφορες στο σφάλμα. Εξελιχθήκαμε βιολογικά προσαρμοζόμενοι σ’ ένα περιβάλλον που δεν επιβράβευε την εξέχουσα διάνοια, αλλά τη συνεργασία και την προστασία. Με λίγα λόγια, η εξέλιξη έκανε τους εγκεφάλους μας ευαίσθητους σε γρήγορα ερεθίσματα, για να μας προστατεύσει από τους κινδύνους. Μας έκανε επίσης ατελείς στοχαστές, γιατί χρειαζόμασταν τις ευκολίες, τους σύντομους δρόμους. Οι μεροληψίες μάς βοήθησαν να επιβιώσουμε σε δύσκολα κι εχθρικά περιβάλλοντα. Τώρα όμως, σε πολλές περιπτώσεις αυτές οι ίδιες μας υπονομεύουν, καθώς τις εντάσσουμε στους αλγορίθμους μας.

Οι καθηγητές Γνωσιακής Επιστήμης Στίβεν Σλόμαν και Φίλιπ Φέρνμπαχ, στο βιβλίο τους «Η ψευδαίσθηση της γνώσης – Πώς η συλλογική σκέψη οδηγεί στην επιτυχία» (μτφρ. Χρήστος Μπαρουξής, εκδ. Ψυχογιός, 2017), αναφέρουν ένα παράδειγμα που αποδεικνύει ότι υπερεκτιμάμε συστηματικά τις γνώσεις μας και κατ’ επέκταση την ικανότητά μας να λαμβάνουμε καλές αποφάσεις. «Η Ρεμπέκα Λόσον, ψυχολόγος στο Πανεπιστήμιο του Λίβερπουλ», γράφουν, «έδειξε σε μια ομάδα προπτυχιακών φοιτητών Ψυχολογίας το σκίτσο ενός ποδηλάτου απ’ το οποίο έλειπαν η αλυσίδα, τα πετάλια και αρκετά μέρη ενός σκελετού. Υστερα ζήτησε απ’ τους φοιτητές να συμπληρώσουν τα μέρη που έλειπαν. Δοκιμάστε το κι εσείς. Ποια μέρη του σκελετού λείπουν; Πού μπαίνουν η αλυσίδα και τα πετάλια; Μπορεί να εκπλαγείτε με το πόσο δύσκολο είναι να απαντήσετε σ’ αυτά τα ερωτήματα. Στη μελέτη της Λόσον, σχεδόν οι μισοί φοιτητές δεν κατάφεραν να συμπληρώσουν το σκίτσο (…) Ούτε και έμπειροι ποδηλάτες δεν κατάφεραν να ολοκληρώσουν αυτή τη φαινομενικά εύκολη δοκιμασία χωρίς λάθη. Είναι εντυπωσιακό πόσο αποσπασματική και ρηχή είναι η κατανόηση που έχουμε για οικεία αντικείμενα, ακόμα και για αντικείμενα που συναντάμε συνεχώς και είναι εύκολο να παρατηρήσουμε τους μηχανισμούς τους». Φανταστείτε τι συμβαίνει με πράγματα που δεν έχουν άμεσα ορατούς μηχανισμούς, όπως η πολιτική, η πιστοληπτική ικανότητα, η επιδημιολογία ή η Δικαιοσύνη.

Μια βομβιστική επίθεση που δεν έκανε ο Τζούελ

Η πιο πρόσφατη ταινία του ανοξείδωτου καλλιτέχνη Κλιντ Ιστγουντ, «Η μπαλάντα του Ρίτσαρντ Τζούελ» (2019), είναι μια εκπληκτική αλληγορία για τις μεροληψίες στους μηχανισμούς απόδοσης της δικαιοσύνης. Βασίζεται σε αληθινή ιστορία όπου οι περισσότεροι εμπλεκόμενοι έπαιξαν έναν αξιοκατάκριτο ρόλο, με τα μίντια μάλιστα να πρωτοστατούν.

Ομως το θέμα της ταινίας δεν σταματά στον ρόλο των δημοσιογράφων που λειτουργούν συχνά ως ιμάντας μεταφοράς πληροφοριών από τις Αρχές, αλλά επεκτείνεται στα ίδια τα μοντέλα της Δικαιοσύνης στον σύγχρονο κόσμο. Ο σκηνοθέτης, από την αρχή της ταινίας, μας δείχνει έναν καθημερινό άνθρωπο να βρίσκεται τη λάθος στιγμή στο λάθος σημείο. Ο Τζούελ κατηγορείται για μια βομβιστική επίθεση που δεν έκανε. Ολοι όσοι εμπλέκονται στην αναζήτηση της αλήθειας προτιμούν να τον στοχοποιήσουν, συντριπτικά, σχεδόν αυτόματα. Κατασκευάζουν τον ένοχο, κατασκευάζοντας ένα υποθετικό προφίλ.

Εδώ, το μοντέλο απονομής δικαιοσύνης βασίζεται στην υπόθεση «Αν…, τότε…». Αυτή είναι η λογική αλγοριθμική επεξεργασία που υιοθετείται προκειμένου να αποδειχθεί η αθωότητα ή η ενοχή. Ομως με τα στρεβλά τους δεδομένα υπό μάλης, οι μεροληπτικοί εγκέφαλοι που εμπλέκονται στη συγκεκριμένη διαδικασία παράγουν ένα καταδικαστικό αποτέλεσμα.

Μια σπουδαία παραβολή

Ο Ιστγουντ, με αφορμή το αθώο θύμα, κατασκευάζει –ίσως άθελά του– μια σπουδαία παραβολή για τον κόσμο των αυτοματοποιημένων αποφάσεων. Ο ήρωας είναι ένας καλόκαρδος χοντρούλης που αποτυγχάνει να γίνει αστυνομικός και γίνεται σεκιουριτάς. Παίρνει τον ρόλο του πολύ σοβαρά. Είναι αφελής. Ξεσκονίζοντας το παρελθόν του, όλα δένουν. Το προφίλ του, αλλά και τυχαία γεγονότα, προδικάζει το αποτέλεσμα. Ομως ο αλγόριθμος είναι λάθος, γιατί το μοντέλο έχει πρόβλημα. Τόσο οι εισροές, τα δεδομένα που λαμβάνονται υπόψη βάσει του προφίλ που του σχεδίασαν, όσο και η διαδικασία της επεξεργασίας των στοιχείων, επειδή ήταν μεροληπτική, έκανε διακρίσεις και λάθος υποθέσεις· ήταν όλα προβληματικά. Λάθος υποθέσεις, λάθος αναγνώσεις, λάθος αποφάσεις. Τόσο απλά.

Οι Σλόμαν και Φέρνμπαχ λένε ότι μεροληπτούμε υπέρ των αφηγήσεων κι ότι είμαστε ικανοί να ανακαλύπτουμε ιστορίες ακόμα κι από τυχαίες κινήσεις αντικειμένων στην οθόνη. Μας είναι εύκολο να πιστέψουμε μια ιστορία, ακόμα κι αν αυτή βασίζεται σε τεράστια λάθη.

oi-merolipsies-kai-i-ithiki-tis-technitis-noimosynis2
«Η ψευδαίσθηση της γνώσης» και «Σκέψη, αργή και γρήγορη». Δύο από τα εξαιρετικά βιβλία που κυκλοφορούν διεθνώς για το θέμα της γνώσης – νοημοσύνης και έχουν μεταφραστεί στα ελληνικά. Θα βοηθήσουν τον αναγνώστη να εντρυφήσει σε πτυχές ενός ζητήματος που θα μας απασχολεί όλο και περισσότερο.

Ο κίνδυνος των αλγορίθμων που «τρέφονται» με λάθος δεδομένα

Ούτε ρομπότ ούτε τεχνητές νοημοσύνες πρωταγωνιστούν στην ταινία του Ιστγουντ, αλλά οι άνθρωποι εκείνοι που παίρνουν τις λανθασμένες αποφάσεις, επειδή οι διαδικασίες της λήψης των αποφάσεών τους είναι προβληματικές.

Αυτές τις διαδικασίες ετοιμαζόμαστε εμείς τώρα, με την ταχύτατη υιοθέτηση αλγοριθμικών μοντέλων, να τις μεταφέρουμε σε κάθε πεδίο της ζωής. Ενα από τα μεγάλα προβλήματα των μοντέλων είναι τα λάθος θετικά –ή τα λάθος αρνητικά– αποτελέσματα. Είμαστε όλοι εξοικειωμένοι με αυτά, λόγω των συναγερμών. Ενας πολύ ευαίσθητος ή χαλασμένος συναγερμός δίνει λάθος θετικά σήματα, ενώ ένας ελάχιστα ευαίσθητος, ή επίσης χαλασμένος, μπορεί να δίνει λάθος αρνητικά σήματα. Με τους προβληματικούς συναγερμούς, καταλήγουμε είτε με σπασμένα νεύρα είτε να κοιμόμαστε την ώρα που μας κλέβουν το αυτοκίνητο.

Φανταστείτε τώρα έναν συναγερμό που παίρνει σε ζωντανό χρόνο εικόνες γύρω από το περιβάλλον του αυτοκινήτου σας. Ο αλγόριθμος που επεξεργάζεται τα δεδομένα καταλήγει να ενεργοποιεί τον συναγερμό κάθε φορά που πλησιάζει στο αυτοκίνητο ένας νέος μελαμψός που φοράει κουκούλα και συγκεκριμένη μάρκα αθλητικών παπουτσιών, χωρίς πανεπιστημιακή μόρφωση, και η αναγνώριση του προσώπου του λέει ότι έχει κατά 65% πιθανότητες να διαπράξει κλοπή. Με το ίδιο πρόβλημα ήρθαν αντιμέτωπες και πολλές εφαρμογές ιχνηλάτησης της COVID-19 σε κινητά τηλέφωνα. Οι ψευδώς «κόκκινοι» χρήστες, ως δυνητικοί μεταδότες της ασθένειας, μπορούσαν να βάζουν ολόκληρες περιοχές σε καραντίνα, ενώ οι ψευδώς «πράσινοι» ασυμπτωματικοί χρήστες, μετέδιδαν ανεξέλεγκτα την ασθένεια χωρίς να σηκώνεται κάποια «κόκκινη σημαία». Δεν είναι καθόλου εύκολο να δαμάσεις την περιπλοκότητα της πραγματικότητας.

oi-merolipsies-kai-i-ithiki-tis-technitis-noimosynis3
Σε αυτή τη «χρυσή εποχή των δεδομένων», πρέπει να είμαστε ενήμεροι για τους αλγόριθμους και τα μοντέλα που παίρνουν αποφάσεις.

Tα μαύρα κουτιά

Είμαστε λοιπόν μπροστά σε ένα διπλό πρόβλημα, το οποίο έχει πολιτικές, νομικές αλλά και ηθικές προεκτάσεις. Κατ’ αρχάς, είναι ένα ζήτημα δεδομένων. Οσο πιο στρεβλά, ατελή, μεροληπτικά, ελλιπή ή φτωχά είναι τα δεδομένα που «εξορύσσουμε» (mining λέγεται η διαδικασία συλλογής δεδομένων) τόσο πιο λανθασμένα θα είναι τα αποτελέσματα που θα δίνει ο αλγόριθμός μας. Ο χαλασμένος αισθητήρας που στέλνει λάθος δεδομένα στον πιλότο του αεροπλάνου τον υποχρεώνει σε μια κίνηση με καταστροφικά αποτελέσματα. Επίσης, κι αυτό είναι το πιο ανησυχητικό, μπορεί να δεδομένα να είναι σκόπιμα προβληματικά, να είναι το αποτέλεσμα χακαρίσματος (hacking).

Επειτα, το ίδιο ισχύει και για την άλλη πλευρά του μηχανισμού, που είναι η επεξεργασία των δεδομένων, ο κώδικας, η γλώσσα που γράφουμε τις εντολές. Οταν θέλουμε σκόπιμα να κάνουμε διακρίσεις υπέρ ενός φύλου, μιας φυλής, μιας κοινωνικής τάξης ενδεχομένως, θα γράφουμε μεροληπτικά εναντίον μιας άλλης. Εδώ λοιπόν κωδικοποιούμε τις μεροληψίες μας, μεταφράζοντάς τις σε μια άλλη γλώσσα. Παράλληλα, ισχυροποιούμε τις διακρίσεις, γιατί τις ντύνουμε με το πέπλο της μηχανικής αντικειμενικότητας.

Προβληματικά δεδομένα μπαίνουν σε προβληματικά μοντέλα για να υπηρετήσουν προβληματικούς σκοπούς, είτε αθέλητα είτε εσκεμμένα. Αυτό ίσως να είναι ένα από τα σοβαρότερα προβλήματα που θα έχουμε να αντιμετωπίσουμε στην εποχή της πλήρους αυτοματοποίησης.

Στο βιβλίο της «Weapons of Math destruction» (Οπλα μαθηματικής καταστροφής, εκδ. Allen Lane, 2016), η επιστήμων των Δεδομένων Κάθι Ο’ Νιλ υποστηρίζει ότι οι αλγόριθμοι χρησιμοποιούνται στις ΗΠΑ αλλά και στη Μεγάλη Βρετανία συχνά σαν όπλα τα οποία στοχεύουν τους πάντες και γι’ αυτό πρέπει να αφοπλιστούν ένα προς ένα. Θεωρεί ότι οι αλγόριθμοι επεκτείνουν και αντανακλούν την ανισότητα που υπάρχει στον κόσμο, γι’ αυτό και θεωρεί ότι συνιστούν απειλές για τη συλλογική μας ασφάλεια και ευημερία. Μιλάει για τη σκοτεινή όψη των μεγάλων δεδομένων, για τις βλάβες που προκαλούν σε ανθρώπινες ζωές και για τις κατάφωρες αδικίες τους. Τα όπλα αυτά κλείνουν την πόρτα των κολεγίων σε φτωχούς νέους, αρνούνται δάνεια σε μη προνομιούχους, στέλνουν ανθρώπους στη φυλακή και δυσκολεύουν άλλους να βρουν ή να διατηρήσουν μια δουλειά. Η αυτοματοποίηση των αποφάσεων δεν είναι ένα ουδέτερο έργο.

Η βασική απαίτηση που γεννά η αυτοματοποίηση τέτοιων αποφάσεων είναι να γνωρίζουμε το περιεχόμενο αυτών των μηχανισμών. Να γνωρίζουμε πώς κατέληξαν στις αποφάσεις τους, να μην είναι αυτό που στη γλώσσα των μηχανικών ονομάζεται «μαύρα κουτιά».

Στο βιβλίο του «The black box society – The secret algorithms that control money and information» (Η κοινωνία του μαύρου κουτιού – Οι μυστικοί αλγόριθμοι που ελέγχουν το χρήμα και την πληροφορία, εκδ. Harvard University Press, 2015), o καθηγητής Νομικής στο Πανεπιστήμιο του Μέριλαντ Φρανκ Πασκουάλε μιλάει για την επείγουσα αναγκαιότητα ανοίγματος αυτών των κουτιών. «Μαύρο κουτί» είναι μια διαδικασία η οποία καταλήγει σε κάποιο προβλέψιμο αποτέλεσμα, χωρίς εμείς να ξέρουμε πώς το έκανε αυτό. «Ελάχιστοι γνωρίζουμε πώς λειτουργούν οι μηχανές των αυτοκινήτων μας», γράφει, «αλλά μπορούμε πολύ καλά να κρίνουμε το αν μας πάνε στους προορισμούς που θέλουμε με ασφάλεια και άνεση».

Για να εμπιστευτούμε τα συστήματα, πρέπει να μας πείσουν ότι είναι αξιόπιστα. Πρέπει να ξέρουμε ποια δεδομένα μας χρησιμοποιούνται, πώς συλλέχθηκαν, με ποιο σκοπό και ποια είναι η διαδικασία που ακολουθήθηκε για να πάρουν συγκεκριμένες αποφάσεις.

Επάνω στις υποθέσεις της Ο’ Νιλ, ήρθε να οικοδομήσει η Βιρτζίνια Γιούμπανκς, αναπληρώτρια καθηγήτρια Πολιτικής Επιστήμης στο Πανεπιστήμιο του Ολμπανι, στο «Automating Inequality. How high-tech tools profile, police and punish the poor» (Αυτοματοποιώντας την ανισότητα. Πώς τα τεχνολογικά εργαλεία δημιουργούν προφίλ, αστυνομεύουν και τιμωρούν τους φτωχούς, εκδ. MacMillan, 2018). Η Γιούμπανκς αποφάσισε να κάνει μια μεγάλη έρευνα πάνω στα αυτοματοποιημένα συστήματα του αμερικανικού δημοσίου. Ταξίδεψε σε αρκετά σημεία της χώρας της για να δει πώς τα πειράματα αυτοματοποίησης των αποφάσεων επηρέασαν τους πολίτες και κατέληξε ότι μερικά απ’ αυτά φτάνουν ώς και στο να τιμωρούν τους λιγότερο προνομιούχους. Ερεύνησε τρεις περιπτώσεις αυτοματοποίησης της ανισότητας. Ενα σύστημα αυτόματης απονομής επιδομάτων κοινωνικής πρόνοιας, ένα ηλεκτρονικό σύστημα διαχείρισης κοινωνικής στέγασης και ένα μοντέλο διακινδύνευσης που προβλέπει ποια παιδιά θα γίνουν στο μέλλον θύματα κακοποίησης ή παραμέλησης.

«Αυτό που ανακάλυψα», γράφει η Ο’ Νιλ, «είναι εντυπωσιακό. Σε όλη τη χώρα, οι φτωχοί και οι εργάτες στοχοποιούνται από νέα εργαλεία διαχείρισης της φτώχειας και αντιμετωπίζουν καταστάσεις που απειλούν τη ζωή τους. Αυτοματοποιημένα συστήματα τους αποθαρρύνουν να διεκδικήσουν πόρους, προβλεπτικά μοντέλα και αλγόριθμοι τους χαρακτηρίζουν ανίκανους να λάβουν επιδόματα και τους καθιστούν προβληματικούς ως γονείς. (…) Η εκτεταμένη χρήση αυτών των συστημάτων έχει επίπτωση στην ποιότητα της δημοκρατίας για όλους μας».

Είτε δημόσια είτε ιδιωτικά, είναι γεγονός ότι τα συστήματα αυτά φέρουν μεγάλα οφέλη στην ανθρωπότητα. Ομως η ανθρωπότητα έχει καθήκον να εξασφαλίσει ότι τα οφέλη της τεχνολογίας, και ειδικότερα της Τ.Ν., θα μοιραστούν σε όλους.

Εάν κωδικοποιήσουμε τις αδικίες, τις μεροληψίες και τις ανισότητες του παρελθόντος στα νέα συστήματα, το κόστος που θα πληρώσουμε θα είναι τεράστιο. Η Τ.Ν. των social media είναι μόνο ένα προμήνυμα του τι θα ακολουθήσει, αν δεν αναληφθεί έγκαιρα δράση. Για να είναι ασφαλή και υπεύθυνα τα συστήματα της Τ.Ν., πρέπει να δουλέψει συντονισμένα κόσμος με πολύ διαφορετικές δεξιότητες. Η Κάθι Ο’ Νιλ θεωρεί ότι οι προγραμματιστές και οι επιστήμονες των δεδομένων πρέπει να κάνουν έναν όρκο σαν εκείνο που κάνουν οι γιατροί στον Ιπποκράτη, προκειμένου να αποφεύγονται «οι πιθανές καταχρήσεις και παρερμηνείες των μοντέλων τους». Η υπεύθυνη Τ.Ν. είναι ένας στόχος συλλογικός που πρέπει οπωσδήποτε να κερδηθεί. Στην αυτοματοποίηση των ανθρώπινων αποφάσεων παίζεται το μέλλον των κοινωνιών μας.

Ο ρόλος των σχεδιαστών των συστημάτων

Oσο αυξάνεται παγκοσμίως το ενδιαφέρον για την τεχνητή νοημοσύνη και τη μηχανική μάθηση, τόσο τα φώτα θα πέφτουν πάνω στους σχεδιαστές των συστημάτων. Είναι ηθικό να χρηματοδοτούνται οι έρευνες για την ηθική από επιχειρήσεις τεχνητής νοημοσύνης; Ορισμένοι έχουν φτάσει να συγκρίνουν τον ζήλο των μεγάλων εταιρειών για την ηθική με τις καπνοβιομηχανίες που χρηματοδοτούσαν έρευνες για να βγάλουν το στίγμα πάνω απ’ τα επιβλαβή προϊόντα τους. Ωστόσο, η συζήτηση έχει ανοίξει και υπάρχουν ήδη αποτελέσματα.

Στο «Algorithms of Oppression. How search engines reinforce racism» (Καταπιεστικοί αλγόριθμοι. Πώς ενισχύουν τον ρατσισμό οι μηχανές αναζήτησης, εκδ. NYU Press, 2018) η δρ Σαφίγια Νομπλ, αναπληρώτρια καθηγήτρια στο Τμήμα Σπουδών της Πληροφορίας του UCLA στην Καλιφόρνια, υποστηρίζει ότι εξαιτίας των φυλετικών μεροληψιών, όταν ψάχνεις στη μηχανή αναζήτησης της Google τον όρο «μαύρο κορίτσι», τα πρώτα αποτελέσματα παραπέμπουν σε πορνογραφία, αντίθετα με τα αποτελέσματα της αναζήτησης για «λευκά κορίτσια». Αν κάνει κάποιος σήμερα την αναζήτηση, θα δει ότι το πρόβλημα έχει διορθωθεί.

Πόσο όμως βαθιά μπορούν να φτάσουν οι σχεδιαστές των αλγορίθμων; Σε αυτό το ερώτημα επιχειρούν να απαντήσουν οι Ααρον Ροθ και Μίχαελ Κερνς θέτοντας ένα πιο στιβαρό πλαίσιο «ηθικής στον σχεδιασμό των αλγορίθμων». Στο βιβλίο τους «The ethical algorithm. The science of socially aware algorithm design» (Ο ηθικός αλγόριθμος. Η επιστήμη του κοινωνικά υπεύθυνου σχεδιασμού αλγορίθμων, εκδ. Oxford University Press, 2019), επισημαίνουν ότι τόσο ο κακός σχεδιασμός όσο και τα αθέλητα λάθη μπορούν να οδηγήσουν σε πολύ άδικα και λανθασμένα αποτελέσματα.
Η λύση είναι να φτιάξουμε καλύτερους αλγορίθμους, να αναθέσουμε την ηθική εξέτασή τους σε γνώστες, να υποστηρίξουμε αναγκαίες ρυθμίσεις και, βέβαια, να ευαισθητοποιηθούν η κοινωνία και οι πολίτες.

Οι ανθρώπινες αποφάσεις, αν αναλυθούν με απόλυτη ακρίβεια, είναι αλγόριθμοι, υποστηρίζουν οι συγγραφείς. Η αυτοματοποίησή τους δεν πρέπει να αφήνει κανέναν αδιάφορο. Κοινωνικοαλγοριθμικά ζητήματα ιδιωτικότητας, δικαιοσύνης, αλλά και ασφάλειας, διαφάνειας, λογοδοσίας και ηθικής, θα βρίσκονται ολοένα και πιο συχνά στο προσκήνιο. Σε αυτή τη «χρυσή εποχή των δεδομένων», όσο λιγότερο ενήμεροι είμαστε για τους αλγορίθμους και τα μοντέλα που παίρνουν αποφάσεις τόσο πιο εύκολο θα είναι να μεροληπτούν, να λανθάνουν, ακόμα και να μας καταπιέζουν. Ο δρόμος προς τον τεχνολογικό παράδεισο περνάει μέσα από ηθικούς αλγορίθμους.

* Το τελευταίο βιβλίο του κ. Μανώλη Ανδριωτάκη τιτλοφορείται «Homo Automaton. Η τεχνητή νοημοσύνη και εμείς» και κυκλοφορεί από τις εκδόσεις Garage Books.

 

 

Τα social media και η δημοκρατία

Αποτελούν τα μέσα κοινωνικής δικτύωσης απειλή για τους δημοκρατικούς θεσμούς; – Τέσσερις ειδικοί παίρνουν θέση στην «Κ»

Τα social media και η δημοκρατία

 

 

 

 

ΕΠΙΣΤΗΜΗ

Οι έξυπνες μηχανές, οι γορίλλες και ο Μίδας

Ο καθηγητής Στιούαρτ Ράσελ στην «Κ»

oi-exypnes-michanes-oi-gorilles-kai-o-midas0Ο Στιούαρτ Ράσελ είναι καθηγητής της επιστήμης των υπολογιστών και κάτοχος της έδρας μηχανικής Smith-Zadeh, στο Πανεπιστήμιο της Καλιφόρνιας, στο Μπέρκλεϊ των Ηνωμένων Πολιτειών. Σπούδασε Φυσική στην Οξφόρδη και ολοκλήρωσε το διδακτορικό του στην Επιστήμη των Υπολογιστών στο Πανεπιστήμιο του Στάνφορντ. Ελαβε θέση καθηγητή και προέδρου στο τμήμα Ηλεκτρικής Μηχανολογίας και Επιστημών των Υπολογιστών του Πανεπιστημίου Μπέρκλεϊ. Διετέλεσε επίκουρος καθηγητής Νευρολογικής Χειρουργικής στο Πανεπιστήμιο της Καλιφόρνιας, στο Σαν Φρανσίσκο, αντιπρόεδρος του Συμβουλίου του Παγκόσμιου Οικονομικού Φόρουμ για την Τεχνητή Νοημοσύνη και τη Ρομποτική, και σύμβουλος για τον έλεγχο των εξοπλισμών στον Οργανισμό Ηνωμένων Εθνών. Είναι επίσης μαζί με τον Πίτερ Νόρβιγκ ο συγγραφέας του πιο γνωστού εγχειριδίου για την Τεχνητή Νοημοσύνη (Τ.Ν.).

Πρόσφατα κυκλοφόρησε στη χώρα μας το τελευταίο σπουδαίο βιβλίο του, «Συμβατή με τον άνθρωπο; Η τεχνητή νοημοσύνη και το πρόβλημα του ελέγχου» (εκδόσεις Τραυλός, μετάφραση Νίκος Αποστολόπουλος), το οποίο έχει επαινεθεί από τον Ελον Μασκ, τον Ντάνιελ Κάνεμαν και πολλούς άλλους σημαντικούς ανθρώπους.

Επικοινώνησα με τον κορυφαίο επιστήμονα μέσω ηλεκτρονικού ταχυδρομείου. Ενα από τα πρώτα πράγματα που επισημαίνει κάποιος παρακολουθώντας τη δημόσια παρουσία και τα κείμενά του είναι το ευφυές του χιούμορ. Δεν έχασα την ευκαιρία να του το επισημάνω. «Είναι η βρετανική μου καταγωγή!», απάντησε.

Ο Ράσελ υποστηρίζει ότι προχωρώντας τη διαδικασία δημιουργίας εξελιγμένων Τ.Ν. πρέπει να εξασφαλίσουμε ότι εμείς θα έχουμε τον έλεγχο των μηχανών, ότι δεν θα αρνηθούν κάποια στιγμή να σταματήσουν τη λειτουργία τους ή ότι δεν θα μας φέρουν κάποια στιγμή προ εκπλήξεως, όπως σε αυτή την ανησυχητική ιστορία όπου «το οικιακό σας ρομπότ είναι μόνο στο σπίτι, εσείς έχετε καθυστερήσει στη δουλειά, αυτό πρέπει να ταΐσει τα παιδιά τα οποία είναι πεινασμένα, και δεν υπάρχει τίποτα στο ψυγείο. Το ρομπότ λοιπόν βλέπει τη γάτα… Το ρομπότ σας δεν έχει μάθει σωστά τη λειτουργία των ανθρώπινων αξιών και δεν καταλαβαίνει ότι η συναισθηματική αξία της γάτας υπερισχύει της θρεπτικής της αξίας…».

oi-exypnes-michanes-oi-gorilles-kai-o-midas1
Το τελευταίο βιβλίο του Στιούαρτ Ράσελ το οποίο έχει επαινεθεί από τον Ελον Μασκ, τον Ντάνιελ Κάνεμαν και πολλούς άλλους σημαντικούς ανθρώπους. 

– Κύριε Ράσελ, μιλάτε πειστικά για δύο βασικά προβλήματα, που έχουμε να αντιμετωπίσουμε. Αλήθεια, πόσο αισιόδοξος είστε ότι θα τα λύσουμε πριν να είναι αργά;

– Το «πρόβλημα του γορίλλα» αναφέρεται στην κατάσταση στην οποία βρίσκονται σήμερα οι γορίλλες. Οι πρόγονοί τους αντιμετώπισαν τους ανθρώπους – οι οποίοι ήταν πολύ εξυπνότεροι απ’ αυτούς. Προφανώς, θέλουμε να αποφύγουμε μια τέτοια κατάσταση, γιατί οι γορίλλες δεν έχουν κανένα έλεγχο πάνω στο μέλλον τους. Το «πρόβλημα του Μίδα» σχετίζεται με την πιθανότητα να χάσουμε εμείς οι ίδιοι τον έλεγχο των μηχανών, καθορίζοντας για αυτές έναν σκοπό που θα έχει καταστροφικές επιπτώσεις για την ανθρωπότητα.

Είμαι αισιόδοξος ότι μπορούμε να λύσουμε τεχνικά το «πρόβλημα του Μίδα», δημιουργώντας μια Τ.Ν. πάνω σε διαφορετικά θεμέλια, τα οποία δεν θα απαιτούν από εμάς να συγκεκριμενοποιούμε τους σκοπούς των μηχανών. Αντίθετα, ο μόνος στόχος των μηχανών θα είναι να ωφελούν τους ανθρώπους. Επειδή όμως δεν γνωρίζουν τι σημαίνει «ωφέλιμο», θα πρέπει πάντα να συμμορφώνονται με τον ανθρώπινο έλεγχο.

Ωστόσο, ακόμα κι όταν αποκτήσουμε μια τεχνική λύση, μπορεί να αποτύχουμε να τη χρησιμοποιήσουμε εξαιτίας συστημικών αποτυχιών (όπως στο Τσερνομπίλ), ή εξαιτίας σκόπιμων καταχρήσεων της Τεχνητής Νοημοσύνης, που θα παρακάμπτουν τα μέτρα ασφαλείας. Η επίλυση αυτού του προβλήματος απαιτεί σοβαρή, συντονισμένη, παγκόσμια προσπάθεια, και δεν έχουμε ούτε κατά διάνοια προσεγγίσει τέτοιο επίπεδο συνεργασίας.

– Ποια χρήση της Τεχνητής Νοημοσύνης είναι η πιο πολλά υποσχόμενη σήμερα;

– Η χρήση της Τεχνητής Νοημοσύνης στην εκπαίδευση μπορεί να γίνει επαναστατική, δεδομένων των προόδων που έχουν γίνει στην τεχνολογία την τελευταία δεκαετία. Η ατομική διδασκαλία είναι τρεις φορές πιο αποτελεσματική από τη διδασκαλία μέσα στην τάξη, αλλά δεν θα μπορέσει ποτέ να είναι οικονομικά προσιτή αν πρέπει να την κάνουν άνθρωποι. Με την Τεχνητή Νοημοσύνη μπορούμε να δώσουμε μια εκπληκτική ποιότητα εκπαίδευσης σε κάθε παιδί στη Γη.

– Ποια πιστεύετε ότι είναι η πιο σοβαρή βραχυπρόθεσμη απειλή, τα αυτόνομα όπλα ίσως, ή η πολιτική χειραγώγηση; 

– Τα φονικά αυτόνομα όπλα είναι συστήματα Τ.Ν. που μπορούν να εντοπίσουν, να επιλέξουν και να επιτεθούν σε ανθρώπινους στόχους. Αναπόφευκτα θα γίνουν όπλα μαζικής καταστροφής: δεν χρειάζονται επίβλεψη από τους ανθρώπους, κι έτσι χιλιάδες ή εκατομμύρια από αυτά μπορούν να εξαπολύσουν επιθέσεις και να σκοτώσουν όσους ανθρώπους θέλετε. Πρέπει να τα απαγορεύσουμε το συντομότερο δυνατόν. Η πολιτική χειραγώγηση είναι ένα σοβαρό θέμα. Οι αλγόριθμοι που επιλέγουν το περιεχόμενο των μέσων κοινωνικής δικτύωσης έχουν μάθει να χειραγωγούν τους χρήστες και να τους κάνουν πιο προβλέψιμους, κάτι που σημαίνει ότι συχνά καταναλώνουμε πιο ακραίο περιεχόμενο, το οποίο είναι και γνωστό ως «πιασάρικο». Οι παραγωγοί περιεχομένου (οι άνθρωποι) συνεργάζονται με αυτή τη διαδικασία προκειμένου να παραγάγουν το πιασάρικο περιεχόμενο και να διευκολύνουν τη διαδικασία δημιουργίας μανιασμένων οπαδών που δεν έχουν πια καμία σχέση με την αλήθεια.

Οταν εμπλέκονται οι κυβερνήσεις σε αυτή τη διαδικασία, ή χρησιμοποιούν υποδομές για να παρακολουθούν και να ελέγχουν τους πληθυσμούς, αυτό μπορεί να γίνει μια μόνιμη αυτοτροφοδοτούμενη διαδικασία.

– Ενα ακόμα μεγάλο ζήτημα είναι οι αλγοριθμικές μεροληψίες. Πότε θα εμπιστευθείτε έναν δικαστή Τ.Ν.;

– Οι μεροληπτικές αλγοριθμικές αποφάσεις είναι συχνά το αποτέλεσμα μεροληψιών που ενυπάρχουν στα δεδομένα, όπως επίσης και λανθασμένων σκοπών στην εκπαίδευση των δεικτών πρόβλεψης. Ο αλγόριθμος από μόνος του είναι ουδέτερος, αλλά η κατάχρησή του μπορεί να έχει ως αποτέλεσμα μεροληπτικά αποτελέσματα. Ενας δικαστής Τ.Ν. που αποφασίζει αν κάποιος είναι ένοχος ή αθώος θα εργαζόταν αρκετά διαφορετικά, ο συλλογισμός του θα βασιζόταν στα γεγονότα της υπόθεσης και στον νόμο. (Η εκπαίδευση βάσει δεδομένων εδώ δεν θα λειτουργούσε πολύ καλά, γιατί οι συνθήκες της πραγματικής ζωής είναι πολύ διαφορετικές.) Σε κάποιες ξεκάθαρες περιοχές του νόμου, όπως στον ορισμό της υπηκοότητας για παράδειγμα, μπορούμε να χτίσουμε νομικά συστήματα συλλογισμών που θα είναι πολύ αξιόπιστα, θα μπορούν να εξηγήσουν τις αποφάσεις τους, και πάει λέγοντας.

Αλλες περιοχές απαιτούν την ανθρώπινη κρίση, λογικές προσδοκίες, κ.λπ., πράγματα που είναι πολύ δύσκολο να οριστούν. Πιστεύω ότι έχουμε αρκετό δρόμο μέχρι να είμαστε σε θέση να δημιουργήσουμε έναν καλό δικαστή Τ.Ν.

Η προσπάθεια κατανόησης της νοημοσύνης δεν είναι ύβρις

– Προτείνετε ότι πρέπει να ακολουθήσουμε τρεις αρχές στην κατασκευή των έξυπνων ρομπότ, οι οποίες συμπυκνώνονται στη φράση: «Οι πανίσχυρες νοημοσύνες που θα φτιάξουμε, τα υπερέξυπνα ρομπότ μας θα πρέπει να είναι εντελώς αγνά, να έχουν αβέβαιους σκοπούς και να μαθαίνουν διαρκώς (όλους) τους ανθρώπους παρατηρώντας τους». Η πρώτη αρχή, του αλτρουισμού, λέτε ότι πρέπει να είναι δεδομένη. Τα ρομπότ πρέπει να σκέφτονται το καλό των ανθρώπων κι όχι το δικό τους. Αλλά η δεύτερη αρχή τα υποχρεώνει να είναι ταπεινά, να μην είναι σίγουρα για τις πράξεις τους, να μπορούν να τις επανεξετάζουν. Και η τρίτη αρχή είναι να αντλούν γνώση όχι μόνο απ’ τη συμπεριφορά ενός ανθρώπου, αλλά από όλους. Πώς μπορούμε να διασφαλίσουμε ότι οι τρεις αρχές που περιγράφετε θα γίνουν παγκόσμια αποδεκτές;

– Το πρώτο μέρος είναι τεχνικό: πρέπει να μετατρέψουμε αυτές τις αρχές σε ακριβείς μαθηματικούς ορισμούς και να αποδείξουμε ότι οι μηχανές που λύνουν αυτού του είδους τα προβλήματα είναι αρκούντως ασφαλείς και ωφέλιμες για τους ανθρώπους. Το δεύτερο μέρος είναι πρακτικό: πρέπει να δείξουμε στην κοινότητα της Τεχνητής Νοημοσύνης πώς να φτιάξει χρήσιμα συστήματα ΤΝ που θα πληρούν αυτές τις προϋποθέσεις των τριών αρχών. Το τρίτο μέρος είναι πολιτικό: πρέπει να υποχρεώσουμε τις επαγγελματικές ενώσεις, τους οργανισμούς πιστοποιήσεων, τις τεχνολογικές εταιρείες και τους κυβερνητικούς ρυθμιστές να υιοθετήσουν τους απαραίτητους κανόνες και τα πρότυπα, προκειμένου να διασφαλιστεί ότι όλα τα συστήματα θα κατασκευάζονται μ’ αυτό τον τρόπο. Ο κύριος λόγος που πιστεύω ότι αυτό θα λειτουργήσει –πέρα απ’ το γεγονός ότι αν συνεχίσουμε να δημιουργούμε ΤΝ με τον παλιό τρόπο θα οδηγηθούμε στην καταστροφή– είναι ότι τα νέα είδη των συστημάτων είναι απλώς καλύτερα κι ότι οι άνθρωποι θα θέλουν να τα χρησιμοποιούν γιατί προσαρμόζονται στο ιδανικό τού πώς πρέπει να συμπεριφέρεται ένα σύστημα Τεχνητής Νοημοσύνης.

– Πώς θα μπορούσε να προετοιμαστεί η κοινωνία για αυτό που έρχεται;

– Πιστεύω ότι τα μίντια έχουν έναν τεράστιο ρόλο να παίξουν, ξεκαθαρίζοντας τι συμβαίνει σήμερα –για παράδειγμα, σαν αποτέλεσμα των αλγορίθμων επιλογής περιεχομένου στα μέσα κοινωνικής δικτύωσης– και εξηγώντας ότι αυτό δεν αφορά ρομπότ σαν τον Terminator. Κανείς δεν βλέπει κάτι που να μοιάζει με τέτοιο ρομπότ σήμερα στη ζωή του, κι έτσι καταλήγουν όλοι να το βλέπουν όλο αυτό σαν μια ιστορία επιστημονικής φαντασίας. Ενώ είναι όμως συνέχεια στα social media, έχουν Alexa στην κουζίνα τους, και πάει λέγοντας. Βιβλία, ταινίες, ντοκιμαντέρ μπορούν να μας δείξουν πώς είναι πιθανό να εξελιχθούν τα πράγματα και να μας εξηγήσουν πώς συμβαίνουν όλα αυτά.

– Μια ασύμβατη μηχανή μ’ εμάς, για να παραφράσω τον τίτλο του βιβλίου σας, θα σήμαινε το τέλος του ανθρώπινου πολιτισμού. Βλέπετε μια ύβρη στην αναζήτηση της υπερνοημοσύνης;

– Δεν θα ’θελα να πω ότι η άσκηση της ανθρώπινης εφευρετικότητας και/ή η αναζήτηση της κατανόησης της νοημοσύνης είναι παραδείγματα ύβρεως. Η νοημοσύνη είναι ένα απ’ τα πιο εκπληκτικά πράγματα στο σύμπαν, κι έτσι είναι φυσικό να θέλουμε να την καταλάβουμε και να δούμε αν μπορούμε να τη δημιουργήσουμε. Το λάθος είναι να πιστέψουμε ότι αυτό που θέλουμε να οικοδομήσουμε είναι η καθαρή νοημοσύνη – η ικανότητα να επιδιώκουμε οποιονδήποτε σκοπό. Για τον ίδιο λόγο, είναι λάθος να δημιουργήσουμε νέους οργανισμούς που θα αναπαράγονται απεριόριστα μέχρι να καταναλώσουν όλους τους πόρους της Γης. Ελπίζω να έχουμε καταλάβει τώρα αυτό το λάθος και να σταματήσουμε να το κάνουμε.

– Αλήθεια, μπορεί μια μηχανή να αναπτύξει αίσθηση του χιούμορ;

– Πολλοί προσπάθησαν, με ελάχιστη επιτυχία όμως, να εκπαιδεύσουν τις μηχανές έτσι ώστε να διαχωρίζουν τα αστεία από τα «κρύα» ανέκδοτα. Στην πραγματικότητα, η μηχανή δεν βρίσκει τίποτα αστείο ή μη αστείο. Θα ήταν όπως όταν κάποιος που δεν μπορεί να διαβάζει κινεζικά να σκανάρει χιλιάδες αστεία και «κρύα» ανέκδοτα γραμμένα στα κινεζικά με σκοπό να εντοπίσει επαναλαμβανόμενα σχήματα μέσα από τα οποία να προβλέπεται το αστείο του πράγματος. Νομίζω ότι η έννοια «αίσθηση του χιούμορ» είναι σωστή – το χιούμορ μοιάζει να είναι μια αίσθηση, όπως ο πόνος ή η γλυκύτητα, όταν κάτι γαργαλάει τον εγκέφαλό μας. Στον βαθμό που γνωρίζουμε, οι μηχανές δεν έχουν καθόλου αισθήσεις.

 

 

 

 

Η επανάσταση των αλγορίθμων

Ο καθηγητής της επιστήμης των υπολογιστών Πέντρο Ντομίνγκος μιλάει στην «Κ» για την τεχνολογία και τις κακοτοπιές της

Βρισκόμαστε εν μέσω μιας μεγάλης επανάστασης. Αν θέλουμε να ευημερήσουμε, αποφεύγοντας τις πολλές κακοτοπιές, πρέπει να κατανοήσουμε βαθιά τους αλγορίθμους, τη μηχανική μάθηση (Μ.Μ.) και την τεχνητή νοημοσύνη (Τ.Ν.). Στην εποχή των αυτοδίδακτων μηχανών, είναι επιτακτικό να εμβαθύνουμε και να διευρύνουμε τη γνώση των μηχανισμών που κινούν τον κόσμο. Ο καθηγητής της επιστήμης των υπολογιστών Πέντρο Ντομίνγκος, στο Πανεπιστήμιο Ουάσιγκτον του Σιάτλ, και συγγραφέας ενός σπουδαίου βιβλίου, του «The Master Algorithm», το οποίο σύμφωνα με τα λόγια του Μπιλ Γκέιτς πρέπει απαραιτήτως να διαβαστεί απ’ όλους, εξηγεί πώς θα πλοηγηθούμε στο μέλλον.

i-epanastasi-ton-algorithmon0

– Γιατί πρέπει να μας απασχολoύν όλους οι αλγόριθμοι;

– Σήμερα οι αλγόριθμοι βρίσκονται παντού στη ζωή μας, ακόμη και αν δεν το συνειδητοποιούμε. Δεν αρκεί όμως να τους γνωρίζουν βαθιά μόνον οι ειδήμονες, πρέπει οι πάντες να τους κατανοήσουν. Το ποιος ελέγχει τους αλγορίθμους είναι προφανώς αποφασιστικό, αλλά δεν είναι προκαθορισμένο. Θα είναι αυτός που τους καταλαβαίνει και τους χρησιμοποιεί. Το θέμα λοιπόν είναι εσύ ο ίδιος να αρχίσεις να τους καταλαβαίνεις, γιατί αν δεν το κάνεις εσύ, θα το κάνει κάποιος άλλος.

– Ακούμε όμως συχνά ότι οι αλγόριθμοι μεροληπτούν και κάνουν διακρίσεις.

– Σύμφωνοι, σε κάποιο βαθμό οι αλγόριθμοι είναι ατελείς, γι’ αυτό και πρέπει όλοι να τους καταλάβουμε και να τους βελτιώσουμε. Εξαιτίας όμως των αλγορίθμων προσλαμβάνονται άνθρωποι που δεν θα είχαν καμία ελπίδα εάν τους αξιολογούσαν άλλοι. Η Google έχει υπαλλήλους πολύ καλά αμειβόμενους μηχανικούς λογισμικού που δεν έχουν πτυχίο στην επιστήμη των υπολογιστών ή ούτε καν πτυχίο πανεπιστημίου. Τους προσλαμβάνει γιατί αξιοποιεί άλλες, καλές πληροφορίες, στις οποίες έχουν πρόσβαση οι αλγόριθμοι. Οι αλγόριθμοι αυξάνουν δραστικά την αντικειμενικότητα και την ευκαιρία, καθώς ανοίγονται σε μεγαλύτερο όγκο πληροφοριών. Οι μεροληψίες που είναι μέσα στα κεφάλια των ανθρώπων είναι δυσκολότερο να αναγνωριστούν και είναι πολύ δυσκολότερο να αλλάξουν. Ενώ τις μεροληψίες στους αλγορίθμους μπορείς να τις επιθεωρήσεις και να τις αλλάξεις ανά πάσα στιγμή. Οι άνθρωποι που ανησυχούν για τις μεροληψίες θα ’πρεπε να είναι οι ισχυρότεροι υπέρμαχοι της χρησιμοποίησης περισσότερων αλγορίθμων και όχι αρνητές τους.

– Εχουν δίκιο όσοι ανησυχούν για τις προοπτικές της δημοκρατίας την εποχή της αυτοματοποίησης; 

– Η Τ.Ν. μπορεί να είναι ένα φανταστικό εργαλείο για τη δημοκρατία, αλλά, δυστυχώς, και αυτό είναι κάτι στο οποίο ήμαστε λίγο αφελείς δέκα χρόνια πριν· οι υπολογιστές και οι αλγόριθμοι είναι επίσης κι ένα απίθανο εργαλείο για τους δικτάτορες. Κόβει αμφίπλευρα. Διαδηλωτές χρησιμοποιούν αλγορίθμους για να αυτο-οργανωθούν, αλλά από την άλλη, εάν είσαι δικτάτορας, η τεχνητή νοημοσύνη είναι ό,τι καλύτερο θα μπορούσες να ονειρευτείς. Η Τ.Ν. είναι ο απόλυτος γραφειοκράτης: μπορεί να κρατάει αρχεία για τους πάντες, να παρακολουθεί τους πάντες, δεν κουράζεται ποτέ, δεν αμφισβητεί ποτέ. Σε κάποιες χώρες έχουμε αρχίσει να το βλέπουμε ήδη: οι αλγόριθμοι έχουν αρχίσει να καταπιέζουν ανθρώπους. Η Κίνα με το «σύστημα κοινωνικού σκορ» είναι μακράν το χειρότερο παράδειγμα, αλλά συμβαίνει και σε άλλες αυταρχικές χώρες. Η τεχνολογία εξελίσσεται και η κοινωνία ακολουθεί αλλάζοντας. Εχουμε αυτή τη νοοτροπία ότι η δημοκρατία θα νικήσει γιατί είναι καλύτερη, αλλά αυτό δεν ευσταθεί. Η δημοκρατία θα επικρατήσει εάν χρησιμοποιήσουμε καλύτερα τα εργαλεία που έχουμε στη διάθεσή μας. Αν δεν κινητοποιηθούμε, θα νικήσουν οι απολυταρχικοί, και αν γίνει αυτό θα είναι δύσκολο να γυρίσουμε πίσω. Γι’ αυτό είναι σημαντικό να είναι ενήμεροι όχι μόνον όσοι παίρνουν αποφάσεις, αλλά όλοι οι πολίτες. Πρέπει να κρούσουμε τον συναγερμό.

– Γράφετε ότι ο μεγαλύτερος κίνδυνος της Τ.Ν. είναι το να πέσει σε λάθος χέρια.

– Ναι, και για τον λόγο αυτόν πρέπει να διασφαλίσουμε ότι οι κυβερνητικές υπηρεσίες θα έχουν πάντα την καλύτερη Τ.Ν. Αυτό ισχύει και για τη σχέση της κυβέρνησης με τον επιχειρηματικό κόσμο. Δεν μπορείς να ρυθμίσεις και να νομοθετήσεις τις τεχνολογικές εταιρείες που στην πραγματικότητα δουλεύουν πολύ καλά, γιατί η τεχνολογία κινείται πολύ γρήγορα και η νομοθετική διαδικασία κινείται πολύ αργά, θα είναι πάντα ένα βήμα πίσω. Το GDPR είναι ένα καλό παράδειγμα αποτυχίας. Αλγόριθμοι για τον 21ο αιώνα βγαλμένοι από νοοτροπίες του 20ού αιώνα…

– Πώς κρίνετε ότι θα εξελιχθεί το μέλλον της εργασίας;

– Υπάρχει μια λανθασμένη διχοτόμηση μεταξύ ανθρώπου εναντίον μηχανής. «Θα χάσουμε όλοι τις δουλειές μας», ακούμε, «και θα τις αναλάβουν οι υπολογιστές». Οι άνθρωποι ανησυχούν γι’ αυτό τα τελευταία 200 χρόνια και δεν συμβαίνει ποτέ. Στο μέλλον, δεν θα είναι ο άνθρωπος εναντίον της μηχανής, αλλά ο άνθρωπος μαζί με τη μηχανή εναντίον του ανθρώπου χωρίς τη μηχανή. Σε τελική ανάλυση, η μηχανή είναι ένα εργαλείο που βρίσκεται υπό τον έλεγχό μας. Αυτή θα είναι η κατάσταση και με την Τ.Ν., εκτός και αν κάνουμε κάτι ανόητο. Ο τρόπος για να εξασφαλίσεις το επάγγελμά σου απ’ την αυτοματοποίηση είναι εσύ ο ίδιος να το αυτοματοποιήσεις. Αυτοί που λένε ότι το μέλλον ανήκει στους μηχανικούς των υπολογιστών κάνουν λάθος. Εχουμε ακόμη άγνοια της ιατρικής, των οικονομικών, της βιολογίας. Το μέλλον ανήκει στους ανθρώπους που γνωρίζουν το πεδίο τους και χρησιμοποιούν τους υπολογιστές για να το εξερευνήσουν. Αυτός είναι ο συνδυασμός. Η αυτοματοποίηση είναι σαν να έχεις ένα άλογο. Δεν ανησυχείς για το αν θα σε ξεπεράσει το άλογο. Ιππεύοντας το άλογο, ξέρεις ότι θα πας πιο γρήγορα. Αυτό είναι η Τ.Ν.: ένα άλογο για τον νου. Ας πάρουμε για παράδειγμα τη βιολογία. Η παλιά γενιά βιολόγων ήταν στο εργαστήριο μέσα και χρησιμοποιούσε μολύβια και τρυβλία Πέτρι. Η νέα γενιά βιολόγων χρησιμοποιεί υπολογιστές για να χτίσει μοντέλα πάνω στη λειτουργία των κυττάρων. Ετσι θα θεραπευθεί ο καρκίνος, όχι με τρυβλία Πέτρι.

– Επισημαίνετε επίσης ότι η διαχείριση και το μοίρασμα των δεδομένων είναι το σπουδαιότερο ζήτημα του 21ου αιώνα. 

– Ενα ανθρώπινο ον έχει το σώμα, τον εγκέφαλο, το νευρικό του σύστημα, και όλα αυτά είναι συνδεδεμένα μεταξύ τους. Φανταστείτε λοιπόν ένα μέρος του σώματός σας, τα δάχτυλά σας ας πούμε, εάν ζητούσε ιδιωτικότητα. Θα πεθαίνατε. Το ζητούμενο στις κοινωνίες της πληροφορίας είναι να συγκεντρώνεις πληροφορίες και να τις χρησιμοποιείς για να παίρνεις καλύτερες αποφάσεις, από το εργοστάσιο έως ολόκληρη τη χώρα. Εχω το δικαίωμα να διατηρώ ιδιωτικά τα δικά μου ατομικά προσωπικά δεδομένα, να μην τα μοιράζομαι. Αυτό όμως είναι πολύ εγωιστικό. Ως χρήστης και ως πολίτης θέλω τα δεδομένα μου να χρησιμοποιούνται προς όφελός μου. Ο πιο ωφελημένος απ’ τη χρήση των δεδομένων σου είσαι εσύ. Πολλοί λένε ότι «αν το προϊόν είναι δωρεάν, τότε το προϊόν είσαι εσύ». Αυτό κι αν είναι λάθος. Η τεχνολογία της πληροφορίας είναι νέα και οι άνθρωποι δεν την κατανοούν ακόμη καλά. Μια ομάδα ερευνητών του ΜΙΤ θέλησε να βρει πόσο αξίζει η μηχανή αναζήτησης της Google για τον καθένα μας. Ρώτησαν λοιπόν ένα ικανό δείγμα χρηστών, πόσα χρήματα θα έπρεπε να τους δώσουν για να σταματήσουν να χρησιμοποιούν τη μηχανή αναζήτησης για ένα χρόνο. Ο μέσος όρος ήταν 17.000 δολάρια! Χοντρικά, η αξία του κάθε χρήστη για την Google με βάση τα έσοδά της είναι περίπου 100 δολάρια. Εσύ λοιπόν αξίζεις στην Google 100 δολάρια, ενώ από την Google παίρνεις 17.000 δολάρια τον χρόνο. Ε, λοιπόν, δεν θέλω να πουλήσω τα δεδομένα μου! Η αξία των δικών μου δεδομένων είναι μηδαμινή συγκρινόμενη με αυτά που παίρνω.

Η εμπειρία τού να είσαι άνθρωπος δεν αυτοματοποιείται

– Πολλοί, ωστόσο, εξακολουθούν να είναι διστακτικοί με τα δεδομένα τους.

– Το κρίσιμο ερώτημα είναι: ποιον εμπιστεύομαι να έχει τα δεδομένα μου και να τα χρησιμοποιεί προς όφελός μου; Γενικά εμπιστεύομαι περισσότερο την Google και την Amazon, αλλά δεν εμπιστεύομαι το Facebook, έχω μιαν αίσθηση ότι θα τα χρησιμοποιήσουν περισσότερο για δικό τους όφελος. Παλιά όταν μας έλεγαν να βάλουμε τα χρήματά μας στην τράπεζα, λέγαμε «αποκλείεται, να δώσουμε τα λεφτά μας σε ξένους; Θα τα κλέψουν, καλύτερα να τα κρατήσουμε στο στρώμα μας». Δεν θα ’πρεπε να κρατάς τα δεδομένα σου κάτω από το στρώμα, είναι το ίδιο πράγμα. Γιατί οι τράπεζες δεν το σκάνε με τα λεφτά μας; Γιατί έτσι θα καταστραφούν. Το χρηματοπιστωτικό σύστημα βασίζεται πάνω απ’ όλα στην εμπιστοσύνη, και υπάρχουν βέβαια και οι νόμοι ενάντια στην απάτη. Το ίδιο χρειάζεται να κάνουμε και για τα δεδομένα. Πρέπει να φτιάξουμε οργανισμούς, ακόμη και μη κερδοσκοπικούς, ας τους πούμε «συνδικάτα δεδομένων», των οποίων η αποστολή θα είναι να εξασφαλίζεται ότι τα δεδομένα θα χρησιμοποιούνται προς όφελός μας. Το GDPR λέει ότι τα δεδομένα πρέπει να χρησιμοποιούνται μόνο για τον σκοπό για τον οποίο έχουν συλλεχθεί. Αυτό είναι εντελώς ανόητο. Οι καλύτερες χρήσεις των δεδομένων είναι οι αναπάντεχες. Αν αυτός ο νόμος υπήρχε παλιά, σήμερα δεν θα είχαμε την πενικιλίνη, τις ακτίνες Χ, τίποτε απ’ αυτά που ανακαλύφθηκαν κατά τύχη.

– Τι θα προτείνατε στους νέους ανθρώπους που αγωνιούν για το μέλλον;

– Είμαστε στο μέσον μιας επανάστασης. Το πεδίο της Τ.Ν. συνεχώς αναπτύσσεται, αλλά πρέπει να το κατανοήσουμε βαθιά για να μας είναι χρήσιμο. Ο Γκάρι Κασπάροφ, ένας απ’ τους καλύτερους σκακιστές στον κόσμο, επινόησε ένα καλύτερο είδος παίκτη, τον Κένταυρο, ο οποίος είναι μισός μηχανή και μισός άνθρωπος. Εφερε κοντά τη μηχανή με την τεράστια βάση δεδομένων της και τον άνθρωπο με την εκπληκτική του ικανότητα να αναγνωρίζει μοτίβα. Και αυτοί οι δύο μαζί μπορούν να νικήσουν οποιονδήποτε υπολογιστή. Πολλοί λένε λανθασμένα ότι οι ανθρωπιστικές επιστήμες πεθαίνουν. Πιθανώς σε μερικά χρόνια από τώρα οι άνθρωποι να προγραμματίζουν σε φυσική γλώσσα, οπότε όλες αυτές οι γλώσσες που είναι απαραίτητο να ξέρει κάποιος σήμερα να είναι άχρηστες. Παραδόξως, η δουλειά που κάνει ένας επιστήμονας των υπολογιστών είναι πάρα πολύ εύκολο να γίνει απ’ τους υπολογιστές. Μου αρέσει να αστειεύομαι με τους φοιτητές μου, λέγοντάς τους ότι οι επιστήμονες των υπολογιστών κλέβουν τα επαγγέλματα όλου του κόσμου και τώρα οι υπολογιστές κλέβουν το επάγγελμα των επιστημόνων. Ο κλέφτης γίνεται θύμα του κλέφτη. Ομως η εμπειρία τού να είσαι άνθρωπος δεν αυτοματοποιείται. ΜόνονΑ οι άνθρωποι μπορούν να την έχουν. Τα πεδία λοιπόν που μπορούν να ανθήσουν στο μέλλον είναι αυτά που βασίζονται σε αυτή την εμπειρία: οι ανθρωπιστικές επιστήμες. Και ναι, φυσικά οι τέχνες, επίσης.

i-epanastasi-ton-algorithmon1

Το «The Master Algorithm» είναι ένα βιβλίο το οποίο, σύμφωνα με τα λόγια του Μπιλ Γκέιτς, πρέπει απαραιτήτως να διαβαστεί απ’ όλους.

Η απάντηση στις προκλήσεις των τεχνολογιών της επικοινωνίας

της Ιωάννας Κωσταρέλλα*

Παραφράζοντας το απόφθεγμα του Μενάνδρου «έστι δίκης οφθαλμός, ος τα πάνθ’ ορά» θα μπορούσαμε να πούμε ότι υπάρχει πλέον το μάτι της τεχνολογίας που παρακολουθεί τα πάντα, ενώ για πρώτη φορά στα χρονικά της ανθρωπότητας η τεχνολογία κάνει δυνατή την μαζική παρακολούθηση.

Είναι αυτή μια νέα απειλή για την ανθρωπότητα και τη δημοκρατία και ποιοι μηχανισμοί μπορούν να περιορίσουν τις συνέπειες;

Πριν λίγο καιρό βγήκε στον «αέρα» από το Netflix το ντοκιμαντέρ «Social Dilemma», το οποίο προκάλεσε αρκετό θόρυβο, όπως και το «The Great Hack» πριν, καθώς μέσα από την «προσωποποίηση» του αλγορίθμου περιγράφεται γλαφυρά η δύναμη που έχει ο πανίσχυρος κλάδος της πληροφορικής, γνωστός και ως Big Tech, στη ζωή του κατοίκου ακόμα και του πιο απομακρυσμένου χωριού.

«Οι μηχανικοί της πληροφορικής δεν γράφουν απλά κώδικα, αλλά γράφουν τη ζωή μας» επανέλαβε στο Athens Democracy Forum ο Γιουβάλ Νόα Χαράρι, σύγχρονος φιλόσοφος, αναδεικνύοντας το τεράστιο ζήτημα που εντοπίζεται στην ταχύτητα με την οποία τρέχει η τεχνολογία και στην αδυναμία της φιλοσοφίας, έτσι όπως αποτυπώνεται στην ηθική και τους κανόνες δεοντολογίας, να συμβαδίσει.

Μια από τις σημαντικότερες απειλές που εντοπίζονται είναι η μετατροπή των βιολογικών δεδομένων σε ψηφιακά δεδομένα, η οποία αποτελεί τον καταλύτη όλων των εξελίξεων σε μια σειρά τομέων. Μια μηχανή που σε καταλαβαίνει καλύτερα από ότι εσύ τον εαυτό σου είναι ένα δυνητικά αχτύπητο εργαλείο εναντίον της δημοκρατίας στα χέρια ενός ολοκληρωτικού καθεστώτος, αλλά και ταυτόχρονα ένα δυνατό όπλο στα χέρια της επιστήμης που θέλει να προστατεύσει τη δημόσια υγεία.

Ποια επομένως είναι η λύση; Είναι φανερό ότι δεν έχουμε την πολυτέλεια του χρόνου που είχαν οι προηγούμενες γενιές. Θα αναγκαστούμε να κάνουμε και να μάθουμε περισσότερα στη διάρκεια της ζωής μας από τους γονείς και τους παππούδες μας. Επίσης, γίνεται αντιληπτό ότι η ίδια η τεχνολογία δεν έχει όλες τις λύσεις, αλλά ούτε και μπορεί να δώσει μόνη της τις λύσεις για μια σειρά θεμάτων που σχετίζονται με την ηθική, τη φιλοσοφία και την εκπαίδευση. Οι δε ρυθμιστικές προσπάθειες μπορούν να φέρουν κάποια πρόσκαιρα αποτελέσματα, αλλά δεν μπορούν να προσφέρουν οριστικές λύσεις, γιατί όσο θα επικαιροποιούνται, τόσο οι προγνωστικοί αλγόριθμοι θα βελτιστοποιούνται και θα κάνουν εφιαλτική τη δύναμη του αυτοματοποιημένου και αόρατου συστήματος.

Απαιτείται, λοιπόν, μια ολιστική προσέγγιση που να συνδέει την ηθική με την τεχνολογία, την εκπαίδευση με την πληροφορική και να έρχεται από τα κάτω. Μια κοινωνιοτεχνολογική ανάλυση που να δανείζεται στοιχεία από τις επιστήμες του μέλλοντος (future studies) είναι απαραίτητη. Κι αυτό, γιατί όπως λένε οι επιστήμονες του χώρου, ένα καλύτερο μέλλον θα έρθει αν αλλάξει η αλληλουχία των σύγχρονων τάσεων που το υποθηκεύουν.

Κάποιες φορές χαρακτηριστικά και αρνητικές επιπτώσεις, πχ. της τεχνολογίας της επικοινωνίας, δεν γίνονται ορατά πριν είναι ήδη πολύ αργά. Γι’ αυτό και η διερεύνηση των ηθικών κινδύνων ή των απειλών για τα ανθρώπινα δικαιώματα και τη δημοκρατία πρέπει να ξεκινά έγκαιρα στον κύκλο της ζωής μιας νέας τεχνολογίας, ώστε να προβλέπει το πως η τεχνολογία αυτή μπορεί να χρησιμοποιηθεί στο μέλλον (Palm and Hansson, 2006). Επιπλέον, οι αναλύσεις αυτές πρέπει να γίνονται με έμφαση στη φάση του σχεδιασμού της τεχνολογίας, ώστε να περιοριστούν το δυνατόν περισσότερο οι αρνητικές συνέπειες.

Δεν υπάρχουν ούτε σίγουρες, ούτε εύκολες λύσεις. Όσο, όμως, περισσότερο μένουμε συνδεδεμένοι μεταξύ μας σε δυναμικές οντότητες και όσο πιο πολύ επενδύουμε στο δημοκρατικό σύστημα, τόσο περισσότερες πιθανότητες έχουμε να ανταποκριθούμε στις προκλήσεις του μέλλοντος.

*επίκουρη καθηγήτρια Δημοσιογραφίας και ΜΜΕ στο ΑΠΘ

 

 

 

Σοσάνα Ζούμποφ στο ΒΗΜΑ: Ο κατασκοπευτικός καπιταλισμός ελέγχει την ανθρώπινη συμπεριφορά

Η ομότιμη καθηγήτρια στη Harvard Business School ξετυλίγει τις σκοτεινές πτυχές του νέου ψηφιακού κόσμου, μιλάει για τις τρομακτικές δυνατότητες της νέας τεχνολογίας και εξηγεί πώς οι προσωπικές πληροφορίες έγιναν το νέο «υλικό αγαθό» και ποιος ήταν ο καταλυτικός ρόλος της Google

26.10.2020, 13:39  ΤΟ ΒΗΜΑ

Σοσάνα Ζούμποφ στο ΒΗΜΑ: Ο κατασκοπευτικός καπιταλισμός ελέγχει την ανθρώπινη συμπεριφορά | tovima.gr
Η Google συνειδητοποίησε ότι «το νέο “υλικό αγαθό” είναι οι προσωπικές πληροφορίες, η ιδιωτική ανθρώπινη εμπειρία για την οποία δεν υπάρχει καμία άμυνα ως προς την υφαρπαγή της» λέει η Σοσάνα Ζούμποφ

Εχετε σκεφτεί ποτέ ποια είναι η σημασία του να δεχτείτε να σας στέλνει γνωστοποιήσεις μια ιστοσελίδα αφού έχετε «κατεβάσει» τη σχετική εφαρμογή (app) στο κινητό σας τηλέφωνο; Ή τι σημαίνει να συναινείτε στα περίφημα πλέον cookies; Μήπως σας έχει περάσει από το μυαλό αν στοιχεία της υγείας σας αξιοποιούνται χωρίς τη θέλησή σας όταν επίσης χρησιμοποιείτε σχετικές εφαρμογές για το τρέξιμο ή για τους καρδιακούς παλμούς; Ισως να το έχετε κάνει, ίσως και όχι. Ισως να τα σκεφτήκατε όλα αυτά προς στιγμήν και στη συνέχεια να τα απωθήσατε ως πολύ κουραστικά για να ασχοληθείτε μαζί τους.

Δυστυχώς, όλα τα παραπάνω είναι μόνο ορισμένες «αθώες» πτυχές του νέου ψηφιακού κόσμου, αυτού που τόσο αφοπλιστικά και με τρόπο συγκλονιστικό παρουσιάζει η Σοσάνα Ζούμποφ στο βιβλίο της με τίτλο The Age of Surveillance Capitalism (στα ελληνικά έχει εκδοθεί από τις εκδόσεις Καστανιώτη με τον τίτλο Η εποχή του κατασκοπευτικού καπιταλισμού: Ο αγώνας για ένα ανθρώπινο μέλλον στο μεταίχμιο της νέας εξουσίας). Η Ζούμποφ, ομότιμη καθηγήτρια στη Harvard Business School – μία από τις πρώτες γυναίκες που διέβησαν αυτό το άντρο – προσφέρει μια συγκλονιστική περιγραφή όχι μόνο των τρομακτικών δυνατοτήτων της νέας τεχνολογίας, αλλά κυρίως του οικονομικού μοντέλου που έχει πλέον διαμορφωθεί από τη δράση των γιγάντων της ψηφιακής τεχνολογίας, των γνωστών με την προσωνυμία Big Tech: έτσι ομαδοποιούνται η Google, το Facebook, η Apple, το Twitter και, εσχάτως, η Amazon.

Ο «κατασκοπευτικός καπιταλισμός» είναι το νέο στάδιο ανάπτυξης του καπιταλισμού, όπως παλαιότερα ο χρηματοπιστωτικός ή ο βιομηχανικός καπιταλισμός. Είναι δε τόσο επαναστατικός που μπορεί να ανατρέψει, αν δεν το έχει ήδη κάνει, όλα τα όρια της ιδιωτικότητας. Η έλλειψη κάθε ρύθμισης του επέτρεψε να αναπτυχθεί ραγδαία την τελευταία 15ετία ή και 20ετία. Μια σειρά λόγων όμως φαίνεται ότι έχει εσχάτως εγείρει πλήθος ερωτημάτων για αυτή την έλλειψη λογοδοσίας και η συζήτηση για τη θέσπιση μιας νέας αντιμονοπωλιακής νομοθεσίας τόσο για την Google όσο και για το Facebook έχει ανοίξει πλέον στην Ουάσιγκτον. Ο δρόμος όμως θα είναι μακρύς…

 

Τα «άυλα αγαθά» είναι το νέο προϊόν

Πριν από μερικές ημέρες «Το Βήμα» συνομίλησε, αποκλειστικά, με την κυρία Ζούμποφ. Το σκεπτικό της καθηλώνει τον συνομιλητή της από την πρώτη στιγμή. «Οι άνθρωποι πρέπει κατ’ αρχήν να κατανοήσουν πώς λειτουργεί ο καπιταλισμός. Αναπτύσσεται διεκδικώντας πράγματα που σε μια συγκεκριμένη χρονική στιγμή βρίσκονται εκτός της δυναμικής της αγοράς ώστε να τα συμπεριλάβει σε αυτή. Θυμηθείτε», μας λέει, «με ποιον τρόπο ο καπιταλισμός συμπεριέλαβε την ίδια τη φύση στη δυναμική της αγοράς με την ενσωμάτωση των φυσικών πόρων ή ακόμη και την αγορά γης», υπενθυμίζοντας την περιγραφή που έκανε ο Καρλ Πολάνιι στο κορυφαίο βιβλίο του Ο μεγάλος μετασχηματισμός. Πλέον όμως έχουμε ξεπεράσει την εποχή των υλικών αγαθών. Ο 21ος αιώνας είναι, σύμφωνα με την κυρία Ζούμποφ, «η εποχή μιας νέας κοινωνικής κατασκευής» που βασίζεται σε «άυλα αγαθά».

Το μοντέλο είναι γνωστό. «Ολα ξεκινούν με την ανάπτυξη της Silicon Valley, τις εταιρείες του Internet οι οποίες παράγουν αγαθά και υπηρεσίες και φυσικά οδηγούν τη χρηματιστηριακή τους αξία στα ύψη, πολλαπλασιάζοντας και τα διαφημιστικά έσοδα. Αιφνιδίως, όμως, έρχεται το σπάσιμο της φούσκας, αυτό που ονομάστηκε «dot bust», το 2000, και οι επενδυτές αρχίζουν να αποσύρονται. Πού ακριβώς εντοπίζεται το πρόβλημα;» αναρωτιέται. «Υπάρχουν οι επιχειρήσεις, αλλά δεν φέρνουν χρήματα. Δεν έχουν ακόμη καταφέρει να βρουν το ισοδύναμο ενός αγαθού, όπως ήταν παλαιότερα τα υλικά αγαθά, που να μπορούν να πουλήσουν». Αυτό όμως δεν θα κρατήσει πολύ. Η επανάσταση που θα ανοίξει τον δρόμο προς τον «κατασκοπευτικό καπιταλισμό» βρίσκεται προ των πυλών. Και αυτός που θα τις ανοίξει ή, ορθότερα, θα τις παραβιάσει δεν θα είναι άλλος από τον τεχνολογικό κολοσσό που ονομάζεται Google.

Η επανάσταση της Google

Αυτό που έκανε η Google θα μπορούσε να μοιάζει με την επανάσταση του Γουτεμβέργιου τον 15ο αιώνα στη Γερμανία, που σταδιακά οδήγησε στην αποκαθήλωση της αυθεντίας της Καθολικής Εκκλησίας – τόσο καταλυτικές είναι οι επιπτώσεις του. «Η Google», μας εξηγεί η Ζούμποφ, «θα συνειδητοποιήσει ότι το νέο «υλικό αγαθό» είναι οι προσωπικές πληροφορίες, η ιδιωτική ανθρώπινη εμπειρία για την οποία δεν υπάρχει καμία άμυνα ως προς την υφαρπαγή της. Η ψηφιοποίηση επέτρεψε την άντληση αυτής της ιδιωτικής εμπειρίας και τη μετατροπή της σε δεδομένα. Ουσιαστικά, αυτό που συνέβη ήταν ότι η ιδιωτική ανθρώπινη εμπειρία έλαβε μια νέα έννοια και μετετράπη σε αγαθό (commodity), σε προϊόν. Το επόμενο στάδιο υπήρξε ευκολότερο. Η ανθρώπινη συμπεριφορά, αυτό που έχω ονομάσει «ιδιωτικά συμπεριφορικά δεδομένα», τροφοδοτεί πλέον τις αλυσίδες προσφοράς. Τα εργοστάσια είναι πλέον υπολογιστικά, βασίζονται στην τεχνητή νοημοσύνη και στη μάθηση των μηχανών».

Αυτό που ουσιαστικά επιτυγχάνεται είναι η σταδιακή δημιουργία προϊόντων τα οποία θα μπορούν, παρακολουθώντας ή, αν θέλετε, κατασκοπεύοντας όσα ο απλός πολίτης κάνει ή επιλέγει μέσα στις ψηφιακές εφαρμογές, να προβλέπουν την ανθρώπινη συμπεριφορά. «Αυτά τα προϊόντα θα μπορούν από εδώ και στο εξής να πωληθούν είτε σε όσους προσφέρουν υπηρεσίες, είτε στις διαφημιστικές εταιρείες. Με τον τρόπο αυτόν δημιουργείται μια αγορά human futures, όπως αυτή που υπάρχει π.χ. για το πετρέλαιο, που σταδιακά θα θεσμοποιηθεί» σημειώνει η κυρία Ζούμποφ. Το προϊόν που δημιουργείται έχει παγκόσμια χαρακτηριστικά και η εταιρεία που πρώτη θα το συλλάβει και θα το αναπτύξει είναι η Google. Και είναι αυτή που θα αποκομίσει τεράστιο κέρδος, ιδιαίτερα στην πρώτη φάση.

«Μέχρι να εμφανιστεί αυτό το νέο «προϊόν», οι διαφημιστές επέλεγαν οι ίδιοι πού θα τοποθετήσουν τις διαφημίσεις τους. Τώρα τα πράγματα έχουν αλλάξει. Είναι η Google που υποδεικνύει πλέον πού θα μπουν οι διαφημίσεις. Χρησιμοποιεί όλο αυτό το πλεόνασμα συμπεριφορικών δεδομένων (behavioral surplus) και ανακαλύπτει σήματα που προβλέπουν τη συμπεριφορά μας μέσα από την περιήγησή μας στο Διαδίκτυο. Είναι», εξηγεί η αμερικανίδα καθηγήτρια, «σαν να λένε στις διαφημιστικές εταιρείες: «Αν ακούτε όσα σας λέει το μαύρο κουτί, θα είμαστε όλοι ευχαριστημένοι». Δεν σας μοιάζει αυτό σαν μια συμφωνία με τον Διάβολο;». Βέβαια, αυτή η συμφωνία ήταν πολύ επικερδής για την Google, διότι ήταν αυτή που ουσιαστικά εφηύρε τον «κατασκοπευτικό καπιταλισμό» στις αρχές της δεκαετίας του 2000.

Το πλεονέκτημα του Facebook

Το 2004, όταν οι ειδικοί της εταιρείας είδαν τα οικονομικά στοιχεία, διαπίστωσαν ότι τα έσοδα είχαν εκτοξευθεί κατά 3.590%!! «Και φυσικά ουδείς από τους χρήστες γνώριζε τίποτα, ούτε ότι η Google χρησιμοποιούσε περισσότερα προσωπικά δεδομένα και από όσα είχε ανάγκη. Ετσι προκύπτει το πλεόνασμα συμπεριφορικών δεδομένων και το σχετικό μέρισμα. Λίγο αργότερα», προσθέτει η κυρία Ζούμποφ, «ένα από τα κορυφαία στελέχη της Google, η Σέριλ Σάντμπεργκ, μεταπήδησε στο Facebook. Το ίδιο μοντέλο χρησιμοποιήθηκε και εκεί, μόνο που το Facebook διαθέτει ένα επιπλέον πλεονέκτημα: τις συνομιλίες των χρηστών του, που επιτρέπουν να συγκεντρώνεται ακόμη μεγαλύτερο πλεόνασμα συμπεριφορικών δεδομένων». Και όλοι είδαμε πόσο «χρήσιμο» μπορεί να είναι αυτό το πλεόνασμα για αδίστακτους δρώντες που το αξιοποίησαν είτε για να κερδίσουν την εκστρατεία του Brexit, είτε ακόμη και για να επηρεάσουν το αποτέλεσμα των αμερικανικών προεδρικών εκλογών το 2016. Αυτό το μοντέλο έγινε το πρότυπο για όλον τον τεχνολογικό τομέα. Και σταδιακά «ο κατασκοπευτικός καπιταλισμός ενσωματώθηκε σε όλους τους τομείς της κανονικής οικονομίας, στο λιανικό εμπόριο, στην εκπαίδευση, στην υγεία, στον τομέα των ασφαλίσεων. Επίσης, όλα τα επονομαζόμενα «έξυπνα» (smart) προϊόντα αποτελούν βασική πηγή συγκέντρωσης συμπεριφορικών δεδομένων που σταδιακά εντάσσονται στην αλυσίδα προσφοράς» σημειώνει.

Υπερσυγκέντρωση πληροφοριών σε πολύ λίγα χέρια

Ρωτάμε την καθηγήτρια Ζούμποφ με ποιον τρόπο, κατά την εκτίμησή της, αυτό το νέο μοντέλο καπιταλισμού επηρεάζει τις σύγχρονες δημοκρατίες. «Επιτρέψτε μου να σας δώσω μερικά στοιχεία ώστε να κατανοήσουμε το μέγεθος της μεταβολής που έχει επέλθει» μας λέει η συγγραφέας, η οποία, παρεμπιπτόντως, το 1988 είχε παρουσιάσει άλλο ένα εντυπωσιακό επιστημονικό πόνημα με τίτλο The Age of the Smart Machine: The Future of Work and Power. «Το 1986, μόλις το 1% της πληροφορίας αποθηκευόταν ψηφιακά. Περίπου 15 χρόνια αργότερα, το 2000, το ποσοστό είχε ανέλθει στο 25%. Στη συνέχεια, η αύξηση του ποσοστού της πληροφορίας που αποθηκεύεται ψηφιακά εμφανίζει καλπάζοντα ρυθμό: ξεπερνά το 50% μόλις δύο χρόνια αργότερα, το 2002, και το 2007 φτάνει στο 97%. Η μεταβολή είναι εντυπωσιακή. Ο κατασκοπευτικός καπιταλισμός εξυπηρέτησε την ψηφιοποίηση. Και φυσικά, όταν μαθαίνεις με ποιον τρόπο μπορείς να εκμεταλλευτείς οικονομικά τα δεδομένα, απλά θέλεις πιο πολλά δεδομένα. Το μεγάλο άλμα στην ψηφιοποίηση ήταν φυσικά τα smartphones» λέει χωρίς περιστροφές η κυρία Ζούμποφ.

Το κλειδί, φυσικά, βρίσκεται αλλού. «Η ιδέα ότι τα πάντα αποτελούν πληροφορία εγείρει μια σειρά από πολύ σημαντικά ερωτήματα» μας υπογραμμίζει. «Κατ’ αρχάς, ποιος γνωρίζει τι. Και στη συνέχεια ποιος αποφασίζει το ποιος γνωρίζει και ποιος αποφασίζει το ποιος αποφασίζει. Σήμερα, ιδιωτικές εταιρείες έχουν την κυριαρχία επί της συγκέντρωσης της γνώσης. Υπάρχει τεράστιος όγκος πληροφοριών και παράλληλα υπερσυγκέντρωση αυτών των πληροφοριών σε πολύ λίγα χέρια. Αυτό επιτρέπει τον έλεγχο της ανθρώπινης συμπεριφοράς. Ο καταμερισμός της γνώσης (division of learning) όμως αποτελεί κομβικό μέγεθος για την ποιότητα της δημοκρατίας. Η υπερσυγκέντρωση της πληροφορίας οδηγεί σε εργαλειοποίηση της ισχύος και συνεπώς σε έλεγχο της ανθρώπινης συμπεριφοράς» σημειώνει την οργουελιανή της αφήγηση η κυρία Ζούμποφ. «Πρόκειται», προσθέτει, «για κατάφωρα παράνομη πρακτική που μπορεί να αντιμετωπιστεί μόνο αν βρούμε τρόπους να κωδικοποιήσουμε κανόνες που θα διασφαλίζουν την ανθρώπινη κυριαρχία (human sovereignty)».

Πόσο εφικτή θα ήταν όμως η θέσπιση ρυθμίσεων για ένα τόσο πολυπλόκαμο και πολυδαίδαλο σύστημα; «Είναι κάτι που μπορεί να γίνει. Πρέπει να υπάρξει ενημέρωση της κοινής γνώμης διότι όσα συζητούμε εδώ είναι άγνωστα για τον περισσότερο κόσμο. Ο κατασκοπευτικός καπιταλισμός αναπτύσσεται ανεμπόδιστα εδώ και περίπου 20 έτη. Δεν έχουμε προσπαθήσει να τον ρυθμίσουμε, ενώ πολλοί φοβούνται ότι αν το πράξουν θα θεωρηθούν μη προοδευτικοί. Δεν σημαίνει ότι η ψηφιακή τεχνολογία δεν είναι καλή, είναι οι αρνητικές της πτυχές που είναι ανεπίτρεπτες και υποσκάπτουν τη δημοκρατία. Εχουμε ρυθμίσεις που κρίνουν παράνομο το εμπόριο ανθρωπίνων οργάνων και τη λαθραία διακίνηση ανθρώπων. Δεν θα έπρεπε να είναι παράνομο και το εμπόριο των δεδομένων της ανθρώπινης συμπεριφοράς;» καταλήγει.

 

 

ΤΕΧΝΟΛΟΓΙΑ

Σίλικον Βάλεϊ, τα στόματα αρχίζουν να ανοίγουν

Ολοι πάνω-κάτω γνωρίζουμε ότι η Σίλικον Βάλεϊ είναι συνυφασμένη με την τεχνολογική πρόοδο και την καινοτομία. Τα κινητά τηλέφωνα που έχουμε πια όλοι στις παλάμες μας, οι υπολογιστές, κάθε μας επαφή με την τεχνολογία σήμερα, έχει κάποια συνάφεια με εταιρεία που ξεκίνησε να δραστηριοποιείται σε αυτή τη γεωγραφική περιοχή, στον Κόλπο του Σαν Φρανσίσκο, στη Βόρεια Καλιφόρνια. Δεν έχω πάει ποτέ εκεί, αν και πολύ θα το ήθελα. Αν θέλω, όμως, μπορώ να περιηγηθώ δωρεάν και άκοπα, εικονικά, στους δρόμους και στα κτίρια που διαμόρφωσαν το σύγχρονο τοπίο της τεχνολογίας, μέσω του Google Street View. Τα τεχνολογικά εργαλεία που έχει δώσει στην ανθρωπότητα η Σίλικον Βάλεϊ είναι πράγματι εντυπωσιακά, και κανείς δεν μπορεί να αμφισβητήσει τη χρησιμότητα, τη «μαγεία», την ελκυστικότητά τους. Τα δισεκατομμύρια των ανθρώπων που χρησιμοποιούν αυτές τις κομψές τεχνολογίες, δεν έχουν πέσει απαραίτητα σε μια καλοστημένη πλάνη. Τα τεχνολογικά προϊόντα και οι υπηρεσίες που γεννήθηκαν στα εργαστήρια της Σίλικον Βάλεϊ, δεν είναι μόνο ακαταμάχητα, αλλά πατούν στέρεα σε ανθρώπινες ανάγκες. Κατ’ επέκταση, είναι πολύ λογικό, να υιοθετούνται από τους πάντες, παντού και πάντα.

«Ποτέ ώς τώρα στην ιστορία δεν άγγιξε ένας τόπος τόσο πολλές ζωές, για το καλύτερο ή το χειρότερο», γράφει ο Ερικ Γουέινερ στη «Γεωγραφία της μεγαλοφυΐας» (εκδ. Τραυλός, 2018). Η πραγματική εικόνα, πίσω απ’ τις ιστορίες επιτυχίας και τον πλούτο των δισεκατομμυριούχων του «νέου χρήματος», δεν είναι αγγελική. Η ακραία επιτυχία της τεχνολογικής ηγεμονίας της Σίλικον Βάλεϊ έχει αρχίσει, ειδικά μετά τις προεδρικές εκλογές του 2016, να κλονίζεται. Πόσο ανεκτικός κι ανθεκτικός μπορεί να είναι ένας τόπος άνθησης της δημιουργικότητας στην κριτική; Η Σίλικον Βάλεϊ αποδεικνύει τα τελευταία χρόνια, ότι δεν είναι καθόλου η ουτοπία που πίστευαν όσοι θέλουν να την αντιγράψουν. Το αμφίσημο πρόσωπό της και η αλαζονεία της αποκαλύπτονται στις περίφημες και τακτικές πλέον ακροάσεις στο Κογκρέσο, όπου οι δισεκατομμυριούχοι ιδρυτές των τεχνολογικών κολοσσών υποχρεώνονται να απαντούν σε ενοχλητικές και ενίοτε αφελείς ερωτήσεις παραδοσιακών πολιτικών.

Αποδεικνύεται εδώ ότι η καινοτομία έχει κόστη. Δημοσιογραφικές και πανεπιστημιακές έρευνες φέρνουν στο φως ενοχλητικά στοιχεία για τις συνθήκες που επικρατούν στο κέντρο της παγκόσμιας τεχνολογικής καινοτομίας, και για τις κοινωνικές, πολιτικές και ψυχολογικές επιπτώσεις των προϊόντων και των υπηρεσιών της. Τα στόματα αρχίζουν να ανοίγουν. Οι ίδιοι οι τεχνολόγοι, οι προγραμματιστές, οι μηχανικοί, οι υπάλληλοι, τα στελέχη των εταιρικών γιγάντων τολμούν να απομαγεύσουν τον ιερό αυτό χώρο, του οποίου η θρησκεία και το δόγμα είναι η πίστη στην τεχνολογία.

Ισως βέβαια αυτή είναι η δύναμη του παρόντος υποδείγματος και της ίδιας της Σίλικον Βάλεϊ: το ότι γίνεται ανοικτή κριτική, υπάρχει διαφάνεια, διάλογος, της δίνει τη δυνατότητα να προβεί σε διορθώσεις, ώστε να μη χάσει σύντομα την πρωτοκαθεδρία. Ο μεγάλος της ανταγωνιστής, η Κίνα εν συνόλω, απορρίπτει συλλήβδην την πληροφόρηση και την κριτική.

Στο δραματοποιημένο ντοκιμαντέρ «Το κοινωνικό δίλημμα» (The Social Dilemma, Netflix, 2020) του Τζέιμς Ορλόφσκι μιλούν μόνο άνθρωποι που γνωρίζουν. Οι λεγόμενοι insiders. Ο Τρίσταν Χάρις, ο βασικός πρωταγωνιστής, είναι πρώην υπάλληλος του τομέα Ηθικής της Google, κι έχει αναδειχθεί ως ο υπ’ αριθμόν ένα κριτικός της βιομηχανίας της big tech (της επονομαζόμενης Μεγάλης Τεχνολογικής Βιομηχανίας). Εχει ιδρύσει τον οργανισμό Center for Humane Technology, ευελπιστώντας να στρέψει τους ψηφιακούς κολοσσούς σε πιο ηθικά μονοπάτια. Ο Χάρις λέει στο ντοκιμαντέρ το αυτονόητο: η τεχνητή νοημοσύνη είναι εδώ. «Είναι σαν ένα πείραμα φυλακής» διατείνεται, «όπου καλούμε τον κόσμο μέσα σε ένα μάτριξ και μετά βγάζουμε χρήματα και δεδομένα απ’ τη δραστηριότητά τους, με μόνο σκοπό το κέρδος. Και δεν είμαστε καν ενήμεροι ότι αυτό συμβαίνει».

«Χάσαμε τον δρόμο μας» προσθέτει, επιχειρώντας να διαφωτίσει και να κινητοποιήσει και άλλους προγραμματιστές να μιλήσουν. Ο Χάρις τονίζει με κάθε ευκαιρία την ευθύνη των εταιρειών και των μηχανικών. «Ομάδες μηχανικών χακάρουν την ανθρώπινη ψυχολογία, για να πάρουν περισσότερη ανάπτυξη, περισσότερους εγγεγραμμένους χρήστες», ομολογεί. «Θέλουμε να σας χειραγωγήσουμε όσο πιο γρήγορα γίνεται», λέει ο Τσάμαθ Παλιχαπιτίγια, πρώην αντιπρόεδρος ανάπτυξης χρηστών του Facebook, «προσφέροντάς σας ντοπαμίνη, το κάναμε στο Facebook, το κάνουν το Instagram, το WhatsΑpp, το Twitter, το Snapchat». Αφού το λένε οι ίδιοι οι άνθρωποι της Σίλικον Βάλεϊ, εμείς γιατί να μην τους πιστέψουμε;

Η πλατφόρμα του Facebook στο μικροσκόπιο

«Facebook: The Inside Story», του βετεράνου δημοσιογράφου τεχνολογικών θεμάτων Στίβεν Λέβι.

Το τεχνολογικό θαύμα της Σίλικον Βάλεϊ που δέχεται αναγκαστικά τη μεγαλύτερη προσοχή τα τελευταία χρόνια είναι το «λειτουργικό σύστημα των ζωών μας», η πλατφόρμα του Facebook. Μπαίνει στο στόχαστρο γιατί φέρεται πειστικά να έχει επηρεάσει εκλογικά αποτελέσματα, να έχει δώσει συστηματικά βήμα και γόνιμο έδαφος ανάπτυξης σε εξτρεμισμούς, λαϊκισμούς, πολώσεις και πολλά άλλα δεινά. Εσχάτως, δημιουργείται κι εδώ η τάση πρώην υπαλλήλων της εταιρείας, να βγαίνουν και να απολογούνται για όσα βίωσαν ως εργαζόμενοι εκεί.

Τον Σεπτέμβριο του 2020, η Σόφι Γιανγκ, έχει μόλις απολυθεί από το Facebook και καταγγέλλει σοβαρές ατασθαλίες της πλατφόρμας. «Εχω αίμα στα χέρια μου», δηλώνει. Θεωρεί ότι ο λόγος της απόλυσής της σχετίζεται ευθέως με τις καταγγελίες της. Το νόημα είναι ότι η εταιρεία δεν κάνει αρκετά ώστε να ανακόψει το κακό που τρέφει στους κόλπους της. «Στα τρία χρόνια που ήμουν στο Facebook» γράφει η Γιανγκ, «έγινα μάρτυρας καταφανών προσπαθειών από ξένες εθνικές κυβερνήσεις, να εισβάλουν στην πλατφόρμα σε μαζική κλίμακα και να παραπλανήσουν τους ίδιους τους πολίτες τους». Αλλά κανείς μέσα στη μηχανή δεν ήθελε να ακούσει.

Η πιο πρόσφατη δημοσιογραφική έρευνα για το Facebook έχει αποκρυσταλλωθεί στο βιβλίο «Facebook: The Inside Story» (Penguin, 2020). Στις σελίδες του, ο βετεράνος δημοσιογράφος τεχνολογικών θεμάτων Στίβεν Λέβι, αφηγείται την αθέατη ιστορία του Facebook έχοντας εξασφαλίσει προνομιακή πρόσβαση τόσο στα γραφεία των υπαλλήλων όσο και στο ίδιο το σπίτι του ιδρυτή του, Μαρκ Ζάκερμπεργκ. Επί τρία χρόνια, εκμυστηρεύεται ο συγγραφέας, «κατέγραφα την πιο περίπλοκη, δραματική, και πολωτική ιστορία που βίωσα ποτέ στην καριέρα του». Μια αξιοζήλευτη καριέρα που γέννησε σπουδαία βιβλία της τεχνολογικής ιστορίας των καιρών μας, όπως το κλασικό «Hackers, heroes of the computer revolution» (εκδ. O’ Reilly, 2010).

Το κείμενο του Λέβι αποτελεί τεκμήριο δημοσιογραφικής κάλυψης, που φωτίζει τόσο τα λαμπερά όσο και τα σκοτεινά σημεία της τεράστιας επιτυχίας της τεχνολογικής αυτής μηχανής που γεννήθηκε και μεγάλωσε επίσης στην Κοιλάδα του Πυριτίου. Πρόκειται για ένα συναρπαστικό χρονικό της ανάδυσης ενός καινούργιου κόσμου. Και παρότι κρατά συνειδητά αποστάσεις, και προσπαθεί να ισορροπεί την κριτική του με την υπερασπιστική γραμμή της εταιρείας και του ίδιου του ιδρυτή της, δεν τους χαρίζεται. Στην εισαγωγή κιόλας γράφει: «Αυτές οι μεγάλες τεχνολογικές εταιρείες βασίστηκαν αρχικά στον ιδεαλισμό των ιδρυτών τους, αλλά τώρα αντιμετωπίζονται ως μέρος μιας φαουστικής διαπραγμάτευσης: για τα θαύματα που μας προσφέρουν πληρώνουμε τίμημα, με την προσοχή μας, την ιδιωτικότητά μας, τον αλληλοσεβασμό μας. Και τώρα τρομάζουμε με την εξουσία τους».

Το νόημα είναι απλό: εσύ κι εγώ, ο χρήστης της πλατφόρμας ως άλλοι Φάουστ, δημιουργήσαμε λογαριασμό στο Facebook κι υπογράψαμε μια συμφωνία με τον Ζάκερμπεργκ, έναν ακόμα «σπασίκλα με όνειρα», χωρίς να διαβάσουμε τους εκτενείς της όρους ποτέ, ώστε να μας προσφερθεί διασκέδαση, ενημέρωση,  επικοινωνία, και εξουσία στην παλάμη του χεριού μας. Το τίμημα ήταν να χάσουμε την «ψυχή» μας. Εχουμε εθιστεί στα λάικ λες και παίζουμε σε κουλοχέρη, δεν μπορούμε να συγκεντρωθούμε, νιώθουμε πολύ πιο μόνοι, συγκρινόμαστε διαρκώς, και νιώθουμε πολύ πιο αδύναμοι να επηρεάσουμε τα πράγματα. Το Facebook μας έκανε όλους αλγοριθμικές μαριονέτες. Ο Μαρκ, ως άλλος Μεφιστοφελής, μας ξεγέλασε. Το μόνο που ήθελε κι αυτός, ήταν να μας κάνει να κάνουμε κλικ πάνω σε διαφημίσεις. Μοιραία οι προβολείς στρέφονται επάνω του, στον εμπνευστή του μηχανισμού με τις αθλητικές παντόφλες, το εφηβικό χαμόγελο, τις μεγάλες ιδέες και το χαρακτηριστικό κοντομάνικο γκρι μπλουζάκι των 300 δολαρίων.

Στο βιβλίο του «Antisocial media, How Facebook disconnects us and undermines democracy», (Oxford University Press, 2018) ο καθηγητής μέσων ενημέρωσης στο πανεπιστήμιο της Βιρτζίνια των ΗΠΑ, Σίβα Βεϊντιανάθαν, υποστηρίζει ότι αντί το μέσο δικτύωσης να μας φέρνει πιο κοντά, αντί να κάνει τον κόσμο πιο ανοιχτό και διασυνδεδεμένο, κάνει το αντίθετο, μας απομακρύνει κλείνοντάς μας σε παράλληλα σύμπαντα, και την ίδια στιγμή, θέτει σε κίνηση ακούσια έναν μηχανισμό υπονόμευσης της δημοκρατίας. «Ενα από τα κίνητρά μου να γράψω αυτό το βιβλίο είναι να προκαλέσω μια συζήτηση πριν το Facebook γίνει ένας μύθος και δεν μπορούμε να φανταστούμε τη ζωή χωρίς αυτό. Φοβάμαι ότι ίσως είναι αργά», γράφει ξεκινώντας την ανησυχητική απαρίθμηση των προβλημάτων που έχει επιφέρει παγκοσμίως η πλατφόρμα. Για τον Βεϊντιανάθαν όλα ξεκινούν από το ότι ο Μαρκ είναι «βαθιά αμόρφωτος». Ο Ζάκερμπεργκ, γράφει, «δεν είναι σε θέση να εκτιμήσει τις λεπτές αποχρώσεις, τις επιπλοκές, τα ενδεχόμενα, ή ακόμα και τις δυσκολίες που προκύπτουν στην πορεία. Διαπνέεται από ένα ζωηρό ηθικό πάθος, αλλά του λείπει η αίσθηση της Ιστορίας, και των τρομερών πραγμάτων που μπορούν να κάνουν οι άνθρωποι ο ένας εναντίον του άλλου, κι όλοι εναντίον του πλανήτη. Ο Ζάκερμπεργκ είναι ένας έξοχος κατασκευαστής. Αλλά όταν κάποιος γίνεται τόσο γρήγορα πλούσιος, οι ισχυροί άνθρωποι αρχίζουν να τον παίρνουν στα σοβαρά πάνω σε ζητήματα για τα οποία εκείνος στερείται κατανόησης». Ωστόσο, ο Λέβι στο πολύ καλά τεκμηριωμένο βιβλίο του υπερασπίζεται σθεναρά τον Μαρκ μιλώντας για το πάθος του με αρχαία κείμενα Ελλήνων και Ρωμαίων φιλοσόφων.

Σε κάθε περίπτωση, ο Βεϊντιανάθαν θεωρεί ότι το Facebook είναι μια ιστορία ύβρεως που έχει παραχθεί από καλές προθέσεις, από ένα αποστολικό πνεύμα, και από μια μηχανιστική ιδεολογία που βλέπει τον κώδικα των υπολογιστών ως τη λύση όλων των ανθρώπινων προβλημάτων. Η τυπική ιδεολογία των νεοφυών επιχειρήσεων της Σίλικον Βάλεϊ. «Αν ο Μαρκ δεν επέμενε τόσο στο να κάνει τον κόσμο ένα καλύτερο μέρος, και εστίαζε μόνο στο κέρδος του, ίσως να μη γινόταν όλο αυτό», αναφέρει. Για τον καθηγητή, τo Facebook έχει συμβάλλει καθοριστικά στην μόλυνση του τοπίου της πληροφορίας, έχει ενισχύσει το συναισθηματισμό στη δημόσια έκφραση ευνοώντας τη διάχυση περιεχομένων που παράγουν έντονες αντιδράσεις, κι έχει κάνει όλο και δυσκολότερη τη συνάντηση με διαφορετικούς ανθρώπους κι άλλες γνώμες, κλείνοντας τους χρήστες σε δωμάτια ομοφωνίας. Το χειρότερο όλων είναι ότι έχει κάνει σχεδόν ανέφικτη τη συλλογική αντιμετώπιση των προβλημάτων, γεγονός που «απειλεί συλλογικά τις ζωές όλων μας». «Είμαστε τα θύματα της επιτυχίας του», καταλήγει.

«Ενα τέρας που έχει αφεθεί ελεύθερο»

Στο δραματοποιημένο ντοκιμαντέρ του Netflix «Το κοινωνικό δίλημμα» (The Social Dilemma) μιλούν άνθρωποι που γνωρίζουν «από μέσα» το θέμα.

Αν η ανάλυση του καθηγητή μοιάζει πολύ θεωρητική, τότε η μαρτυρία ενός πραγματιστή επιχειρηματία και επενδυτή δεν μπορεί να αφήσει πολλά περιθώρια παρερμηνειών για τη φαουστική συμφωνία του κυρίαρχου μέσου δικτύωσης. Επί μία δεκαετία, ο Ρότζερ Μακνάμι ήταν ένας αληθινός πιστός. Η θρησκεία του τεχνολογικού θαύματος, οι θεοί και τα σύμβολά της τον βρήκαν τη σωστή στιγμή στο σωστό μέρος, στη Χρυσή Εποχή της Σίλικον Βάλεϊ, να δίνει ως μέντορας τις συμβουλές του στον Μαρκ Ζάκερμπεργκ και να είναι από πολύ νωρίς ένας εκ των επενδυτών του Facebook. Επί μία δεκαετία, ο Μακνάμι ήταν ένας ευαγγελιστής των μέσων κοινωνικής δικτύωσης, ένας ένθερμος οπαδός που πίστευε στο ουτοπιστικό όραμα των τεχνολογικών γιγάντων. Ξαφνικά, όμως, όλα άλλαξαν. «Ημουν σαν τον Τζίμι Στιούαρτ στον “Σιωπηλό μάρτυρα” του Χίτσκοκ», γράφει στην πρώτη σελίδα του βιβλίου του «Zucked, Waking Up to the Facebook catastrophe», (εκδ. HarperCollins, 2019), «κοίταζα κι εγώ τη δουλειά μου, μέχρι τη στιγμή που στο απέναντι διαμέρισμα παρατήρησα να συμβαίνει κάτι που έμοιαζε με εγκληματική πράξη, και τότε, αναρωτήθηκα αν έπρεπε να κάνω κάτι γι’ αυτό. Στην περίπτωσή μου έκανα καριέρα προσπαθώντας να εξάγω ευφυή συμπεράσματα απ’ την ατελή πληροφόρηση, και μια μέρα στις αρχές του 2016 άρχισα να βλέπω πράγματα στο Facebook που δεν έδειχναν καθόλου σωστά. Αρχισα να ακολουθώ το νήμα και μου αποκαλύφθηκε μια καταστροφή».

Ο άλλοτε μέντορας του Ζάκερμπεργκ, ο οποίος εμφανίζεται και στο ντοκιμαντέρ «Το κοινωνικό δίλημμα», δεν πιστεύει ότι πίσω απ’ τα τιμήματα της φαουστικής συμφωνίας υπάρχει ρητή πρόθεση βλάβης του κόσμου. Τα νέα μέσα «δεν προκάλεσαν τον μετασχηματισμό της παγκόσμιας πολιτικής αλλά τον διευκόλυναν, τον επιτάχυναν, και εξασφάλισαν ότι θα φτάσει την ίδια στιγμή σε όλα τα μήκη και τα πλάτη του κόσμου ταυτόχρονα». Οι επιλογές των ηγετικών στελεχών, και του ίδιου του Ζάκερμπεργκ, έχουν δημιουργήσει ένα τέρας που έχει αφεθεί ελεύθερο να κανοναρχεί και να απειλεί τα πάντα, και πρώτα απ’ όλα τη δημοκρατία. Στην ουσία, «έχουν δημιουργήσει ένα όπλο για όσους θέλουν να επιβάλουν τη βούλησή τους πάνω στους αδύναμους».

«Ως πολίτες κι ως κοινωνίες» γράφει, «ήμασταν εντελώς απροετοίμαστοι μπροστά στις κοινωνικές και πολιτικές πιέσεις που ασκήθηκαν απ’ τις διαδικτυακές πλατφόρμες. Εμφανίστηκαν τόσο ξαφνικά, και η επιρροή τους εξαπλώθηκε τόσο γρήγορα, που έπιασαν στον ύπνο τους πολιτισμικούς, πολιτικούς και νομικούς θεσμούς μας. Πολλοί μπαίνουν στον πειρασμό να χαλαρώσουν τώρα που πέρασαν αρκετές εκλογικές αναμετρήσεις χωρίς εμφανή ξένη ανάμειξη. Μπορεί σήμερα οι ευσυνείδητοι πολίτες να κοιμούνται ήσυχοι νομίζοντας ότι οι πολιτικοί έχουν καταλάβει τη σοβαρότητα του θέματος, αλλά η ξένη εμπλοκή στις εκλογές διά των μέσων κοινωνικής δικτύωσης είναι απλώς το σύμπτωμα ενός μεγαλύτερου προβλήματος για το οποίο πρέπει να λογοδοτήσουν οι διαδικτυακές πλατφόρμες, και μόνον αυτές».

Τα βιβλία «Anti-social media – How Facebook Disconnects Us and Undermines Democracy» του καθηγητή μέσων ενημέρωσης Σίβα Βεϊντιανάθαν και «Zucked, Waking Up to the Facebook catastrophe» του Ρότζερ Μακνάμι.

«Χωρίς υπερβολή», συμπεραίνει ο Μακνάμι, «οι διαδικτυακές πλατφόρμες συνιστούν τη μεγαλύτερη απειλή για την παγκόσμια τάξη. Αν θέλουμε να αποφύγουμε ένα απολυταρχικό μέλλον, πρέπει να μειώσουμε την επιρροή τους, γιατί δίνουν στους αυταρχικούς τη δυνατότητα να επιβάλλουν εύκολα τη θέλησή τους. Δε είναι δυνατόν τα όποια ατομικά οφέλη του Facebook, να δικαιολογούν συλλογικές βλάβες σε δισεκατομμύρια ανθρώπων, να δικαιολογούν την αποσταθεροποίηση κρίσιμων θεσμών, του Τύπου, των εκλεκτορικών συστημάτων, και των διεθνών συστημάτων διακυβέρνησης, που προστατεύουν τους αθώους».

Ο Σίβα Βεϊντιανάθαν θεωρεί ότι μακροπρόθεσμα υπάρχει ελπίδα, μολονότι το Facebook είναι πια πολύ μεγάλο για να αντιμετωπιστεί συνολικά. Συμφωνεί με τον Μακνάμι ότι χρειάζεται επειγόντως να αναληφθεί δράση. Το κοντινό παρελθόν μας δείχνει ότι οι πλατφόρμες από μόνες τους δεν θα κινητοποιηθούν στην κατεύθυνση κάποιας σοβαρής λύσης. Οι πιο πρόσφατες ακροάσεις της 29ης Ιουλίου 2020, όπου οι ηγέτες των μεγαλύτερων τεχνολογικών εταιρειών κλήθηκαν να καταθέσουν στην επιτροπή του Κογκρέσου εναντίον των μονοπωλίων, ίσως να είναι μια αρχή.

Ο Μακνάμι οραματίζεται δισεκατομμύρια χρηστών να επαναστατούν με τρόπους τέτοιους που κάνουν τις πλατφόρμες να αλλάζουν ριζικά προς το συμφέρον των πολιτών. ΄Η ότι οι υπάλληλοι του Facebook γίνονται οι ίδιοι φορείς της αλλαγής. Προς το παρόν, οι φωνές είναι μεμονωμένες. Αλλά κάτι δείχνει να αλλάζει. Ως και οι διασημότητες που έχουν ωφεληθεί αφάνταστα απ’ τα social media, αρχίζουν δοκιμαστικά να μποϊκοτάρουν έστω για μια μέρα τις πλατφόρμες, συμμετέχοντας σε κινήματα του ύφους #StopHateForProfit.

 

 

 

 

ΔΙΕΘΝΗΣ ΟΙΚΟΝΟΜΙΑ

Άποψη: «Σκοτεινό Διαδίκτυο» και κυβερνοέγκλημα

Βάσει εκτιμήσεων το κόστος της ηλεκτρονικής απάτης και του κυβερνοεγκλήματος ξεπέρασε τα 5 τρισ. δολάρια το 2020, υπερβαίνοντας το αθροιστικό κόστος της εμπορίας ναρκωτικών ουσιών. Ταυτόχρονα, τα παράνομα κέρδη από το κυβερνοέγκλημα άγγιξαν το 1,5 τρισ. δολάρια. Δηλαδή, εάν οι κυβερνοεγκληματίες αναπαριστούσαν ένα κράτος θα συγκαταλέγονταν στους G20, με το 13ο μεγαλύτερο ΑΕΠ παγκοσμίως.

Εχω ερωτηθεί πολλές φορές, «Γιατί να υποκλέψουν τα δεδομένα ενός οργανισμού ή των πελατών», «Τι αξία έχουν;». Το «Σκοτεινό Διαδίκτυο» (Dark Web) είναι ένα μέρος όπου γίνεται αγοραπωλησία ναρκωτικών, όπλων, απαγορευμένων φαρμακευτικών σκευασμάτων και δεδομένων. Υποκλαπέντα προσωπικά και οικονομικά δεδομένα (π.χ. στοιχεία Δ.Τ., διαβατηρίου, κωδικοί πρόσβασης σε social media, πιστωτικές κάρτες, στοιχεία τραπεζικών λογαριασμών), καθώς και ευαίσθητα εταιρικά στοιχεία (π.χ. πνευματικά δικαιώματα) διατίθενται προς πώληση. Σήμερα, η τιμή πώλησης προσωπικών δεδομένων ξεκινά από 30€/άτομο. Οσο πιο «πλήρη» τα δεδομένα με στοιχεία ανθρώπων σε κρατικές θέσεις ή ψηλά στην ιεραρχία εταιρειών τόσο αυξάνεται η τιμή, αγγίζοντας αρκετές χιλιάδες ευρώ.

Μια απλή πράξη, αποτυπώνει το πόσο επικερδές επιχειρηματικό μοντέλο αποτελεί το κυβερνοέγκλημα. Η υποκλοπή μιας βάσης δεδομένων επιχείρησης με 1.000.000 εγγραφές προσωπικών στοιχείων πελατών μπορεί να πουληθεί στο Dark Web για 30 εκατομμύρια ευρώ. Η επόμενη ερώτηση που δέχομαι είναι: «Τι κάνει ο αγοραστής τα δεδομένα από το Dark Web;». Απλά, τα νομισματοποιεί. Μία εύκολη μέθοδος, είναι η έκδοση καρτών και δανείων από χρηματοπιστωτικά ιδρύματα και η αγορά ακριβών ιατρικών σκευασμάτων τα οποία μεταπωλεί στο Dark Web. Αλλος τρόπος νομισματοποίησης δεδομένων πιστωτικών καρτών είναι μέσω online καζίνων ή έκδοσης νέων καρτών για την εκταμίευση μετρητών από ATM. Απόρρητες πληροφορίες επιχειρηματικών κινήσεων ή δεδομένα πατεντών μπορούν να αγοραστούν για εκατομμύρια ευρώ.

Οι εταιρείες τα τελευταία χρόνια επένδυσαν στην υλοποίηση μέτρων ασφαλείας τεχνολογίας, για την προστασία από κυβερνοεπιθέσεις. Προσπάθησαν να διασφαλίσουν την «περίμετρό τους» δημιουργώντας ένα προστατευμένο, εσωτερικό πληροφοριακό περιβάλλον για την ασφαλή αποθήκευση και επεξεργασία ευαίσθητων δεδομένων του οργανισμού και των πελατών τους. Στην πραγματικότητα, η περίμετρος αυτή δεν υφίσταται. Οι τεχνολογικές εξελίξεις των τελευταίων ετών (Cloud, IoT, Mobile, Big Data/AI), έχουν αλλάξει και σε πολλές περιπτώσεις επεκτείνει την περίμετρο των οργανισμών σε φορητές συσκευές (π.χ. κινητά τηλέφωνα, laptops, tablets) και σε τρίτα μέρη που φιλοξενούν υποδομές υπολογιστικού νέφους. Αυτό είναι κάτι που εντείνεται στο πλαίσιο της πανδημίας και της εξ αποστάσεως εργασίας μετατρέποντας τους οργανισμούς σε εύκολο στόχο. Ακόμα, η πανδημία αύξησε την «επιφάνεια επίθεσης» για τους κυβερνοεγκληματίες, καθώς οι οργανισμοί ψηφιοποίησαν πολλές από τις εμπορικές τους συναλλαγές. Χρειάζεται επαναπροσδιορισμός των κανόνων και του τρόπου υλοποίησης μέτρων προστασίας.

Οργανισμοί που έχουν επενδύσει δεκάδες εκατομμύρια στην υλοποίηση τεχνολογικών λύσεων, συνειδητοποιούν ότι η κυβερνοασφάλεια δεν είναι θέμα τεχνολογίας, αφού δεν αποτρέπει το ανθρώπινο λάθος ή την παράλειψη. Στο 90% των επιθέσεων, οι κυβερνοεγκληματίες δεν στοχεύουν τα τεχνολογικά μέτρα ασφάλειας για να διεισδύσουν στην πληροφοριακή υποδομή, αλλά τους υπαλλήλους, μέσω κακόβουλων emails και μηνυμάτων στα social media κάνοντας επιτακτική τη σχετική εκπαίδευση των ανθρώπων.

Παράλληλα, με την υλοποίηση μέτρων πρόληψης, σημαντική είναι η επένδυση σε τεχνολογίες και διαδικασίες αναχαίτισης και γρήγορης ανάκαμψης περιστατικών ασφαλείας. Κάποια στιγμή οι οργανισμοί θα δεχθούν επίθεση, με αποτέλεσμα τη διαρροή πληροφοριών. Η εμπειρία δείχνει ότι οι μακροχρόνιες επιπτώσεις του αναποτελεσματικού χειρισμού ενός περιστατικού ασφαλείας είναι πολύ μεγαλύτερες από τις επιπτώσεις που επιφέρει το ίδιο το περιστατικό. Σε αντίθεση με το «παραδοσιακό» έγκλημα, οι κυβερνοεγκληματίες χρειάζονται σύνδεση στο Διαδίκτυο και ένα laptop και όχι βίαια μέσα. Για αυτό είναι από τις πιο διαδεδομένες μορφές εγκλήματος. Η αξία των ευαίσθητων δεδομένων είναι το καύσιμο των κυβερνοεπιθέσεων. Η έλλειψη δεξιοτήτων και κατάλληλων μέτρων προστασίας είναι το σπίρτο.

* Ο κ. Γιώργος Κολλιδάς είναι Advisory Technology Leader της PwC Ελλάδας.

 

ΕΛΛΑΔΑ 24.05.2020 Η ΚΑΘΗΜΕΡΙΝΗ

Οι ψηφιακές ανισότητες και… τα χάσματα γενεών, αμοιβών

ΓΙΑΝΝΗΣ ΕΛΑΦΡΟΣ

Η περίοδος του εγκλεισμού έφερε στο προσκήνιο τις διαδικτυακές υπηρεσίες. Τηλεπικοινωνία, τηλεψυχαγωγία, τηλεργασία, τηλεκπαίδευση, εικονική ψηφιακή βόλτα και επίσκεψη, το Διαδίκτυο και οι συσκευές σύνδεσης με τον παγκόσμιο ιστό έγιναν απαραίτητα στοιχεία του πρώτου κύματος της πανδημίας, που επιτάχυνε ακόμα περισσότερο τάσεις που ήδη αναπτύσσονταν. Η νέα εποχή πήρε σαφέστερο σχήμα αυτούς τους δύο μήνες, αλλά με έναν αντιφατικό τρόπο. Οσο το παγκόσμιο δίχτυ του Ιντερνετ απλώνεται και πυκνώνει τόσο πιο βαθιά και απότομα γίνονται τα ψηφιακά ρήγματα του σύγχρονου αποκλεισμού μεγάλων τμημάτων της κοινωνίας, χαμηλόμισθων, φτωχών ή περιθωριοποιημένων, μεγάλων ηλικιών ή γεωγραφικά απομονωμένων. Στη νέα εποχή όσοι μένουν πιο πίσω στον ψηφιακό στίβο, απειλούνται να μείνουν πολύ μακριά από τις κοινωνικές δυνατότητες.

Και η Ελλάδα, παρά τις πανηγυρικές αναφορές για τα γρήγορα βήματα της ψηφιακής διακυβέρνησης, είναι ψηφιακά βραδυπορούσα, καταλαμβάνοντας μία από τις τελευταίες θέσεις (συνήθως την προτελευταία) σε επίπεδο Ευρωπαϊκής Ενωσης!

Παρά τα αξιοσημείωτα βήματα, τα ψηφιακά βαρίδια της χώρας αποκαλύφθηκαν το περασμένο διάστημα. Συνδέσεις Ιντερνετ που έπεφταν ή τρεμόπαιζαν, παρότι τα προγράμματα των εταιρειών τηλεπικοινωνιών είναι από τα ακριβότερα στην Ευρώπη, σε πλήρη αντίθεση με την ποιότητα των υπηρεσιών τους. Τηλεργασία που σε πολλές περιπτώσεις δέσμευε τον έναν και μοναδικό υπολογιστή της οικογένειας, οδηγώντας τους υπόλοιπους να προσπαθούν να συνδεθούν με το κινητό τους. Εκπαιδευτικοί ανακάλυπταν πως μεγάλο μέρος των οικογενειών των μαθητών τους δεν μπορούσαν να ανταποκριθούν σε εξ αποστάσεως εκπαίδευση, είτε γιατί δεν είχαν υπολογιστή ή σύνδεση Ιντερνετ, είτε γιατί είχαν ακατάλληλο εξοπλισμό, είτε γιατί δεν υπήρχαν οι απαραίτητες δεξιότητες. Το 87,6% των εκπαιδευτικών, σύμφωνα με σχετική έρευνα του Πανεπιστημίου Ιωαννίνων, απάντησε πως μέσω τηλεκπαίδευσης αναπαράγονται ή και ενισχύονται οι κοινωνικές ανισότητες.

Σήμερα, εφτά στα δέκα νοικοκυριά στην Ελλάδα έχουν ηλεκτρονικό υπολογιστή στο σπίτι τους, ενώ το 2010 είχε το 50%. Δεν είναι θεαματική η προσθήκη του 20% σε δέκα χρόνια, ειδικά όταν αναφερόμαστε σε ένα τόσο απαραίτητο εργαλείο. Βεβαίως, υπήρξε η περίοδος της μακρόσυρτης οικονομικής κρίσης που έπαιξε ρόλο, αλλά το τελικό αποτέλεσμα είναι πως το 2020 σχεδόν ένα στα τρία νοικοκυριά δεν έχει υπολογιστή στο σπίτι του. Οσον αφορά τη σύνδεση με το Διαδίκτυο, υπήρξε σημαντική πρόοδος, αφού από το 31% των κατοικιών με πρόσβαση στο Ιντερνετ έχουμε φτάσει το 2019 στο 78,5%, μιλώντας μάλιστα σχεδόν αποκλειστικά για ευρυζωνική σύνδεση (72,5% το 2008). Είναι φανερό πως ορισμένα νοικοκυριά, κυρίως με νεανική σύνθεση, σερφάρουν και από το σπίτι με κινητό τηλέφωνο ή τάμπλετ, που δεν μπορούν όμως συνήθως να ανταποκριθούν σε αυξημένες απαιτήσεις τηλε-υπηρεσιών. Παρά τα βήματα όμως η Ελλάδα παραμένει ουραγός στην Ε.Ε. και υπολείπεται από τον μέσο όρο της Ε.Ε. που είναι 90%.

Κρίσιμη υπηρεσία

Ενα ψηφιακό μέλλον για όλους προϋποθέτει κρίσιμα βήματα για τη ανάπτυξη της ψηφιακής υποδομής, έτσι ώστε να καλύπτονται όλοι οι πολίτες, καθώς η πρόσβαση στο Διαδίκτυο αποτελεί για τον 21ο αιώνα υπηρεσία ανάλογης σημασίας του ηλεκτρικού ρεύματος και του τρεχούμενου νερού τους προηγούμενους αιώνες.

Διεθνής έρευνα, που πραγματοποιήθηκε την περίοδο της COVID-19 από το Capgemini Research Institute, κατέδειξε πως ο πρώτος λόγος (40%) για όσους δεν έχουν πρόσβαση στο Ιντερνετ είναι το υψηλό κόστος. Το 69% όσων είναι αποκλεισμένοι από το Διαδίκτυο ζει σε συνθήκες φτώχειας. Το 46% απάντησε πως θα αισθανόταν πιο συνδεδεμένο με φίλους και συγγενείς, αν είχε πρόσβαση στο Ιντερνετ, ενώ το 44% όσων βρίσκονται εκτός σύνδεσης, πιστεύει ότι θα μπορούσε να βρει καλύτερες θέσεις εργασίας.

Και στην Ελλάδα, οι οικογένειες που καταγράφονται χωρίς υπολογιστή στο σπίτι (ή με πολύ παλιό) και χωρίς σύνδεση στο Διαδίκτυο προέρχονται κυρίως από τα φτωχότερα στρώματα και τις ζώνες της ανεργίας και των χαμηλών αμοιβών. Για παράδειγμα, όταν εκπαιδευτικοί ρώτησαν μαθητές στη Β΄ Περιφέρεια Πειραιά για το εάν έχουν υπολογιστή στο σπίτι και σύνδεση στο Διαδίκτυο είδαν πως περίπου το 40% των παιδιών είχε ελλείψεις, που δεν επέτρεπαν ουσιαστική παρακολούθηση τηλεμαθημάτων.

Σημαντικές αποκλίσεις καταγράφονται και σε γεωγραφικό επίπεδο. Εάν στην Αττική το 83,5% των κατοικιών έχει σύνδεση με το Διαδίκτυο, το ποσοστό πέφτει στο 78,8% στη Βόρεια Ελλάδα (όπου περιλαμβάνεται και η Θεσσαλονίκη), στο 74,8% στην Κεντρική Ελλάδα για να υποχωρήσει στο 68,8% στα νησιά του Αιγαίου και στην Κρήτη (μέσος όρος).

Ακόμα πιο έντονες είναι οι διαφοροποιήσεις σε ηλικιακό επίπεδο. Η ψηφιακή εκπαίδευση και ένταξη των μεγαλύτερων ηλικιών στον κόσμο του Ιντερνετ αναδεικνύεται σε έναν ιδιαίτερα αναγκαίο και απαιτητικό στόχο. Σύμφωνα με έρευνα στην Ελλάδα, οι ηλικίες από 13 έως 44 ετών είναι απόλυτα εξοικειωμένες με το Ιντερνετ (σε ποσοστά άνω του 94%), το οποίο και χρησιμοποιούν έντονα, ακόμα και στα επίπεδα των τριών ωρών και πάνω την ημέρα. Ιδιαίτερα υψηλή παραμένει η χρήση και για τις ηλικίες 45-54 ετών (81%), μειώνεται αισθητά στα 55-64 (62%), ενώ πολύ μειωμένη είναι για τις ηλικίες 65-74 (38%).

Ζητούμενο οι καινοτόμες εφαρμογές

Μπορεί η Ελλάδα να κάνει βήματα προς τα εμπρός στους τομείς των ψηφιακών υποδομών και της ψηφιακής επικοινωνίας και διακυβέρνησης, αλλά η απόσταση από τις πιο ανεπτυγμένες τεχνολογικά χώρες της Ευρώπης δεν έχει καλυφθεί. Ακόμα και στο βασικό ερώτημα των κατοικιών που έχουν σύνδεση με το Διαδίκτυο, στις πρώτες θέσεις της Ε.Ε. βρίσκονται η Ολλανδία (98%), η Σουηδία (96%), η Γερμανία, η Δανία και το Λουξεμβούργο με 95%, η Ισπανία και η Ιρλανδία με 91%. Η χώρα μας είναι προτελευταία (79%), ξεπερνώντας μόνο τη Βουλγαρία (75%). Η Ελλάδα καταφέρνει να κατακτά το επίπεδο κάλυψης παλαιότερων τεχνολογιών, αλλά μένει πίσω από τις πιο καινοτόμες εφαρμογές. Για παράδειγμα, σήμερα πρακτικά όλες οι συνδέσεις Ιντερνετ είναι ευρυζωνικές, στόχος που κατακτήθηκε με μεγάλη καθυστέρηση σε σχέση με άλλες ευρωπαϊκές χώρες. Οταν όμως τώρα αναπτύσσονται σε ευρωπαϊκό επίπεδο οι συνδέσεις υψηλής και υπερυψηλής ταχύτητας, για να μπορέσουν πάνω τους να στηριχθούν πιο εξελιγμένες τεχνολογίες, στην Ελλάδα βρίσκονται ακόμα σε εμβρυϊκό επίπεδο.

 

Είναι εντυπωσιακό πόσο απρόσκοπτα η ζωή, στις οικονομίες της γνώσης, μετακόμισε στο Διαδίκτυο. Δραστηριότητες που αυτονόητα θεωρούσαμε ότι απαιτούν φυσική (πρόσωπο με πρόσωπο) επικοινωνία, στην εποχή της πανδημίας διεκπεραιώνονται εξ αποστάσεως. Είναι σαν να μεταμορφωθήκαμε από σωματικές σε άυλες υπάρξεις.

Τα μαθήματά μου τα κάνω πλέον εξ αποστάσεως. Οι κόρες μου, το ίδιο: όχι μόνο η διδασκαλία τους είναι διαδικτυακή, αλλά κατεξοχήν σωματικές δραστηριότητες, όπως μαθήματα μπαλέτου και πιάνου, γίνονται μέσω τηλεδιασκέψεων. Προσωπικά δεν έχω φτάσει μέχρις εκεί, αλλά ξέρω ανθρώπους που κάνουν γιόγκα, γυμνάζονται, βλέπουν θέατρο, τρώνε ή πίνουν μαζί χωρίς να εγκαταλείψουν το σπίτι τους. Μια νέα εμπειρία αναδεικνύεται: ανέπαφες επαφές.

Δεν συμβαίνει για πρώτη φορά. Στην οικονομία της γνώσης εντείνεται η αποσωματοποιημένη εμπειρία. Η ηλεκτρονική τραπεζική, όπως και τα διαδικτυακά ψώνια, είναι στοιχεία της ζωής μας εδώ και κάμποσα χρόνια.

Οι τεχνολογίες διαδικτυακής επικοινωνίας (από το Skype και το Ζoom μέχρι το FaceTime και το Viber κ.λπ.) χρησιμοποιούνται ευρέως, τόσο για ψυχαγωγία όσο και για επικοινωνία ή εργασία. Ολο και περισσότεροι βρίσκουν σύντροφο στον κυβερνοχώρο.

Αυτό, όμως, που κάνει τη σημερινή κατάσταση διαφορετική είναι η γενικευμένη υποκατάσταση της φυσικής επικοινωνίας από την ηλεκτρονική, σε συνθήκες πανδημίας. Πρόκειται για αλλαγή μοντέλου σε παγκόσμια κλίμακα. Συνέβη λιγότερο από επιλογή και περισσότερο από ανάγκη. Στην εποχή του κορωνοϊού, η ζωή συνεχίζεται, που θα πει: να βρούμε τρόπους να συνεχίζεται. Η ψηφιακή τεχνολογία παρέχει τέτοιους τρόπους.

Συγχρόνως, η ψηφιακή τεχνολογία δεν μας επιτρέπει απλώς να κάνουμε με άλλον τρόπο αυτό που πάντα κάναμε, αλλά τροποποιεί ό,τι κάναμε. Οπως το αυτοκίνητο δεν είναι απλώς μια ηλεκτρομηχανική άμαξα, ούτε το κινητό ένα φορητό τηλέφωνο, έτσι και η διαδικτυακή –βιρτουαλική– επικοινωνία δεν είναι απλώς το ψηφιακό ισοδύναμο της φυσικής. Οταν τηλεδιδάσκω, δεν κάνω ακριβώς το ίδιο πράγμα που έκανα στην τάξη – η εμπειρία είναι διαφορετική. Οι φοιτητές μου κι εγώ δεν μοιραζόμαστε τον ίδιο χώρο, οι παρεμβάσεις μας είναι πιο προγραμματισμένες, η αλληλεπίδρασή μας πιο σκηνοθετημένη. Η ανέπαφη επαφή διατηρεί τη σχέση, αλλά αναδιατάσσει την υφή της.

Κατ’ αρχάς, με τη βιρτουαλική επικοινωνία συνειδητοποιούμε ότι η κοινωνικότητα δεν ταυτίζεται με τη φυσική αλληλεπίδραση. Η «κοινωνική αποστασιοποίηση» είναι ένας όρος παλαιάς κοπής, εφόσον ταυτίζει την κοινωνικότητα με τη φυσική παρουσία. Η ψηφιακή τεχνολογία, όμως, προσδίδοντας βιρτουαλική υπόσταση στους χρήστες της, καταργεί τη γεωγραφική απόσταση: κάθε άλλο παρά απομονωμένοι είμαστε αν είμαστε ηλεκτρονικά συνδεδεμένοι.

Δεν είμαι «κοινωνικά αποστασιοποιημένος» από τους φοιτητές μου εφόσον επικοινωνώ μαζί τους. Το αντίθετο: οι πλατφόρμες ψηφιακής επικοινωνίας, όπως το Ζoom, με καθιστούν όχι μόνο προσιτό, αλλά εν μέρει περισσότερο οικείο σε αυτούς, εφόσον συνυφαίνουν τον ιδιωτικό με τον δημόσιο εαυτό μου (παίρνουν μια μικρή ιδέα πώς είναι η οικιακή μου ζωή, π.χ. το γραφείο μου, οι θόρυβοι από κατοικίδια ή τα παιδιά, κ.λπ.). Δεν είμαι «αποστασιοποιημένος» από συγγενείς και φίλους, στο μέτρο που τα λέμε στο Skype. Με άλλα λόγια: το άτομο δεν ταυτίζεται με τη σωματική παρουσία του. Η σχέση δεν είναι ταυτόσημη με τη φυσική επικοινωνία.

Η κοινωνικότητα υπερβαίνει τα όρια της ενσώματης σχέσης.

Στην εποχή της πανδημίας είμαστε φυσικά αποστασιοποιημένοι, αλλά κοινωνικά συνδεδεμένοι. Η ψηφιακή συνδεσιμότητα προάγει την κοινωνικότητα και, κατά τούτο, διαφοροποιεί την εμπειρία αυτής της πανδημίας από άλλες.

Απομονωμένοι, όχι μόνοι

Αποκλεισμένος στη Λευκωσία, δεν μπορώ να έχω φυσική επικοινωνία με την εγχειρισμένη μητέρα μου στο Καρπενήσι, η οποία, καθότι ιδιαιτέρως ευπαθής, πρέπει να είναι απομονωμένη. Με το Skype, όμως, γεφυρώνουμε την απόσταση. Είναι απομονωμένη, αλλά δεν είναι μόνη.

Οι πλατφόρμες επικοινωνίας και τα μέσα κοινωνικής δικτύωσης είναι οι καλοί αγωγοί τόσο της κοινωνικότητας όσο και της υγείας. Γνωρίζουμε ότι όσο πιο απομονωμένα αισθάνονται τα άτομα, τόσο πιο αδύνατο τείνει να είναι το ανοσοποιητικό τους σύστημα, χειρότερη η υγεία τους, αυξημένος ο κίνδυνος κατάθλιψης και γνωστικού εκφυλισμού και μικρότερη η πιθανότητα να μεριμνήσουν τόσο για τη δική τους υγεία όσο και για την προστασία των συμπολιτών τους. Σε επιτροπή της Γερουσίας των ΗΠΑ κατατέθηκε ότι οι δυσμενείς συνέπειες της κοινωνικής απομόνωσης είναι συγκρίσιμες με αυτές του καπνίσματος 15 τσιγάρων την ημέρα, της παχυσαρκίας και της ατμοσφαιρικής μόλυνσης.

Παρά τα όσα ισχυρίζονται οι ιδεολόγοι του κυβερνοχώρου, μπορεί η αποσωματοποιημένη επικοινωνία να διευρύνει την κοινωνικότητα, η σωματικότητα όμως παραμένει το θεμέλιο των κοινωνικών σχέσεων με βάθος.

Το σώμα δεν είναι απλώς ένα μέσον επικοινωνίας με τον κόσμο, αλλά ανεξάλειπτο συστατικό της ανθρώπινης εμπειρίας. Η τηλεπαρουσία δίνει δυνατότητες, αλλά συγχρόνως περιορίζει.

Το αναντικατάστατο βάθος της ενσώματης εμπειρίας

Χρωστάμε στον Γάλλο φιλόσοφο Μορίς Μερλό-Ποντί την πληρέστερη φιλοσοφική κατανόηση του ρόλου του σώματος στην ανθρώπινη εμπειρία. Για τον Μερλό-Ποντί, το σώμα δεν είναι ένα απλό όργανο μεσολάβησης του νου με τον εξωτερικό κόσμο, εγγενώς υποκείμενο σε λάθη, όπως ήταν για τον Καρτέσιο, αλλά ουσιώδες στην άμεση επαφή του ατόμου με την υλική πραγματικότητα. Η σωματικότητα καθορίζει την ανθρώπινη εμπειρία.

Ευρισκόμενοι στον ίδιο φυσικό χώρο, οι φοιτητές μου κι εγώ, ως ενσώματες υπάρξεις, έχουμε μια ολιστική αίσθηση της κοινής εμπειρίας στην οποία μετέχουμε και μοιραζόμαστε τη συλλογική «διάθεση» της τάξης (π.χ. πόσο ενδιαφέρον υπάρχει για το μάθημα και από τα δύο μέρη). Κοιτάζοντας ο ένας τον άλλο στα μάτια, δημιουργούμε προσδοκίες αλληλοσεβασμού, εμπεδώνοντας μια σχέση εμπιστοσύνης. Οταν κάποιος ρωτά κάτι, έχω μια περιφερειακή αίσθηση τι απήχηση έχει το ερώτημά του στους άλλους – αν κουνάνε το κεφάλι επιδοκιμαστικά, χαμογελούν ειρωνικά, αδιαφορούν, κ.λπ. Μερικές φορές βλέπω στα πρόσωπά τους πότε τους χάνω, όταν λ.χ. γίνομαι στρατοσφαιρικά αφηρημένος. Ανταποκρινόμενος στην κυμαινόμενη «διάθεση» του ακροατηρίου μου προσαρμόζω αυθόρμητα τον ρυθμό μου ή το περιεχόμενο. Η ενσώματη εμπειρία προσδίδει βάθος στη συν-εργασία μας.

Ομιλούσες κεφαλές

Η τηλεδιδασκαλία μού παρέχει εύρος (να επικοινωνήσω με άτομα διάσπαρτα στον χώρο) αλλά μου στερεί το βάθος. Το σώμα δεν μετέχει πλήρως στην κοινή ψηφιακή εμπειρία. Εχω μπροστά μου ένα σύνολο από ομιλούσες κεφαλές, η κάθε μία στον ιδιωτικό της χώρο, αλλά δεν βυθίζομαι στην ολιστική εμπειρία της τάξης. Ενώ στη φυσική διδασκαλία, παίρνω αυτόματα ανατροφοδότηση από τη σωματική παρουσία των φοιτητών μου και προσαρμόζομαι αντιστοίχως, στην τηλεδιδασκαλία πρέπει να την αναζητήσω.

Ο Γερμανός κοινωνιολόγος Τζορτζ Ζίμελ γράφει πώς, στα τέλη του 19ου αιώνα, τα μέσα μαζικής μεταφοράς τροποποίησαν την ανθρώπινη συμπεριφορά στις μητροπόλεις: η ματιά των ανθρώπων επανεκπαιδεύτηκε σε συνθήκες παρατεταμένης συν-παρουσίας σε τρένα, λεωφορεία και τραμ. Μάθαμε να αποφεύγουμε να κοιτάμε επίμονα ο ένας τον άλλο και, συνήθως, επιλέγουμε την ευγενική σιωπή.

Δεν αποκλείεται, αντιστοίχως, η εμπειρία της «κοινωνικής αποστασιοποίησης», σε συνθήκες πανδημίας, να μας κάνει να ξαναδούμε ευρύτερα τον ρόλο του σώματος στην ανθρώπινη επικοινωνία. Ισως μειώσουμε το άγγιγμα, τον ασπασμό και το φιλί στις κοινωνικές και επαγγελματικές μας συναναστροφές. Ισως προτιμήσουμε τη βιρτουαλική από τη φυσική επικοινωνία για αρκετές δραστηριότητες. Ηδη το κάνουμε σε κάποιο βαθμό.

Χαίρομαι ιδιαίτερα που δεν χρειάζεται να πηγαίνω στην τράπεζα ή στις υπεραγορές και θα χαρώ πολύ αν η σχέση μου με το κράτος γίνει πλήρως ηλεκτρονική.

Απολαμβάνω, όμως, να πηγαίνω στη λαϊκή αγορά στο Μαρούσι, θεωρώ ότι τίποτα δεν υποκαθιστά την άμεση εμπειρία του θεάτρου ή της συναυλίας, και χαίρομαι να κάνω μάθημα στο αμφιθέατρο. Οι ανέπαφες επαφές διευρύνουν την κοινωνικότητά μου, επεκτείνουν τις δραστηριότητές μου και διατηρούν τη σχέση μου με τα πρόσωπα που επιθυμώ. Η βαθιά οικειότητα, όμως, όπως και η βαθιά μάθηση, απαιτεί την άμεση συνάντηση των σωμάτων, την πλήρη ενεργοποίηση των αισθήσεων. Η ειρωνεία είναι ότι ενώ η πανδημία προσθέτει εργαλεία αποσωματοποιημένης επικοινωνίας, μας θυμίζει, συγχρόνως, την ανεξάλειπτη σωματικότητά μας – και ό,τι αυτή συνεπάγεται.

* Ο κ. Χαρίδημος Κ. Τσούκας (www.htsoukas.com) είναι καθηγητής στα Πανεπιστήμια Κύπρου και Warwick.

«We’re not just fighting an epidemic. We’re fighting an infodemic», δήλωσε ο επικεφαλής του Παγκόσμιου Οργανισμού Υγείας, δρ Γκεμπρεγέσους. Η νέα λέξη που παραδίδεται στην κρίση και τη χρήση του ευρέος κοινού, μετά τα fake news (ψευδείς ειδήσεις) και το disinformation (παραπληροφόρηση), είναι το infodemic: Αντλεί την καταγωγή του από το information και το epidemic. Σημαίνει την υπερβολική ροή πληροφοριών, η οποία αφορά ένα πρόβλημα και είναι τόσο μεγάλη και ανεξέλεγκτη, που καθιστά την αποκατάσταση της πραγματικότητας με αληθινές πληροφορίες εξαιρετικά δύσκολη. Πιο απλά: infodemic είναι η παραπληροφόρηση σχετικά με την πανδημία – πλέον.

O Παγκόσμιος Oργανισμός Υγείας (ΠΟΥ) και η ομάδα του για τα social media, με επικεφαλής την Αλεξάντρα Κουζμάνοβιτς, αναγκάστηκε πολύ γρήγορα να δημιουργήσει ειδική ενότητα για τις ψευδείς ειδήσεις στην ιστοσελίδα του. Οπως εξήγησε η ίδια στο περιοδικό των, υψηλού κύρους, επιστημονικών ιατρικών εκδόσεων Lancet: «Βρισκόμαστε σε συνεχή επαφή με την Google, το Facebook, το Twitter και με άλλα κοινωνικά δίκτυα όπως και οι συνάδελφοί μου στο γραφείο του οργανισμού στην Κίνα. Είμαστε συνεχώς online και τη στιγμή που θα δούμε ερωτήσεις ή διάφορες φήμες να διαχέονται, σημειώνουμε και επικοινωνούμε αμέσως με τους ειδικούς επιστήμονες συναδέλφους, οι οποίοι μας βοηθούν να βρούμε τις απαντήσεις που βασίζονται σε αποδείξεις και που πρέπει να “περάσουν” στο ευρύ κοινό. Κάτι άλλο που εφαρμόζεται, πλέον, στο πλαίσιο αυτής της συνεργασίας είναι ότι σε οποιαδήποτε γλώσσα κάνει κάποιος διαδικτυακή αναζήτηση με τη λέξη “coronovirus” ή “COVID-19” θα εμφανιστεί, πριν από οτιδήποτε άλλο, ένα πλαίσιο το οποίο οδηγεί σε αξιόπιστη πηγή: στον ΠΟΥ, σε εθνικό υπουργείο Υγείας ή σε οποιοδήποτε σχετικό κέντρο ελέγχου του ιού».

Σύμφωνα με άρθρο της εφημερίδας Washington Post, το οποίο βασίζεται σε αδημοσίευτη έρευνα ενός προγράμματος του State Department για την προπαγάνδα και την παραπληροφόρηση (Global Engagement Center), περίπου 2 εκατ. tweets συνωμοσιολογικών θεωριών σχετικά με τον κορωνοϊό, δημοσιεύθηκαν σε περίοδο τριών εβδομάδων μεταξύ 20 Ιανουαρίου και 10 Φεβρουαρίου 2020.

Η εταιρεία κυβερνοασφάλειας Check Point είχε ανιχνεύσει, μέχρι πριν από μερικές εβδομάδες, τέσσερις χιλιάδες νέους ιστότοπους (sites) με τη λέξη coronavirus στο όνομά τους, επισημαίνοντας ότι τουλάχιστον το 3% αυτών έχουν «κακόβουλες προθέσεις».

Η Ρωσία και η Κίνα

Αρκετοί επισημαίνουν ότι δεν υπάρχουν σοβαρές αποδείξεις για οργανωμένες καμπάνιες παραπληροφόρησης. Η, κατά τα άλλα εν πολλαίς αμαρτίαις περιπεσούσα, Ρωσία άργησε να συμπεριλάβει τις «ειδήσεις» για τον κορωνοϊό στο σχετικό οπλοστάσιό της. Μόλις πριν από πέντε μέρες εμφανίστηκε η προειδοποίηση της Ε.Ε. για σχετική κινητοποίηση της Ρωσίας στο αγαπημένο της πεδίο. Αλλά και η Κίνα, πρωταθλήτρια στον έλεγχο και στη λογοκρισία των ΜΜΕ, δεν καταφέρνει να ελέγξει τη ροή και την ποιότητα των σχετικών πληροφοριών.

Θα μπορούσαμε, ίσως, να βασιστούμε στους «βασικούς νόμους» της διάδοσης των φημών και της πίστης σε αυτές για να εξηγήσουμε ότι το γεγονός προκαλείται από τη σπουδαιότητα του θέματος και πολλαπλασιάζεται από την ασάφεια των στοιχείων που το αφορούν και από την έλλειψη μακροπρόθεσμων δεδομένων. Αμερικανοί ψυχολόγοι γράφουν γι’ αυτό τουλάχιστον από το 1940 και μέχρι σήμερα. Αν και δεν φαίνεται να έχει βοηθήσει μέχρι τώρα πουθενά και με βάση τα σημερινά δεδομένα φαντάζει ως χαμένη μάχη, ωστόσο μια κάποια ενσυναίσθηση ως προς το «κοινό» αίσθημα της εκπόρευσης, θα μπορούσε να συνδράμει ίσως τις παγκοσμιοποιημένες προσπάθειες αναχαίτισης του infodemic ή, τουλάχιστον, τη δική μας συμβολή προς αυτές.

Διότι φαίνεται πως, όπως ακριβώς συμβαίνει και με την πανδημία αυτή καθαυτήν, απαιτείται η… βοήθεια του κοινού.

Αυτός ο 24ωρος κύκλος ειδήσεων, φαινόμενο της εποχής του Διαδικτύου που, ασφαλώς, ήρθε για να μείνει, έχει καλά και… κακά νέα. Από τη μια πλευρά τα ΜΜΕ, ταυτόχρονα προκαλούν και υπηρετούν τη βουλιμία του κοινού για ειδήσεις ανάγοντας σε είδηση το παραμικρό και αψηφώντας την ακρίβεια αλλά και την προσωρινότητα της δημοσιογραφικής και επιστημονικής αλήθειας.

Διότι οι επαναλαμβανόμενες αναφορές στο ζευγάρι των υπερηλίκων Ιταλών που κατέληξαν με δύο ώρες διαφορά από τον ιό, στον γιο που δεν μπορούσε να είναι παρών κρατώντας το χέρι της μητέρας του ενώ αυτή νοσηλευόταν στο νοσοκομείο και άλλες τέτοιες ιστορίες, μπορεί να μην είναι ακατανόητες αλλά είναι σίγουρα άχρηστες. Οπως και πάμπολλες τέτοιου είδους «πληροφορίες» που απευθύνονται αποκλειστικά στο συναίσθημα και στο αίσθημα του φόβου.

Τα άχρηστα επίθετα

Οπως πολύ σωστά έγραψε η συνάδελφος Μ. Κοζάκου στο jaj.gr: «Είναι απολύτως περιττό ως προς την ακρίβεια των γεγονότων να χρησιμοποιούν οι δημοσιογράφοι επίθετα προκειμένου να δραματοποιήσουν όσα λένε. Λέξεις όπως “φονικός”, “καταστροφικός”, “τρομερός” μπροστά από τη λέξη “ιός” δεν προσφέρουν τίποτα απολύτως στην πληροφόρηση του κοινού, το μόνο που επιτυγχάνουν είναι να καλλιεργήσουν τον φόβο και την ανασφάλεια. Οι πολίτες έχουν πλήρη επίγνωση της σοβαρότητας της κατάστασης. Λέξεις όπως “ανησυχία”, “ανησυχητικός”, “επικίνδυνος”, “απειλητικός”, “πανικός” είναι απλώς σοβαρές ενδείξεις έλλειψης δημοσιογραφικού περιεχομένου […] Τον ρόλο των τρομολαγνικών επιθέτων στον λόγο, παίζει η μουσική στα τηλεοπτικά κυρίως ρεπορτάζ. Υποβλητικές μελωδίες, μουσικά θέματα από γνωστά θρίλερ ή κινηματογραφικά έπη συνοδεύουν αγνώστου προελεύσεως πλάνα, που καμία σχέση δεν έχουν με αυτό που λέγεται, καταπατώντας και τον στοιχειώδη κανόνα της υποχρέωσης να υπάρχει η ένδειξη “πλάνα αρχείου” ή η πηγή της εικόνας».

H ευθύνη των χρηστών των μέσων κοινωνικής δικτύωσης

Ο επικεφαλής των επειγόντων της δημόσιας υγείας στην UNICEF, Κάρλος Ναβάρο, δήλωσε ότι «ενώ πλήθος λανθασμένων πληροφοριών διαχέονται μέσω των κοινωνικών δικτύων (social media), μεγάλος όγκος επίσης προέρχεται από τα παραδοσιακά ΜΜΕ. Επιλέγουν τις πιο ακραίες φωτογραφίες, σχεδόν πάντα με ανθρώπους που φοράνε μάσκα υγιεινής και στην τηλεόραση τα ανάλογα βίντεο. Στην πραγματικότητα στέλνουν ένα εντελώς λανθασμένο μήνυμα».

Από την άλλη πλευρά, αυτό που δεν συνειδητοποιούμε είναι ότι, ως χρήστες του Διαδικτύου, είμαστε και εμείς οι ίδιοι… ΜΜΕ. Η μεγαλύτερη απειλή και διασπορά ψευδών ειδήσεων ως προς τον κορωνοϊό προέρχεται από μας τους ίδιους, τους χρήστες του Διαδικτύου, είτε κατά μόνας είτε από τη συμμετοχή μας σε διάφορα forum διαδικτυακών συζητήσεων τις οποίες αναπαράγουμε στη συνέχεια. Οι New York Times επεσήμαναν ένα ιδιωτικό facebook group με περισσότερα από εκατό χιλιάδες μέλη, στο οποίο οι θεωρίες συνωμοσίας για τη διασπορά του κορωνοϊού μεταφέρονται σε άλλους με γεωμετρική πρόοδο. Τα γκρουπ υπέρ του αντιεμβολιαστικού κινήματος, καθόλου τυχαία, φαίνεται επίσης πως παίζουν πρωταγωνιστικό ρόλο στη διασπορά ψευδών και, εν κατακλείδι, ανοήτων αν και επικίνδυνων ειδήσεων.

Είναι δε χαρακτηριστικό ότι οι διαδικτυακοί ιστότοποι που ανήρτησαν «πληροφορίες» κάτω από τίτλους όπως «Ο κορωνοϊός είναι ένα βιολογικό όπλο που εκλάπη από τον Καναδά» ή «Ξέφυγε από τα εργαστήρια της Κίνας», σημειώνουν αύξηση επισκεψιμότητας και κοινοποιήσεων του περιεχομένου τους στα social media δημιουργώντας απίθανες διαφορές με τα αντίστοιχα αξιόπιστα μέσα: Το Zero Hedge που ανήρτησε τον πρώτο τίτλο ο οποίος αναφέρθηκε προηγουμένως, είχε τις τελευταίες ενενήντα μέρες περισσότερες από δύο εκατομμύρια κοινοποιήσεις, ενώ στο ίδιο διάστημα οι ανακοινώσεις του ΠΟΥ δεν μοιράστηκαν από τους χρήστες παρά μόνον είκοσι πέντε χιλιάδες φορές!

Είναι σίγουρο ότι, και στην Ελλάδα, όλοι διαβάσαμε για τις καθοριστικά ευεργετικές ιδιότητες της πρόπολης ως προς τη θεραπεία ή την ανοσία στον κορωνοϊό, τις απίθανες σκέψεις από δημόσια πρόσωπα που, αν και εντελώς –μα εντελώς– άσχετα με το θέμα θεώρησαν υποχρέωσή τους να μοιραστούν μαζί μας τη συνωμοσιολογική τους άποψη ή την ακλόνητη πίστη τους στον Θεό των Ορθοδόξων μέσω της αναγγελίας τους ότι μετέλαβαν της Θείας Κοινωνίας. Είναι, επίσης, σίγουρο ότι όλοι πήραμε και πολλοί έστειλαν μηνύματα στο messenger για την αποτελεσματικότητα του ζεστού νερού και της γαργάρας, και ότι χιλιάδες φορές σε εθνικό και εκατομμύρια σε παγκόσμιο επίπεδο, αναπαρήχθησαν με ρυθμό πολυπολυβόλου.

Οταν βρισκόμαστε μπροστά σε κάτι που μας εκπλήσσει, μας διασκεδάζει, μας τρομάζει ή νομίζουμε ότι μας ενημερώνει, θέλουμε να το μοιραστούμε. Είναι η βάση της επικοινωνίας. Μόνον που τώρα πια δεν τα μοιραζόμαστε σε έναν στενό κύκλο φίλων και γνωστών αλλά με εκατομμύρια ανθρώπους: Στην επιδημία της γρίπης του 2009 οι χρήστες του Facebook ήταν περίπου εκατό εκατομμύρια, αλλά τώρα είναι δυόμισι δισεκατομμύρια!

Σχετική έρευνα του MIT (Massachusetts Institute of Technology) στη διεξαγωγή της οποίας χρησιμοποιήθηκαν δεδομένα με ψευδείς ειδήσεις που αναπαρήχθησαν στο Twitter από το 2006 έως το 2017, διαπιστώνεται ότι τα fake news διαχέονται σημαντικά μακρύτερα, ταχύτερα, βαθύτερα και ευρύτερα από ό,τι η αλήθεια σε όλες τις κατηγορίες των πληροφοριών. Και ο πιο σημαντικός λόγος είναι ότι δεν αντιλαμβανόμαστε τις επιπτώσεις αλλά και το εύρος της επικοινωνίας που σηματοδοτεί ένα απλό πάτημα στην οθόνη του κινητού ή του υπολογιστή μας. Δεν είναι εύκολο, αν και πρέπει, να καταλάβουμε ότι πριν μοιραστούμε οτιδήποτε που μας εντυπωσιάζει, χρειάζεται πρώτα να… πάρουμε μια βαθιά αναπνοή και να σκεφτούμε.

Η γενιά, ή μάλλον οι γενιές που μάθαμε τόσο γρήγορα να αποφεύγουμε τη γλουτένη και να αναγνωρίζουμε τη δυσανεξία στη λακτόζη, θα πρέπει να επισπεύσουμε τις προσπάθειές μας και στο ζήτημα της παραπληροφόρησης. Ή αλλιώς, να αντιληφθούμε τον βαθμό ευθύνης που μας αναλογεί ζώντας την εποχή αυτού που θα μπορούσε να ονομαστεί: ασύμμετρη επικοινωνία.

 

Χαμένοι στο Διαδίκτυο

Δήμου Νίκος

22.02.2020, 09:00 ΤΟ ΒΗΜΑ

Eυτυχώς που οι έφηβοι δεν διαβάζουν εφημερίδες. Διότι αλλιώς θα μάθαιναν από την πιο έγκυρη καθημερινή μας έκδοση ότι «είναι εκτεθειμένοι και χαμένοι στο Διαδίκτυο». Το συμπέρασμα βγαίνει από έρευνα που πραγματοποίησε η «Ελληνική Εταιρεία Εφηβικής Ιατρικής» σε εφήβους 12-18 ετών. (Αντί για 12 θα προτιμούσα 14.) Από εκεί προκύπτει ότι το 37% των νέων είναι εξαρτημένο από αυτό το όργανο του Σατανά που ονομάζεται «έξυπνο τηλέφωνο» – άλλως κινητό ή smarthphone. Η έρευνα περιγράφει με μελανά χρώματα τα συμπτώματα αυτού του εθισμού.

Το ποσοστό του 37% μου φαίνεται πολύ μικρό σε σχέση με ό,τι συμβαίνει στους ενηλίκους, όπου οι προσωπικές μου παρατηρήσεις και μετρήσεις δείχνουν εξάρτηση που ξεπερνάει το 80%. Τους βλέπεις όλη μέρα να κοιτάνε μία οθόνη. Πράγμα φυσικό, γιατί τα πιο συχνά μας ερωτήματα, οι πιο βασικές μας ανάγκες, μας κάνουν να τη συμβουλευόμαστε συνεχώς. Π.χ. όταν ρωτάμε: Τι ώρα είναι; Τι καιρό θα κάνει αύριο; Πού είναι η οδός Κρατίνου; Πότε πέθανε ο Κολοκοτρώνης; Πόσο κάνει 487 επί 45; Πού βρίσκεται το πλησιέστερο βενζινάδικο; Ολες αυτές τις πληροφορίες (και χιλιάδες άλλες) τις δίνει το κινητό με δύο κλικ.

Από τις απαντήσεις των εφήβων στην έρευνα δεν μοιάζει να είναι «εκτεθειμένοι και χαμένοι στο Διαδίκτυο». Οταν τους ρώτησαν για ποιον λόγο χρησιμοποιούν το κινητό τηλέφωνο, η πρώτη απάντηση ήταν για να ακούν μουσική. Βλέπετε το κινητό έχει υποκαταστήσει όλα τα Walkman και iPod με τα οποία μεγάλωσαν οι προηγούμενες γενιές. Και στη μουσική προσθέτει (στην τρίτη προτίμηση) και την εικόνα, που κάνει την ακρόαση πιο ζωντανή.

Φυσικά στη δεύτερη θέση μετά τη μουσική είναι τα περίφημα κοινωνικά δίκτυα, τα οποία – όπως γράφουν οι δημοσιογράφοι – «αποξενώνουν τα παιδιά». Ομως το 42% των δικτυωμένων όχι μόνο δεν απομονώνονται, αλλά κάποια στιγμή συναντώνται με τους συνομιλητές τους. Αν σκεφθείτε ότι το Διαδίκτυο συνδέει άτομα από διαφορετικές περιοχές της χώρας – αλλά και από διάφορες χώρες -, αυτές οι συναντήσεις μόνο αποξένωση δεν τεκμηριώνουν.

Η όλη έρευνα δείχνει κυρίως ότι οι αρμόδιοι δεν έχουν καταλάβει τον ρόλο των κοινωνικών δικτύων – είναι η σημερινή Βουλή του Δήμου και η Αγορά των αρχαίων. Εκεί γίνονται διάλογοι και διαβουλεύσεις κάθε είδους σε κάθε επίπεδο, από το ανώτερο μέχρι και το πιο χαμηλό.

Αν υπάρχει κάποια φράση που θεωρώ σημαντική σε αυτή την έκθεση είναι η άποψη της αντιπροέδρου κυρίας Παπαδάκου ότι «οι νέες τεχνολογίες είναι μέσα στη ζωή των παιδιών και των εφήβων. Οι νέοι είναι αυτόχθονες στον κόσμο της τεχνολογίας, εμείς είμαστε μετανάστες. Δεν μπορείς να τους αποκλείσεις από αυτήν». «Εξάλλου», προσθέτει η κυρία Τσίτσικα, «το Διαδίκτυο φέρει πολλές θετικές δυνατότητες, από την εκπαίδευση και την ψυχαγωγία μέχρι την κοινωνικοποίηση και τη δημιουργία».

Επιτέλους δύο φωτισμένες απόψεις που έρχονται σε αντίθεση με τον τίτλο του ρεπορτάζ («Καθημερινή», 12.2.2020): «Εφηβοι εκτεθειμένοι και χαμένοι στο Διαδίκτυο». Σύμφωνοι – κάθε πράγμα μπορεί σε μεγάλες δόσεις να γίνει βλαβερό: ακόμα και το απαραίτητο για την επιβίωση φαγητό, με βουλιμία, οδηγεί στην παχυσαρκία. Αυτός δεν είναι λόγος να καταδικάζεται συλλήβδην η νέα τεχνολογία. Πολύ μάλλον όταν οι ίδιοι οι νέοι λένε ότι σε ποσοστό 61,6% τους χαλαρώνει η χρήση του κινητού και ότι στο 28,5% τους κάνει να νιώθουν αυτοπεποίθηση.

Αντί να κάνουν έρευνες με σκοπό τα ενισχύσουν την έμφυτη δυσπιστία και τεχνοφοβία των Ελλήνων – ιδιαίτερα των γονέων – οι επιστήμονες που ασχολούνται με τις τεχνολογικές επιδόσεις των νέων θα ήταν χρήσιμο και ωφέλιμο να τους διδάξουν πώς να αξιοποιούν καλύτερα ένα κινητό. Πρόκειται για ένα εργαλείο με άπειρες δυνατότητες που ούτε η πιο προχωρημένη επιστημονική φαντασία δεν μπόρεσε να συλλάβει. Εργαλείο έρευνας, γνώσης, δημιουργίας.

Το μέλλον της χώρας μας περνάει μέσα από την τεχνολογία. Από τις τεχνολογικές μας επιδόσεις θα εξαρτηθεί αν θα επιζήσουμε και θα προοδεύσουμε σαν έθνος. Η Σοβιετική Ενωση κατέρρευσε διότι δεν μπορούσε να επιβιώσει χωρίς πληροφορική. Της έλειπαν και οι υπολογιστές και οι ειδικοί τεχνικοί. Η βιομηχανία των (περιφρονημένων) ηλεκτρονικών παιχνιδιών έχει από χρόνια ξεπεράσει σε τζίρο την κινηματογραφία. Το «ψώνιο» της παρέας, που ξενυχτάει στο υπόγειο, δουλεύοντας ένα ηλεκτρονικό πρόγραμμα, μπορεί να είναι ο νέος Στιβ Τζομπς που από το μηδέν θα στήσει μία ελληνική Apple αξίας ενός τρισεκατομμυρίου δολαρίων.

Πρέπει κάποτε να καταλάβουμε σε ποια εποχή ζούμε!

ΔΙΑΔΙΚΤΥΟ 28.01.2020  Η ΚΑΘΗΜΕΡΙΝΗ

Πώς τα κινητά μοιράζουν ευαίσθητα δεδομένα μας

ΓΙΑΝΝΗΣ ΕΛΑΦΡΟΣ

Χρησιμοποιείς μια εφαρμογή στο κινητό σου τηλέφωνο, κλείνεις ένα ραντεβού, παραγγέλνεις ένα προϊόν, κάνεις μια κράτηση. Ολες αυτές οι απλές καθημερινές ενέργειες του κάθε ανυποψίαστου πολίτη μπορεί να οδηγούν στη δημιουργία ενός ψηφιακού φακέλου, που περιλαμβάνει τις καταναλωτικές του συνήθειες, τις περιοχές που κινείται, τα θρησκευτικά του πιστεύω, τις πολιτικές και κοινωνικές του απόψεις, την κατάσταση της υγείας του, τις σεξουαλικές του προτιμήσεις! Υπερβολές; Μη βιαστείτε να απαντήσετε «ναι». «Κάθε φορά που χρησιμοποιούμε τα τηλέφωνά μας, ένας μεγάλος αριθμός σκιωδών οντοτήτων που είναι σχεδόν άγνωστες στους καταναλωτές, λαμβάνουν προσωπικά δεδομένα σχετικών με τα ενδιαφέροντα, τις συνήθειες και τη συμπεριφορά μας. Πρόκειται για παράγοντες που αποτελούν μέρος της βιομηχανίας ψηφιακού μάρκετινγκ και διαφημιστικής τεχνολογίας (adtech), οι οποίοι χρησιμοποιούν αυτές τις πληροφορίες για να μας εντοπίζουν σε όλες τις συσκευές, προκειμένου να δημιουργήσουν ολοκληρωμένα προφίλ για κάθε μεμονωμένο καταναλωτή. Αυτά τα προφίλ μπορούν να χρησιμοποιηθούν για την εξατομίκευση της διαφήμισης, αλλά και για άλλους σκοπούς, όπως διακρίσεις, χειραγώγηση και εκμετάλλευση», σημειώνει σε πρόσφατη ανακοίνωσή του το Νορβηγικό Συμβούλιο Καταναλωτών.

Η νορβηγική οργάνωση δεν στηρίζεται σε κάποια εκτίμηση ή διαίσθηση. Εχοντας την οικονομική δυνατότητα, καθώς επιχορηγείται και από το κράτος, ανέθεσε σε εξειδικευμένη εταιρεία να ελέγξει τι γίνεται ειδικά με τις εφαρμογές (app) των κινητών τηλεφώνων. Η εταιρεία ακτινογράφησε δέκα δημοφιλείς εφαρμογές και βρήκε πλήθος από «σκιές» που χορεύουν στο ψηφιακό σκοτάδι, υφαρπάζοντας ευαίσθητα δεδομένα του χρήστη. Συγκεκριμένα, βρέθηκαν ψηφιακά ίχνη για τουλάχιστον 135 διαφορετικά τρίτα μέρη-εταιρείες που ασχολούνται με τη διαφήμιση ή τη δημιουργία προφίλ συμπεριφοράς, που τροφοδοτούνται από τα 10 app. Το Android Advertising ID, το οποίο επιτρέπει στις εταιρείες να παρακολουθούν τους καταναλωτές σε διάφορες πλατφόρμες, μετέφερε δεδομένα σε τουλάχιστον 70 διαφορετικά τρίτα μέρη! Mάλιστα, τα στοιχεία συνοδεύονταν συχνά με την τοποθεσία GPS και τη διεύθυνση IP, έτσι ώστε ο συνδυασμός όλων αυτών να επιτρέπει την παρακολούθηση μεταξύ εφαρμογών και συσκευών και τη σκιαγράφηση μιας ολοκληρωμένης εικόνας για κάθε καταναλωτή. Το app Grindr, που χρησιμοποιείται για ραντεβού, μοίραζε σε μεγάλο αριθμό τρίτων οντοτήτων πληροφορίες, που περιλαμβάνονταν στοιχεία θέσης, ηλικίας, φύλου, καθώς και σεξουαλικού προσανατολισμού. Εταιρεία συνδεδεμένη με το Twitter διαμοίρασε στοιχεία στις μεγάλες εταιρείες Apptech και OpenX. Αλλο app για ραντεβού μεταβίβασε μεγάλες ποσότητες πληροφοριών σχετικά με τη σεξουαλικότητα, τη χρήση ναρκωτικών, τις πολιτικές απόψεις. Η διαφημιστική εταιρεία της Google DoubleClick πήρε πληροφορίες από οκτώ εφαρμογές, ενώ το Facebook από εννέα εφαρμογές. Οπως σημειώνει το Νορβηγικό Συμβούλιο Καταναλωτών (ΝΣΚ) «η νομική ανάλυση των διαπιστώσεων αυτών δείχνει ότι ένα μεγάλο μέρος αυτής της ανταλλαγής και επεξεργασίας δεδομένων φαίνεται να είναι παράνομο σύμφωνα με τον Γενικό Κανονισμό Προστασίας Δεδομένων (GDPR)».

«Εκτός ελέγχου»

Ο τίτλος της μελέτης είναι ενδεικτικός: «Εκτός ελέγχου». Ας σημειωθεί πως τα περιστατικά μαζικής πώλησης (ή υποκλοπής) ολοκληρωμένων προφίλ πολιτών είναι πολλά σε διεθνές επίπεδο και οι ενδιαφερόμενοι μπορεί να είναι πολλοί και πέρα από τη σφαίρα της διαφήμισης. Ασφαλιστικές εταιρείες, ιδιωτικοί ντετέκτιβ, εργοδότες, εταιρείες πολιτικής επίδρασης, υπηρεσίες ασφαλείας, βλέπουν τέτοιες βάσεις δεδομένων ως ψηφιακό… ξερολούκουμο.

Καθώς τo ΝΣΚ είναι μέλος της Ευρωπαϊκής Ομοσπονδίας Καταναλωτών (BEUC) ενημέρωσε τις καταναλωτικές οργανώσεις των άλλων χωρών και χτύπησε καμπανάκι. «Η έκθεση καταλήγει στο συμπέρασμα ότι, η συνεχής παρακολούθηση και η κατάρτιση προφίλ των καταναλωτών, τα οποία αποτελούν τον άξονα του σημερινού οικοσυστήματος της σύγχρονης τεχνολογίας διαφήμισης, αποτελούν από τη φύση τους πρακτικές εκμετάλλευσης, οι οποίες δεν τηρούν τον ΓΚΠΔ», λέει στην «Κ» η κ. Βίκυ Τζέγκα, νομικός σύμβουλος της Ενωσης Καταναλωτών για την Ποιότητα Ζωής (ΕΚΠΟΙΖΩ). «Παρότι η έρευνα διεξήχθη στη Νορβηγία, οι εφαρμογές που εξετάστηκαν (Grindr) λειτουργούν και στην Ελλάδα, ενώ οι εταιρείες τεχνολογιών διαφήμισης που οι καταγγελίες του ΝΣΚ αφορούν, είναι πολύ πιθανό, επίσης, να επεξεργάζονται τα δεδομένα των Ελλήνων καταναλωτών», συμπληρώνει.

Γι’ αυτό τον λόγο η ΕΚΠΟΙΖΩ ενημέρωσε για την έρευνα την Εθνική Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα, θέτοντας προφανώς το ζήτημα της διερεύνησης του τι ισχύει στην Ελλάδα και της λήψης των απαραίτητων μέτρων. Παρόμοιες πρακτικές, τονίζει η κ. Τζέγκα, «παραβιάζουν κατάφωρα και συστηματικά τις αρχές θεμελιωδών δικαιωμάτων και ελευθεριών»

ΣΥΝΕΝΤΕΥΞΕΙΣ 11.02.2020 Η ΚΑΘΗΜΕΡΙΝΗ

Πέτρος Ευσταθόπουλος στην «Κ»: Οι δωρεάν εφαρμογές θέλουν προσοχή

«Χάκερ υπέκλεψε πληροφορίες από το smartphone του ιδρυτή της Amazon Τζεφ Μπέζος». Στο άκουσμα της είδησης κοιτάζει κανείς τη συσκευή του και αντιλαμβάνεται ότι έχει σοβαρούς λόγους να ανησυχεί για τα προσωπικά του δεδομένα. Είναι στο χέρι του ωστόσο, όπως εξάλλου και το κινητό τηλέφωνο, η προστασία των πληροφοριών που επιθυμεί να μείνουν πραγματικά προσωπικές. Πιο σύνθετη είναι η πρόκληση της κυβερνοασφάλειας σε επίπεδο χωρών και κυβερνήσεων. Στις μέρες μας υπολογίζεται ότι διαρρέουν 30.000 αρχεία ανά λεπτό. Το ρήγμα στα δεδομένα αντιστοιχεί σε μέσο κόστος 3,8 εκατ. ευρώ. Η Ελλάδα κατατάσσεται 77η μεταξύ 175 χωρών και 40ή μεταξύ 46 ευρωπαϊκών χωρών με βάση το επίπεδο κυβερνοασφάλειας.

O δρ Πέτρος Ευσταθόπουλος είναι Global Head στo NortonLifeLock Research Group. Oπως έλεγε μιλώντας πρόσφατα στους Financial Times, «το γεγονός ότι οι άνθρωποι είναι περίεργοι ή τεμπέληδες συνιστά τον μεγαλύτερο παράγοντα απειλής… όχι εάν το software ή το hardware έχει τρωτά σημεία». Ειδικός σε θέματα κυβερνοασφάλειας, εξηγεί στην «Κ» ποια είναι τα κίνητρα και ποιες οι μέθοδοι της παράνομης αλλά και της νόμιμης άντλησης προσωπικών δεδομένων. Αναφέρεται δε στις δυνατότητες προστασίας και κυρίως στην ανάγκη της ατομικής περίσκεψης πριν από την αποδοχή των λεγόμενων «όρων χρήσης».

– Με ποιους τρόπους αντλεί κανείς σήμερα προσωπικές πληροφορίες από ένα κινητό τηλέφωνο;
– Τα κινητά τηλέφωνα έχουν πλέον μεγάλη υπολογιστική ισχύ. Τα αποκαλούμε «έξυπνα τηλέφωνα» (smartphones) λόγω της πληθώρας δυνατοτήτων που έχουν και των εφαρμογών που μπορούν να τρέξουν. Η «εξυπνάδα» αυτών των εφαρμογών και η συνολική δυνατότητα των συσκευών προέρχεται κυρίως από τρεις παράγοντες: 1) τα έχουμε σχεδόν πάντα μαζί μας, 2) έχουν σχεδόν διαρκή σύνδεση με το Ιντερνετ, και 3) μπορούν να συλλέγουν πληροφορίες (αισθητήρες, αρχεία, κ.λπ.) τις οποίες και χρησιμοποιούν για να διευκολύνουν τον χρήστη. Σε μια εποχή κατά την οποία το οικονομικό μοντέλο του Ιντερνετ βασίζεται εξ ολοκλήρου στη στοχευμένη διαφήμιση μέσω της εμπορευματοποίησης δεδομένων, οι παραπάνω τρεις παράγοντες καθιστούν τα κινητά μια πλατφόρμα ικανή να συλλέξει δεδομένα τεράστιας εμπορικής αξίας. Κάθε εφαρμογή σε ένα κινητό μπορεί να συλλέξει πληροφορίες που στη συνέχεια μπορεί δυνητικά να εκμεταλλευθεί εμπορικά. Το μοντέλο εμπορευματοποίησης δωρεάν εφαρμογών συχνά περιλαμβάνει και την προβολή διαφημίσεων από την ίδια την εφαρμογή. Αν δε η εφαρμογή προέρχεται από πηγή με κακόβουλες προθέσεις, οι συνέπειες μπορεί να είναι σοβαρές για την ασφάλεια και την ιδιωτικότητα του χρήστη. Συνεπώς, το μεγαλύτερο μέρος συλλογής πληροφοριών από κινητά γίνεται σε καθημερινή βάση, πολλές φορές με τη συναίνεση των χρηστών (π.χ. έπειτα από αποδοχή των «όρων χρήσης») χωρίς απαραίτητα να έχει προηγηθεί κάποια κακόβουλη επίθεση («hack») προς τον χρήστη. Θα μπορούσε κανείς να πει μεταξύ αστείου και σοβαρού ότι τίποτα σε αυτό το οικοσύστημα δεν είναι δωρεάν – πολλές από τις εφαρμογές και τις υπηρεσίες που προσφέρονται «δωρεάν» βασίζουν τα έσοδά τους σε κάποιο είδος μοντέλου εμπορικής εκμετάλλευσης δεδομένων. Ως εδώ μιλάμε για συλλογή πληροφοριών που θεωρείται «νόμιμη», αν δεν παραβιάζει τους όρους της υπάρχουσας νομοθεσίας (όπως το GDPR, e-Privacy ή το CCPA στην Καλιφόρνια).

Σε δεύτερο επίπεδο έρχεται η ξεκάθαρα παράνομη συλλογή δεδομένων μέσω κακόβουλου λογισμικού. Οταν κάποιος χρήστης πέφτει θύμα τέτοιας επίθεσης (π.χ. ιοί, «malware», επιθέσεις μέσω ψευδών email) η συλλογή πληροφοριών γίνεται σε μεγαλύτερη κλίμακα και με απώτερο σκοπό την κλοπή προσωπικών πληροφοριών μεγαλύτερης αξίας, που θα πολλαπλασιάσουν –παράνομα– τα κέρδη του επιτιθέμενου (π.χ. κλοπή αριθμών πιστωτικών καρτών, κλοπή της ταυτότητας του χρήστη, κλοπή προσωπικών δεδομένων, επιθέσεις εκβιασμού – ransomware).

Τέλος, παρατηρούνται και φαινόμενα απόλυτα στοχευμένης κλοπής δεδομένων. Αυτού του τύπου οι επιθέσεις στοχεύουν σε συγκεκριμένα άτομα υψηλής –οικονομικής, πολιτικής– αξίας, χρησιμοποιούν εξαιρετικά εξειδικευμένες μεθόδους και υποστηρίζονται από άτομα ή οργανισμούς με πολλούς πόρους. Λεπτομέρειες για αυτές τις περιπτώσεις συλλογής πληροφοριών συχνά δεν έρχονται στο φως της δημοσιότητας καθώς αποτελούν αντικείμενο ερευνών ευαίσθητου χαρακτήρα.

– Ποια είναι συνήθως τα κίνητρα των επιθέσεων;
– Τα κίνητρα των επιθέσεων είναι σχεδόν πάντα οικονομικά, εξαιρουμένων κάποιων στοχευμένων επιθέσεων με πολιτικά κίνητρα. Οι πιο συνήθεις περιπτώσεις αφορούν στην κλοπή αριθμού πιστωτικής κάρτας είτε για τη χρήση της, είτε για μεταπώληση στον «σκοτεινό ιστό» (dark web). Τα στοιχεία μιας πιστωτικής ή χρεωστικής κάρτας πωλούνται κατά μέσον όρο για 17 δολάρια, που σημαίνει ότι τα στοιχεία χιλίων πιστωτικών καρτών αποφέρουν περίπου 17.000 δολ. στην αγορά του dark web.

Επιθέσεις χάκερ και συμφέροντα

– Υπάρχει ένας στοιχειώδης οδικός χάρτης που μπορεί να ακολουθεί κανείς στην καθημερινότητα; Ποιος είναι τελικά ο καλύτερος τρόπος ώστε να προστατεύει κανείς τα προσωπικά δεδομένα του;
– Τα κινητά τηλέφωνα έχουν πλέον εξελιχθεί σε μια αρκετά περίπλοκη και πολυάριθμη πλατφόρμα. Ο ισχυρισμός ότι δεν έχουν ανάγκη από προϊόντα ασφαλείας θα ήταν λάθος. Προϊόντα όπως αυτά που προσφέρει η NortonLifeLock προσφέρουν προστασία από πολλές απειλές και κακόβουλες εφαρμογές. Αυτό αποτελεί μια σημαντική άμυνα ενάντια στις επιθέσεις. Πέραν αυτού όμως θα πρέπει να αναλογιστούμε τον τρόπο με τον οποίο έχει αλλάξει η οικονομία του Ιντερνετ και ως εκ τούτου οι απειλές για την ασφάλεια και ιδιωτικότητα των χρηστών. Υπάρχει ένα σύνολο «προτεινόμενης συμπεριφοράς» στο Ιντερνετ και θα πρέπει όλοι να αντιληφθούμε πως μόνο με κατάλληλες επιλογές μπορούμε να προστατεύσουμε αποτελεσματικά τα προσωπικά μας δεδομένα. Παρατηρούμε συχνά το φαινόμενο ανθρώπων που δηλώνουν πως νοιάζονται για την ιδιωτικότητά τους, ενώ ταυτόχρονα μοιράζονται πλήθος προσωπικών δεδομένων στα μέσα κοινωνικής δικτύωσης ή μέσω μη ασφαλούς ηλεκτρονικού ταχυδρομείου. Την επόμενη φορά που μια εφαρμογή θα ζητήσει πρόσβαση στον κατάλογο με τις επαφές μας στο κινητό ή στις φωτογραφίες μας, καλό θα ήταν να δώσουμε λίγη προσοχή και να αναλογιστούμε γιατί συμβαίνει αυτό.

Πολλές φορές ρωτάω τους ανθρώπους γύρω μου ποιο πιστεύουν ότι είναι το προϊόν της τάδε εταιρείας αναζήτησης ή του δείνα ιστότοπου κοινωνικής δικτύωσης, δεδομένου ότι οι υπηρεσίες τους προσφέρονται δωρεάν. Τις περισσότερες φορές αντιλαμβάνομαι πως οι απλοί χρήστες δεν αντιλαμβάνονται πως το προϊόν είναι οι ίδιοι. Τα δεδομένα τους για την ακρίβεια, τα οποία συλλέγονται από τις «δωρεάν» υπηρεσίες και εμπορευματοποιούνται στον χώρο της διαφήμισης.

– Πέρα από τα κινητά τηλέφωνα, στην Ελλάδα υπήρξαν πρόσφατα επιθέσεις από χάκερ σε επίσημες ιστοσελίδες του κράτους, σε μια περίοδο υψηλής γεωπολιτικής έντασης. Πόσο συχνά είναι αντίστοιχα φαινόμενα σε διεθνές επίπεδο και ποια είναι πρακτικά η πρόκληση για τις κυβερνήσεις;
– Οι συγκεκριμένες επιθέσεις είναι σχεδόν καθημερινό φαινόμενο παγκοσμίως. Δεν είναι απαραίτητα ανησυχητικές, τουλάχιστον όχι για θεσμούς με μια επαρκή πολιτική ψηφιακής ασφάλειας. Στην πλειονότητα των περιπτώσεων αποτελούν ενέργειες μεμονωμένων ομάδων με συγκεκριμένες ιδεολογίες, οι οποίες συχνά χρησιμοποιούν σχετικά διαδεδομένες –και συνεπώς αντιμετωπίσιμες– επιθετικές τεχνικές.

Αν, όμως, δούμε την ευρύτερη εικόνα θα μπορούσε να πει κανείς ότι αυτές οι επιθέσεις είναι μικρές ενδείξεις της ευρύτερης χρήσης ψηφιακών μέσων για γεωπολιτικές και στρατιωτικές επιχειρήσεις. Υπάρχουν αρκετά παραδείγματα περιστατικών όπου έγινε χρήση εξαιρετικά εξειδικευμένων ψηφιακών μέσων προκειμένου να επιτευχθούν γεωπολιτικά συμφέροντα ή να πληγούν στόχοι υψηλής αξίας.

Εδώ θα μπορούσε να πει κανείς ως παράδειγμα ότι είναι πολύ πιο επικίνδυνες οι καμπάνιες παραπληροφόρησης που διεξάγονται παγκοσμίως προκειμένου να χειραγωγηθεί η κοινή γνώμη ή να επηρεαστούν εκλογικά αποτελέσματα.

Τέτοιες ενέργειες παρατηρούνται σε μεγάλη κλίμακα, είναι δυσκολότερο να αντιμετωπιστούν και μπορεί να έχουν σημαντικά αποτελέσματα σε βάθος χρόνου. Θεωρώ ότι οι κυβερνήσεις έχουν πλέον αντιληφθεί τις ψηφιακές απειλές και θα πρέπει να δουλέψουν συστηματικά ώστε να καταρτίσουν όλο και μεγαλύτερες ομάδες ικανές να αντιμετωπίσουν τις αυξανόμενες απειλές.

Το ευχάριστο για την Ελλάδα είναι ότι διαθέτουμε εξαιρετικά καταρτισμένους επιστήμονες ικανούς να στελεχώσουν τέτοιες ομάδες, τουλάχιστον στον βαθμό που τους επιτρέπουν οι οικονομικές συνθήκες.

Οι μέθοδοι προστασίας

– Τι μεθόδους χρησιμοποιεί σε γενικές γραμμές μια επιχείρηση που παρέχει υπηρεσίες κυβερνοασφάλειας; Με ποιον τρόπο προστατεύει πρακτικά το κινητό τηλέφωνο και με τι ποσοστά επιτυχίας;
– Σε ό,τι αφορά τα ζητήματα ασφάλειας, τα λειτουργικά συστήματα των σύγχρονων κινητών τηλεφώνων εισήγαγαν σημαντικές βελτιώσεις σε σύγκριση με τους προσωπικούς υπολογιστές. Ως εκ τούτου, πολλές από τις συνήθεις επιθέσεις δεν είναι εφαρμόσιμες ή έχουν περιορισμένες συνέπειες.

Παρ’ όλα αυτά, όπως κάθε λογισμικό που έχει παραχθεί ποτέ, όλες οι πλατφόρμες και οι εφαρμογές τους έχουν κάποια κενά ασφαλείας τα οποία εταιρείες όπως η NortonLifeLock φροντίζουν να ανακαλύπτουν, ώστε να προσφέρουν τη σχετική προστασία στους χρήστες με τα ανάλογα προϊόντα. Στη συνέχεια, προκειμένου να αντιμετωπίσουμε τις σύγχρονες απειλές, φροντίζουμε να απευθύνουμε την προσοχή και την ερευνητική μας δραστηριότητα και σε δύο άλλα αντικείμενα. Πρώτον, θα πρέπει να παρέχουμε νέες πρωτοπόρες μεθόδους προστασίας της ιδιωτικότητας του χρήστη. Αυτό περιλαμβάνει τεχνικές λύσεις –π.χ. εφαρμογές βασισμένες στη μηχανική μάθηση (machine learning)– ικανές να διακρίνουν περιπτώσεις κατάχρησης των προσωπικών δεδομένων από κάποια εφαρμογή ή ξεκάθαρης επίθεσης από κακόβουλο λογισμικό.

Οι σύγχρονες μέθοδοι προστασίας βασισμένες σε αυτές τις τεχνικές μάς επιτρέπουν να αναλύσουμε δεδομένα και εξαγάγουμε συμπεράσματα για την ασφάλεια του χρήστη με τρόπο που έως πριν από λίγα χρόνια δεν ήταν δυνατός.

Δεύτερον, και ίσως πιο σημαντικό, πρέπει να βοηθήσουμε τους χρήστες να έχουν μια πιο συνετή συμπεριφορά απέναντι στα νέα δεδομένα. Αυτό περιλαμβάνει μεθόδους βοήθειας στην κατανόηση των απειλών, κατανόησης των δεδομένων που συλλέγουν οι εφαρμογές και συμβουλές για διαχείριση απειλών.

Η διαφήµιση ως εισβολή στα κινητά µας

Τα λογισµικά προβολής διαφηµίσεων, γνωστά ως Adware, δεν είναι εξ ορισµού κακόβουλα. Παρουσιάζουν όµως παρεµβατικές συµπεριφορές και θέτουν σε κίνδυνο την ασφάλεια ενός smartphone. Τα λογισμικά αυτά, όπως και άλλες δυνητικά ανεπιθύµητες εφαρµογές, εγείρουν ζήτηµα για την ιδιωτικότητα του χρήστη.

  1. Κατακλύζουντους χρήστες µε διαφηµίσεις διαφόρων µορφών µέσα σε εφαρµογές (in-app ads), σε όλη την οθόνη (full-screen ads) ή ακόµη και στις ρυθµίσεις του κινητού.
  2. Συλλέγουνπληροφορίες όπως η τοποθεσία του χρήστη (συντεταγµένες GPS), το µοντέλο του κινητού, ο σειριακός αριθµός της SIM κάρτας, αλλά και στοιχεία για όλες τις εγκατεστηµένες εφαρµογές και ρυθµίσεις του κινητού.
  3. Αντλούνστοιχεία µοναδικά για την κάθε συσκευή, που δεν µπορούν να αλλαχθούν κατά τη διάρκεια ζωής ενός κινητού τηλεφώνου, όπως το International Mobile Station Equipment Identity (IMEI) και το International Mobile Subscriber Identity (IMSI).
  4. Συγκεντρώνουνπληροφορίες συχνά µε µη ασφαλή µέσα, χωρίς τη χρήση κρυπτογραφίας, επιτρέποντας την εν δυνάµει διαρροή και σε τρίτους.

ΑΡΙΣΤΟΣ ΔΟΞΙΑΔΗΣ*

Η συνενοχή μας σε εξανδραποδισμό

 16.04.2019 Η ΚΑΘΗΜΕΡΙΝΗ

​Κάθε τόσο όλο και μια ξένη λέξη προστίθεται στο φτωχό ελληνικό λεξιλόγιό μας, αντιπροσωπεύοντας ολόκληρη σχολή ανθρώπινης επικοινωνίας. Υποτίθεται εκφράζοντας την ανάγκη της εποχής. Προηγήθηκε το Facebook, το οποίο έχει οδηγήσει σε αποκάλυψη κάθε πτυχής της ιδιωτικής ζωής των χρηστών του, στη χειμαρρώδη έκθεση των προσωπικών τους δεδομένων.

Ολα σε δημόσια θέα – τι έχουμε να φοβηθούμε άλλωστε; Ο βίος μας είναι κρυστάλλινος, όπως ακόμη και η κρεβατοκάμαρά μας. Ετσι, ακροβατούμε μεταξύ άκρων: θυσίες και αίμα για την προστασία των ατομικών μας δικαιωμάτων, της προστασίας της ιδιωτικής μας ζωής από τον «Μεγάλο Αδελφό».

Κατοχύρωση των προσωπικών μας δεδομένων, ιδιαίτερα των ευαίσθητων, με νόμους εξαιρετικά αυστηρούς για τους παραβάτες, που φθάνουν στην υπερβολή, και προστασία τελικά κακοποιών στοιχείων ενώπιον της Δικαιοσύνης.

Και από την άλλη, παρατηρούμε την οικειοθελή εκχώρηση των συνταγματικά κατοχυρωμένων αυτών δικαιωμάτων. Ουσιαστικά συνιστά παραίτηση από διαχρονικές αξίες, που κατέστησαν μέσα από το διάβα των αιώνων πανανθρώπινες. Ο ίδιος ο χρήστης των ψηφιακών υπηρεσιών αδυνατεί μέσα στην ατομική του σύγχυση, προερχόμενη σε μεγάλο βαθμό από τη γενικότερη επικρατούσα παραφροσύνη, να αντιληφθεί βασικές έννοιες και κανόνες προστασίας της προσωπικής ελευθερίας, της ιδιωτικότητας.

Ο πολίτης μετατρέπεται σε άβουλο όργανο εναλλασσόμενων διαχειριστών της εξουσίας και αρκείται στην ψευδαίσθηση της επικοινωνίας μέσω των μέσων κοινωνικής δικτύωσης. Αισθάνεται ασφαλής. Είναι μια άψυχη όμως επικοινωνία. Λείπει το ζωντανό στοιχείο.

Ο χρήστης θεωρεί ότι ο κόσμος είναι δικός του. Μόνο που είναι εντελώς μόνος. Χωρίς προσωπικότητα. Χωρίς διάθεση παρέμβασης στα κοινά. Θεωρεί ότι μετέχει, ότι είναι μέρος της κοινωνίας, ενώ έχει καταστεί απροσάρμοστος. Ή μάλλον έχει καταστεί μέλος μιας ανάλογης κοινωνίας, που αδυνατεί να συνειδητοποιήσει πλέον και να διακρίνει αξίες ανθρώπινες τις οποίες έχει περιθωριοποιήσει. Αντ’ αυτού αναδεικνύει και προωθεί, ακουσίως, καθετί που αποδυναμώνει τη σκέψη και οδηγεί σε λήθαργο και απονεύρωση.

Η τεχνολογία δουλεύει καλά και καθιστά σκλάβους τους ανθρώπους. Η μοναδικότητα του ανθρώπινου πνεύματος αντικαθίσταται από επιφανειακές απολαύσεις των αισθήσεων, των οποίων μετριέται μόνο η ποσότητα, όχι η ποιότητα. Εξ ου και το φτωχό λεξιλόγιο και οι άναρθρες κραυγές που βλέπουμε στις μονομαχίες πολιτικών στην τηλεόραση, με τις λέξεις-κλειδιά που στοχεύουν στον εντυπωσιασμό των ημικοιμωμένων.

Κι έτσι φθάσαμε στο Twitter, ως τρόπο επικοινωνίας των «ηγετών» μας με τους υπηκόους τους. Ακόμη και σε κρίσιμα θέματα, σε συναντήσεις κορυφής που κρίνουν το άδηλο μέλλον της χώρας, προτιμάται το «τιτίβισμα» για την ενημέρωση.

Χωρίς αρχές και χωρίς αιδώ, με την κακή καταχρηστική χρήση επιτευγμάτων της τεχνολογίας, οδηγηθήκαμε σε ευνουχισμό του νου, ο οποίος καθίσταται εύκολα χειραγωγούμενος – ανίκανος να εστιάσει, να εμβαθύνει, να κατανοήσει.

Ο «Μεγάλος Αδελφός» απουσιάζει. Τον αντικαθιστούμε εμείς επάξια, οι αμέτρητοι μικροί αδελφοί του Διαδικτύου…

* Ο κ. Δημήτρης Παξινός είναι πρώην πρόεδρος του ΔΣΑ.

Το μεγαλύτερο φακέλωμα στην Ιστορία

ΕΥΡΥΔΙΚΗ ΜΠΕΡΣΗ

Τη Δευτέρα, μία δίκη-ορόσημο ξεκίνησε στη Βρετανία. Ο 36χρονος Εντ Μπρίτζις προσέφυγε εναντίον της αστυνομίας της Νότιας Ουαλλίας, υποστηρίζοντας ότι η καταγραφή του προσώπου του στον κεντρικό πεζόδρομο του Κάρντιφ από αστυνομική κάμερα που αναλύει βιομετρικά στοιχεία συνιστά παραβίαση της προσωπικής του ζωής.

Ο Μπρίτζις θεώρησε ότι η μετάβαση από τις κάμερες κλειστού κυκλώματος στις κάμερες που αναλύουν βιομετρικά στοιχεία είναι πολύ σοβαρή υπόθεση. Με το λογισμικό αυτό, οι Αρχές μπορούν να γνωρίζουν ανά πάσα στιγμή όνομα, επώνυμο, ηλικία και συναισθηματική κατάσταση χιλιάδων ανθρώπων που βρίσκονται σε δημόσιους χώρους, ενώ το σκανάρισμα των προσώπων δεν γίνεται μόνο για να συγκριθούν με φωτογραφίες καταζητούμενων αλλά και για να αναζητήσουν οι Αρχές άτομα με πιθανές ψυχικές διαταραχές ή να εξακριβώσουν μαζικά τα στοιχεία όλων όσοι ασκούν το δημοκρατικό δικαίωμα συμμετοχής σε μία κινητοποίηση.

«Η τεχνολογία αυτή ταιριάζει σε ένα αστυνομικό κράτος και δεν έχει θέση στους δρόμους μας», είπε η συνήγορος του Μπρίτζις, Μέγκαν Γκούλντιν. Στο ίδιο συμπέρασμα κατέληξαν και οι άνθρωποι που αναπτύσσουν την τεχνολογία αυτή, με αποτέλεσμα το Σαν Φρανσίσκο, όπου κατοικούν πολλοί προγραμματιστές της Σίλικον Βάλεϊ να γίνει ο πρώτος δήμος που απαγορεύει την χρήση της αυτόματης αναγνώρισης προσώπου από τις Αρχές. Εξακολουθεί, ωστόσο, να επιτρέπεται η χρήση της τεχνολογίας από ιδιωτικές εταιρείες, οι οποίες εμπορευματοποιούν την ανθρώπινη συμπεριφορά. Το λογισμικό αναγνώρισης προσώπου γίνεται όλο και πιο αποτελεσματικό στην ανίχνευση συναισθημάτων, τον προσδιορισμό σκέψεων και την πρόβλεψη αντιδράσεων, με αποτέλεσμα να αποτελεί κρίσιμο εργαλείο στα χέρια όσων επιδιώκουν να επηρεάσουν ανθρώπους προς συγκεκριμένες καταναλωτικές ή πολιτικές συμπεριφορές. Αλλά ποιοι είναι αυτοί και πώς ακριβώς λειτουργούν; Ξέρουμε πώς ακριβώς μας πωλούν και μας αγοράζουν το Facebook, η Amazon, η Apple και η Google;

«Ποτέ στην ανθρώπινη Ιστορία δεν υπήρχε τόσο μεγάλη συσσώρευση ασύμμετρης γνώσης και άρα ασύμμετρης ισχύος», σημείωσε η ομότιμη καθηγήτρια της σχολής διοίκησης επιχειρήσεων του πανεπιστημίου Χάρβαρντ Σοσάνα Ζούχοβ. «Ξέρουν σχεδόν τα πάντα για εμάς, δεν ξέρουμε σχεδόν τίποτα γι’ αυτούς».

Συναίνεση με «σεντόνια»

Πολλές εταιρείες οχυρώνονται πίσω από τη συναίνεση που παρέχουν οι χρήστες υπογράφοντας «σεντόνια» γεμάτα όρους που δεν διαβάζουν ποτέ, ως μια επίφαση νομιμότητας στην «άγρια δύση» της πιο διεισδυτικής μαζικής εκμετάλλευσης προσωπικών δεδομένων στην ιστορία.

Σίγουρα θα υπάρξουν περισσότεροι νόμοι και κανόνες, όσο γίνεται αντιληπτό το μέγεθος του προβλήματος – αλλά οι νόμοι θα είναι αδύναμοι αν προσπαθήσουν να περιορίσουν τη χρήση των δεδομένων αφού αυτά συγκεντρωθούν.

Είναι μάταιο να πιστεύουμε ότι αφού οι Αρχές ή οι εταιρείες ξεκινήσουν να σκανάρουν και να αναλύουν σε μόνιμη βάση τα πρόσωπα όλου του πληθυσμού, συνδέοντας τα δεδομένα αυτά με όλες τις υπόλοιπες πληροφορίες που αντλούν για τον κάθε ένα από εμάς, εν συνεχεία θα αξιοποιήσουν την τεράστια αυτή δύναμη μόνο για αγαθούς σκοπούς. Οπως είπε ο πρόεδρος του Free Software Foundation, Ρίτσαρντ Στάλμαν, η μόνη ασφαλής βάση δεδομένων είναι αυτή που δεν δημιουργήθηκε ποτέ.

Ξεχνιέμαι με ένα Pokemon Go

 ΤΑΣΟΥΛΑ ΚΑΡΑΙΣΚΑΚΗ  Η ΚΑΘΗΜΕΡΙΝΗ

Ποιος ξέρει, μπορεί να είναι και η ματοβαμμένη χλαπαταγή που ξεβράζεται στα σαλόνια των σπιτιών εκδιώκοντας τις ψυχές στα πέρατα της φρίκης, τα ξέχειλα από θάνατο και καταστροφή δελτία ειδήσεων, τα πολτοποιημένα παιδάκια στο οδόστρωμα της Promenade des Anglais, που τόσοι πολλοί ξεχνιούνται με ένα Pokemon Go… Το νέο παιχνίδι εικονικής πραγματικότητας κυκλοφόρησε στην αγορά μόλις στις 6 Ιουλίου, όμως έχει εξελιχθεί ήδη σε παγκόσμια μανία (έχει ξεπεράσει το Twitter στην καθημερινή χρήση και επισκιάζει το Facebook σε χρόνο ενασχόλησης), έχει ήδη απαγορευθεί σε μουσεία, υπηρεσίες, ιδρύματα, ενώ χρήστες του έχουν ήδη γίνει στόχος επιτήδειων (τους ζητούν 12,99 δολάρια για δήθεν αναβάθμιση, κάποιοι κλέβουν τα στοιχεία τους και αδειάζουν τους λογαριασμούς τους, ενώ όσοι κατεβάζουν την εφαρμογή μέσω τρίτων «προσφέρουν» στους απατεώνες τον έλεγχο των κινητών τους). Με την τεχνολογία της εικονικής πραγματικότητας, το σύστημα δορυφορικής πλοήγησης GPS και την κάμερα του smartphone, δημιουργείται ένας χάρτης της περιοχής όπου ο χρήστης μπορεί να ανακαλύψει τα 250 Pokemon.

Η τεχνολογία διευκολύνει την άμεση διάδοση κάθε νεωτερισμού. Όμως η μανία εκπορεύεται από ένα πολυσύνθετο κοινωνικό υπόβαθρο. Κατά πρώτον, μοιάζει να εκφράζει μια βαθιά μαζική ανάγκη για παιχνίδι, σε μια καθημερινότητα η οποία αποκλείει το μέσο εκτόνωσης, το καμωμένο σχεδόν πάντα από τους μύθους ή τους ανταγωνισμούς (ο χρήστης εξοντώνει τα τερατάκια), και τα ελατήρια της ενήλικης ζωής. Το παιχνίδι ψυχαγωγεί, αλλά και καθηλώνει στη σκοτεινή κύμανση της ατέρμονης διάρκειας, ηρεμεί αλλά και στρέφει όλη την προσοχή σε εκείνη την πανέξυπνη ύλη μέσα στη χούφτα. Την ενήλικη, την παιδική – το Pokemon Go θολώνει τα όρια μεταξύ των ηλικιών. Αυτή η συγχώνευση παιδικού και ενήλικου κοινού μαρτυρά, από τη μια, τον παλιμπαιδισμό των μεγάλων, που αποστρέφοντας το βλέμμα από το αίμα, τα χρέη, την αναδουλειά, τις περιπλοκές της ζωής, το «σαράκι» που κατατρώει τη σχόλη τους, δραπετεύουν στην εικονική πραγματικότητα· από την άλλη, επιβεβαιώνει την ταχύτατη ενηλικίωση των μικρών – μακροχρόνια ανάπτυξη δεν υπάρχει πια, τα παιδιά έχουν κιόλας μεγαλώσει από το πρώτο τους βήμα.

Κατά δεύτερον, είναι η διαδικασία της μίμησης σε ένα χαλαρά δομημένο σύμπαν όπου ναι μεν τα άτομα συνέχονται με άξονα μόνο τον ελάχιστο κοινό παρονομαστή, αλλά ακολουθούν όλα μαζί υστερικά κάθε νέο συρμό, επιβεβαιώνοντας την ύπαρξη μιας αδιαφοροποίητης κοινωνίας (χιλιάδες πολλαπλά αντίτυπα αγοριών και κοριτσιών, νεαρών ανδρών και γυναικών κυκλοφορούν στους δρόμους), του «ευρέως κοινού», το οποίο εκλαμβάνεται ως ανθρώπινη νόρμα από τους δημιουργούς των προϊόντων πλανητικής κατανάλωσης…

Θα μπορούσε να πει κανείς ότι, μέσω της τεχνολογίας, ολοένα μεγαλύτερα τμήματα του πληθυσμού μπορούν να απολαύσουν τις χαρές της ετοιμότητας, της όρασης, της ακοής… Ότι, όπως οι αρχαϊκοί άνθρωποι περιτριγυρίζονταν από πνεύματα και είδωλα, έτσι και εμείς οι άνθρωποι του 21ου αι. ζούμε σε έναν κόσμο όπου η τεχνική ξαναζωντανεύει αυτήν την παλιά μαγεία. Είναι όμως τα προϊόντα τύπου Pokemon Go τονωτικά της ψυχής ή απλά «χάπια» εκπατρισμού στο κενό, κατανάλωσης της ίδιας μας της ύπαρξης, μια προσομοίωση, πέρα από το αληθινό και το ψευδές, το σωστό και το λάθος, που λαμβάνει τις διαστάσεις και το βάρος της πραγματικής ζωής;

Κυριακή με αποσύνδεση

 06.08.2018
Μανώλης Ανδριωτάκης  Η ΚΑΘΗΜΕΡΙΝΗ

Η ημέρα τούτη είναι μια καλή αφορμή για στοχασμό. Έχουμε ξεχάσει να χρησιμοποιούμε το μυαλό μας, το υποκαταστήσαμε με αλγόριθμους σε μαύρα κουτιά. Έχουμε αναθέσει στις έξυπνες συσκευές μας τη σκέψη και τη μνήμη, κι εμείς ως μοντέρνοι κομφορμιστές αρεσκόμαστε να πατάμε κουμπιά που αυξάνουν τη ματαιοδοξία, διεγείροντας τους εγκεφάλους μας ώστε να εκκρίνουν περισσότερη ντοπαμίνη. Γίναμε όλοι τακτικοί θαμώνες καζίνο, ποντάρουμε την ύπαρξή μας στην επόμενη στιγμιαία επιβράβευση, βάζοντας τα δυνατά μας για να φανούμε ακόμα πιο ωραίοι, ακόμα πιο σχετικοί. Τα μέσα κοινωνικής δικτύωσης μας έχουν παγιδεύσει όλους σε ρόλους ηθοποιών δεύτερης και τρίτης κατηγορίας. Με τη διαφορά ότι νιώθουμε όλοι πρωταγωνιστές. Τώρα έχουμε όλοι άκοπα την ψευδαίσθηση ότι είμαστε δημόσια πρόσωπα. Δημιουργώντας ακόμα κι έναν ψεύτικο λογαριασμό και αναρτώντας μια σπουδαιοφανή φωτό προφίλ, παίρνουμε το δικαίωμα εισόδου σε μια ζωή απαλλαγμένη από τα όρια του χώρου και του χρόνου. Εδώ δεν ισχύει κανένας περιορισμός για την αξιοθαύμαστη προσωπικότητά μας. Εδώ θα δουν όλοι σε ζωντανή μετάδοση πόσο τεράστιοι είμαστε. Για πολλούς αυτή είναι μια σωτήρια διέξοδος όταν τίποτε άλλο δεν είναι εφικτό. Αλλά για έναν άνθρωπο που έχει σωματική υγεία, πνευματική διαύγεια και κοινωνική ζωή, η αυξανόμενη έκθεση στην τοξικότητα της εικονικής έκθεσης συνεπάγεται βέβαιο καταθλιπτικό σύνδρομο. Η επαφή με την πραγματικότητα είναι αδυσώπητη.

Η ημέρα τούτη είναι μια καλή αφορμή για αποσύνδεση. Ίσως η καταλληλότερη μέρα για να βγεις από το ίντερνετ και να βάλεις στο πλάι τις συσκευές σου. Να βάλεις στο αεροπορικό το κινητό σου από το προηγούμενο βράδυ και να δώσεις την υπόσχεση στον εαυτό σου ότι δεν θα το ανοίξεις ούτε στιγμή για μία ολόκληρη μέρα. Κατέβασε ταχύτητα, μείωσε την εξάρτησή σου από τα μέσα και δες προσεκτικότερα τα περιεχόμενα και τους σκοπούς. Τα μέσα κοινωνικής δικτύωσης σε υποχρεώνουν διαρκώς να συγκρίνεσαι με τους άλλους και να εκλιπαρείς για λίγη ακόμα προσοχή, μην ενδίδεις στην ανάγκη να φαίνεσαι διαρκώς πάνω στο κύμα.

Η μέρα τούτη είναι μια καλή αφορμή για επαναξιολόγηση της στάσης μας απέναντι στους άλλους και στα πράγματα. Διάλεξε σήμερα να πάρεις τηλέφωνο κάποιον που αγαπάς και να του πεις έναν τρυφερό λόγο. Βοήθησε έναν συνάνθρωπό σου. Βγες έξω στον καθαρό αέρα. Πάρε βαθιές αναπνοές. Περπάτησε, τρέξε. Κάνε μια εκδρομή. Κινήσου χωρίς πρόγραμμα. Σήκωσε το βλέμμα σου στον ουρανό και παρατήρησε τις αλλαγές. Παίξε με ένα παιδί, γέλα, κι άσε τις πόζες για τους άλλους. Ας μην τραβήξεις φωτογραφίες σήμερα. Δεν είναι απαραίτητη η τεκμηρίωση της κάθε σου εμπειρίας. Το βασικότερο είναι εσύ να απολαύσεις το πέρασμά σου από τον κόσμο. Αν θες οπωσδήποτε να αποδράσεις από τη σκληρή πραγματικότητα, άνοιξε ένα βιβλίο και απόλαυσέ το. Θα σου κάνει καλό. Κράτησε σημειώσεις, εν ανάγκη ζωγράφισε κιόλας. Κάνε κάτι πρωτότυπο. Νιώσε κάτι δικό σου. Χόρεψε. Όσο μένεις στα μέσα κοινωνικής δικτύωσης, τόσο ετεροκαθορίζεσαι και μπαίνεις σε έναν φαύλο κύκλο αγωνίας και ανικανοποίητων προσδοκιών. Σήμερα είναι Κυριακή και είναι κρίμα να περάσεις ακόμα μία μέρα μπροστά από μια οθόνη που αποδεδειγμένα σου προκαλεί κατάθλιψη.

Κατά κύριο λόγο η ημέρα τούτη είναι μια καλή αφορμή για σωματική επαφή. Η αγκαλιά είναι διαπιστωμένα θεραπευτική. Τι να σου κάνει όμως μια εικονική αγκαλιά; Πέταξε τις συσκευές και πιάσε έναν ζωντανό άνθρωπο. Κάνε την Κυριακή αυτή υπόδειγμα και για τις υπόλοιπες ημέρες.

* Ο Μανώλης Ανδριωτάκης είναι συγγραφέας, σκηνοθέτης και δημοσιογράφος. Το τελευταίο του βιβλίο, «Ο αλγόριθμος της Σοφίας. Για χρήστες εξυπνότερους από τις συσκευές τους», κυκλοφορεί από τις εκδόσεις Κριτική.

Μέσα στη ζωή αλλά έξω από αυτήν

Της Τασούλας Καραϊσκάκη Η ΚΑΘΗΜΕΡΙΝΗ

«Είναι απόδραση από το στενό οικογενειακό περιβάλλον, ο «φύλακας άγγελος» στις δύσκολες καταστάσεις, ο φίλος στις μοναξιές, είναι γκλαμουριά, αξεσουάρ μόδας, παιχνιδομηχανή, βοήθημα για να σκοτώνουμε την ώρα μας (το κομπολόι της εποχής)… Μολονότι δεν είμαι ο κινητάκιας που αλλάζει 10 κινητά τον χρόνο για να πουλήσει μούρη, ακόμη κι αν μου τη σπάει να είμαι σε μια παρέα που πιθηκίζουν με τα SMS, αν βγω από το σπίτι χωρίς αυτό, δεν είμαι και στις καλύτερές μου», έγραφε έφηβος σε ιντερνετική κουβεντούλα για το κινητό, που κάνει θραύση στους μαθητές – το υψηλότερο ποσοστό χρήσης κινητού στη χώρα μας από παιδιά 12-15 ετών καταγράφεται στη Θεσσαλία (89,5%), σύμφωνα με την Εθνική Στατιστική Υπηρεσία.

Σχεδόν μέλος του εφηβικού κορμιού είναι το κινητό, αφού δεν ξεκολλάει όλη μέρα από το χέρι – τα δάχτυλα σε διαρκή αποστολή μηνυμάτων, ακόμη και την ώρα του φαγητού, ακόμη και στο μπάνιο. Έρευνα στην Ιαπωνία έδειξε ότι το 20% των εφήβων στέλνει 50 μηνύματα τη μέρα, ενώ ένα 7% περίπου 100. Και να σκεφτεί κανείς ότι ο πρώτος νέος που νοσηλεύτηκε σε ίδρυμα απεξάρτησης για εθισμό στο κινητό, ένας 19χρονος Σκωτσέζος, είχε φτάσει να στέλνει 100 SMS τη μέρα• σε ένα χρόνο είχε ξοδέψει σε μηνύματα 4.500 λίρες. Άλλη έρευνα στη Βρετανία: οι μισοί νέοι είναι διαρκώς αγχωμένοι μην τους τελειώσει η μπαταρία ή βγουν εκτός δικτύου. Queensland University, Αυστραλία: ο εθισμός στο κινητό μοιάζει με τον εθισμό στο τσιγάρο• όταν το αποχωρίζεσαι, νιώθεις αποδιοργανωμένος, αναστατωμένος, νευρικός. Εμφανίζεις συμπτώματα, όμοια με εκείνα του καπνιστή, του βουλιμικού, του καθ’ έξιν τζογαδόρου: επιθετικότητα σε κάθε προσπάθεια να μειωθεί η χρήση, άγχος, ακόμη και πανικό.

Είναι αλήθεια, κι αυτό δεν χρειάζεται έρευνα για να διαπιστωθεί, ότι η μανιώδης χρήση, οδηγεί έξω από τη ζωή. Αποσπασμένοι, οι μανιακοί, από κάθε άλλο ενδιαφέρον, μη θέλοντας ν’ αφομοιώσουν τίποτα έξω απ’ αυτό, σταδιακά φθείρουν τις εσωτερικές τους δυνάμεις. Μοιάζουν να νοσούν από ένα κακό που δεν εντοπίζεται πουθενά, που πλήττει το κορμί χωρίς να αφήνει ίχνη, αλλά τρυπώνει ύπουλα στην ψυχή απορροφώντας ζωντάνια και αφήνοντάς τους ανήμπορους να πληρώσουν το κενό που ακολουθεί την εξάλειψη των υπαρκτών βασάνων.

Περνώντας τη νέα λατρεία από το κόσκινο μιας άγουρης σοφίας, συστέλλουν τη λογική στις διαστάσεις ενός κόσμου που καταπίπτει στην ανία. Ακόμη κι αν ξανοιχτεί εμπρός τους μια θάλασσα καθαρμού, η βαθιά πλήξη τούς εμποδίζει να λουστούν μέσα της.

Οχι, το κινητό δεν είναι δαίμονας, είναι πια μέσα στη ζωή. Ομως, όπως όλα τα πράγματα στη ζωή, απαιτεί μέτρο. Κάτι ξένο προς τον έφηβο που αγαπά να πειραματίζεται, να μιμείται, να αψηφά τον κίνδυνο, να αντιδρά δυναμικά στις πιέσεις.

«Σαν θα πεθάνω βάλτε μου/το κινητό στο μνήμα/μα μη με θάψετε βαθιά/γιατί δεν θάχω σήμα». Λυτρωτικό χιούμορ. Κι έπειτα έρχεται η ωριμότητα, το βύθισμα της συνείδησης στα βαθιά νερά της πραγματικής κοινωνίας. Το σύμπαν αλλάζει και γίνεται ένας ζωντανός ιστός από αληθινούς δεσμούς και αντιθέσεις, από καταποντίσματα και φωτεινές εξάρσεις, από μόχθο, χαρά, λύπη, ελπίδα. Η ακατάπαυστη οφιοειδής κίνηση της ζωής.

Ψέματα, μεγάλα ψέματα και Τwitter

 ΠΑΣΧΟΣ ΜΑΝΔΡΑΒΕΛΗΣ

18.03.2018 Η ΚΑΘΗΜΕΡΙΝΗ

Οσοι νομίζουν ότι το «ψέμα έχει κοντά ποδάρια» ας το ξανασκεφτούν. Στην εποχή των social media περισσότερο ισχύει αυτό που έγραψε ο Τζόναθαν Σουίφτ – «το ψέμα πετάει, η αλήθεια ακολουθεί κουτσαίνοντας». Αυτό είναι το συμπέρασμα της μεγαλύτερης έρευνας που έγινε ποτέ για το Τwitter από τρεις καθηγητές του ΜΙΤ, οι οποίοι ανέλυσαν με τη βοήθεια υπερυπολογιστών 126.000 ιστορίες που εμφανίστηκαν στην πρώτη δεκαετία της ιστορίας του μέσου, ιστορίες που αναμεταδόθηκαν από 3 εκατομμύρια και πάνω χρήστες («The spread of true and false news online», Science 9.3.2018).

Τα αποτελέσματα, σύμφωνα με το περιοδικό The Atlantic, ήταν απογοητευτικά: «Η αλήθεια δεν μπορεί να ανταγωνιστεί τα hoaxes και τους ψιθύρους. Με κάθε μονάδα μέτρησης το ψεύδος κυριαρχεί επί της αλήθειας: τα fake news και οι ψευδείς ψίθυροι φτάνουν σε περισσότερους ανθρώπους, διεισδύουν βαθύτερα στα κοινωνικά δίκτυα και εξαπλώνονται ταχύτερα από τις αληθείς ειδήσεις.

«Είναι εμφανές ότι η ψευδής πληροφορία έχει καλύτερη επίδοση από την αληθή πληροφορία», λέει ο επικεφαλής της έρευνας Soroush Vosoughi, ο οποίος μελετά τα fake news από το 2013. «Κι αυτό δεν οφείλεται μόνο στα bots (σ.σ.: προγράμματα που αναπαράγουν αυτόματα περιεχόμενο). Μπορεί να έχει να κάνει με την ανθρώπινη φύση».

Παρόμοιο ήταν και το συμπέρασμα μιας πιο πρόχειρης ανάλυσης που έκανε λίγο μετά τις αμερικανικές εκλογές ο δικτυακός τόπος BuzzFeed και έδειξε ότι οι πέντε πιο δημοφιλείς απάτες είχαν μεγαλύτερη απήχηση από τις πέντε πιο δημοφιλείς αληθινές ιστορίες. Σύμφωνα, όμως, με την έρευνα του ΜΙΤ μια ψευδής ιστορία φτάνει σε 1.500 άτομα, έξι φορές ταχύτερα από μία αληθινή. Κι αυτό παρατηρείται σε όλη την γκάμα των ενδιαφερόντων των ανθρώπων: επιχειρήσεις, τρομοκρατία και πόλεμος, ψυχαγωγία, επιστήμη και τεχνολογία. Και τα πολιτικά fake news τα πάνε καλύτερα απ’ όλα τ’ άλλα.

«Οι χρήστες του Τwitter», γράφει το περιοδικό, «προτιμούν να μοιράζονται ψεύδη. Ακόμη και όταν οι ερευνητές έλεγξαν τις διαφορές των λογαριασμών που ξεκίνησαν τους ψευδείς ψιθύρους –όπως τον αριθμό των ακολούθων (followers) ή αν ο λογαριασμός είναι πιστοποιημένος– τα ψεύδη έχουν 70% περισσότερες πιθανότητες να αναμεταδοθούν σε σχέση με τις αληθείς ειδήσεις. Και το φταίξιμο δεν είναι των bots. Από το 2016 μέχρι το 2016 τα twitter bots ενίσχυσαν τη μετάδοση των αληθών πληροφοριών στο ίδιο ποσοστό που ενίσχυσαν τις ψευδείς. Τα fake news ευημερούν “επειδή οι άνθρωποι και όχι τα ρομπότ τείνουν να τα διαχέουν”, γράφουν οι συγγραφείς της μελέτης. Ελέγχοντας τρία εκατομμύρια λογαριασμούς, βρήκαν ότι τα αυτόματα προγράμματα μοίραζαν τις ψευδείς ειδήσεις εξίσου γρήγορα με τις αληθείς».

Οι ερευνητές υποθέτουν πως οι ψευδείς ειδήσεις κυριαρχούν στα social media για δύο λόγους: «Πρώτον, τα fake news μοιάζουν να είναι πολύ πιο διαφορετικά από τις αληθείς ειδήσεις. Η ερευνητική ομάδα διαπίστωσε ότι τα ψεύδη είναι συχνά πολύ διαφορετικά από όλα τα άλλα tweets που εμφανίστηκαν στην οθόνη κάποιων χρηστών τις τελευταίες 60 μέρες πριν αναμεταδώσουν κάποια ψευδή είδηση. Δεύτερον, τα fake news έχουν πολύ περισσότερο συναίσθημα. Οι ερευνητές δημιούργησαν μια βάση δεδομένων με λέξεις που επιστράτευσαν οι χρήστες σε 126.000 tweets. Κατόπιν ανέλυσαν τις αναρτήσεις με ειδικό λογισμικό. Τα ψευδή tweets τείνουν να προκαλούν έκπληξη και αηδία, ενώ οι αναρτήσεις με αληθινές ειδήσεις χρησιμοποιούν λέξεις που σχετίζονται με τη λύπη ή την εμπιστοσύνη».

Ο αρθρογράφος των Financial Times Tim Harford είχε αναφέρει παλιότερα κι έναν τρίτο λόγο: «Οι αληθινές ιστορίες καλύπτονται από δεκάδες μέσα, κάτι που έχει ως αποτέλεσμα η δημοτικότητα κάθε ξεχωριστού άρθρου να είναι σχετικά μικρότερη. Αντιθέτως, κάθε απάτη είναι μοναδική. Δεν είναι περίεργο, λοιπόν, που οι πιο δημοφιλείς απάτες επικρατούν επί των πιο δημοφιλών αληθινών ιστοριών» (Hard truths about fake news, F.T., 28.2.2017).

Κάποιοι ισχυρίζονται ότι δεν είναι η αλήθεια ή το ψέμα η διαιρετική τομή μεταξύ των δημοφιλών ή μη ειδήσεων, αλλά ο συναισθηματικός τους αντίκτυπος. «Το κλειδί είναι ότι το περιεχόμενο που δημιουργεί μεγάλες συναισθηματικές αντιδράσεις πάει ταχύτερα, μακρύτερα και βαθύτερα», δήλωσε στο The Atlantic η Rebekah Tromble, καθηγήτρια του πανεπιστημίου Leiden της Ολλανδίας. «Αυτό το εύρημα απαντάται σε έρευνες και άλλων επιστημόνων στον τομέα της ψυχολογίας και της επικοινωνιακής επιστήμης». Ο καθηγητής του Dartmouth College, Brendan Nyhan, συμπληρώνει ότι «οι ψευδείς πληροφορίες είναι συνήθως καινοτομικές και συχνά αρνητικές. Ξέρουμε γενικότερα ότι αυτά είναι τα δύο χαρακτηριστικά της πληροφορίας που προσέχουμε και θέλουμε να τη μεταδώσουμε σε άλλους. Τείνουμε, ως ανθρώπινα όντα, να δίνουμε προσοχή σε νέους κινδύνους…».

Ριζοσπαστικό YouTube

Αυτό ίσως να εξηγεί και το μυστήριο της προτίμησης προς τον ριζοσπαστισμό του YouTube, που παρατήρησε η καθηγήτρια του πανεπιστημίου της Βόρειας Καρολίνας Zeynep Tufekci. Σε άρθρο της που δημοσιεύει στους New York Times («YouTube, the Great Radicalizer», 10.3.2018) αναφέρει την περίεργη εμπειρία ο αλγόριθμος του δικτυακού τόπου να προτείνει βίντεο με όλο και πιο ριζοσπαστικό περιεχόμενο. Παρακολουθούσε ομιλίες του Ντόναλντ Τραμπ; «Το YouTube άρχισε να προτείνει και να παίζει αυτόματα βίντεο από ρατσιστικές ομάδες, αρνητές του Ολοκαυτώματος». Παρακολουθούσε ομιλίες της Χίλαρι Κλίντον και του Μπέρνι Σάντερς των Δημοκρατικών; «Λίγο αργότερα ο αλγόριθμος με οδηγούσε σε βίντεο αριστερής συνωμοσιολογίας για την ύπαρξη κρυφών κρατικών δομών και κατηγορίες ότι η αμερικανική κυβέρνηση ήταν πίσω από τις επιθέσεις της 11ης Σεπτεμβρίου. Οπως και με τα βίντεο του Τραμπ το YouTube πρότεινε περιεχόμενο που ήταν όλο και πιο ακραίο από το συμβατικό πολιτικό περιεχόμενο που είχα ξεκινήσει». Το ίδιο συνέβαινε με κάθε θέμα ακόμη κι αν δεν ήταν αυστηρά πολιτικό: τα βίντεο για τη χορτοφαγία (vegetarianism) οδηγούσαν σε βίντεο για την αυστηρή χορτοφαγία (veganism) από το τζόκινγκ έφτανε στους μέγα μαραθώνιους.

Οι αλγόριθμοι βεβαίως δεν τείνουν με κάποιον μαγικό τρόπο προς τη ριζοσπαστικοποίηση. Προτείνουν τα πιο δημοφιλή βίντεο ανά κατηγορία. Οι ακραίες οργανώσεις και οι ακραίες τάσεις έχουν περισσότερες θεάσεις, έστω λόγω περιέργειας του κοινού. Ετσι δημιουργείται χιονοστιβάδα: η αρχική περιέργεια τα ανεβάζει στον κατάλογο του αλγόριθμου και μετά ο αλγόριθμος τα προτείνει ανεβάζοντάς τα ακόμη περισσότερο για να ξαναγίνουν προτάσεις κ.ο.κ.

Η αλήθεια είναι ότι τα νέα μέσα είναι… πολύ νέα και αυτά τα φαινόμενα μπορεί να είναι οι παιδικές ασθένειες, που πρέπει πρώτα να εκδηλωθούν και κατόπιν να θεραπευτούν. Ο διάλογος συνεχίζεται. Και η ειρωνεία είναι πως γίνεται πρωτίστως από τα παραδοσιακά μέσα…

Βιομηχανία… βιομετρικών στοιχείων

KASHMIR HILL, AARON KROLIK / THE NEW YORK TIMES

21/10/2019  Η ΚΑΘΗΜΕΡΙΝΗ

Κανείς, βέβαια, δεν μπορούσε να προβλέψει ότι αυτές οι φωτογραφίες, μετά 14 χρόνια, θα κατέληγαν σε μία τεράστια βάση δεδομένων αναγνώρισης προσώπου, το MegaFace. Εκεί έχουν, άλλωστε, καταλήξει οι φωτογραφίες περίπου 700.000 ανθρώπων και χρησιμοποιήθηκαν από δεκάδες εταιρείες προκειμένου να εκπαιδεύσουν μία νέα γενιά αλγορίθμων αναγνώρισης προσώπου, που εφαρμόζεται στην παρακολούθηση διαδηλωτών, τρομοκρατών, για την αναγνώριση ριψοκίνδυνων χαρτοπαικτών και γενικότερα για την παρακολούθηση των πολιτών.

Οι περισσότεροι Αμερικανοί δεν χρειάστηκε να δώσουν την έγκρισή τους για να περιληφθούν οι φωτογραφίες τους στη βάση δεδομένων. Ωστόσο, η οικογένεια Παπά ήταν αναγκαίο να ερωτηθεί. Ως κάτοικοι του Ιλινόι προστατεύονται από έναν από τους αυστηρότερους νόμους για την προστασία του ιδιωτικού βίου: Τη νομοθεσία Περί Προστασίας Βιομετρικών Πληροφοριών, που ψηφίστηκε το 2008 και επιβάλει βαριά χρηματικά πρόστιμα σε όποιον χρησιμοποιεί δακτυλικά αποτυπώματα ή φωτογραφίες χωρίς την έγκριση του ιδιοκτήτη τους. Οι εταιρείες που χρησιμοποίησαν τη βάση δεδομένων MegaFace, όπως οι: Amazon, Mitsubishi Electric, Τencent και SenseTime, αλλά και δεκάδες άλλες, επικαλούνται άγνοια του νόμου αλλά πιθανότατα θα αντιμετωπίσουν βαρύτατα οικονομικά πρόστιμα.

Πώς, όμως, η οικογένεια Παπά και χιλιάδες άλλοι Αμερικανοί κατέληξαν στο MegaFace; Τον Ιούνιο του 2014 η Yahoo αποκάλυψε τη μεγαλύτερη βάση δεδομένων, η οποία περιελάμβανε περισσότερες από ένα εκατομμύριο φωτογραφίες και βίντεο, τις οποίες είχε συλλέξει από τη θυγατρική της εταιρεία, το Flickr.

Το 2015, δύο καθηγητές πληροφορικής του πανεπιστημίου της Ουάσιγκτον, η Ιμα Κεμελμάχερ-Σλίζερμαν και ο Στιβ Σέιτζ και οι μεταπτυχιακοί φοιτητές τους χρησιμοποίησαν τα δεδομένα του Flickr προκειμένου να δημιουργήσουν το MegaFace, το οποίο περιλαμβάνει περισσότερες από 4 εκατομμύρια φωτογραφίες 672.000 χρηστών.

Αυτό που ήταν σημαντικό για τους επιστήμονες ήταν ότι το MegaFace περιείχε και φωτογραφίες παιδιών, όπως η Χλόη και ο Τζάσπερ Παπάς. Τα συστήματα αναγνώρισης προσώπου δεν έχουν καλές επιδόσεις στα παιδικά πρόσωπα, κάτι που μπορούσε να επιλύσει η πληθώρα παιδικών προσώπων στο Flickr, αφού οι περήφανοι γονείς δεν χάνουν ευκαιρία να αναρτούν τις φωτογραφίες των παιδιών τους στο Διαδίκτυο.

Σύμφωνα με ανακοίνωση του πανεπιστημίου της Ουάσιγκτον, του 2016, «περισσότερες από 300 ερευνητικές ομάδες χρησιμοποίησαν το MegaFace».

Τα αποτελέσματα αυτής της εκμετάλλευσης της τεράστιας βάσης δεδομένων συχνά είναι εξαιρετικά δυσμενή. Η τεχνολογία, παραδείγματος χάρη, που αναπτύχθηκε από τη SenseTime χρησιμοποιήθηκε για την αδιάκοπη παρακολούθηση των Ουιγούρων της Κίνας, ενώ αυτή της ΝtechLab χρησιμοποιήθηκε για την αναγνώριση ηθοποιών πορνοταινιών αλλά και αγνώστων στο ρωσικό μετρό.

Ακόμα και σήμερα, οποιοσδήποτε ενδιαφέρεται μπορεί να κατεβάσει το ΜegaFace. Βέβαια, η βάση δεδομένων δεν περιλαμβάνει τα ονόματα των ανθρώπων που απαθανατίζονται στις φωτογραφίες, αλλά επ’ ουδενί τα στοιχεία δεν είναι ανώνυμα. Κάθε φωτογραφία περιέχει μία αριθμητική ταυτότητα που τη συνδέει με τον λογαριασμό του αρχικού φωτογράφου στο Flickr.

Η νομοθεσία

Το 2008, η πολιτεία του Ιλινόι ψήφισε νομοθεσία με την οποία προστάτευε τα βιομετρικά στοιχεία των κατοίκων της. Δύο ακόμα αμερικανικές πολιτείες, Ουάσιγκτον και Τέξας, θέσπισαν ανάλογες νομοθεσίες, οι οποίες ωστόσο, δεν είναι εξίσου αυστηρές με αυτή του Ιλινόι που απαγορεύει ολοκληρωτικά την εκμετάλλευση των βιομετρικών στοιχείων, χωρίς τη ρητή έγκριση του ιδιοκτήτη τους. Οι κάτοικοι του Ιλινόι, όπως η οικογένεια Παπά, των οποίων οι αποτυπώσεις προσώπου χρησιμοποιήθηκαν χωρίς την έγκρισή τους, έχουν  δικαίωμα να μηνύσουν τις εταιρείες και να κερδίσουν σημαντική οικονομική αποζημίωση (περίπου χίλια δολάρια ανά φωτογραφία).

Από το 2015 μέχρι σήμερα έχουν κατατεθεί περισσότερες από 200 ομαδικές αγωγές πολιτών του Ιλινόι για την κακή χρήση βιομετρικών στοιχείων. Ανάμεσά τους και μία αγωγή 35 δισεκατομμυρίων δολαρίων εναντίον του Facebook, για τη χρήση τεχνολογίας αναγνώρισης προσώπου προκειμένου να διευκολυνθεί η σήμανση των χρηστών (tag) σε φωτογραφίες.

Βέβαια, ο Βίκτορ Μπάλτα, εκπρόσωπος Τύπου του πανεπιστημίου της Ουάσιγκτον ισχυρίζεται ότι «κάθε χρήση φωτογραφίας της βάσης δεδομένων από τους ερευνητές ήταν σύννομη. Το πανεπιστήμιο της Ουάσιγκτον είναι ένα δημόσιο ερευνητικό ίδρυμα, και όχι ιδιωτικός φορέας και ο νόμος του Ιλινόι στοχεύει τους ιδιωτικούς φορείς».

Αφύπνιση

Οργή νιώθουν πολλοί χρήστες  του Διαδικτύου, οι οποίοι, αναρτώντας τις φωτογραφίες τους στο Flickr, κατέληξαν να «εκπαιδεύουν» συστήματα τεχνητής νοημοσύνης. Ωστόσο, την ίδια στιγμή  πολύ περισσότεροι από τους κατοίκους του Ιλινόι, που οι φωτογραφίες τους βρέθηκαν στο MegaFace, αδιαφορούν πλήρως για τις επιπτώσεις παρότι θα μπορούσαν να απαιτήσουν οικονομική αποζημίωση γι’ αυτή την παραβίαση. Ο «μηδενισμός της προσωπικής σφαίρας» έχει γίνει ένας εξαιρετικά διαδεδομένος όρος, που στην ουσία σημαίνει την απόλυτη παραίτηση από την προσπάθεια ελέγχου των δεδομένων που μας αφορούν, στην ψηφιακή εποχή. Αυτό, παραδείγματος χάρη, που συνέβη στη Χλόη Παπά θα μπορούσε, αναλόγως της οπτικής, να αποτελεί επιχείρημα για εξαιρετική επαγρύπνηση ή για ολοκληρωτική παραίτηση. Ποιος, άραγε, θα μπορούσε να προβλέψει ότι η φωτογραφία ενός νηπίου, το 2005, θα μπορούσε, δεκαπέντε χρόνια αργότερα, να συμβάλει στην ανάπτυξη πρωτοποριακής τεχνολογίας παρακολούθησης; «Εχουμε συνηθίσει να ανταλλάσσουμε τον προσωπικό μας βίο για την άνεσή μας και αυτό μας αποκοίμισε σχετικά με το τι συμβαίνει σε όλα τα στοιχεία που συγκεντρώνονται σχετικά με το πρόσωπό μας», επισημαίνει η καθηγήτρια Νομικής στο Πανεπιστήμιο του Ιλινόι, Φέι Τζόουνς.

«Ομως, σιγά σιγά ο κόσμος άρχισε να αφυπνίζεται».

ΧΡΗΣΤΟΣ ΤΣΙΓΚΑΝΟΣ*, ΔΙΟΜΗΔΗΣ Δ. ΣΠΙΝΕΛΛΗΣ**

Ψηφιακός ανθρωπισμός

 25.08.2019

Η ΚΑΘΗΜΕΡΙΝΗ

Η ελληνική μυθολογία με τον μύθο του Προμηθέα και της Πανδώρας1 μάς διδάσκει ότι η τεχνολογία δεν είναι ποτέ απαλλαγμένη από δυσμενείς συνέπειες. Μέχρι και σήμερα η φωτιά στοιχίζει τακτικά ανθρώπινες ζωές. Δεν υπάρχει αμφιβολία ότι βρισκόμαστε στο μέσον μιας βαθιάς κοινωνικής μεταμόρφωσης, με την επιστήμη των υπολογιστών να αποτελεί τον βασικό παράγοντα αλλαγής. Η ικανότητα αυτοματοποίησης των ανθρώπινων γνωστικών δραστηριοτήτων είναι μια επαναστατική πτυχή της πληροφορικής. Για πολλές εργασίες, οι μηχανές ξεπερνούν ήδη αυτό που οι άνθρωποι μπορούν να επιτύχουν: σε ταχύτητα, σε ακρίβεια, αλλά ακόμα και σε αφαιρετική ανάλυση2.

Ενώ η ψηφιοποίηση των πάντων ανοίγει άνευ προηγουμένου ευκαιρίες, δημιουργεί επίσης σοβαρές ανησυχίες. Χαρακτηριστικά, ο εφευρέτης του Παγκόσμιου Ιστού Tim Berners-Lee το εξέφρασε με τη θλιβερή δήλωσή του: «Το Σύστημα αποτυγχάνει». Οι απειλές της ιδιωτικότητας και της ελευθερίας του λόγου, η άνοδος ακραίων απόψεων και ψευδών ειδήσεων στα μέσα κοινωνικής δικτύωσης, η απώλεια της ιδιωτικής ζωής και η εξάπλωση της ψηφιακής επιτήρησης είναι μερικά μόνο ενδεικτικά παραδείγματα. Η συν-εξέλιξη τεχνολογίας και ανθρωπότητας, μέσα σε έναν καταιγισμό δεδομένων, αλγορίθμων και υπολογιστικής ισχύος, διαταράσσει τον ίδιο τον ιστό της κοινωνίας επηρεάζοντας ανθρώπινες αλληλεπιδράσεις, κοινωνικούς θεσμούς, οικονομίες και πολιτικές δομές.

Ας δούμε ένα απλό παράδειγμα από τον χώρο της μηχανικής μετάφρασης. Αν ζητήσουμε από το Google Translate να μας μεταφράσει την αγγλική πρόταση «The doctor asked the nurse to take a blood sample» στα ελληνικά, θα πάρουμε: «Ο γιατρός ζήτησε από τη νοσοκόμα να πάρει δείγμα αίματος». Παρατηρήστε μια σημαντική λεπτομέρεια: ο αλγόριθμος3 υπέθεσε ότι η φράση αναφέρεται σε άνδρα γιατρό και γυναίκα νοσηλεύτρια. Αυτό οφείλεται στη διαρκή εκπαίδευση του αλγορίθμου με ζευγάρια κειμένων (ελληνικά – αγγλικά), όπου οι γιατροί είναι άνδρες και οι νοσοκόμες γυναίκες. Το πρόβλημα φαινομενικά μπορεί να μοιάζει αθώο. Ομως, αν οι προκαταλήψεις επικρατούν σε συστήματα αυτοματοποιημένης μετάφρασης, δημιουργείται η εύλογη ανησυχία ότι ανάλογες μπορεί να υπάρχουν σε αυτόνομα οχήματα, αυτοματοποιημένα μοντέλα που χρησιμοποιούνται στην απονομή δικαιοσύνης και άλλες κρίσιμες εφαρμογές.

Το παράδειγμα της μετάφρασης αναδεικνύει το εξής: Οπως όλες οι τεχνολογίες, οι ψηφιακές τεχνολογίες δεν είναι παρθενογενείς. Διαμορφώνονται από έμμεσες και άμεσες επιλογές, και συνεπώς ενσωματώνουν ένα σύνολο αξιών, κανόνων, οικονομικών συμφερόντων και υποθέσεων σχετικά με τον τρόπο που αντιλαμβανόμαστε τον κόσμο. Σήμερα, πολλές από αυτές τις επιλογές παραμένουν κρυμμένες σε λογισμικό που υλοποιεί αόρατους αλγορίθμους, χωρίς έλεγχο τρίτων και λογοδοσία.

Αυτές οι πρακτικές δεν πρέπει να επικρατήσουν. Οφείλουμε να διαμορφώσουμε την τεχνολογία σύμφωνα με ανθρώπινες αξίες και ανάγκες, αντί να επιτρέπουμε στις τεχνολογίες να διαμορφώνουν τον άνθρωπο. Για τον σκοπό αυτό πρέπει να επιστρατεύσουμε κριτική σκέψη και διεπιστημονικότητα. Το καθήκον μας δεν είναι μόνο να περιορίσουμε μειονεκτήματα των τεχνολογιών, αλλά και να ενθαρρύνουμε καινοτομία που επικεντρώνεται στον άνθρωπο.

Τι μπορούμε, όμως, να κάνουμε; Αποτελεσματικοί κανονισμοί, κανόνες δεοντολογίας και νόμοι που εξασφαλίζουν δικαιοσύνη, ισότητα, λογοδοσία και διαφάνεια για συστήματα λογισμικού είναι σίγουρα ένα πρώτο βήμα. Αποφάσεις που έχουν τη δυνατότητα να επηρεάσουν ατομικά ή συλλογικά ανθρώπινα δικαιώματα πρέπει να συνεχίσουν να λαμβάνονται από ανθρώπους.

Απαιτείται ένα όραμα για νέα προγράμματα σπουδών στα πανεπιστήμιά μας που να συγκεράζουν στην πληροφορική γνώσεις και αξίες από ανθρωπιστικές και κοινωνικές σπουδές. Η Φινλανδία και η Κίνα ήδη ενσωματώνουν σπουδές τεχνητής νοημοσύνης στο σχολείο. Η Ελλάδα, με το εξαιρετικό επιστημονικό προσωπικό και την πλούσια γραμματεία που διαθέτει, θα μπορούσε να παίξει πρωταγωνιστικό ρόλο στις εξελίξεις.

Το διεθνές συμπόσιο για τον ψηφιακό ανθρωπισμό που πρόσφατα διοργανώθηκε στην Αυστρία από το Πολυτεχνείο της Βιέννης ανέδειξε το «Μανιφέστο της Βιέννης» (informatik.tuwien.ac.at/dighum/wpcontent/uploads/2019/08/Vienna\_Manifesto\_on\_Digital\_Humanism\_GR.pdf) ως μια πρόσκληση για να προβληματιστούμε και να ενεργήσουμε σχετικά με τη μορφή της τρέχουσας και της μελλοντικής τεχνολογικής ανάπτυξης.

* Ο κ. Χρήστος Τσίγκανος είναι ερευνητής στο Πολυτεχνείο της Βιέννης και ένας από τους συγγραφείς του Μανιφέστου.
** Ο κ. Διομήδης Δ. Σπινέλλης είναι πρόεδρος του Τμήματος Διοικητικής Επιστήμης και Τεχνολογίας του Οικονομικού Πανεπιστημίου Αθηνών.

1 Πανδώρα: οι θεοί της έδωσαν ως γαμήλιο δώρο ένα πιθάρι («το κουτί της Πανδώρας»), το οποίο περιείχε όλα τα δεινά και το οποίο άνοιξε, παρά την αντίθετη διαταγή του Δία. Συνέπεια της ενέργειάς της ήταν να ξεχυθούν τα δεινά αυτά στον κόσμο.

2 αφαιρετική ανάλυση: εδώ, η ανάλυση δεδομένων και ο συνδυασμός τους.

3 αλγόριθμος: σύνολο κανόνων που εφαρμόζονται για την επίλυση ενός προβλήματος.

 

ΒΙΒΛΙΟ 05.08.2019 Η ΚΑΘΗΜΕΡΙΝΗ

Αντριου Κιν στην «Κ»: Το πολιτικό ζήτημα της τεχνολογίας

ΜΑΝΩΛΗΣ ΑΝΔΡΙΩΤΑΚΗΣ

 «Στη Σίλικον Βάλεϊ όλοι πιστεύουν ότι θα κάνουν τον κόσμο καλύτερο, αλλά τίποτα από αυτά που πιστεύουν δεν συνέβη. Το Facebook είναι το καλύτερο παράδειγμα. Ο Μαρκ Ζάκερμπεργκ θέλει να μας διασυνδέσει όλους, αλλά τελικά μας έχει απομονώσει σε δωμάτια ομοφωνίας. Μας έχει κάνει λιγότερο έξυπνους κι ανεκτικούς απέναντι στον κόσμο. Eχει φτιάξει το καλύτερο όχημα για ανθρώπους σαν τον Πούτιν που θέλουν να κλονίσουν τη δημοκρατία. Eχει συμβάλει στη μοναξιά και στην απομόνωσή μας. Υπάρχει ισχυρός συσχετισμός για την άνοδο της κατάθλιψης στους νέους ανθρώπους με τη χρήση των μέσων κοινωνικής δικτύωσης και ειδικότερα του Facebook».

Τα παραπάνω λόγια δεν περιμένεις να τα ακούσεις από έναν θιασώτη της τεχνολογίας που έχει ιδρύσει μία σειρά, επιτυχημένων και μη, νεοφυών τεχνολογικών επιχειρήσεων στη Σίλικον Βάλεϊ. Κι όμως, ανήκουν στoν Aντριου Κιν, έναν επιχειρηματία με πλήθος νεοφυών επιχειρήσεων στο ενεργητικό του, και γνωστού Αμερικανοβρετανού συγγραφέα. Στο παρελθόν ο Κιν δημοσίευσε τρία βιβλία, στα οποία άσκησε δριμεία κριτική στις τεχνολογικές εταιρείες και ειδικότερα στους ψηφιακούς γίγαντες, όπως η Google και η Facebook, κατηγορώντας τες ότι οδηγούν τις κοινωνίες μας σε επικίνδυνους δρόμους.

Ο «Λουδίτης»

Τα βιβλία αυτά στην κοινότητα των τεχνόφιλων του απένειμαν τον τίτλο του «Αντίχριστου της Σίλικον Βάλει» και του «Λουδίτη». Τώρα όμως που ακόμα και οι πιο θερμοί οπαδοί της τεχνοφιλίας δείχνουν να συμμερίζονται την επιχειρηματολογία του, μιλώντας για «καπιταλισμό της παρακολούθησης», για «μονοπώλια των μεγάλων δεδομένων», για «αντι-κοινωνικά μέσα δικτύωσης», για «ψηφιακούς εθισμούς» και για «υπαρξιακούς κινδύνους από έξυπνους αλγόριθμους», ο Κιν συνεχίζει την αντισυμβατική του πορεία κι επανέρχεται με ένα νέο βιβλίο, ταξιδιωτικής δημοσιογραφίας αυτή τη φορά, στο οποίο αναζητεί λύσεις για όλα αυτά που είχε προβλέψει κι αναλύσει την προηγούμενη δεκαετία.

Στο «Πώς θα επισκευάσουμε το μέλλον, μένοντας ανθρώπινοι στην ψηφιακή εποχή («How to fix the future, staying human in the digital age», εκδ. Atlantic Books, 2018), ο Κιν ταξιδεύει από την Ινδία στην Εσθονία, και από τη Γερμανία στην Σιγκαπούρη, ψάχνοντας την ατομική και συλλογική φόρμουλα που θα αντιμετωπίσει την επέλαση της τεχνολογίας στις ζωές και στις κοινωνίες μας, και θα εξασφαλίσει ένα καλύτερο μέλλον για όλους. Μιας πρόκλησης που είναι περίπλοκη κι επείγουσα, όσο ποτέ άλλοτε.

«Η τεχνολογία τρέχει γρηγορότερα από τους ανθρώπους και τις κυβερνήσεις» λέει ο Κιν «και πρέπει να την επιβραδύνουμε. Πρέπει να σκεφθούμε ρυθμίσεις, επιχειρηματικούς, ή ακόμα και εμπορικούς μηχανισμούς για να την προλάβουμε. Χρειάζεται να ρυθμίσουμε ξανά τη σχέση μας με την τεχνολογία». Μολονότι δεν υφίσταται μαγική συνταγή, ούτε ψηφιακή εφαρμογή για την επίλυση των προβλημάτων που δημιουργεί η τεχνολογία, ο Κιν θεωρεί ότι μια συνδυαστική στρατηγική πέντε τακτικών, που θα εφαρμοστεί από έξυπνους ανθρώπους κι όχι από έξυπνες μηχανές, θα μπορέσει να ανακόψει την αρνητική πορεία της σύγχρονης τεχνολογίας.

Η πρώτη τακτική είναι η νομική ρύθμιση. «Σε αυτό τον τομέα επιτυγχάνονται ήδη πολλές νίκες, και αυτό είναι πολύ σημαντικό» λέει ο Κιν. «Εχει ξεκινήσει από την Ευρώπη και επεκτείνεται τώρα στις ΗΠΑ και παίρνει τη μορφή του εξαναγκασμού των τεχνολογικών εταιρειών να πληρώσουν φόρους, να λογοδοτούν περισσότερο και να είναι διαφανείς. Ακόμα και οι ΗΠΑ που είναι γενικά κατά των ρυθμίσεων έχουν αρχίσει να αναγνωρίζουν ότι υπάρχει η ανάγκη για νόμους γύρω από τα δεδομένα, όπως το GDPR (Γενικός Κανόνας Προστασίας Προσωπικών Δεδομένων), ότι υπάρχει ακόμα κι ανάγκη για σπάσιμο μερικών εξ αυτών των τεράστιων τεχνολογικών επιχειρήσεων. Εχει αρχίσει το όλο θέμα να γίνεται ένα πολιτικό ζήτημα, όπως ακριβώς θα έπρεπε. Είναι πιθανό να δούμε τη ρύθμιση του τεχνολογικού πεδίου να είναι ένα από τα μείζονα θέματα της προεδρικής εκλογής του 2020 στις ΗΠΑ».

Η δεύτερη τακτική που μπορεί να συμβάλει στην επιδιόρθωση του μέλλοντος, σύμφωνα με τον Κιν, αφορά την καινοτομία, κι είναι αυτή που ανησυχεί περισσότερο τον συγγραφέα. «Πολλοί επιχειρηματίες αρχίζουν να καταλαβαίνουν ότι το κυρίαρχο επιχειρηματικό μοντέλο των μεγάλων τεχνολογικών εταιρειών, το “μοντέλο του δωρεάν”, δεν λειτουργεί γιατί εκμεταλλεύεται βαθύτατα τις ανθρώπινες αδυναμίες». Εδώ η πρόκληση είναι να επανεφεύρουμε τα οικονομικά του Διαδικτύου, να ξανασκεφθούμε το όλο οικοσύστημα. «Χρειαζόμαστε επειγόντως νέα επιχειρηματκά μοντέλα», λέει.

Η τρίτη τακτική εμπλέκει τη συμπεριφορά των ίδιων των καταναλωτών. Ο συγγραφέας αναφέρει χαρακτηριστικά τη δράση όψιμων κινημάτων ενάντια στο Facebook. «Οι καταναλωτές ξυπνούν σταδιακά και βλέπουν ότι χρησιμοποιούνται τα δεδομένα τους χωρίς τη συνειδητή τους συγκατάθεση, ότι παραβιάζεται η ιδιωτικότητά τους, ότι αλλοιώνεται η αίσθηση του εαυτού τους και ότι είναι βαριά εθισμένοι σε ψηφιακές υπηρεσίες. Οι καταναλωτές αρχίζουν να συνειδητοποιούν ότι η λεγόμενη “οικονομία του μοιράσματος” μπορεί να τους εκμεταλλευθεί άγρια, και διαλέγουν να μη χρησιμοποιούν για παράδειγμα πλατφόρμες όπως η UBER. Αλλά ακόμα και τοπικές Αρχές αρχίζουν να αναγνωρίζουν το ίδιο πράγμα, για πλατφόρμες όπως η AirBnB που ανεβάζει τις τιμές των ακινήτων».

Η τέταρτη τακτική αφορά την εμπλοκή της κοινωνίας των πολιτών και είναι σύμφωνα με τον Κιν πολύ ενθαρρυντική. Συνδικάτα, φιλανθρωπικές οργανώσεις, μη κυβερνητικές οργανώσεις και άτομα που ενδιαφέρονται, κινητοποιούνται προκειμένου να πιέσουν τις τεχνολογικές εταιρείες να αναλάβουν τις κοινωνικές τους ευθύνες. «Δικηγόροι αρχίζουν να εργάζονται για λογαριασμό εταιρειών με κοινωνικό προσανατολισμό, επιχειρηματίες, επενδυτές ακόμα και δισεκατομμυριούχοι όπως ο Μαρκ Μπένιοφ, στρέφονται στον σκοπό υπέρ ενός κοινωνικά υπεύθυνου τεχνολογικού οικοσυστήματος».

Τέλος, η πέμπτη τακτική αφορά μια πιο μακροπρόθεσμη πρόκληση, που είναι ίσως και η πιο σημαντική: στην εκπαίδευση. Ο Κιν κάνει ειδική αναφορά στα σχολεία Ουόλντορφ και Μοντεσόρι, τα οποία προκρίνουν μια πιο ανθρωποκεντρική εκπαίδευση, μειώνοντας δραστικά τον ρόλο της τεχνολογίας και αποθαρρύνοντας τη χρήση των οθονών από τα παιδιά. «Δεν πιστεύω ότι πρέπει να απαγορεύσουμε στα παιδιά να χρησιμοποιούν τις οθόνες και τις τεχνολογίες, αλλά πρέπει να γυμνάζουν τον «μυ της αυτενέργειας. Να σκέφτονται, να αμφισβητούν, να γίνονται δημιουργικοί. Να κάνουν πράγματα που δεν μπορεί να κάνει η τεχνολογία, η τεχνολογία δεν μπορεί να έχει αυτενέργεια. Η τεχνολογία δεν μπορεί να σκεφθεί τον εαυτό της. Ως γονείς πρέπει να εμψυχώσουμε τους νέους ανθρώπους, να τους δώσουμε αυτενέργεια. Δε χρειάζεται να τα περικυκλώνουμε με βιβλία, πρέπει να τα καθοδηγήσουμε να κάνουν αυτά που δεν μπορούν να κάνουν οι υπολογιστές, να σκέφτονται ανεξάρτητα και να έχουν ενσυναίσθηση. Το ξέρω ότι είναι εύκολο να το λες και δύσκολο να το πετυχαίνεις. Αλλά αυτή είναι η πρόκληση σήμερα».

«Τα μεγάλα δεδομένα εισβάλλουν βάναυσα στην ιδιωτικότητά μας»

Το ερώτημα που προκύπτει είναι εύλογο. Υπάρχει ένα υπόδειγμα χώρας που έχει υιοθετήσει τις περισσότερες ή έστω κάποιες από αυτές τις τακτικές επιτυχημένα; «Επειδή δεν υπάρχουν και πολλά πράγματα να θαυμάζεις στον κόσμο μας, μου αρέσει το παράδειγμα της Εσθονίας», απαντά ο Κιν. «Εκεί κάνουν κάτι ενδιαφέρον, γιατί ενώ επιλέγουν να μην απορρίπτουν την τεχνολογία, εξακολουθούν να είναι μια πολύ καλά ενημερωμένη και μορφωμένη κοινωνία, μια κοινωνία που είναι σχετικά εξισωτική. Αυτό που μου αρέσει είναι ότι συνειδητοποιούν ότι η αντίληψη που έχουμε για την ελευθερία και την ιδιωτικότητα, έρχεται από τον 19ο αιώνα και δεν μπορεί να έχει εφαρμογή στον 21ο αιώνα των μεγάλων δεδομένων. Γι’ αυτό χρειαζόμαστε ένα νέο κοινωνικό συμβόλαιο.


Μου αρέσει επίσης που οι Εσθονοί έχουν υψηλό επίπεδο εμπιστοσύνης στην κυβέρνηση. Μοιάζει πολύ με τη Σιγκαπούρη, αλλά είμαι πιο αισιόδοξος για την Εσθονία, εξαιτίας του ότι είναι πιο δημοκρατική χώρα. Πιστεύω ότι έτσι θα είναι το μέλλον. Αυτό που θέλω να αποφύγω είναι το μοντέλο της Κίνας, τον τεχνοκρατικό ολοκληρωτισμό της παρακολούθησης. Το εσθονικό μοντέλο μας παρέχει ένα είδος εναλλακτικής. Το κράτος ψηφιοποιεί τα πάντα, αλλά ταυτόχρονα υπογράφεται ένα νέο κοινωνικό συμβόλαιο μεταξύ κυβέρνησης και πολιτών σχετικά με το πώς και πότε η κυβέρνηση μπορεί να βλέπει τα δεδομένα των πολιτών».

Ο Κιν είναι συγκρατημένα αισιόδοξος για το μέλλον της σχέσης μας με την τεχνολογία. «Δεν θα είναι ένας εύκολος αγώνας» σημειώνει, «εξάλλου έχουμε βρεθεί ξανά στο ίδιο σημείο. Με έναν τρόπο είμαστε ξανά στα μέσα του 19ου αιώνα, στις απαρχές της Βιομηχανικής Επανάστασης. Στην αρχή εκείνης της Επανάστασης η εκμετάλλευση των ανθρώπων ήταν ακραία. Κάτι ανάλογο συμβαίνει και τώρα με τα μεγάλα δεδομένα, τα οποία είναι κατά πολλούς το “νέο πετρέλαιο”. Τα μεγάλα δεδομένα απογυμνώνουν τις ταυτότητές μας και εισβάλλουν βάναυσα στην ιδιωτικότητά μας. Πιστεύω ότι οι μελλοντικές γενιές θα κοιτούν την εποχή μας και θα λένε “πώς επέτρεπαν να γίνονται όλα αυτά;”, με τον ίδιο τρόπο που κοιτάμε κι εμείς το παρελθόν κι αναρωτιόμαστε “πώς επέτρεπαν σε 11χρονα παιδιά να δουλεύουν σε εργοστάσια;”».

 

Top
 
Μετάβαση σε γραμμή εργαλείων