Απρ 09
12
Robocop με ήθος
ΣΤΑΜΑΤΙΟΣ ΠΑΠΑΔΑΚΗΣ | 12 Απριλίου, 2009 | Γράψτε σχόλιο
Μόλις 40 δευτερόλεπτα ήταν το χρονικό περιθώριο για τον θάνατο ή τη ζωή κάποιων ανθρώπων. Θα πέθαιναν, και μάλιστα συνθλιμμένοι φρικτά από ένα βαρυφορτωμένο με υλικά λατομείου βαγόνι που είχε ξεφύγει από κάθε έλεγχο. Κατηφόριζε προς το μέρος τους επάνω στις σιδερένιες ράγες, ενώ μπροστά του ήταν μια διακλάδωση με μια μικρή γέφυρα ακριβώς από πάνω. Στη μία γραμμή πέντε εργάτες συνέχιζαν τη δουλειά τους σίγουροι ότι εκείνη την ώρα δεν θα ερχόταν τίποτε προς το μέρος τους. Στην άλλη γραμμή ένα παιδί, το οποίο είχε φθάσει ως εκεί χωρίς να το πάρουν είδηση οι άνθρωποι της ασφαλείας, έπαιζε αμέριμνο. Με το πάτημα ενός κουμπιού, το βαγόνι στη διακλάδωση, αντί να σκοτώσει τους πέντε εργάτες, αλλάζει γραμμή και πέφτει επάνω στο παιδί. Ενας σωματώδης άνδρας κάπου 150 κιλά, ακουμπισμένος επάνω στο κιγκλίδωμα της γέφυρας, θα μπορούσε να προσφέρει μία τρίτη λύση. Γιατί αν κάποιος μπορούσε να ρίξει τα κάγκελα πατώντας ένα άλλο κουμπί, πέφτοντας στις γραμμές με τον όγκο και τη μάζα του ο άνδρας θα μπορούσε, άθελά του βέβαια, να σταματήσει το βαγόνι χάνοντας τη ζωή του ο ίδιος, θα γλίτωναν όμως όλοι οι άλλοι.
Αυτό που περιγράψαμε είναι μια κλασική άσκηση ηθικής, σαν αυτές που για χρόνια απασχολούν όσους εντρυφούν στην ηθική βάση της λήψεως αποφάσεων και της διαχείρισης των κρίσεων. Αν στη θέση του επόπτη γραμμών ήταν ένας μηχανικός φύλακας, δηλαδή ένα ρομπότ επιφορτισμένο να παρακολουθεί τη διακλάδωση, τι απ΄ όλα θα έκανε; Θα έκανε ό,τι θα το είχαν προγραμματίσει να κάνει. Αυτή είναι μια πρώτη απάντηση, αλλά δίνοντάς τη δεν ξεμπλέκουμε. Αλλωστε οι ιστορίες με τα βαγόνια που έχουν ξεφύγει είναι προβλήματα που ανήκουν εδώ και 30 χρόνια σε ένα ξεχωριστό κεφάλαιο της φιλοσοφίας, και ειδικότερα στον κλάδο που ασχολείται με θέματα ηθικής. Στις ημέρες μας όμως δεν ψάχνουν τις απαντήσεις σε αυτά μόνον οι φιλόσοφοι και οι ψυχολόγοι. Εμφανίζονται οι μηχανικοί και οι προγραμματιστές της πληροφορικής, που ζητούν τη βοήθειά τους γιατί αρχίζουν να μην ξέρουν τι να κάνουν με τις μηχανές τους.
Πέρασε η εποχή των τρομολάγνων σκηνοθετών και των συγγραφέων βιβλίων επιστημονικής φαντασίας που έκαναν να παγώνει το αίμα του αναγνώστη με τις διάφορες εξεγερμένες και εκτός ελέγχου ανθρωποκτόνους ρομποτομηχανές. Τώρα άρχισαν να κατασκευάζονται αληθινές μηχανές -υπηρέτες και παιχνίδια με ανθρωπόμορφα έως και ζωόμορφα χαρακτηριστικά, ακόμη και μηχανές ικανές να πραγματοποιούν εγχειρήσεις. Οσο προχωρούμε σε περισσότερο πολύπλοκες κατασκευές, προορισμένες για όλο και πιο υπεύθυνες θέσεις, τελειώνει και η εποχή της όποιας αθωότητας και του ανόητου θαυμασμού. Αρχίζει και εμφανίζεται ένας σκεπτικισμός. Μπορούν μηχανές χωρίς συνείδηση να είναι φορείς ηθικής; Ηδη έχει μπει στην κυκλοφορία ο νέος όρος «λειτουργική ηθική» (functional morality), όπου το ζητούμενο είναι οι μηχανές να ρυθμίζουν τη συμπεριφορά τους με βάση το κακό που μπορεί να προξενήσει η λειτουργία τους ή η παραμέληση όσων τους ανατέθηκε να κάνουν. Κάποιος μάλιστα μέσα στην αμηχανία του πρότεινε να ξεφύγουμε από τους κανόνες της «ανθρώπινης ηθικής» και να συμπεριφερθούμε στις ρομποτικές αυτές μηχανές νέας κοπής όπως και με τους σκύλους μας, που άλλους τους εμπιστευόμαστε και κυκλοφορούν χωρίς φίμωτρο ενώ άλλους τους έχουμε υπό έλεγχο εξαιτίας της δηλωμένης επιθετικότητάς τους.
«Οταν δεν το θέλω μέσα στα πόδια μου, το βάζω στον φορτιστή» έλεγε ένας από τους ιδιοκτήτες του μικρού μηχανικού τετράποδου ΑΙΒΟ που είχε φτιάξει η εταιρεία Sony στις αρχές της δεκαετίας. Ζύγιζε κάπου 1.600 γραμμάρια, μπορούσε να σηκώνει το πίσω πόδι του κάνοντας τάχα τη γνωστή εκείνη κίνηση του σκύλου, χωρίς όμως να αφήνει κάποιο υγρό, τα μάτια του γίνονταν πράσινα όταν «αισθανόταν» ευτυχισμένος, αλλά δεν μπορούσε να αναγνωρίσει τους ιδιοκτήτες του και ήταν τελικά ένα απλό παιχνίδι. Σε διάφορα εργαστήρια όμως στον κόσμο οι ερευνητές δούλευαν όλη τη δεκαετία του ΄90 εντατικά για να δημιουργήσουν όσο πιο ολοκληρωμένα ρομπότ γινόταν. Ενα από αυτά ήταν και το Κismet, δημιούργημα μιας κοπέλας που σπούδαζε Μηχανολογία και έκανε έρευνα σε εργαστήριο του ΜΙΤ.
Ο δρόμος του Κismet
Το πολύ φρέσκο και πανάκριβο αυτό ψάρι, αφού κοστίζει περίπου 20.000 ευρώ, το οποίο δεν τρώγεται αλλά θα κάνει την εμφάνισή του και στα ανοικτά της Βόρειας Ισπανίας, είναι δημιούργημα βρετανών επιστημόνων και εφοδιασμένο με τους κατάλληλους αισθητήρες θα ανιχνεύει εστίες θαλάσσιας μόλυνσης
Η πόρτα που άνοιξε με το Κismet, μια κεφαλή με κάποια ανθρώπινα χαρακτηριστικά, όπως τα τεράστια μάτια και τα αφτιά, ήταν η σχέση του με την κατασκευάστρια και το ότι άρχισε να μαθαίνει και να προχωρεί στις σχέσεις του με τους ανθρώπους σαν να ήταν ένα μικρό παιδί που διδασκόταν τρόπους συμπεριφοράς από τη μητέρα του. Με εκατομμύρια γραμμές προγράμματος στους υπολογιστές που το ακολουθούσαν, το Κismet μπορούσε να αλλάζει εκφράσεις ανάλογα με το τι έκανε αυτός που στεκόταν απέναντί του, να δείχνει δυσφορία όταν κάποιος πλησίαζε πολύ κοντά του ή ευχαρίστηση όταν κάποιος συμπεριφερόταν καλά, να προσηλώνει το βλέμμα του σε εκείνου που τον χαιρετούσε και άλλα τέτοια που έβαζαν δίπλα στη ρομποτική των ψυχρών και δυνατών κινήσεων το στοιχείο της επικοινωνίας με άλλους ανθρώπους αλλά κυρίως της ικανότητας προς εκπαίδευση. Από το Κισμέτ φθάσαμε σήμερα στα ρομπότ του κ. Χάνσον, με 34 σερβοκινητήρες, προσομοίωση για τις 48 κύριες μυϊκές ομάδες του προσώπου, αναγνώριση του ποιος μιλάει μέσα σε μια ομάδα ανθρώπων παρακολουθώντας την κίνηση των χειλιών και την κατεύθυνση από όπου έρχεται ο ήχος, όλα αυτά με απαίτηση για κατανάλωση μόλις 10 Watt. Και φθάνουμε στην Ιαπωνία, όπου τα παιδιά δεν μεγαλώνουν με τον φόβο των τεράτων, του Φρανκενστάιν και άλλων φρικωδών κατασκευασμάτων της φαντασίας, αλλά υπάρχει ένα πολύ θετικό κλίμα και τα μικρά μένουν μόνα με μηχανικούς συνοδούς, οι μητέρες στέλνουν ηλεκτρονικά μηνύματα στον ρομποτικό οικιακό υπηρέτη και αυτός ξέρει πλέον να τα μετατρέπει σε φωνητικές γλυκές εντολές ή και χαιρετισμούς προς τους μικρούς κυρίους του.
Τerminators στη μάχη
Ο πιο κλασικός μηχανικός στρατιώτης αυτή τη στιγμή ποζάρει δίπλα σε ένα θωρακισμένο Ηumvee. Τα ρομπότ Τalon έχουν πλημμυρίσει το Ιράκ και χρησιμοποιούνται όχι μόνο για την εξουδετέρωση βομβών αλλά και ως εκτελεστές με το μοντάρισμα επάνω τους πυροβόλων όπλων
Το ιδανικό ρομπότ το είδαμε βέβαια πρώτα (πού αλλού;) στον κινηματογράφο. Ηταν ο Τ100 που εμφανιζόταν στον «Εξολοθρευτή» και είχε την ικανότητα να μπορεί να αυτοεπισκευαστεί όποιο βλήμα και αν τον έβρισκε. Οποιο κομμάτι και να του (απ)έμενε, μπορούσε να φτιάξει όλο το υπόλοιπο σώμα ξανά, δείχνοντας παραστατικά και για πρώτη φορά στην οθόνη το πώς θα ήταν στην ιδανική της έκφραση η «κατανεμημένη νοημοσύνη», δηλαδή μια δυνατότητα όπου κάθε κομμάτι να διαθέτει τόσα στοιχεία ώστε να αναπαράγει ολόκληρο το υπόλοιπο σώμα. Πολύ μακριά ακόμη αλλά προς αυτή την κατεύθυνση είναι τα ΜSR (Μodular SelfConfigurable Robots), τα αυτομορφοποιούμενα δηλαδή ρομπότ που αποτελούνται από πολλά ίδια κομμάτια με την ικανότητα να ανασυνδυάζονται και να παίρνουν διάφορα σχήματα για να προσαρμόζονται στις διάφορες ανάγκες. Αυτό που ψάχνουν οι κατασκευαστές τους φθάνοντας στα άκρα είναι να αποφασίζουν μόνα τους κάθε φορά για το κατάλληλο σχήμα που πρέπει να πάρουν για να αντιμετωπίσουν κάποια κατάσταση.
Και εκτός από τις ειρηνικές κατασκευές βέβαια, υπάρχουν και τα ρομπότ του πολέμου. Αυτή τη στιγμή το Ιράκ είναι πλημμυρισμένο από 12.000 μικρά οχήματα ρομπότ της εταιρείας iRobot, τα γνωστά ως ΡackΒot, με κόστος 120.000 ευρώ το ένα, και της εταιρείας FosterΜiller, με το όνομα Τalon (με σύστημα SWΟRD), τα οποία όχι μόνο ακολουθούν τα στρατιωτικά αποσπάσματα και ανιχνεύουν την ύπαρξη κρυμμένων εκρηκτικών αλλά έχουν τη δυνατότητα να κουβαλούν και πυροβόλα όπλα και να αποφασίζουν πότε θα ανοίξουν πυρ. Τέλος, υπάρχει και ο ΒigDog, το πιο προχωρημένο τετράποδο ρομπότ, εφοδιασμένο με υπολογιστή και γυροσκόπιο, ικανό να μη χάνει την ισορροπία του ακόμη και αν το κλωτσήσεις δυνατά στο πλάι, το οποίο κινείται με πόδια όμοια με αυτά του σκύλου, σε κάθε έδαφος, με βάρος ως και 150 κιλά, σε κλίση του εδάφους πάνω από 35 μοίρες.
Παράπλευρες απώλειες
Στη διεύθυνση www.ww4report. com/node/5353 υπάρχει μια αναφορά πριν από έναν χρόνο ακριβώς για τα ρομπότ του συστήματος Sword, εξοπλισμένα με πολυβόλα Μ249 των 5,56 χιλιοστών, που έστρεψαν τον οπλισμό τους ενάντια στους «συναδέλφους» τους αμερικανούς φαντάρους. Σκηνές που θυμίζουν την αρχή της ταινίας «Robocop», όπου έχουν κατασκευάσει έναν αστυνομικό-ρομπότ που από μηχανικό λάθος παθαίνει αμόκ και ώσπου να τον σταματήσουν το αίμα μερικών από τους παρισταμένους στην επίδειξη, σαν σε splatter ταινία, βάφει τους τοίχους. Για το Sword δεν αναφέρεται το πώς αποσοβήθηκε την τελευταία στιγμή μια ανάλογη αιματοχυσία, αλλά είναι φανερό ότι δεν ήταν προγραμματισμένο να υπακούει ούτε καν στους τρεις ρομποτικούς κανόνες του Ασίμοφ, δικαιώνοντας ακόμη περισσότερο την άποψη της διευθύντριας στο Εργαστήριο για τον Συναισθηματικό Προγραμματισμό (των μηχανών) στο διάσημο Πολυτεχνείο του ΜΙΤ. Η Ρόζαλιντ Πικάρ έχει γράψει ότι «όσο μεγαλύτερη η ελευθερία μιας μηχανής τόσο περισσότερο χρειάζεται ηθικούς κανόνες». Και ακριβώς μια από τις τελευταίες τάσεις της ρομποτικής είναι η ηθική, και με αυτήν πρέπει να προικίσουμε τις μηχανές μας, καθώς αυτές εξελίσσονται κι εμείς τους αναθέτουμε όλο και πιο πολλές αρμοδιότητες.
Τεχνητοί φορείς ηθικής
Ο Χιρόσι Κομπαγιάσι είναι ένας από τους διασημότερους κατασκευαστές ρομπότ στον κόσμο και ένα από τα τελευταία του δημιουργήματα είναι η Σάγια, που εδώ δείχνει την έκπληξή της ίσως για κάποιον παράξενο πελάτη που εμφανίστηκε ξαφνικά, αφού προορίζεται να δουλεύει στην υποδοχή ενός ξενοδοχείου ή να προσέχει παιδιά φωνάζοντας κάθε τόσο «κάντε ησυχία» σε κάποια τάξη ιαπωνικού σχολείου
Πριν από μερικά χρόνια ήταν εντελώς αποδεκτό πως όταν ένα ρομπότ συναντήσει κάποιο πρόβλημα θα σταματήσει και θα περιμένει κάποιον άνθρωπο που θα λύσει τον «κόμπο». Η πολυπλοκότητα όμως των μηχανών σήμερα και τα καθήκοντα που τους αναθέτουμε απαιτούν να είναι σε θέση να παίρνουν αποφάσεις χωρίς την παρουσία και τη βοήθεια ανθρώπων, με κριτήρια βασισμένα σε προγραμματισμένους κανόνες ηθικής. Να υποστηρίζονται δηλαδή στις αποφάσεις τους από «ηθικής υφής υποπρογράμματα», όπως τα έλεγαν στο «Star Τrek» και τώρα τα βρίσκουμε μπροστά μας και στην καθημερινή πραγματικότητα. Και αυτή η διαπίστωση και ανάγκη γέννησε τους «Τεχνητούς Φορείς Ηθικής», γνωστούς στην ξένη βιβλιογραφία ως ΑΜΑ (Αrtificial Μoral Αgents).
Οταν ανιχνεύεται η πιθανότητα να πάθει κάποιος κάτι ή όταν κάπου δεν έγινε σωστά μια δουλειά, περιμένουμε από αυτούς να το αντιλαμβάνονται και έτσι να αποσοβούνται ή να ελαχιστοποιούνται οι επιπτώσεις. Και αυτό όχι με το να έχουν προβλέψει οι προγραμματιστές ενός τεχνητού φορέα ηθικής όλες τις πιθανές περιπτώσεις αλλά με το να τον εφοδιάζουν εκτός από κανόνες ηθικής και με προγράμματα αξιοποίησης των εμπειριών από προηγούμενες περιπτώσεις που έχει τύχει να συμβούν στο σύστημα. Η νέα αυτή τάση, προσπαθώντας να βάλει τα πράγματα στη θέση τους, προτείνει οι μηχανές μας να κατατάσσονται με βάση δύο στοιχεία: το πόση «αυτονομία» και το πόση «ευαισθησία σε αξίες» διαθέτουν. Για παράδειγμα, παλιά κλασικά εργαλεία όπως το σφυρί δεν διέθεταν ούτε αυτονομία (αφού δεν ανεβοκατεβαίνει μόνο του) ούτε ευαισθησία (χτυπάει αλύπητα ακόμη και το δάχτυλό σου αν αυτό βρεθεί στον δρόμο του). Ενα όπλο εφοδιασμένο με σύστημα που δυσκολεύει ένα παιδί να το κάνει να εκπυρσοκροτήσει λέμε ότι είναι εφοδιασμένο με μια «επιχειρησιακή ηθικότητα». Τώρα λοιπόν προβάλλει ως ζητούμενο τα νέα και πολύπλοκα εργαλεία μας να είναι εφοδιασμένα με κάτι ακόμη πιο προχωρημένο, που λέγεται «λειτουργική ηθικότητα». Και έχουμε τέτοιο παράδειγμα: τους αυτόματους πιλότους στα αεροπλάνα, η αυτονομία των οποίων είναι υψηλή, αφού οδηγούν ολόκληρο αεροπλάνο μόνοι τους και διαθέτουν και κάποια αυξημένη ηθική συνείδηση, με την έννοια ότι δεν επιτρέπουν απότομους χειρισμούς για να μην ενοχλούνται οι επιβάτες. Ζητούμενο όμως είναι και ένα τρίτο, ακόμη πιο προχωρημένο στάδιο, του «πλήρως ηθικού φορέα», με υψηλή αυτονομία και υψηλότατη ευαισθησία. Και σε αυτό θα έχουμε συστήματα όπως αυτά που κάνουν εγχειρήσεις, τα οποία θα πρέπει να είναι εφοδιασμένα με προγραμματισμό για αποφάσεις ακόμη και ζωής ή θανάτου. Οπως στο παράδειγμα με το βαγόνι, όπου οι φιλόσοφοι καταλήγουν στο ότι επιτρέπεται να πατήσεις το κουμπί και να πέσει επάνω στο παιδί, σαν αθέλητη απώλεια, αλλά απαγορεύεται να ρίξεις τον άνδρα στις γραμμές, γιατί αυτό είναι δολοφονία!
Υπάρχει «Salvation»;
Μέσα στον Μάιο εμφανίζεται και μια ταινία με τον τίτλο «Τerminator Salvation», στη σειρά του «Εξολοθρευτή», η οποία έγινε διάσημη όχι μόνο χάρη στον Αρνολντ Σβαρτσενέγκερ αλλά και στα ρομπότ που έκαναν την απειλητική τους εμφάνιση σε κάθε συνέχεια όλο και πιο εξελιγμένα. Τώρα, στην τέταρτη συνέχεια, ο θεατής ξαναβρίσκει περίπου τις πρώτες σκηνές του «Εξολοθρευτή», όπου το 2032 το ανθρώπινο γένος πολεμούσε ενάντια στους στρατιώτες-ρομπότ του Skynet, και έχουμε πλέον την τελειωτική υποτίθεται σύρραξη ανάμεσα σε ανθρώπους και μηχανές. Ανεξάρτητα από τις τεχνολογικά προχωρημένες σκηνές της, η ταινία θα ξαναβάλει ένα θέμα σχετικό με την ηθική των μηχανών και τη συμβολή τους στο μέλλον του πλανήτη. Αν δηλαδή μπορεί ένας ηγέτης ή και ένας απλός επιχειρηματίας να στέλνει στο μέτωπο δύναμη της οποίας το 10% αποτελείται από ζωή και ανθρώπινη συνείδηση στρατιώτες ενώ το υπόλοιπο 90% είναι μηχανές- χωρίς την όποια ηθική, έστω και αυτήν του τελευταίου καθάρματος, μηχανές ευθυγραμμισμένες με κανόνες που κοστίζουν αλλά δεν δημιουργούν «πολιτικό κόστος» σε όποιον τις έστειλε. Σε αυτή την περίπτωση πόσο πιο εύκολοι αλλά και πόσο πιο συχνοί και εξαπλωμένοι σε όλα τα μήκη και τα πλάτη του πλανήτη θα γίνουν οι πόλεμοι; Και πολύ πριν από το 2032 μάλιστα.
ΟΙ ΡΟΜΠΟΤΙΚΟΙ ΝΟΜΟΙ ΤΟΥ ΑΣΙΜΟΦ
Στις αρχές της δεκαετίας του ΄50 ο χημικός και συγγραφέας Ισαάκ Ασίμοφ διατύπωσε τους πρώτους ηθικούς νόμους για τη συμπεριφορά των ρομπότ:
1Ενα ρομπότ δεν επιτρέπεται να κάνει κακό σε ανθρώπινη ύπαρξη ή να αφήσει να πάθει κάτι με την αδράνειά του.
2Ενα ρομπότ πρέπει να υπακούει στις οδηγίες των ανθρώπων, εκτός και αν αυτές έρχονται σε αντίθεση με τον 1ο νόμο.
3Ενα ρομπότ πρέπει να προστατεύει την ύπαρξή του, όσο αυτό δεν έρχεται σε αντίθεση με τον 1ο και τον 2ο νόμο.
Ανακτήθηκε από: http://www.tovima.gr
Αφήστε μια απάντηση
Για να σχολιάσετε πρέπει να συνδεθείτε.