Ένα αυτόνομο αυτοκίνητο σταματά μπροστά σε έναν ποδηλάτη. Ο άνθρωπος στη θέση ασφαλείας θεωρεί ότι το όχημα αναγνώρισε σωστά τον κίνδυνο. Στην πραγματικότητα, όμως, το σύστημα δεν είχε αντιληφθεί τον ποδηλάτη όπως νόμιζε ο οδηγός· απλώς ενεργοποίησε το φρενάρισμα έκτακτης ανάγκης την τελευταία στιγμή.
Αυτό το χάσμα ανάμεσα στο τι κάνει μια μηχανή και στο τι πιστεύουμε ότι έκανε είναι ένα από τα πιο δύσκολα προβλήματα των αυτόνομων οχημάτων. Ερευνητές του MIT και της εταιρείας Motional ανέπτυξαν ένα σύστημα που προσπαθεί να το κλείσει. Ονομάζεται Concept-Wrapper Network, ή CW-Net, και μετατρέπει την εσωτερική «σκέψη» του λογισμικού οδήγησης σε απλές, κατανοητές έννοιες.
Από το μαύρο κουτί σε καθαρές ενδείξεις
Οι αλγόριθμοι βαθιάς μάθησης επεξεργάζονται εικόνες από κάμερες και δεδομένα lidar, σχηματίζουν μια περίληψη του δρόμου και επιλέγουν την επόμενη πορεία του οχήματος. Το αποτέλεσμα μπορεί να είναι σωστό, αλλά ο τρόπος με τον οποίο προέκυψε συχνά παραμένει αδιαφανής ακόμη και στους ειδικούς.
Το CW-Net παρεμβάλλεται μέσα σε αυτή τη διαδικασία και περιγράφει τι θεωρεί σημαντικό το σύστημα με φράσεις όπως «πλησιάζει σταματημένο όχημα» ή «βρίσκεται κοντά σε ποδηλάτη». Δεν είναι απλώς μια εκ των υστέρων εξήγηση. Οι δημιουργοί του το σχεδίασαν έτσι ώστε οι έννοιες που εμφανίζει να συνδέονται πραγματικά με την τελική απόφαση του αυτοκινήτου.
Για την εκπαίδευσή του χρησιμοποιήθηκε σύνολο 130 εκατομμυρίων επισημασμένων παραδειγμάτων από σκηνές οδήγησης. Σύμφωνα με την ανακοίνωση του MIT, το σύστημα δοκιμάστηκε σε ιδιωτική πίστα με robotaxi της Motional και οδηγό ασφαλείας, αλλά και σε μεγαλύτερες προσομοιώσεις με πραγματικές σκηνές από τους δρόμους του Λας Βέγκας.
Το κρίσιμο μάθημα του ποδηλάτη
Στο περιστατικό με τον ποδηλάτη, οι εξηγήσεις αποκάλυψαν ότι η φαινομενικά σωστή στάση έκρυβε μια επικίνδυνη παρανόηση. Αν ο οδηγός ασφαλείας συνέχιζε να εμπιστεύεται το όχημα για λάθος λόγο, θα μπορούσε να αντιδράσει αργά σε μια επόμενη παρόμοια περίπτωση. Με τη νέα πληροφορία μπορούσε να μειώσει ταχύτητα ή να περάσει νωρίτερα σε χειροκίνητο έλεγχο, ενώ οι μηχανικοί αποκτούσαν ένα συγκεκριμένο σφάλμα για να διορθώσουν.
Στις δοκιμές, οι άνθρωποι που έβλεπαν τις εξηγήσεις προέβλεπαν καλύτερα τη μελλοντική συμπεριφορά του οχήματος. Η σχετική μελέτη δημοσιεύθηκε στο Nature με τίτλο «Explainable deep learning improves human mental models of self-driving cars».
Το CW-Net δεν σημαίνει ότι τα αυτόνομα αυτοκίνητα απέκτησαν αυτογνωσία ούτε ότι σταμάτησαν να κάνουν λάθη. Προσφέρει κάτι πιο πρακτικό: έναν τρόπο να αντιλαμβάνεται ο άνθρωπος πότε η εμπιστοσύνη του προς τη μηχανή στηρίζεται σε λανθασμένη υπόθεση. Σε ένα περιβάλλον όπου ένα δευτερόλεπτο μπορεί να κρίνει την ασφάλεια, αυτή η διαφορά δεν είναι θεωρητική.
Φωτογραφία: Skylar Kang / Pexels Πηγή εικόνας
