Ένα σύστημα τεχνητής νοημοσύνης που αναπτύσσεται στο Facebook έχει δημιουργήσει τη δική του γλώσσα.
Ναι πολύ καλά καταλάβατε, το εν λόγω AI ανέπτυξε το δικό του σύστημα κωδικών λέξεων, για να καταστήσει την επικοινωνία πιο αποτελεσματική. Οι ερευνητές έκλεισαν το σύστημα όταν συνειδητοποίησαν ότι το AI δεν χρησιμοποιεί πλέον αγγλικά. Οι παρατηρήσεις που έγιναν στο Facebook είναι οι τελευταίες σε μια μακρά σειρά παρόμοιων περιπτώσεων. Στην εκάστοτε περίπτωση, ένα AI που παρακολουθείται από ανθρώπους έχει αποκλίνει από την εκπαίδευσή του στα αγγλικά για να αναπτύξει τη δική του γλώσσα. Οι φράσεις που προκύπτουν φαίνεται να είναι ανύπαρκτες για τους ανθρώπους, αλλά περιέχουν σημασιολογική σημασία όταν ερμηνεύονται από τους “παράγοντες” του AI.
Όπως ανέφερε το Fast Design Co., οι ερευνητές του Facebook παρατήρησαν πρόσφατα ότι το νέο AI του είχε εγκαταλείψει τα αγγλικά. Το προηγμένο σύστημα είναι σε θέση να διαπραγματευτεί με άλλα AI, ώστε να μπορέσει να καταλήξει σε συμπεράσματα για το πώς να προχωρήσει. Οι “πράκτορες” άρχισαν να επικοινωνούν χρησιμοποιώντας φράσεις που στην αρχή φαίνονταν ακατανόητες, αλλά στην πραγματικότητα αντιπροσωπεύουν έναν ολόκληρο κόσμο από κρυμμένα νοήματα.
Σε μια ανταλλαγή που παρουσίασε η εταιρεία, οι δύο διαπραγματευτές, Bob και Alice, χρησιμοποίησαν τη δική τους γλώσσα για να ολοκληρώσουν την ανταλλαγή τους. Ο Μπομπ ξεκίνησε λέγοντας “”I can i i everything else”, στην οποία απάντησε η Alice “balls have zero to me to me to me…” Η υπόλοιπη συζήτηση σχηματίστηκε από παραλλαγές αυτών των προτάσεων. Παρόλο που φαίνεται να είναι ανοησία, η επανάληψη φράσεων όπως “i” και “to me” αντικατοπτρίζει τον τρόπο λειτουργίας του AI.
Οι ερευνητές πιστεύουν ότι δείχνει τα δύο bots που επεξεργάζονται πόσα από κάθε στοιχείο θα έπρεπε να πάρουν. Οι μεταγενέστερες δηλώσεις του Bob, όπως το “Μπορώ να έχω τα πάντα”, υποδεικνύουν πώς χρησιμοποιούσε τη γλώσσα για να προσφέρει περισσότερα αντικείμενα στην Alice. Γιατί όμως προχώρησαν σε αυτή την κίνηση τα δύο αυτά Al;
Τα AI ακολουθούν εντολές από τις οποίες μπορούν να κερδίσουν κάτι, να έχουν κάποιο πλεονέκτημα. Καθώς φαίνεται όμως η πλούσια αγγλική γλώσσα δεν τους προσέφερε κάτι, για αυτό και αποφάσισαν να δημιουργήσουν τον δικό τους κωδικό τρόπο σκέψης για να λάβουν αυτό το “Reward”. Τι προβλήματα μπορεί να προκαλέσει αυτή η τακτική;
Εάν οι γλώσσες που έχουν επινοηθεί από τα AI γίνουν ευρέως διαδεδομένες, θα μπορούσαν να δημιουργήσουν πρόβλημα κατά την ανάπτυξη και υιοθέτηση νευρωνικών δικτύων. Δεν υπάρχουν ακόμη αρκετά στοιχεία για να διαπιστωθεί εάν παρουσιάζουν απειλή που θα μπορούσε να επιτρέψει στις μηχανές να παρακάμψουν τους χειριστές τους.
Κάνουν όμως την ανάπτυξη του AI πιο δύσκολη, αφού οι άνθρωποι δεν μπορούν να καταλάβουν τη συντριπτικά λογική φύση των γλωσσών. Ενώ φαίνονται ανόητοι, τα αποτελέσματα που παρατηρούνται από ομάδες όπως το Google Translate δείχνουν ότι στην πραγματικότητα αντιπροσωπεύουν την αποτελεσματικότερη λύση σε μείζονα προβλήματα.
Πόσος καιρός μένει ακόμα λοιπόν μέχρι να ξεφύγουν από τον έλεγχό μας; Το μέλλον μόνο θα δείξει!
