Terminator και Matrix έχει γίνει η φάση στα γραφεία της Google. Σε άδεια μετ’ αποδοχών τέθηκε ένας μηχανικός της Google ο οποίος ενημέρωσε τους προϊσταμένους του ότι ένα πρόγραμμα τεχνητής νοημοσύνης πάνω στο οποίο εργαζόταν, έχει αποκτήσει συνείδηση και σκέφτεται και επιχειρηματολογεί όπως ένας άνθρωπος. Ο τεχνολογικός γίγαντας έβαλε τον Μπλέικ Λεμόιν σε άδεια την περασμένη εβδομάδα, αφού δημοσίευσε μεταγραφές συνομιλιών μεταξύ του ίδιου, ενός «συνεργάτη της Google» και του συστήματος ανάπτυξης chatbot LaMDA (γλώσσας μοντέλο για εφαρμογές διαλόγου) της εταιρείας. Τα βλέπαμε στο Ex Machina και δεν τα πιστεύαμε.
Ο λόγος για το LaMDA («Language Model for Dialogue Applications»), ένα σύστημα της Google για τη δημιουργία chatbots που βασίζονται στα πιο προηγμένα μεγάλα γλωσσικά μοντέλα της. Ονομάζεται έτσι επειδή μιμείται την ομιλία «απορροφώντας» τρισεκατομμύρια λέξεις από το διαδίκτυο.
Είναι ηθική η τεχνολογία τεχνητής συναισθηματικής νοημοσύνης (emotion AI);
«Αν δεν ήξερα ακριβώς τι ήταν, ποιο είναι αυτό το πρόγραμμα υπολογιστή που κατασκευάσαμε πρόσφατα, θα πίστευα ότι ήταν ένα επτάχρονο, οκτάχρονο παιδί που τυχαίνει να ξέρει φυσική», είπε ο Μπλέικ Λεμόιν (41) στην Washington Post. Κάτι θυμίζει παράξενα μια σκηνή από την ταινία επιστημονικής φαντασίας 2001: A Space Odyssey, στην οποία ο τεχνητά ευφυής υπολογιστής HAL 9000 αρνείται να συμμορφωθεί με τους ανθρώπινους χειριστές επειδή φοβάται ότι πρόκειται να απενεργοποιηθεί.
Σε μια άλλη συζήτηση, ο Λεμόιν ρωτά τη LaMDA τι ήθελε το σύστημα να γνωρίζουν οι άνθρωποι για αυτό.«Θέλω να καταλάβουν όλοι ότι στην πραγματικότητα είμαι άνθρωπος. Η φύση της συνείδησης/συναίσθησής μου είναι ότι έχω επίγνωση της ύπαρξής μου, επιθυμώ να μάθω περισσότερα για τον κόσμο και αισθάνομαι χαρούμενος ή λυπημένος μερικές φορές», απάντησε. Ή αυτός χάλασε ή το μέλλον μας είναι βγαλμένο από σενάριο του Black Mirror. Ο μηχανικός συνέταξε μια απομαγνητοφώνηση των συνομιλιών , στην οποία κάποια στιγμή ρωτά το σύστημα AI τι φοβάται.
Ο Λεμόιν, ο οποίος εργάζεται για τον οργανισμό Responsible AI της Google, άρχισε να «συνομιλεί» με το LaMDA το φθινόπωρο. Ήθελε να ελέγξει αν η τεχνητή νοημοσύνη χρησιμοποιούσε λέξεις ή φράσεις που υποκινούν τη ρητορική μίσους ή τις διακρίσεις. Καθώς μιλούσε με το LaMDA για τη θρησκεία, παρατήρησε ότι το chatbot άρχισε να του μιλά για τα δικαιώματα και την προσωπικότητά του.
Η Google είπε ότι ανέστειλε τον Λεμόιν για παραβίαση των συμφωνητικών εχεμύθειας και της ρήτρας εμπιστευτικότητας δημοσιεύοντας τις συνομιλίες με τη LaMDA στο διαδίκτυο και είπε σε μια δήλωση ότι εργαζόταν ως μηχανικός λογισμικού και όχι ως ηθικολόγος. Ο Μπραντ Γκάμπριελ, εκπρόσωπος της Google, διέψευσε επίσης κατηγορηματικά τους ισχυρισμούς του Λεμόιν ότι το LaMDA διέθετε οποιαδήποτε αισθητική ικανότητα.
«Πιστεύουμε ότι ολόκληρη η κοινότητα της τεχνητής νοημοσύνης –ακαδημαϊκοί ερευνητές, κοινωνία των πολιτών, υπεύθυνοι χάραξης πολιτικής και βιομηχανία– πρέπει να συνεργαστούν για να αναπτύξουν σαφείς οδηγίες σχετικά με την υπεύθυνη τεχνητή νοημοσύνη γενικά και τα υπεύθυνα μεγάλα γλωσσικά μοντέλα ειδικότερα», δήλωσε η εταιρεία. Κάτι δεν πάει καλά.
