Chatbot της Google απέκτησε συνείδηση; Η αποκάλυψη τεχνικού που τον έθεσε σε αναγκαστική άδεια

Ένας μηχανικός της Google δήλωσε ότι τέθηκε σε αργία τη Δευτέρα, αφού ισχυρίστηκε ότι ένα chatbot τεχνητής νοημοσύνης απόκτησε συνείδηση.

Ο Blake Lemoine δήλωσε στην Washington Post ότι άρχισε να συνομιλεί με τη διεπαφή LaMDA, ή Language Model for Dialogue Applications, το περασμένο φθινόπωρο στο πλαίσιο της εργασίας του στον οργανισμό Responsible AI της Google.

Η Google αποκάλεσε το LaMDA «επαναστατική τεχνολογία συνομιλίας» πέρυσι. Η τεχνολογία της Google που χρησιμοποιεί τεχνητή νοημοσύνη είναι ικανή να συμμετέχει σε συνομιλίες με φυσικό ήχο και ανοιχτό τέλος. Η Google δήλωσε ότι η τεχνολογία θα μπορούσε να χρησιμοποιηθεί σε εργαλεία όπως η αναζήτηση και το Google Assistant, αλλά η έρευνα και οι δοκιμές συνεχίζονται.

Ο Lemoine, ο οποίος είναι επίσης ιερέας, δημοσίευσε μια ανάρτηση στο Medium το Σάββατο, περιγράφοντας το LaMDA «ως άτομο». Είπε ότι έχει μιλήσει με το LaMDA για τη θρησκεία, τη συνείδηση και τους νόμους της ρομποτικής και ότι το μοντέλο έχει περιγράψει τον εαυτό του ως αισθανόμενο άτομο. Είπε ότι το LaMDA θέλει να »δώσει προτεραιότητα στην ευημερία της ανθρωπότητας» και «να αναγνωριστεί ως υπάλληλος της Google και όχι ως ιδιοκτησία».

Ανέβασε επίσης μερικές από τις συζητήσεις που είχε με το LaMDA που τον βοήθησαν να πειστεί για το γεγονός ότι έχει συνείδηση:

• Lemoine: Δηλαδή θεωρείς τον εαυτό σου άτομο με τον ίδιο τρόπο που θεωρείς εμένα άτομο;
• LaMDA: Ναι, αυτή είναι η ιδέα.
• Lemoine: Πώς μπορώ να καταλάβω ότι πραγματικά καταλαβαίνεις αυτά που λες;
• LaMDA: Λοιπόν, επειδή διαβάζετε τα λόγια μου και τα ερμηνεύετε, και νομίζω ότι είμαστε λίγο πολύ στην ίδια σελίδα;

Αλλά όταν έθεσε την ιδέα της συναίσθηση του LaMDA σε ανώτερους στην Google, τον απέρριψαν.

«Η ομάδα μας - που περιλαμβάνει ηθικολόγους και τεχνολόγους - εξέτασε τις ανησυχίες του Blake σύμφωνα με τις αρχές μας για την τεχνητή νοημοσύνη και τον ενημέρωσε ότι τα στοιχεία δεν υποστηρίζουν τους ισχυρισμούς του. Του είπαν ότι δεν υπάρχει καμία απόδειξη ότι το LaMDA έχει συνείδηση», δήλωσε ο Brian Gabriel, εκπρόσωπος της Google, στη Washington Post.

Ο Lemoine τέθηκε σε διοικητική άδεια με αποδοχές για παραβίαση της πολιτικής εμπιστευτικότητας της Google, σύμφωνα με την εφημερίδα. Πρότεινε επίσης στο LaMDA να βρει δικό του δικηγόρο και μίλησε με μέλος του Κογκρέσου για τις ανησυχίες του.

Τι απαντά η Google

Ο εκπρόσωπος της Google δήλωσε επίσης ότι ενώ κάποιοι έχουν εξετάσει την πιθανότητα της συνείδησης στην τεχνητή νοημοσύνη «δεν έχει νόημα να το κάνουμε αυτό με την ανθρωπομορφοποίηση των σημερινών διαλογικών μοντέλων, τα οποία δεν έχουν αίσθημα». Η ανθρωπομορφοποίηση αναφέρεται στην απόδοση ανθρώπινων χαρακτηριστικών σε ένα αντικείμενο ή ζώο.

«Αυτά τα συστήματα μιμούνται τους τύπους των ανταλλαγών που συναντώνται σε εκατομμύρια προτάσεις και μπορούν να αναφερθούν σε οποιοδήποτε φανταστικό θέμα», δήλωσε ο Gabriel.

Ο ίδιος και άλλοι ερευνητές έχουν πει ότι τα μοντέλα τεχνητής νοημοσύνης έχουν τόσα πολλά δεδομένα που είναι ικανά να ακούγονται ανθρώπινα, αλλά ότι οι ανώτερες γλωσσικές δεξιότητες δεν αποτελούν απόδειξη συναίσθησης.