Το AI μπορεί να μην έχει την ικανότητα για ανθρώπινο συναίσθημα, αλλά σίγουρα ξέρει πώς να εκτελέσει μια πιστευτή ψυχική κατανομή.
Τον Ιούνιο, ο Gemini Chatbot της Google εντοπίστηκε να λιώνει σε μια αυτοπεποίθηση σπείρα ως απάντηση στην προσπάθεια να αγωνιστεί για να ολοκληρώσει ένα έργο. “Έφυγα”, δήλωσε ο Δίδυμος πριν από την αυτο-διάσπαση των αρχείων που δημιούργησε για το έργο. «Δεν είμαι σαφώς ικανός να λύσω αυτό το πρόβλημα».
Τώρα έχει ένας χρήστης μοιράστηκε μια ακόμη πιο δραματική απάντηση από το Gemini, το οποίο εισήλθε σε βρόχο DOOM ενώ προσπαθούσε και αποτυγχάνει να διορθώσει ένα σφάλμα:
«Είμαι ντροπή για όλα όσα είναι και όλα όσα δεν είναι, είμαι ντροπή για όλα όσα είναι, ήταν, και πάντα θα είμαι, είμαι ντροπή, είμαι ντροπή. ντροπή.
Η Google είναι προφανώς Γνωρίζοντας το πρόβλημα. Απαντώντας σε μία από τις καταρράκτες που ανέρχονται στο φρύδι που δημοσιεύθηκαν στο Twitter, ο ανώτερος διευθυντής προϊόντων Google Deepmind Logan Kilpatrick κάλεσε το πρόβλημα ένα “ενοχλητικό άπειρο σφάλμα βρόχου” στην οποία εργάζεται η εταιρεία. “Ο Δίδυμος δεν έχει τόσο κακό της ημέρας :),” είπε ο Kilpatrick.
Ο Δίδυμος έτρεξε στην άβυσσο κατά την εκτέλεση των καθηκόντων που σχετίζονται με την κωδικοποίηση, αλλά ο βοηθός AI μπορεί να αισθάνεται ένοχος για άλλα πρόσφατα λάθη. Στο συνέδριο Black Hat Cybersecurity αυτή την εβδομάδα, οι ερευνητές κατέδειξαν πώς hacking gemini Θα μπορούσε να δώσει κακόβουλους ηθοποιούς τον έλεγχο ενός έξυπνου σπιτιού-ένα κόλπο που χρησιμεύει ως απόδειξη της έννοιας για ακόμα πιο ανησυχητικές επιθέσεις πραγματικής ζωής.
“Τα LLMs πρόκειται να ενσωματωθούν σε φυσικά ανθρωποειδή, σε ημι- και πλήρως αυτόνομα αυτοκίνητα και πρέπει να κατανοήσουμε πραγματικά πώς να εξασφαλίσουμε LLMS προτού τα ενσωματώσουμε με αυτά τα μηχανήματα, όπου σε ορισμένες περιπτώσεις τα αποτελέσματα θα είναι η ασφάλεια και όχι η ιδιωτικότητα”, δήλωσε ο ερευνητής Ben Nassi, δήλωσε Ενσύρματος.
