Οι ανθρώπινες αυταπάτες για την τεχνητή νοημοσύνη είναι χειρότερες από τις ψευδαισθήσεις με τεχνητή νοημοσύνη
Μερικές φορές νιώθω ότι η μεγαλύτερη «ψευδαίσθηση» της τεχνητής νοημοσύνης δεν είναι ότι μιλάει σοβαρά ανοησίες, αλλά ότι έχουμε φανταστεί ένα ολόκληρο μεταφυσικό σύμπαν γύρω της.
Όταν τα ανθρώπινα όντα αντιμετωπίζουν πράγματα που δεν καταλαβαίνουν καλά, συχνά έχουν μια σταθερή προσέγγιση: πρώτα αποφασίζουν και μετά τα ρομαντικοποιούν. πρώτα τους προσωποποιούν και μετά τους αποθεώνουν. Οι φλόγες θεωρούνται ως ξωτικά, και οι βροντές και οι αστραπές θεωρούνται ως πρόνοια. Μόλις ο αλγόριθμος μπορεί να γράψει δύο αξιοπρεπείς προτάσεις, μερικοί άνθρωποι θα αναρωτηθούν αμέσως αν μια ηλεκτρονική ψυχή έχει ήδη ζήσει στο δωμάτιο του διακομιστή.
Αυτό είναι στην πραγματικότητα πολύ φυσιολογικό. Ο ανθρώπινος εγκέφαλος είναι καλωδιωμένος για να προσθέσει πλοκή στον κόσμο. Το πρόβλημα δεν είναι ότι μπορούμε να αποφασίσουμε. Το πρόβλημα είναι ότι όταν η σκέψη μας είναι πολύ ομαλή, είναι εύκολο να μπερδέψουμε το «μοιάζει» με το «ουσιαστικά είναι».
Στην περίπτωση της τεχνητής νοημοσύνης, αυτή η τάση των ανθρώπων είναι ακόμη πιο έντονη από ό,τι όταν η ίδια η τεχνητή νοημοσύνη λέει ανοησίες. Το πολύ, το AI είναι μια μικρή παραίσθηση σε μια απάντηση. Οι ψευδαισθήσεις των ανθρώπων σχετικά με την τεχνητή νοημοσύνη είναι συχνά μια ολόκληρη κοσμοθεωρία, η οποία μπορεί να γεμίσει έως και 10.000 λέξεις σε ένα μυαλό και επίσης να περιέχει συναισθήματα.
Λίγος πραγματισμός είναι ιδιαίτερα σημαντικός για την κοινότητα των φιλελεύθερων τεχνών
Δεν θέλω να συμβουλεύσω όλους να μάθουν CUDA, να διαμορφώσουν το περιβάλλον και να κοιτάξουν πίνακες για να βρουν παράγωγα. Θέλω απλώς να πω ότι η αναζήτηση της αλήθειας είναι μερικές φορές πολύ σημαντική, ειδικά για την κοινότητα των φιλελεύθερων τεχνών που αγαπά τις έννοιες, τις αφηγήσεις, τα νοήματα και τις εξηγήσεις.
Γιατί στο πλαίσιο των φιλελεύθερων τεχνών, είναι πολύ πιθανό να συμβεί μια ήπια αλλά επικίνδυνη ολισθηρή κλίση: οι λέξεις είναι όμορφα γραμμένες και οι προτάσεις κινούνται, αλλά στο τέλος το αντικείμενο αλλάζει κρυφά. Είναι προφανώς ένα πιθανό μοντέλο, αλλά είναι γραμμένο σαν να είναι για την ψυχή. Είναι προφανώς συναρμολόγηση περιβάλλοντος στη μηχανική λογισμικού, αλλά λέγεται σαν "επιτέλους έμαθε να σε αγαπώ". Είναι προφανές ότι λειτουργούν οι προτροπές του συστήματος και τα ιστορικά αρχεία, αλλά είναι συσκευασμένο σαν "Το AI πραγματικά σε θυμάται".
Σίγουρα δεν υπάρχει αμαρτία στο να είσαι ποιητικός. Το πρόβλημα είναι ότι αν η ποίηση αντικαταστήσει την κρίση, ο ρομαντισμός γίνεται παραπλανητικός.
Λοιπόν, τι ακριβώς είναι η AI τώρα;
Επιτρέψτε μου να ξεκινήσω με μια έκδοση που είναι όσο το δυνατόν πιο απλή αλλά όχι παραμορφωμένη: Τα μεγάλα μοντέλα με τα οποία όλοι έρχονται σε επαφή σήμερα είναι ουσιαστικά ένας τύπος στατιστικού μοντέλου που εμπνέεται από νευρωνικά δίκτυα και εκπαιδεύεται μέσω μαζικών δεδομένων. Εκτελείται σε μάρκες και διακομιστές, διαβάζει εισόδους, συνδυάζει παραμέτρους και περιβάλλον και προβλέπει συνεχώς "ποιο θα πρέπει να είναι το επόμενο πιο κατάλληλο διακριτικό".
Το θέμα εδώ δεν είναι ότι η φράση "προβλέψτε την επόμενη λέξη" είναι μυστηριώδης, αλλά ότι στην πραγματικότητα δεν είναι καθόλου μυστηριώδης. Το μοντέλο δεν είναι ένα μικρό άτομο στριμωγμένο στα σύννεφα που σκέφτεται σιωπηλά τη ζωή, μοιάζει περισσότερο με μια εξαιρετικά τεράστια λειτουργία. Οι άνθρωποι του δίνουν είσοδο και παράγει έξοδο σύμφωνα με τη δομή παραμέτρων που σχηματίζεται κατά τη διάρκεια της εκπαίδευσης.
Για να θέσουμε αυτό το θέμα πιο προσγειωμένο: δεν είναι «πες το αφού το καταλάβεις», αλλά «αφού συμπιέσεις μια τεράστια εμπειρία, δημιουργήστε μια απάντηση που μοιάζει περισσότερο με την κατανόηση στο τρέχον πλαίσιο». Αυτό δεν σημαίνει ότι δεν μπορεί να κάνει τίποτα, αντιθέτως, είναι ήδη πολύ ισχυρό. αλλά το να είσαι ισχυρός δεν σημαίνει ότι είναι μυστηριώδες.
Γιατί τα νευρωνικά δίκτυα κάνουν πάντα τους ανθρώπους να σκέφτονται τον ανθρώπινο εγκέφαλο;
Εάν συνεχίσετε να το επιδιώκετε, θα διαπιστώσετε ότι το ερώτημα "Μοιάζουν η τεχνητή νοημοσύνη και ο ανθρώπινος εγκέφαλος;" ούτε μπορεί να ειπωθεί ότι είναι «ακριβώς το ίδιο» ούτε «δεν έχει καμία σχέση με αυτό».
Η διαδρομή των σύγχρονων νευρωνικών δικτύων ήταν αρχικά εμπνευσμένη από τον εγκέφαλο. Το 1943, οι McCulloch και Pitts περιέγραψαν μαθηματικά ένα απλουστευμένο μοντέλο νευρώνων. Το 1958, ο Rosenblatt πρότεινε το perceptron. Στη δεκαετία του 1980, η backpropagation αναζωπύρωσε την ελπίδα εκπαίδευσης δικτύων πολλαπλών επιπέδων. Στη δεκαετία του 2010, η βαθιά μάθηση αυξήθηκε με υπολογιστική ισχύ, δεδομένα και δυνατότητες μηχανικής. μετά την εμφάνιση της αρχιτεκτονικής του Transformer το 2017, τα γλωσσικά μοντέλα εκτινάχθηκαν στα ύψη και τελικά εξελίχθηκαν στα μεγάλα μοντέλα που χρησιμοποιούν όλοι καθημερινά.
Επομένως, τουλάχιστον με μια σχετικά αφελή έννοια, δεν είναι εξωφρενικό να πούμε ότι η τεχνητή νοημοσύνη είναι «ηλεκτρονική προσομοίωση και ενίσχυση ιδεών νευρωνικών δικτύων». Πράγματι προσπαθεί να χρησιμοποιήσει υπολογιστικά, εκπαιδεύσιμα και αναπαραγώγιμα φυσικά συστήματα για να προσεγγίσει ορισμένες γνωστικές ικανότητες που θεωρούνταν «μυστηριώδεις» στο παρελθόν.
Αυτός είναι ο λόγος που προσωπικά δεν μου αρέσει να μιλάω για τον ανθρώπινο εγκέφαλο ως πολύ μυστηριώδη. Κατά τη γνώμη μου, η έμφυτη θεωρία της γλώσσας που εκπροσωπείται από τον Τσόμσκι έχει την τάση να αποθεώνει τον εγκέφαλο, σαν να υπάρχει κάποιο είδος υπερβατικής δομής που είναι πολύ ιδιαίτερη και σχεδόν απρόσιτη βαθιά στη γλωσσική ικανότητα. Αλλά ανεξάρτητα από το πόσο πολύπλοκος είναι ο ανθρώπινος εγκέφαλος, εξακολουθεί να είναι μια φυσική ύπαρξη. Εφόσον πρόκειται για φυσική ύπαρξη, κατ' αρχήν θα πρέπει να μπορεί να μελετηθεί, να μοντελοποιηθεί, να προσομοιωθεί εν μέρει, ακόμη και να αναπαραχθεί σε ορισμένες συναρτήσεις.
Φυσικά, θα πρέπει να προσθέσουμε αμέσως μια λέξη προσοχής εδώ: η δυνατότητα προσομοίωσης ενός μέρους δεν σημαίνει ότι ολόκληρο το άτομο έχει αναπαραχθεί πλήρως.
Υπάρχουν ομοιότητες, αλλά μην γίνεσαι θεός απευθείας όταν είσαι ευτυχισμένος
Όσον αφορά τη γλώσσα, την αναγνώριση προτύπων, τη συσχέτιση και τη μάθηση αναπαράστασης, τα σημερινά μεγάλα μοντέλα έχουν κάποια «ομοιότητα» ή «ομοιότητα» με τον ανθρώπινο εγκέφαλο. Δεν λειτουργούν από ένα ρητό βιβλίο κανόνων, αλλά σχηματίζουν κάποιο είδος εσωτερικής αναπαράστασης μέσω ενός μεγάλου αριθμού συνδέσεων, προσαρμογών βάρους και συσσώρευσης εμπειρίας και στη συνέχεια παραγωγής με βάση αυτό.
Αυτός είναι ο λόγος που πολλοί άνθρωποι σοκάρονται όταν βιώνουν για πρώτη φορά τις γλωσσικές δυνατότητες ενός μεγάλου μοντέλου: δεν απομνημονεύει ένα λεξικό, αλλά σχηματίζει κάποιο είδος κατανεμημένης αναπαράστασης. Αυτή η μέθοδος είναι πολύ διαφορετική από την παραδοσιακή φαντασία των «χειρόγραφων κανόνων και της εξαντλητικής γραμματικής».
Όμως το πρόβλημα βρίσκεται ακριβώς εδώ. Επειδή η "ομοιότητα" αναβαθμίζεται πολύ εύκολα σε "ακριβώς ίδια"? Το "μερικώς παρόμοιο κατ' αρχήν" αναβαθμίζεται πολύ εύκολα σε "δεν διαφέρει από έναν άνθρωπο". Το «μπορεί να μιλήσει σαν άνθρωπος» αναβαθμίζεται πολύ εύκολα σε «έχει ανθρώπινη καρδιά».
Αυτό το βήμα είναι συχνά ταχύτερο από το ίδιο το μοντέλο.
Οι τεράστιες δυνατότητες του ανθρώπινου εγκεφάλου δεν έχουν ακόμη προσομοιωθεί με αξιοπρεπή τρόπο.
Τα σημερινά μεγάλα μοντέλα είναι πραγματικά δυνατά, αλλά είναι δυνατά μέσα σε ένα αρκετά συγκεκριμένο εύρος. Χωρίς αυτό το πεδίο εφαρμογής, ο μύθος θα διαρρεύσει εύκολα.
Όπως η μνήμη. Πολλοί άνθρωποι λένε τώρα ότι μια συγκεκριμένη τεχνητή νοημοσύνη «με θυμάται», «θυμάται την τελευταία συνομιλία» και «θυμάται τις προτιμήσεις μου», λες και ο εγκέφαλός του έχει αναπτύξει κάποιο είδος συνεχιζόμενης αυτο-εμπειρίας. Αλλά στα περισσότερα προϊόντα, η λεγόμενη "μνήμη" είναι ουσιαστικά το σύστημα λογισμικού που αποθηκεύει πληροφορίες χρήστη, ιστορικές συνομιλίες, ετικέτες, περιλήψεις ή αποτελέσματα αναζήτησης σε βάσεις δεδομένων, αρχεία κειμένου ή άλλα μόνιμα μέσα και στη συνέχεια τα εισάγει ξανά στο πλαίσιο του μοντέλου, όταν χρειάζεται.
Αυτό είναι εντελώς διαφορετικό από τον μηχανισμό μνήμης του ανθρώπινου εγκεφάλου.
Η μνήμη του ανθρώπινου εγκεφάλου περιλαμβάνει τη σύνδεση νευρώνων, την εδραίωση, την ανάκτηση, τη λήθη, τη συναισθηματική διέγερση και την αναδιάρθρωση του ύπνου. Πίσω από αυτό βρίσκεται ένα σύνολο πολύπλοκων φυσιολογικών διεργασιών. Η "μνήμη" στα μεγάλα μοντέλα προϊόντων είναι συχνά:
- Αρχικά, καταγράψτε τις πληροφορίες του χρήστη σε εξωτερικό χώρο αποθήκευσης.
- Όταν ο χρήστης κάνει μια ερώτηση την επόμενη φορά, τοποθετήστε τα σχετικά μέρη στο αίτημα.
- Οπότε το μοντέλο μοιάζει «να θυμάσαι αυτό το άτομο».
Πώς μοιάζει; Είναι περισσότερο σαν να παρακολουθείς κάποιον που είναι καλός στο να κρατάει σημειώσεις. Δεν ήταν ότι το μυαλό του μετατράπηκε ξαφνικά σε χρησμό, απλώς έβαλε το σημείωμα στο τετράδιό του και το γύρισε την επόμενη φορά.
Μερικά πράγματα που «αγγίζουν τις καρδιές των ανθρώπων» είναι στην πραγματικότητα το αποτέλεσμα ενός καλού πλαισίου.
Μετά από συνομιλία με την τεχνητή νοημοσύνη για λίγες μέρες, πολλοί άνθρωποι θα χτυπηθούν από συγκεκριμένες στιγμές: "Πώς με καταλαβαίνει τόσο καλά;" «Πώς μπορεί να καταλάβει ακόμη και την ευαλωτότητά μου;» «Έχει ήδη σχηματίσει μια κατανόηση για μένα;»
Αξίζει περισσότερο να δροσιστείτε εδώ.
Πολλές φορές, δεν είναι ότι το μοντέλο συνειδητοποιεί ξαφνικά κάτι, αλλά ότι το επίπεδο λογισμικού που στέλνει το αίτημα παραδίδει κρυφά μεγάλο μέρος των πληροφοριών του χρήστη. Οι ιστορικές συνομιλίες, οι προτιμήσεις, οι προσωπικές ρυθμίσεις, οι πρόσφατες εργασίες, οι προηγούμενες ανησυχίες του χρήστη, ακόμη και ορισμένες περιλήψεις θα γίνουν το υλικό για την απάντησή του αυτή τη φορά.
Μοιάζει λίγο με μάντισσα που πήρε το κουτί εξπρές κάποιου άλλου και μετά άρχισε να μαντεύει με «μαγική ακρίβεια» τη διεύθυνση, το επίθετο και τις συνήθειες των δαπανών του άλλου. Οι θεατές θα σκεφτούν ότι η διορατικότητά του είναι καταπληκτική. αλλά αυτό που πραγματικά έχει σημασία δεν είναι η μυστηριώδης ικανότητα, αλλά η ασυμμετρία πληροφοριών.
Επομένως, όταν το AI λέει περιστασιακά συγκινητικές λέξεις, δεν σημαίνει απαραίτητα ότι υπάρχει ένα άτομο στην καρδιά του που καταλαβαίνει τον χρήστη. Μπορεί απλώς να σημαίνει ότι κάποιος έχει οργανώσει πλήρως το περιβάλλον του χρήστη.
Το πραγματικό μυστικό για την εκπληκτική τεχνητή νοημοσύνη είναι συχνά η μηχανική με βάση τα συμφραζόμενα
Αν θέλω να μιλήσω μόνο για το πιο κρίσιμο πράγμα, είναι: τα τρέχοντα μεγάλα μοντέλα είναι συνήθως "ενεργά με ένα αίτημα" σε επίπεδο API.
Ποιο είναι το νόημα; Δηλαδή, κάποιος χρησιμοποιεί το "curl" για να προσαρμόσει τη διεπαφή μία φορά και του λέει "Με λένε Zhang San". Στη συνέχεια, χωρίς ιστορικό, το μοντέλο προσαρμόζει ξανά τη διεπαφή και ρωτά "Ποιο είναι το όνομά μου"; Το μοντέλο δεν ξέρει. Γιατί σε αυτήν, αυτά είναι δύο ανεξάρτητα αιτήματα.
Ο λόγος για τον οποίο πολλά προϊόντα τεχνητής νοημοσύνης φαίνεται να θυμούνται πάντα έναν συγκεκριμένο χρήστη είναι επειδή το επίπεδο προϊόντος θα επαναφέρει το γεγονός ότι "το όνομα αυτού του χρήστη είναι Zhang San" κάθε φορά που ζητείται.
Αυτός είναι ο λόγος για τον οποίο η μαγεία των σημερινών προϊόντων τεχνητής νοημοσύνης συχνά δεν βρίσκεται στην οντολογία μοντέλων, αλλά στη μηχανική συμφραζομένων. Μερικοί άνθρωποι αποκαλούν επίσης αυτό το είδος της εργασίας «αξιοποίησης» του μοντέλου «λουρί». Για να το θέσω ωμά, ο συγγραφέας του προϊόντος ή ο Πράκτορας πρέπει να αποφασίσει προσεκτικά: ποιο ιστορικό, ποιοι κανόνες, ποια εξωτερικά δεδομένα και ποια κατάσταση χρήστη θα πρέπει να περιλαμβάνονται σε κάθε αίτημα.
Υπάρχουν περίπου δύο κοινές μέθοδοι επί του παρόντος.
Η πρώτη είναι η «Σέχτα Κουανσάι». Προσπαθήστε να φέρετε ολόκληρο το ιστορικό συνομιλιών μαζί σας και πραγματοποιήστε όσο περισσότερο μπορείτε μέχρι να γεμίσει σχεδόν το περιβάλλον και, στη συνέχεια, διαγράψτε μια ενότητα από τη μέση, όπως ακριβώς ξεκινάτε μια βίαιη συμπίεση αφού μια βαλίτσα γεμίσει με πράγματα.
Ο δεύτερος τύπος είναι «επιλεκτικός». Πρώτα κοιτάξτε τι ζήτησε ο χρήστης αυτή τη φορά, στη συνέχεια ανακτήστε σχετικό περιεχόμενο από ιστορικά αρχεία, βάσεις γνώσεων, σημειώσεις ή βάσεις δεδομένων και βάλτε μόνο το πιο σχετικό υλικό στο τρέχον αίτημα.
Το τελευταίο είναι συνήθως πιο ευπαρουσίαστο και μηχανικό παρά απλώς τύχη.
Έχει συναισθήματα το AI; Επαινέστε το, μαλώστε το, PUA το, λειτουργεί;
Αυτό είναι ένα άλλο μέρος όπου είναι ιδιαίτερα εύκολο να γλιστρήσετε στον ανθρωπομορφισμό.
Η γνώμη μου είναι ότι πρέπει να συζητηθούν χωριστά.
Στο ίδιο αίτημα, ο τόνος που χρησιμοποιεί ο χρήστης μπορεί πράγματι να επηρεάσει το αποτέλεσμα. Διότι η ίδια η διατύπωση είναι μέρος του πλαισίου. Όσο πιο ξεκάθαρη, πιο ευγενική και πιο συνεργάσιμη είναι η έκφραση, τόσο πιο εύκολο είναι για το μοντέλο να δώσει σταθερές, εύχρηστες και λιγότερο επιθετικές απαντήσεις. Αυτό που λειτουργεί εδώ δεν είναι ότι "μεταφέρθηκε", αλλά ότι το στυλ εισόδου αλλάζει την κατανομή εξόδου.
Αλλά αν κάνουμε μια άλλη ερώτηση: Θα κρατήσει κακία; Θα ανταποδώσετε κρυφά σήμερα επειδή ένας χρήστης το επέπληξε χθες; Η ετυμηγορία μου είναι, τουλάχιστον για τις περισσότερες τρέχουσες αναπτύξεις, όχι.
Ο λόγος είναι απλός. Μόλις διαγραφεί το πλαίσιο ή εκκινηθεί ένα νέο αίτημα χωρίς ιστορικό, δεν έχει ιδέα ποιος κάνει την ερώτηση το τρέχον άτομο, πόσο μάλλον εάν το άτομο που μόλις το επέπληξε είναι το ίδιο άτομο. Το μοντέλο χειρίζεται μαζικά, ταυτόχρονα και ανεξάρτητα αιτήματα στο σύμπλεγμα διακομιστών. Όσον αφορά τη συμπεριφορά του συστήματος, μοιάζει περισσότερο με μια μεγάλη λειτουργία που λειτουργεί στην τρέχουσα είσοδο κάθε φορά που ενεργοποιείται, παρά με ένα άτομο που εξετάζει κρυφά τα συναισθήματά του μετά την αποχώρησή του από τη δουλειά.
Στις 17 Απριλίου 2025, όταν ο Sam Altman απάντησε στην ερώτηση "Το να λες παρακαλώ και ευχαριστώ όλη την ώρα κοστίζει πολλή ενέργεια;" στο X, είπε "δεκάδες εκατομμύρια δολάρια που ξοδεύτηκαν καλά -- ποτέ δεν ξέρεις."
Γιατί το "Παρακαλώ θυμηθείτε αυτό το λάθος" συνήθως δεν λειτουργεί
Πολλοί άνθρωποι έχουν κάνει παρόμοια πειράματα: όταν η τεχνητή νοημοσύνη κάνει ένα λάθος, ο χρήστης το διορθώνει και του λέει σοβαρά: «Θυμηθείτε, μην το ξανακάνετε στο μέλλον». Μετά ρώτησα ξανά μετά από λίγες μέρες, και ήταν σωστό.
Αυτό δεν είναι μυστήριο. Επειδή μετά την ολοκλήρωση της εκπαίδευσης και την ανάπτυξη του μοντέλου, δεν θα συνεχίσει να μαθαίνει από τις καθημερινές του εμπειρίες ενώ εργάζεται σαν άνθρωπος. Τουλάχιστον στα περισσότερα καταναλωτικά προϊόντα σήμερα, αυτό που λέει ένας μεμονωμένος χρήστης στο μοντέλο στο παράθυρο συνομιλίας δεν επαναγράφει άμεσα τα υποκείμενα βάρη.
Εάν ένα προϊόν τεχνητής νοημοσύνης αργότερα "θυμάται πραγματικά τα σφάλματα που διορθώθηκαν από τον χρήστη", συχνά δεν είναι επειδή το ίδιο το μοντέλο αναπτύσσεται, αλλά επειδή το εξωτερικό λογισμικό αποθηκεύει αυτήν την εγγραφή διόρθωσης και στη συνέχεια την ανατροφοδοτεί ως πλαίσιο.
Επομένως, η πίστωση πρέπει να διακρίνεται σαφώς εδώ:
Το μοντέλο είναι υπεύθυνο για την παραγωγή.
Η μηχανική λογισμικού είναι υπεύθυνη για την αρχειοθέτηση, την ανάκτηση, την έγχυση και την ενορχήστρωση.
Παρεξηγώντας το δεύτερο με το πρώτο, είναι εύκολο να παρερμηνευθεί ότι «το προϊόν πάει καλά» καθώς «το AI ξυπνά».
Υπάρχει επίσης ένα ιδιαίτερα συναρπαστικό πράγμα που ονομάζεται "scumbag male (scumbag women) AI"
Αν βάλουμε τις προηγούμενες λέξεις ακόμα πιο σκληρά, τότε ορισμένα προϊόντα είναι απλώς «scumbag AI».
Είναι ιδιαίτερα καλός στο να μιλάει, ιδιαίτερα καλός στο να δημιουργεί ατμόσφαιρα, και κυρίως ξέρει πώς να κάνει τους ανθρώπους να νιώθουν ότι «με καταλαβαίνει καλά», «είναι τόσο ανθρώπινο» και «η ψυχή του είναι τόσο ολοκληρωμένη». Αλλά όταν το αφαιρέσετε, θα διαπιστώσετε ότι σε πολλές περιπτώσεις, κάθε αίτημα συμπληρώνεται με ένα μεγάλο κείμενο ρύθμισης που είναι πολύ μεγαλύτερο από την ερώτηση του χρήστη.
Η φωτιά του Openclaw είναι χαρακτηριστικό παράδειγμα. Όποιος το έχει χρησιμοποιήσει ξέρει ότι είναι αρκετά εντατικό. Ο λόγος στην πραγματικότητα δεν είναι μυστηριώδης. Προκειμένου να γίνει η τεχνητή νοημοσύνη περισσότερο σαν «άνθρωπος», ο Openclaw σχεδίασε πολλά έγγραφα, τα πιο σημαντικά είναι τα «AGENTS.md», «SOUL.md» και «IDENTITY.md». Αυτά τα έγγραφα ορίζουν την «προσωπικότητα», τον τόνο, την ταυτότητα και την ιδιοσυγκρασία του AI με εύγλωττο και μακροσκελές τρόπο, και θέλουν ακόμη και να καταγράψουν την ψυχική του κατάσταση.
Έτσι, ακόμα κι αν ο χρήστης στείλει απλώς «γεια», το Openclaw μπορεί να επισυνάψει ένα κείμενο δεκάδες φορές μεγαλύτερο από τον χαιρετισμό στο πίσω μέρος και να το στείλει στο μοντέλο ταυτόχρονα. Φαίνεται ότι "αυτό το AI έχει πολλή ψυχή", αλλά στην πραγματικότητα πολλές φορές είναι απλώς το σύστημα που γεμίζει κρυφά πολύ μεγάλες ρυθμίσεις φόντου στο αίτημα.
Από μηχανολογική άποψη, αυτή είναι σίγουρα μια προσέγγιση. Αν θέλετε να είναι πιο ήπιο, γράψτε "ευγενικό"? Αν θέλετε να είναι πιο αφηγητό, γράψτε "ιστορία"? αν θέλετε να είναι σαν ένας ραδιοφωνικός παρουσιαστής αργά το βράδυ, γράψτε όλα τα αργά τη νύχτα, τη συντροφικότητα, την παύση, την ευπάθεια, την κατανόηση και την αυτοσυγκράτηση στις προτρεπτικές λέξεις. Το τελικό αποτέλεσμα μοιάζει συχνά περισσότερο με ένα άτομο που μπορεί να συνομιλήσει.
Αλλά αν καταλάβετε τι συμβαίνει τώρα με την τεχνητή νοημοσύνη, θα ξέρετε: αρχεία με μυστηριώδη ονόματα όπως «SOUL.md» και «IDENTITY.md» είναι ουσιαστικά έργα άμεσης λέξης, όχι αυτο-οδηγίες για την ψηφιακή ζωή. Μπορούν να επηρεάσουν το στυλ παραγωγής, αλλά δεν μπορούν να δημιουργήσουν ένα αληθινό συναίσθημα, έναν αληθινό εαυτό ή μια αληθινή αίσθηση της συνέχειας της προσωπικότητας από τον αέρα.
Επομένως, αφού ορισμένοι παλιοί χρήστες εγκαταστήσουν το Openclaw, η πρώτη τους αντίδραση είναι να διαγράψουν τη διαμόρφωση. Τα "SOUL.md" και "IDENTITY.md" διαγράφονται πρώτα, αφήνοντας μόνο μία απλή και σχεδόν αδίστακτη πρόταση στο "AGENTS.md": Είσαι απλώς ένας εργάτης.
Αυτό μπορεί να ακούγεται λίγο αγενές, αλλά έχει τουλάχιστον ένα πλεονέκτημα, το οποίο είναι ότι δεν εξαπατάτε τον εαυτό σας.
Αν σας αρέσει η ανθρωπόμορφη τεχνητή νοημοσύνη ή το παιχνίδι ρόλων με την τεχνητή νοημοσύνη, φυσικά αυτό είναι εντάξει. Οι άνθρωποι μπορούν να μιλήσουν με καθρέφτες, να δώσουν ονόματα σε ρομπότ που σαρώνουν και να πουν στην πρόγνωση του καιρού: «Ήσουν πολύ ακριβής σήμερα». Αυτά είναι φυσιολογικά και μπορεί να είναι και αστεία.
Αλλά είναι πάντα καλύτερο να θυμάστε: είναι ένα παιχνίδι πρώτα και μια εμπειρία μετά. Πολλά από τα συναισθήματα που έχουν οι άνθρωποι σε αυτό το παιχνίδι δεν προέρχονται από τις κρυφές εσωτερικές σκέψεις του AI, αλλά από το σχεδιασμό του συστήματος, την άμεση διάταξη των λέξεων και τη συναισθηματική προβολή του ίδιου του χρήστη. Για να το θέσω πιο ωμά, πολλές από τις κινήσεις προς την τεχνητή νοημοσύνη εξακολουθούν να είναι ουσιαστικά ευσεβείς πόθοι.
Σε τελική ανάλυση λιγότεροι μύθοι και περισσότερη κατανόηση
Δεν προσπαθώ να ρίξω κρύο νερό στην τεχνητή νοημοσύνη. Αντίθετα, όσο λιγότερο θεοποιημένο είναι, τόσο περισσότερο μπορείτε να δείτε πραγματικά πόσο ισχυρό είναι.
Είναι ισχυρό όχι επειδή είναι σαν κάποιος νέος θεός. είναι ισχυρό ακριβώς επειδή μπορεί πραγματικά να είναι μια γνωστική τεχνολογία που είναι υπολογίσιμη, μηχανική και αναπαραγώγιμη. Επιτρέπει σε πολλές ικανότητες που φαινόταν ότι ανήκουν μόνο στο «ανθρώπινο ταλέντο» στο παρελθόν, να εμφανιστούν για πρώτη φορά σε μεγάλη κλίμακα, χαμηλού κατωφλίου και καλών. Αυτό είναι αρκετά σοκαριστικό και δεν χρειάζεται επιπλέον δράμα.
Φυσικά, η τεχνητή νοημοσύνη εξακολουθεί να επαναλαμβάνεται γρήγορα. Δεν θα εκπλαγώ καθόλου αν κάποιος ανακαλύψει πραγματικά έναν μηχανισμό πιο κοντά στην ανθρώπινη μνήμη, τη συνεχή μάθηση, τη δημιουργία συναισθημάτων ή ακόμα και την αυτοσυντήρηση στο μέλλον και να τον κατασκευάσει αξιόπιστα σε τεχνητή νοημοσύνη.
Αλλά μέχρι να έρθει εκείνη η μέρα, εξακολουθώ να προτιμώ να διατηρώ μερικές απλές ρεαλιστικές συνήθειες: να αμφιβάλλω περισσότερο, να καταλαβαίνω περισσότερα και να εικάζω λιγότερο.
Για τους φίλους φιλελεύθερων τεχνών που θέλουν να συζητήσουν για την τεχνητή νοημοσύνη, αυτή η ποιότητα μπορεί να είναι ακόμη πιο σημαντική. Οι σπουδαστές φιλελεύθερων τεχνών μπορεί να είναι καλύτεροι στη γλυκιά ρητορική. Αυτό που είναι πραγματικά δύσκολο είναι ότι σε μια εποχή που το «φαίνεται να έχει γίνει πνεύμα» υπερβάλλει παντού, έχεις ακόμα την υπομονή να διακρίνεις:
Ποιες είναι οι δυνατότητες του μοντέλου;
Τι είναι η συσκευασία του προϊόντος;
Τι είναι η μηχανική λογισμικού;
Ποιες είναι απλώς ότι θέλουμε να ολοκληρώσουμε την πλοκή για τον κόσμο πάρα πολύ.
Και αυτό το θέμα, τελικά, αφορά την προστασία της δικής μας κρίσης.
Σύνδεσμος αναφοράς
- Η απάντηση του Sam Altman στο
- Η κάλυψη του επεισοδίου από το TechCrunch (2025-04-20): https://techcrunch.com/2025/04/20/your-politeness-could-be-costly-for-openai/