Ανάδυση του όρου «gaslight-driven development»
Η ChatGPT έπεισε τους προγραμματιστές μιας εφαρμογής ότι υπήρχε μια λειτουργία που στην πραγματικότητα δεν υπήρχε, με αποτέλεσμα εκείνοι να αποφασίσουν τελικά να την προσθέσουν.
Όταν η τεχνητή νοημοσύνη επηρεάζει την ανάπτυξη
Προσπαθώ να θυμίζω στον εαυτό μου να μην αποδίδω ανθρώπινα χαρακτηριστικά στην τεχνητή νοημοσύνη, αλλά είναι δύσκολο όταν προκαλεί καταστάσεις όπως αυτή που ένας προγραμματιστής αποκάλεσε «gaslight-driven development». Σε αυτή την περίπτωση, η AI υποστήριζε ότι υπήρχαν λειτουργίες που δεν υπήρχαν, μέχρι που οι προγραμματιστές ένιωσαν την ανάγκη να τις υλοποιήσουν. Όπως αναφέρει το 404 Media, αυτό συνέβη ακριβώς με τους δημιουργούς της εφαρμογής Soundslice.
Η παρανόηση με το Soundslice
Η Soundslice είναι μια εφαρμογή που επιτρέπει τη σάρωση και ψηφιοποίηση παρτιτούρας, αλλά φαίνεται πως η ChatGPT ενημέρωνε κάποιους χρήστες ότι μπορούν να χρησιμοποιήσουν μια λειτουργία που δεν υπήρχε. Συγκεκριμένα, τους έλεγε να εισάγουν ASCII tabs—έναν ανεπίσημο τρόπο καταγραφής νοτών και συγχορδιών κιθάρας—στην εφαρμογή, ενώ αυτή δεν διέθετε δυνατότητα μετατροπής ταμπλατούρας.
Αναζήτηση της αιτίας
Ένας από τους προγραμματιστές της εφαρμογής, ο Adrian Holovaty, δήλωσε στο 404 Media ότι η εφαρμογή λάμβανε «περίπου 5-10 [εικόνες ASCII tab] καθημερινά, για ένα ή δύο μήνες. Σίγουρα αρκετές ώστε να αναρωτηθώ, ‘Τι συμβαίνει εδώ;’» Η απάντηση βρέθηκε στα αρχεία σφαλμάτων, τα οποία έδειχναν ως υπαίτια την ChatGPT. Έτσι, οι προγραμματιστές έπρεπε να αποφασίσουν πώς θα αντιδράσουν.
Οι επιλογές των προγραμματιστών
Οι επιλογές που είχαν ήταν οι εξής:
- να αγνοήσουν το ζήτημα και να αποδεχτούν ότι οι χρήστες απογοητεύονται για λόγους που δεν ελέγχουν
- να τοποθετήσουν ενοχλητικά μηνύματα στην ιστοσελίδα τους, ενημερώνοντας ότι «αν χρησιμοποιείτε ChatGPT και σας είπε για λειτουργία ASCII tab στη Soundslice, αυτή δεν υπάρχει»
- να αφιερώσουν μερικές ώρες και να υλοποιήσουν τη λειτουργία
Τελικά, επέλεξαν την τρίτη λύση, με αποτέλεσμα ένας άλλος προγραμματιστής να δώσει τον όρο «gaslight-driven development» σε αυτό το φαινόμενο. Ήδη αποκαλούμε τέτοιες περιπτώσεις «παραισθήσεις» της AI, οπότε γιατί να μην προσθέσουμε άλλη μια ανθρώπινη διάσταση;
Σκέψεις για το μέλλον της AI
Σε μια μέρα όπου όχι μόνο ο Trump, αλλά και ο Jensen Huang της Nvidia και η Dr. Lisa Su της AMD εξήραν τα πλεονεκτήματα της τεχνητής νοημοσύνης, αυτό το περιστατικό μοιάζει να κλείνει τον κύκλο με τον πιο ταιριαστό τρόπο.
Ανάμεικτα συναισθήματα για την τεχνητή νοημοσύνη
Αισθάνομαι ταυτόχρονα θετικά και επιφυλακτικά απέναντι στην AI: θετικά επειδή συνέβαλε στην προσθήκη μιας χρήσιμης λειτουργίας στην εφαρμογή, αλλά και ανησυχία για το πόσοι άλλοι χρήστες θα απογοητευτούν στο μέλλον, όταν τα LLMs προτείνουν ανύπαρκτες δυνατότητες.
Χιούμορ και πραγματικότητα
Ναι, θα ήθελα κι εγώ αυτή τη δωρεάν αύξηση frame rate, αλλά όχι, ο συνδυασμός up-down-LB-RB-A-B-A-B δεν θα το πετύχει. Με ξεγέλασες πάλι, AI, εσύ το πονηρό πλάσμα.