Νέα Δοκιμή του Muse από τη Microsoft
Νωρίτερα αυτό το μήνα, η Microsoft παρουσίασε μια νέα δημόσια δοκιμή του μοντέλου γενετικής AI για βιντεοπαιχνίδια, Muse. Η δοκιμή αυτή ήταν σημαντική: μια παικτική, διαδικτυακή “AI αναπαράσταση” του θρυλικού πρώτου προσώπου shooter Quake 2.
Ωστόσο, αντί να θεωρηθεί ως εντυπωσιακή επίδειξη της προόδου της Microsoft στην τεχνητή νοημοσύνη, η “Copilot gaming experience” του Quake 2 δέχθηκε σφοδρή κριτική από το κοινό, με πολλούς να την αποκαλούν “σκουπίδι”.
Η κριτική ήταν σχεδόν καθολική, με μέλη του κοινού να την περιγράφουν ως “αηδιαστική” και “σαν τρομακτική παράλυση ύπνου από Nyquil”, ενώ μια “κριτική” του Forbes την χαρακτήρισε “απαίσια”. Δημοσιογράφοι του gaming καταδίκασαν την αναφορά του The Verge, που είχε τίτλο “Η Microsoft δημιούργησε μια AI-γεννημένη έκδοση του Quake”, ως υπερβολικά πιστευτή, χαρακτηρίζοντας παρόμοιες αναφορές ως “ανεπίσημο PR”.
Ο Will Smith, τεχνολογικός blogger, προσέφερε μια πιο μετρημένη απάντηση, αλλά κατέληξε ότι είναι τελικά “μια τρικλοποδιά. Είναι διαδραστικό βίντεο, και ναι, είναι εντυπωσιακό, αλλά δεν αποτυπώνει τη μαγεία των αλληλοσυνδεόμενων συστημάτων που κάνουν το Quake 2 διασκεδαστικό το 2025, παρά το γεγονός ότι είναι σχεδόν 30 ετών.”
Όλα αυτά έρχονται μόλις λίγες εβδομάδες μετά την αρχική αποκάλυψη του Muse, που τότε παρουσίασε μη διαδραστικό αλλά παρόμοια ασαφές υλικό βασισμένο στο Bleeding Edge της Ninja Theory – και που έλαβε επίσης έντονη αντίδραση.
Η αρχική αποκάλυψη είχε και άλλα προβλήματα. Οι αντιδράσεις επικεντρώθηκαν στην ιδέα ότι το Muse θα χρησιμοποιηθεί για “ιδεολογία παιχνιδιού”, καθώς και στην φαινομενικά υπερβολική δήλωση του επικεφαλής του Xbox, Phil Spencer, ότι το Muse θα μπορούσε να “αλλάξει ριζικά τον τρόπο που διατηρούμε και βιώνουμε κλασικά παιχνίδια στο μέλλον”, κάνοντάς τα συμβατά με “οποιαδήποτε συσκευή”.
Υπάρχει έντονος σκεπτικισμός σχετικά με το τι μπορεί να κάνει το Muse AI, τι θα μπορούσε να κάνει και αν θα μπορούσε ποτέ να είναι χρήσιμο για οτιδήποτε.
Η αποκάλυψη ήταν μπερδεμένη. Την εποχή εκείνη, διευκρινίσαμε – με τη βοήθεια του ειδικού AI Dr Michael Cook – ότι το Muse δεν “δημιουργεί παιχνίδια”. Όπως εξήγησε ο Cook στο blog του, η ερευνητική εργασία που δημοσίευσε η Microsoft στο Nature μαζί με την αποκάλυψη αυτού του μοντέλου “δεν αφορά πραγματικά την ‘παραγωγή παιχνιδιού’ ή ‘ιδεών'”, αλλά “αυτούς τους ερευνητές που σκέφτονται τις επιπτώσεις του πώς οι άνθρωποι θα εργάζονται με αυτά τα εργαλεία.” Αλλά αυτό δεν σήμαινε ότι δεν υπήρχαν περιορισμοί και ανησυχίες. Για παράδειγμα, σχετικά με τα σχόλια του Spencer για τη διατήρηση, ο Cook σημείωσε: “Θα μπορούσα να ζητήσω από τον πεντάχρονο γιο του φίλου μου να σχεδιάσει μια εικόνα με κραγιόνι για το πώς νομίζει ότι φαίνεται η τελική σκηνή του Final Fantasy 8 και αυτό θα μετρούσε ως διατήρηση παιχνιδιού ενός είδους.”
Συνολικά, οδηγεί σε μια επιφανειακά παράξενη κατάσταση. Η Microsoft, μία από τις πλουσιότερες επιχειρήσεις στον κόσμο, επενδύει προφανώς τεράστια ποσά χρημάτων στην εργασία της ερευνητικής ομάδας Muse AI. Η ερευνητική ομάδα περιλαμβάνει αρκετούς ειδικούς, όπως ο Dr Sam Devlin και η επικεφαλής ερευνών Dr Katja Hofmann, που είναι γνωστοί και ευρέως αναφερόμενοι στον τομέα τους. Και τα πρώτα αποτελέσματα αυτής της έρευνας είναι κάτι που σχεδόν όλοι στη βιομηχανία φαίνεται να απεχθάνονται. Υπάρχει έντονος σκεπτικισμός σχετικά με το τι μπορεί να κάνει το Muse AI, τι θα μπορούσε να κάνει και αν θα μπορούσε ποτέ να είναι χρήσιμο για οτιδήποτε.
Αλλά τι συμβαίνει πραγματικά; Μπορεί η ερευνητική ομάδα πίσω από αυτό να προσφέρει πιο αξιόπιστες απαντήσεις; Και πώς, ακριβώς, θα πρέπει να αντιδράσουμε σε όλα αυτά;
Τι είναι το Muse;
Για να κατανοήσουμε, μίλησα με δύο από τους ανθρώπους που βρίσκονται στην καρδιά της συζήτησης γύρω από το Muse από την αποκάλυψή του: τους Drs Mike Cook και Katja Hofmann.
Ο Cook είναι ανώτερος λέκτορας στην επιστήμη υπολογιστών στο King’s College London και ειδικεύεται στην τεχνητή νοημοσύνη, συγκεκριμένα στη υπολογιστική δημιουργικότητα, τον αυτοματοποιημένο σχεδιασμό παιχνιδιών και την ανάλυση γενετικού λογισμικού. Έχουμε καλύψει τη δουλειά του στο Eurogamer αρκετές φορές τα τελευταία χρόνια, συμπεριλαμβανομένου ενός προγράμματος AI που δημιούργησε, του ANGELINA, το οποίο ήταν ικανό να δημιουργεί τα δικά του βιντεοπαιχνίδια το 2013, και την προσπάθειά του να δει αν θα μπορούσε να κερδίσει έναν game jam την επόμενη χρονιά. Μιλάει με την ήπια άμεση προσέγγιση ενός γρήγορου λέκτορα που δεν τον πειράζει αν δεν μπορείς να παρακολουθήσεις το υλικό, αρκεί να είσαι τουλάχιστον πρόθυμος να προσπαθήσεις.
Μιλώντας μαζί μου μετά την πρώτη αποκάλυψη του Muse, αλλά πριν τη δεύτερη που περιλάμβανε το Quake 2, ζήτησα από τον Cook να εξηγήσει τι συνέβαινε στα παραδείγματα του Bleeding Edge που μας δόθηκαν αρχικά. “Θα μπορούσες να το σκεφτείς ως εξής: αν έδειχνες στο ChatGPT μια εικόνα από ένα βιντεοπαιχνίδι και έλεγες, ‘Μπορείς να μου δείξεις ένα βίντεο για το τι θα συνέβαινε αν υπήρχε ένας εχθρός εδώ;’ και αυτό δημιουργεί ένα βίντεο που δείχνει τον παίκτη να παίζει από αυτή την εικόνα, αλλά με έναν εχθρό στην οθόνη,” λέει. Αυτό είναι μια “πολύ αδέξια” περίληψη, προσθέτει, “αλλά βασικά αυτό προσπαθούν να κάνουν.”
Το Bleeding Edge δεν κατάφερε να βρει κοινό, αλλά έπαιξε μεγάλο ρόλο στο έργο Muse της Microsoft.
Ένα βασικό σημείο που πρέπει να τονιστεί εδώ είναι, όπως λέει ο Cook, ότι “δημιουργεί εικόνες. Δεν δημιουργεί κώδικα ή οτιδήποτε άλλο.” Είναι μια σειρά εικόνων που σχηματίζουν ένα βίντεο, και αυτό το βίντεο είναι αυτό που ονομάζεται “καθορισμένο”, με όρους έρευνας AI. “Είναι καθορισμένο από εισόδους,” εξηγεί ο Cook, με τον ίδιο τρόπο που ένα εργαλείο δημιουργίας εικόνας όπως το Midjourney “είναι δημιουργία εικόνας καθορισμένη από κείμενο.” Αν πεις σε έναν AI δημιουργό εικόνας ότι θέλεις μια εικόνα από μια γάτα, για παράδειγμα, “δημιουργεί μια εικόνα και μετά κοιτάζει το κείμενο και λέει, αυτό δεν μπορεί να είναι οποιαδήποτε εικόνα; πρέπει να είναι μια εικόνα από μια γάτα.”
Με το Muse, αυτή η καθοριστικότητα είναι “όχι μόνο στο βίντεο ανθρώπων που παίζουν το παιχνίδι, αλλά και στα κουμπιά που πατούσαν.” Αυτό σημαίνει ότι όταν μιλάμε για τα ‘παίξιμα’ μοντέλα, όπως αυτή η τελευταία έκδοση του Muse, και το παρόμοια αμφιλεγόμενο Genie της Google, “κάνει δημιουργία βίντεο, αλλά μπορείς επίσης να πεις ‘Δημιούργησε το επόμενο καρέ του βίντεο αν πατιόταν το κουμπί άλματος,’ και θα το λάβει υπόψη όταν δημιουργεί το επόμενο καρέ.” Το βασικό σημείο εδώ είναι ότι όλα αυτά παραμένουν θεμελιωδώς προγνωστικά, με τον ίδιο τρόπο που τα μεγάλα γλωσσικά μοντέλα (LLMs) όπως το ChatGPT προβλέπουν τελικά ακολουθίες λέξεων με βάση τις προτροπές κειμένου σου.
Το Muse είναι ένα μοντέλο που δημιουργεί προσομοιωμένο βίντεο του βιντεοπαιχνιδιού στο οποίο έχει εκπαιδευτεί και προσομοιώνει την αλληλεπίδραση με αυτό το βίντεο.
Έθεσα την ίδια ερώτηση στον Hofmann, που είναι ανώτερη ερευνήτρια και επικεφαλής της ερευνητικής ομάδας παιχνιδιών της Microsoft. Μιλώντας ήσυχα, με ελαφρώς γερμανική προφορά, η Hofmann είναι ακριβής ομιλήτρια, μετράει τις λέξεις της σε συνδυασμό με την εμπειρία της ως δημόσιος εκπρόσωπος και την ενθουσιώδη ερευνήτρια που πιστεύει ακόμα στη δουλειά της. “Με απλά λόγια,” λέει, το πρώτο μοντέλο “δείχνει ότι μπορούμε να εκπαιδεύσουμε μια προσομοίωση AI ενός υπάρχοντος βιντεοπαιχνιδιού. Αυτό σημαίνει ότι αν εκπαιδεύσουμε ένα μοντέλο με τα οπτικά του παιχνιδιού και τις ενέργειες ελέγχου, μαθαίνουμε ένα μοντέλο που είναι ικανό να το προσομοιώνει.”
Έτσι, συνεχίζει, “δημιουργείς μια μικρή, παίξιμη σκηνή, που υποστηρίζεται μόνο κατά τη διάρκεια της επεξεργασίας από το μοντέλο,” με τον χρόνο επεξεργασίας να είναι η διάρκεια που χρειάζεται το μοντέλο για να επεξεργαστεί νέα, αόρατα δεδομένα και να κάνει προβλέψεις γι’ αυτά. Στην “πραγματική” έκδοση αυτού του μοντέλου, αυτό “επιτρέπει στους παίκτες να συνδέσουν τον ελεγκτή και να παίξουν μέσα στη φαντασία – ή να παίξουν μέσα στο μοντέλο.”
Με ακόμα πιο απλά λόγια, σκέψου το έτσι: το Muse είναι ένα μοντέλο που δημιουργεί προσομοιωμένο βίντεο του βιντεοπαιχνιδιού στο οποίο έχει εκπαιδευτεί, και προσομοιώνει την αλληλεπίδραση με αυτό το βίντεο προβλέποντας τι θα προκαλούσαν οι πατήσεις των κουμπιών σου σε αυτό το βίντεο, και στη συνέχεια αναπαράγοντας αυτές τις ενέργειες. Έτσι, αν, για παράδειγμα, όλα τα βίντεο του Bleeding Edge που χρησιμοποιήθηκαν ως δεδομένα εκπαίδευσης δείχνουν ότι όταν οι παίκτες σπρώχνουν το δεξί αναλογικό μοχλό προς τα πάνω στο Bleeding Edge, η κάμερα κοιτάζει προς τα πάνω, τότε όταν “παίζεις το μοντέλο”, σπρώχνοντας το αναλογικό μοχλό προς τα πάνω προκαλεί επίσης την προσομοιωμένη ροή βίντεο να κλίνει προς τα πάνω προς τον ουρανό.
Δημιουργεί το Muse βιντεοπαιχνίδια;
Όλη αυτή η έννοια του “παίξιμου” Muse εγείρει ένα ιδιαίτερα σημαντικό ερώτημα: δημιουργεί το Muse βιντεοπαιχνίδια; Η κατηγορηματική απάντηση και από τους Hofmann και Cook είναι, ουσιαστικά: όχι.
Για τον Cook, υπάρχει ένα ερώτημα σχετικά με το αν είναι καν ακριβές να περιγράφουμε το Muse, και παρόμοια μοντέλα όπως το Genie ή το Oasis, ως “παίξιμα” καθόλου. “Στο YouTube μπορείς να παρακολουθήσεις πανοραμικό βίντεο και να γυρίσεις το κεφάλι σου, αλλά αυτό δεν είναι “παίξιμο” βίντεο. Είναι απλώς ένα βίντεο που έχει κάποια αλληλεπίδραση.” Ταυτόχρονα, λέει, “αν σκεφτείς αυτές τις υπηρεσίες streaming όπου έπαιζες στο σπίτι και οι είσοδοι του πληκτρολογίου σου αποστέλλονταν σε έναν διακομιστή,” όπως π.χ. το Xbox Cloud Gaming, Nvidia GeForce Now, Amazon Luna ή το αποτυχημένο Google Stadia, “ο υπολογιστής σου απλώς σου έδειχνε βίντεο. Και το βίντεο ήταν κάπως καθορισμένο από τις εισόδους του πληκτρολογίου.”
Είναι καλύτερο να το σκεφτείς ως “βίντεο ενός 3D κόσμου, αλλά ο 3D κόσμος δεν υπάρχει πραγματικά.” Αν αυτό το αποκλείει ή όχι από το να είναι πραγματικά ένα παιχνίδι είναι θέμα συζήτησης. Όπως λέει ο Cook, “γίνεται λίγο φιλοσοφικό σε κάποιο σημείο.” (Ένα παράδειγμα μιας φυσικής επόμενης ερώτησης που είναι είτε συναρπαστική είτε απίστευτα βαρετή για σένα, ανάλογα με την προτίμησή σου: υπάρχει ένας κόσμος βιντεοπαιχνιδιού που ορίζεται από σταθερό κώδικα “υπάρχει”; Υπάρχει περισσότερο στον υπολογιστή σου από ότι σε έναν διακομιστή; Ή, όπως στην περίπτωση του Muse, ένας πολύ ασαφής, ασυνεπής κόσμος που δημιουργείται επί τόπου χωρίς καθόλου κώδικα;)
Αυτή είναι η αναπαράσταση του Quake 2 όπως δημιουργήθηκε από το Muse. Προφανώς υποφέρει σε σύγκριση με το αρχικό παιχνίδι, αλλά είναι αυτό πραγματικά το ζητούμενο;
Κατά τη διάρκεια της αρχικής μας συνομιλίας, η Hofmann επεκτάθηκε σε μια πρόσκληση να επισκεφτώ τα γραφεία της ερευνητικής ομάδας AI της Microsoft στο Cambridge για να δοκιμάσω μια δοκιμή του Muse αυτοπροσώπως. Εκεί, επεξήγησε περαιτέρω αυτή την έννοια του να “παίζεις το μοντέλο”, αντί της προσπάθειάς του να αναδημιουργήσει ένα παιχνίδι.
“Προσπαθούμε να μην το αναφέρουμε ως παιχνίδι, γιατί δεν είναι παιχνίδι,” μου λέει κατά τη διάρκεια της αυτοπρόσωπης δοκιμής, που αυτή τη φορά πραγματοποιείται μετά την αποκάλυψη της προσομοίωσης του Quake 2. “Σκεφτόμαστε το ‘παίζοντας το μοντέλο’, έτσι ώστε η εξερευνητική αλληλεπίδραση να κατανοήσει: Ποιες είναι οι περιορισμοί; Πού σπάει; Τι δεν λειτουργεί, τι λειτουργεί;” Για την Hofmann, είναι μια διαδικασία που θεωρεί “μαγευτική,” αν και αστειεύεται ότι αυτή η γοητεία μπορεί να είναι προορισμένη για μια πολύ συγκεκριμένη υποομάδα ερευνητών που μοιράζονται τον ενθουσιασμό της.
Στην πραγματικότητα, για την Hofmann, η δοκιμή των ορίων του πού σπάει το μοντέλο είναι σε πολλές περιπτώσεις μέρος του σκοπού της δημοσίευσης της δοκιμής του Quake 2, και πράγματι της δημιουργίας του εξαρχής. Το συγκρίνει ευνοϊκά με άλλες, μη διαδραστικές γενετικές AI, καθώς με την προσπάθεια αναπαραγωγής βιντεοπαιχνιδιών μπορείς απλώς να βρεις τα ελαττώματα πολύ πιο γρήγορα. “Αν αλληλεπιδράς με ένα chatbot, ποτέ δεν έχεις αυτή την άμεση εμπειρία του: μπορώ ουσιαστικά να δω πού λείπουν δεδομένα, ή πού κάνει λάθη. Εδώ, επειδή είμαστε τόσο συνδεδεμένοι με την 3D αλληλεπίδραση και την οπτική αλληλεπίδραση, έχουμε αυτή την άμεση εμπειρία του: μπορείς κυριολεκτικά να αποσφαλματώσεις το μοντέλο μπαίνοντας και παίζοντας μέσα σε αυτό το περιβάλλον,” λέει. “Και για μένα, αυτό είναι το κλειδί της γοητείας του τι μπορούμε να δείξουμε εδώ.”
Έχοντας “παίξει το μοντέλο” και εγώ μέσω της διαδικτυακής, browser-based δοκιμής του Quake 2 Copilot και ξανά αυτοπροσώπως, μέσω ενός ελεγκτή Xbox συνδεδεμένου με το λάπτοπ της Hofmann, αυτή η έννοια έχει μια αλήθεια. Έπαιξα μια ενημερωμένη έκδοση της προσομοίωσης βασισμένης στο Bleeding Edge μαζί με αυτή του Quake 2 – και οι δύο βασισμένες στο WHAMM (σημείωσε το δεύτερο M), που είναι η πιο πρόσφατη έκδοση που καθιστά δυνατή τη δοκιμή του Quake 2 – και δοκίμασα επίσης τη λειτουργία drag-and-drop προσθήκης αλληλεπιδραστικών αντικειμένων, πλατφορμών άλματος και εχθρών σε πραγματικό χρόνο.
Το Quake 2 Remastered είναι εκπληκτικό – Η τεχνική ανασκόπηση DF – Κάθε έκδοση δοκιμάστηκε
Είναι σημαντικό να διευκρινιστεί εκ των προτέρων ότι και οι δύο είναι, ως βιντεοπαιχνίδια, απολύτως απαίσια, για όλους τους πολλούς λόγους που έχουν ήδη αναλυθεί εκτενώς και με πολύ πιο ικανοποιητική γεύση αλλού από ό,τι θα μπορούσα ποτέ να φανταστώ: είναι θολά, αργά, εφιαλτικά μη-μέρη, που τρέχουν με εννέα καρέ ανά δευτερόλεπτο, κρίσιμα χωρίς πολύ σταθερή εσωτερική λογική, πόσο μάλλον νόημα ή πρόθεση. Είναι, με κάθε μέτρο παικτικότητας, μη παικτά.
Ωστόσο, αν αντιμετωπιστούν ως μια μορφή meta-game, όπου η πρόκληση δεν είναι μέσα στο παιχνίδι αλλά στην απλή προσπάθεια να το παίξεις επιτυχώς, υπάρχει τουλάχιστον κάτι νέο και ενδιαφέρον εδώ. Σε μια στιγμή του quasi-Quake 2, για παράδειγμα, βρέθηκα κολλημένος σε μια σκοτεινή, υποβρύχια μυστική περιοχή χωρίς προφανή τρόπο εξόδου, χωρίς βοήθεια από την αοριστία και την ασυνέπεια των οπτικών και των ελέγχων. Τότε συνειδητοποίησα ότι μπορούσα να “παίξω το μοντέλο” για να ξεφύγω, ουσιαστικά παίζοντας με τη μνήμη του 0.9 δευτερολέπτων κοιτάζοντας έναν σκοτεινό τοίχο για μια στιγμή, και στη συνέχεια γυρίζοντας πίσω για να ανακαλύψω ότι ο κόσμος είχε αλλάξει εντελώς και μια διαδρομή ήταν τώρα καθαρή.
Αυτά είναι, με τους δικούς τους τρόπους, οι τύποι σταθερών κανόνων που χρειαζόμαστε για να κάνουμε κάτι παιχνίδι, που μαθαίνονται με τον ίδιο τρόπο που μαθαίνουμε οποιοδήποτε άλλο μηχανισμό ή στιγμή εσωτερικής λογικής παιχνιδιού: αν κάνω Χ, το Υ συμβαίνει. Αυτό, τεχνικά, είναι ένα βιντεοπαιχνίδι. Και ίσως ένα ενδιαφέρον, αν μόνο λόγω της καινοτομίας και του πλαισίου του, με τον ίδιο τρόπο που μια εκκεντρική εγκατάσταση τέχνης μπορεί να είναι όταν αλληλεπιδράς μαζί της μία ή δύο φορές. Αλλά και πάλι, δεν είναι ιδιαίτερα καλό.
Αυτό συνδέεται επίσης με την φυσική επόμενη ερώτηση εδώ, που ρωτάει ποιο είναι το πραγματικό νόημα αυτού του μοντέλου και ποια μπορεί να είναι τα χρήσιμα ή μη χρήσιμα τελικά.
Ιδεολογία παιχνιδιού, διατήρηση ή κάτι άλλο: ποιος και τι είναι το Muse;
Αν η ερώτηση του αν οι συνθετικές δημιουργίες του Muse είναι βιντεοπαιχνίδια φαίνεται κάπως ασαφής, αυτή η επόμενη είναι όσο καθαρή όσο η λάσπη. Ποιος ή τι είναι πραγματικά το Muse; Και πάλι, αυτή η ερώτηση γρήγορα αποκτά φιλοσοφική μορφή μόλις αρχίσεις να την εξετάζεις, αλλά πριν φτάσουμε στη σοβαρή σκέψη, έχει νόημα να περάσουμε από τις προτεινόμενες χρήσεις που έχουν ήδη προταθεί μέχρι τώρα.
Μία από τις προεξέχουσες, και πιο εύκολα απορριπτέες, είναι αυτή η έννοια της διατήρησης που προβάλλει ο Phil Spencer. Είναι σημαντικό να σημειωθεί ότι η Hofmann ήταν σε εκείνο το ελαφρώς παράξενο, βίντεο κλήσης reveal με τον Spencer όταν το ανέφερε ως πιθανότητα. Τη ρώτησα αν θεωρούσε ότι ήταν μια πραγματικά εφικτή χρήση για το Muse, τώρα ή σε οποιοδήποτε σημείο στο μέλλον.
“Αυτό που βλέπω αυτή τη στιγμή είναι ότι έχουμε τόσες πολλές συζητήσεις για το τι θα μπορούσαν να είναι τα πιθανά σημεία επέκτασης σε πραγματικές εφαρμογές,” είπε, “και η διατήρηση παιχνιδιών έχει υπάρξει μία από αυτές που πολλοί άνθρωποι έχουν αναφέρει. Και μία που ο Phil, για παράδειγμα, ήταν ιδιαίτερα ενθουσιασμένος.”
Η διάσημη δοκιμή του Halo 2 E3 έχει στην πραγματικότητα διατηρηθεί και είναι παικτή σε PC. Αν το Muse είναι ποτέ ικανό να κάνει παρόμοια, είναι πολλά χρόνια μακριά.
Ωστόσο, συνέχισε, “βλέπω αυτό ως μία από τις ικανότητες του όχι κάτι που είναι, σε οποιαδήποτε πλήρη μορφή, εφικτό σήμερα. Μου αρέσει να το θεμελιώνω στο: τι είναι εφικτό σήμερα είναι ότι μπορώ να δημιουργήσω μια προσομοίωση ενός επιπέδου σε ένα παιχνίδι, που σου δίνει μια αίσθηση του να παίζεις μια έκδοση αυτού του παιχνιδιού, που δεν είναι ακριβώς όπως το πραγματικό παιχνίδι.”
“Η αίσθησή μου είναι ότι κατά τη διάρκεια της επόμενης δεκαετίας, αυτή η τεχνολογία θα ωριμάσει,” πρόσθεσε, σημειώνοντας ότι θεωρούσε “απόλυτα εφικτό” να πιστέψει ότι θα μπορούσε τελικά να είναι “ένας πολύ γενικός τρόπος” διατήρησης ενός βιντεοπαιχνιδιού σε κάποια μορφή. “Είμαι σίγουρη ότι δεν θα είναι ο μόνος. Αλλά το βλέπω. Το βλέπω ως κάτι που θα μπορούσε να είναι συναρπαστικό να εξερευνηθεί μαζί με άλλες περιοχές εφαρμογής.”
Ο Cook είναι κατηγορηματικός εδώ, εν τω μεταξύ. “Σκέψου το αγαπημένο σου παιχνίδι, και σκέψου το υλικό του που είναι στο YouTube,” είπε. “Αν επρόκειτο να μάθουμε το παιχνίδι με βάση αυτό το υλικό, τι πράγματα δεν φαίνονται πολύ συχνά; Τι πράγματα δεν φαίνονται καθόλου; Ίσως υπάρχουν μυστικά που κανείς δεν έχει βρει ποτέ. Σφάλματα, γκλίτσες.
“Και επίσης σε ίσως ένα πιο ανόητο επίπεδο – αλλά ακόμα σημαντικό να σκεφτείς – είναι πράγματα όπως όταν οι dataminers βρίσκουν κομμένο περιεχόμενο από το Elden Ring. Ή πώς αν κοιτάξεις σε πολύ παλιά παιχνίδια, μπορείς να βρεις σχόλια στον κώδικα από προγραμματιστές που εργάζονται στις 4:00 π.μ. και γράφουν μηνύματα στον κώδικα. Αυτό το υλικό προφανώς δεν μπορεί να κλειδώσει, δεν μπορεί να ανακτηθεί, γιατί ο υπολογιστής δεν μπορεί να το δει.”
Μια αναλογία που προσφέρει εδώ: “Το Globe Theatre που περνάω δεν είναι το πραγματικό Globe Theatre. Είναι ακόμα χρήσιμο που το χτίσαμε. Αλλά θα ήταν υπέροχο αν είχαμε και το πρωτότυπο.” Υποθετικά, προσθέτει, ακόμα κι αν αυτή η μέθοδος έφτανε “99 τοις εκατό του δρόμου εκεί, τελικά δεν είναι το ίδιο με το να καταγράψεις πραγματικά τη βάση κώδικα, για εκατομμύρια και έναν λόγους.”
Η επόμενη πρόταση εδώ φαίνεται λιγότερο κομμάτι εκτελεστικού αυτοσχεδιασμού και περισσότερο κεντρική στην κύρια πρόταση της Microsoft για το Muse: “ιδεολογία παιχνιδιού” – ένας μάλλον εταιρικός όρος για, ουσιαστικά, να σκέφτεσαι πράγματα που μπορείς να κάνεις σε ένα παιχνίδι. Το Muse προβάλλεται ρητά ως ένα πιθανό εργαλείο για να βοηθήσει σε αυτό, αλλά κρίσιμα, και όπως έχουμε ήδη διευκρινίσει, δεν προτείνει ιδέες ή εφευρίσκει το gameplay από μόνο του με οποιονδήποτε τρόπο.
“Υπάρχουν φιλοσοφικά ερωτήματα γύρω από: μπορούν τα μοντέλα να είναι δημιουργικά;” είπε η Hofmann, όταν της ζήτησα να διευκρινίσει. “Και είμαι αρκετά σίγουρη ότι δεν είναι. Έχω δει πολλή σύγχυση γύρω από αυτό στη βιβλιογραφία. Αλλά πλαισιώνοντας το Muse ως: είναι μια προσομοίωση ενός υπάρχοντος βιντεοπαιχνιδιού, νομίζω ότι τονίζει αρκετά ότι το μοντέλο από μόνο του δεν είναι δημιουργικό.”
“Δεν μπορώ να σου πω συγκεκριμένα ποια καινοτομία θα έρθει μετά την άλλη, αλλά έχει ανοίξει αυτόν τον τεράστιο, τεράστιο χώρο… Δεν μπορώ να δω το τέλος του πόσο μακριά θα μπορέσουμε να φτάσουμε με αυτό.”
Αυτό που η ερευνητική ομάδα προσπαθούσε να επιτύχει, μετά από συζητήσεις με προγραμματιστές εσωτερικά στη Microsoft, “ήταν ακριβώς να αποκαλύψει τις δυνατότητες του μοντέλου που θα μπορούσαν να ξεκλειδώσουν τη δημιουργικότητα των ανθρώπων.” Με άλλα λόγια, η ομάδα προσπαθεί να καταλάβει πώς μοντέλα όπως αυτό, αν γίνουν πιο γρήγορα, πιο αποδοτικά, πιο ακριβή και ούτω καθεξής, θα μπορούσαν να είναι χρήσιμα για τους ανθρώπινους προγραμματιστές στο μέλλον.
Σε αυτή την περίπτωση, επιστρέφει στην αρχική επίδειξη του Muse με το Bleeding Edge, όπου μπορούσες να σύρεις και να ρίξεις κάτι στο παιχνίδι – μια πλατφόρμα άλματος, ένα εκρηκτικό βαρέλι, έναν εχθρό – και στη συνέχεια να δεις γρήγορα πώς εξελίσσεται αυτό.
Είναι αυτό πραγματικά εφικτό ως μέθοδος σοβαρού πρωτοτύπου ιδεών παιχνιδιών, και ακόμα κι αν ήταν, θα ήταν πραγματικά χρήσιμο; Στην πρώτη ερώτηση, η Hofmann περιγράφει την έξοδο της τρέχουσας έκδοσης του μοντέλου ως “μη πλήρως λειτουργική” και προς το παρόν μόνο ως παράδειγμα “σημάτων ζωής”, αλλά παρά την πολλή σκεπτικιστική αντίληψη από το παρακολουθούν κοινό, η εμπιστοσύνη της στην ικανότητά του να βελτιωθεί φαίνεται σίγουρη.
Αυτή η εμπιστοσύνη βασίζεται σε αυτό που η Hofmann πιστεύει ότι είναι γνήσιες ανακαλύψεις σχετικά με το πώς μπορούν να λειτουργούν αυτά τα μοντέλα, εξηγεί, όπως η κατανόηση του “πώς μπορούμε να επιμεληθούμε δεδομένα για να δημιουργήσουμε – ή να εκπαιδεύσουμε – μοντέλα που αποτυπώνουν αυτές τις δομικές σχέσεις στα δεδομένα.” Με τον όρο “δομικές σχέσεις”, προσθέτει, εννοεί συγκεκριμένα “την κατανόηση του πώς αυτό το μοντέλο είναι ικανό να μεταφράσει μια εικόνα σε αριθμούς, και στη συνέχεια να μάθει πώς αυτοί οι αριθμοί σχετίζονται μεταξύ τους.” Με τους πιο απλούς όρους, η Hofmann πιστεύει ότι η ομάδα έχει μάθει πώς να είναι συγκεκριμένη με τα δεδομένα εκπαίδευσης με συγκεκριμένους τρόπους μπορεί να δώσει πολύ πιο αξιόπιστες εξόδους, και με λιγότερα δεδομένα που απαιτούνται.
Αυτή η νέα κατανόηση έχει “ανοίξει αυτόν τον πραγματικά μεγάλο χώρο γύρω από το πώς οι ειδικά επιμελημένες βάσεις δεδομένων και τα πολυτροπικά μοντέλα αλληλεπιδρούν μεταξύ τους, και τους τύπους δομών που είναι ικανοί να μάθουν.” Πότε αυτή η δυνατότητα θα γίνει πραγματικότητα για κάποιο είδους εργαλείο φιλικό προς τους προγραμματιστές για δοκιμή πλατφορμών άλματος; Υπάρχει “πολύς δρόμος,” λέει, αν και “δεν μπορώ να σου δώσω χρονοδιάγραμμα. Δεν μπορώ να σου πω συγκεκριμένα ποια καινοτομία θα έρθει μετά την άλλη, αλλά έχει ανοίξει αυτόν τον τεράστιο, τεράστιο χώρο… Δεν μπορώ να δω το τέλος του πόσο μακριά θα μπορέσουμε να φτάσουμε με αυτό.”
Αν αυτό μπορεί να είναι χρήσιμο για τους προγραμματιστές είναι ένα άλλο ζήτημα, ωστόσο. Ο Cook, από την πλευρά του, είναι ξανά σκεπτικός, προτείνοντας ότι πιο άμεσα χρήσιμες (και αποδοτικές) οδοί για αυτό το είδος εργαλείου μπορεί να βρεθούν στην ταχεία προσθήκη ενός splash των οπτικών ενός παιχνιδιού και άλλων λεπτομερειών στο τυπικό whiteboxing, ή προσθέτοντας νέες μορφές άμεσου, γρήγορου αυτόματου playtesting που δεν υπάρχουν αυτή τη στιγμή. “Οι ανθρώπινοι δοκιμαστές παιχνιδιών υπάρχουν,” λέει, “αλλά υπάρχουν κάποιες τεχνικές που απαιτούν να έχεις έναν αυτόματο δοκιμαστή παιχνιδιών.”
Ωστόσο, ο Cook είναι πρόθυμος να επαινέσει τη Microsoft για το ότι πραγματικά ζήτησε τη γνώμη πραγματικών προγραμματιστών παιχνιδιών, κάτι που η Hofmann επίσης επαναλαμβάνει. “Ένα από τα αγαπημένα μου πράγματα για την εργασία είναι ότι πραγματικά κάθισαν με προγραμματιστές και μίλησαν μαζί τους,” λέει ο Cook, “και συχνά μιλούσαν για προγραμματιστές που ήταν ήδη πολύ θετικοί για την τεχνολογία – αλλά ακόμα τους ρώτησαν: Πώς θα έμοιαζε μια ροή εργασίας που θα ήταν χρήσιμη για εσάς; Θεώρησα ότι αυτό ήταν πολύ σημαντικό και χρειαζόμαστε περισσότερα από αυτά τα πράγματα.”
Μια άλλη, σημαντική ερώτηση προκύπτει εδώ, όταν πρόκειται για την πρακτική εφαρμογή αυτού του είδους υποθετικού εργαλείου. Πώς θα μπορούσε ένας προγραμματιστής να χρησιμοποιήσει το Muse για να προσομοιώσει την προσθήκη ενός νέου μηχανισμού σε ένα παιχνίδι υπό ανάπτυξη, όταν κάτι τέτοιο απαιτεί επί του παρόντος την εκπαίδευση του Muse σε, όπως στην περίπτωση του Bleeding Edge, περίπου 7000 ώρες υλικού του ήδη ολοκληρωμένου παιχνιδιού;
Η Hofmann υποστηρίζει ότι η ομάδα έχει πράγματι σκεφτεί αυτό, και προέκυψε στις συζητήσεις που είχε η ερευνητική ομάδα με προγραμματιστές. “Κοιτάμε: υποθέτοντας ένα σενάριο όπου ας πούμε κάποιος έχει χτίσει το πρώτο επίπεδο ενός νέου παιχνιδιού που εργάζονται – πόσα λίγα δεδομένα μπορεί να χρειαστούν για να εκπαιδεύσουν ένα μοντέλο όπως αυτό;” Η ομάδα είναι “πολύ μακριά από την πλήρη έκδοση του να το κάνουμε πραγματικότητα,” είπε, “αλλά τώρα ξέρουμε ότι μπορούμε να τα καταφέρουμε με όσο το δυνατόν λιγότερες από περίπου 50 ώρες παιχνιδιού από ένα δεδομένο επίπεδο παιχνιδιού για να δημιουργήσουμε μια πραγματικά ωραία, συνεπή αναπαράσταση σε αυτό.”
Η ίδια η ύπαρξη τόσης αβεβαιότητας σχετικά με τις πιθανές χρήσεις του Muse, ωστόσο, οδηγεί σε μια άλλη, συχνά υποβληθείσα ερώτηση. Δεν γίνεται αυτό όλο πίσω-μπρος;
Αναζητώντας λύσεις πριν από τα προβλήματα – και το πρόβλημα της έρευνας δημόσια
“Μια λύση που αναζητά πρόβλημα” είναι μια κριτική που συχνά απευθύνεται σε όλα τα είδη AI εγχειρημάτων, ιδιαίτερα σε αυτά που σχετίζονται με τη γενετική AI. Σε πολλές περιπτώσεις φαίνεται απολύτως δικαιολογημένη. Τα AI-γεννημένα βίντεο και εικόνες, όπως αυτά που παράγονται από το Midjourney και το Sora, μέχρι στιγμής δεν έχουν βρει καμία πραγματική χρήση πέρα από την παραγωγή χαμηλής προσπάθειας memes, απαράδεκτης προπαγάνδας και παραπληροφόρησης, ή ομόφωνης κριτικής κάθε φορά που χρησιμοποιούνται σε σχέση με ένα βιντεοπαιχνίδι.
Το γενετικό κείμενο, όπως το ChatGPT, έχει τα πάει καλύτερα όσον αφορά την απόκτηση εβδομαδιαίων χρηστών, που έχουν φτάσει εκατοντάδες εκατομμύρια, αλλά κακά όσον αφορά την πραγματική κερδοφορία από αυτό (η συντριπτική πλειοψηφία αυτών των χρηστών το χρησιμοποιεί δωρεάν, και η χρήση του κοστίζει στην OpenAI ένα τεράστιο ποσό χρημάτων). Οι κύριες χρήσεις του γενετικού AI κειμένου φαίνεται να παραμένουν η βοήθεια σε Instagram influencers και spammers να γεμίζουν γρήγορα περιττές λεζάντες εικόνας για να “παίξουν” με τον αλγόριθμο, εν τω μεταξύ, ή να διαταράσσουν πιο αξιόπιστα αποτελέσματα αναζήτησης Google με πολύτιμες συμβουλές όπως το να τρως πέτρες για καλή υγεία.
Φυσικά, αυτή η ίδια κριτική απευθύνθηκε ξανά στο Muse μετά την αποκάλυψη της δοκιμής του Quake 2. Ο Sos Sosowski, ένας indie προγραμματιστής, εξέδωσε μία από τις πιο ευρέως διαδεδομένες απορρίψεις στο BlueSky με ακριβώς αυτό. “Αυτό είναι πολύ εντός της τάσης [της] AI,” έγραψε. “Μια λύση που αναζητά πρόβλημα. Είναι άλλη μία σε μια σειρά από ‘αποκαλύψεις’ που είναι γεμάτες σφάλματα και κατεστραμμένες.”
Η AI, όταν χρησιμοποιείται στα μέσα ή στα βιντεοπαιχνίδια, γενικά δέχεται σφοδρές αντιδράσεις από τους θαυμαστές και τους καταναλωτές. Το τρέιλερ για το Ark Aquatica το ανακάλυψε αυτό τον Μάρτιο.
Συζητώντας με τους Cook και Hofmann, οι οποίοι εργάζονται σε πολύ διαφορετικούς τομείς της ακαδημαϊκής έρευνας AI, ήμουν ιδιαίτερα περίεργος για αυτό. Πώς εξελίσσεται η πραγματική χρονολογία της έρευνας εδώ; Ποιανού ιδέα ήταν το Muse; Πώς ξεκίνησε ή άλλαξε με την πάροδο του χρόνου; Και είναι φυσιολογικό να γίνονται τα πράγματα με αυτόν τον τρόπο στον ακαδημαϊκό κόσμο, ερευνώντας την τεχνολογία πρώτα και να ανησυχείς για την εύρεση χρήσης της αργότερα;
“Αυτό που συνέβαινε παλιά στη Microsoft Research Cambridge – ήξερα κάποιον που εργαζόταν εκεί,” λέει ο Cook, “και συνήθιζε να αστειεύεται ότι ένιωθε πως η Microsoft δεν ήξερε ότι υπήρχε, και με καλό τρόπο. Γιατί δεν ρωτούσαν τι έκαναν με τα χρήματά τους, και έτσι οι ερευνητές εκεί θα έκαναν ό,τι τους ενδιέφερε και περνούσαν υπέροχα.”
Η μία εξαίρεση σε αυτό; “Η ομάδα Xbox που ήταν εκεί – και νομίζω ότι με την πάροδο του χρόνου, υπήρξε περισσότερη επιτήρηση για το τι κάνουν οι ομάδες AI.”
Έχει μερικές προτάσεις για το πώς μπορεί να προέκυψε αυτή η αρχική έρευνα. Μερικές φορές, εξηγεί, “ιδέες όπως αυτή γεννιούνται από έναν μόνο ερευνητή ή μια ημέρα hackathon, ή μια συζήτηση πάνω από καφέ.” Επίσης, “μπορεί να έχει γεννηθεί από κάτι πιο συγκεκριμένο,” όπως αν υπάρχει μια μεγάλη πηγή δεδομένων που είναι ήδη διαθέσιμη. “Έτσι είναι σαν: άκου, έχουμε 400.000 ώρες ανθρώπων που παίζουν αυτό το παιχνίδι, πρέπει να υπάρχει κάτι που μπορούμε να κάνουμε με αυτό.”
Έθεσα την ίδια ερώτηση στην Hofmann, η οποία από την πλευρά της προσέφερε μια λεπτομερή εξήγηση που φαίνεται να αντικατοπτρίζει αρκετά στενά μερικές από τις καλύτερες υποθέσεις του Cook. “Η Microsoft Research είναι αρκετά μοναδική, θα έλεγα, στο ότι είναι μια πολύ οργανωμένη ερευνητική οργάνωση από κάτω προς τα πάνω,” εξηγεί.
“Ο σκοπός μας είναι να προωθήσουμε την καινοτομία, να προωθήσουμε την τέχνη στον τομέα μας.” Σε πρακτικούς όρους, αυτό σημαίνει τη συνδυασμένη έρευνά τους στη μηχανική μάθηση με, για παράδειγμα, “την αξιοποίηση των πλούσιων δεδομένων που μπορούμε σε πολλές περιπτώσεις να αποκτήσουμε υπεύθυνα στα βιντεοπαιχνίδια, όπου μπορεί να μπορέσουμε να φτάσουμε σε μια κλίμακα ή ποικιλία που μπορεί να είναι πολύ, πολύ δύσκολη να συλλεχθεί σε οποιαδήποτε άλλη περιοχή εφαρμογής.” Αυτό θα είναι η θεωρία των readily-available δεδομένων, και σε αυτή την περίπτωση οφείλεται στη Συμφωνία Άδειας Τέλους Χρήστη (EULA) που συμφωνούν όλοι οι παίκτες όταν παίζουν παιχνίδια στο Xbox. Υπό αυτή τη συχνά παραμελημένη συμφωνία, το Xbox μπόρεσε να συλλέξει τα βίντεο δεδομένα του, για παράδειγμα, του παιχνιδιού Bleeding Edge που χρησιμοποίησε για να εκπαιδεύσει το μοντέλο του.
Αυτή η συνδυασμένη έρευνα και τα διαθέσιμα δεδομένα στη συνέχεια συγχωνεύονται με την “πολυτέλεια” της Microsoft να είναι μια μεγάλη, πολυδιάστατη εταιρεία. Αυτό δίνει στην ερευνητική ομάδα την “ευκαιρία να αλληλεπιδράσει με την υπόλοιπη εταιρεία και να δει τι σκέφτονται οι άνθρωποι,” όπως το θέτει η Hofmann, “και έτσι έχουμε αυτές τις τακτικές συζητήσεις με ανθρώπους στον τομέα των παιχνιδιών για να κατανοήσουμε ποιες είναι οι περιορισμοί, ποιες προκλήσεις αντιμετωπίζουν. Πού βλέπουν τα πράγματα να πηγαίνουν;” Η ερευνητική ομάδα αποφασίζει στη συνέχεια, “μέσα στην ομάδα”, πώς να κατευθύνει την έρευνά της. Σε αυτή την περίπτωση, η Hofmann λέει ότι η έννοια του να βοηθήσει με την “ιδεολογία” ήταν μία που προήλθε σχεδόν άμεσα από συζητήσεις με προγραμματιστές.
“Πολλοί από αυτούς ένιωθαν ότι επειδή η ανάπτυξη παιχνιδιών είναι τόσο ακριβή, και η πρωτοτυπία είναι ακριβή, όλοι όσοι το ανέφεραν ένιωθαν ότι δεν είχαν την πολυτέλεια να κάνουν αρκετή ιδεολογία και πρωτοτυπία – κάτι που θεωρούσαν ότι περιορίζει τη δημιουργικότητα του τι τελικά χτίστηκε,” εξήγησε.
Υπήρξαν στην πραγματικότητα “πολλές στιγμές” κατά τη διάρκεια του έργου όπου η ομάδα σχεδόν σταμάτησε την εργασία πάνω σε αυτό, με οποιαδήποτε περαιτέρω πρόοδο “σε ισορροπία”.
Όσον αφορά τη συγκεκριμένη χρονολογία, η Hofmann λέει ότι η ερευνητική ομάδα ξεκίνησε συζητήσεις με τη Ninja Theory από το 2018, όταν η Microsoft αγόρασε τον προγραμματιστή, εν μέρει επειδή οι δύο είναι απλώς και οι δύο βασισμένοι στο Cambridge. Η ομάδα εξέτασε διάφορες επιλογές, “πολύ με ανοιχτό, εξερευνητικό πνεύμα – οπότε δεν υπήρξε ποτέ προσδοκία ότι οποιαδήποτε από τις ενέργειές μας θα ενσωτωθούν πραγματικά στα παιχνίδια.” Η Ninja Theory προσέφερε στη συνέχεια τα δεδομένα παιχνιδιού που είχε συλλέξει υπό την EULA του Bleeding Edge στην ερευνητική ομάδα το 2020, τα δεδομένα ανωνυμοποιήθηκαν και εισήχθησαν, και η έρευνα συνεχίστηκε από εκεί.
Οι λεπτομέρειες του τι η ομάδα αποφάσισε να κάνει με αυτά τα δεδομένα, εν τω μεταξύ, δεν καθορίστηκαν πλήρως μέχρι το φθινόπωρο του 2022, όταν η Hofmann επέστρεψε από την άδεια μητρότητας σε έναν κόσμο όπου τα LLMs όπως το ChatGPT είχαν αρχίσει να αυξάνονται στη χρήση και την δημόσια συνείδηση. “Ο κόσμος είχε αλλάξει στην AI,” λέει, “με την έννοια ότι, ξαφνικά, ο ευρύς πληθυσμός ήξερε τι είναι τα γλωσσικά μοντέλα και τι μπορούν να κάνουν… και έτσι εμείς στην ομάδα κάναμε αυτό το βήμα πίσω και είπαμε, καλά, πώς επηρεάζει αυτό τη δουλειά μας; Ποιες είναι οι επόμενες προκλήσεις που μπορούμε να εξερευνήσουμε;” Τελικά, αποφάσισαν, “Λοιπόν, ξέρουμε τι λειτουργεί για τη γλώσσα, δεν θα ήταν υπέροχο να καταλάβουμε τι συμβαίνει όταν εκπαιδεύουμε σε μια μεγάλη ποσότητα πραγματικών δεδομένων παιχνιδιού ανθρώπων;”
Σημειωτέον, το Muse είναι στην πραγματικότητα ένα από τα δύο ερευνητικά έργα που εργάζονται παράλληλα από την ομάδα. Η ομάδα, που αποτελείται από περίπου 10 έως 15 ερευνητές, μπορεί συνήθως να φιλοξενήσει “ένα έως τρία” έργα ταυτόχρονα, είπε η Hofmann, με το Muse να είναι μια “συνεχιζόμενη προσπάθεια για το μεγαλύτερο μέρος δύο ετών,” και περισσότερα από τα μισά μέλη της ομάδας να εμπλέκονται για μεγάλο μέρος αυτού του χρόνου. Υπήρξαν στην πραγματικότητα “πολλές στιγμές” κατά τη διάρκεια του έργου όπου η ομάδα σχεδόν σταμάτησε την εργασία πάνω σε αυτό, με οποιαδήποτε περαιτέρω πρόοδο “σε ισορροπία” μέχρι την “τεράστια δημόσια αντίδραση” στην εργασία που δημοσιεύθηκε στο Nature στα τέλη Φεβρουαρίου που επέτρεψε στην ομάδα να συνεχίσει.
Για να επιστρέψουμε σε αυτή την κεντρική ερώτηση του αν είναι τυπική πρακτική να εργάζεσαι με αυτόν τον τρόπο, η απάντηση της Hofmann ήταν σαφής: πρώτον, ναι, είναι πράγματι φυσιολογικό. Και δεύτερον, κατά τη γνώμη της, η ερευνητική της ομάδα έδωσε στην πραγματικότητα περισσότερη έμφαση σε πρακτικές χρήσεις από ό,τι οι περισσότερες έρευνες αυτού του είδους συνήθως θα έκαναν.
“Σε ό,τι αφορά τη διαδικασία έρευνας, είναι πολύ συνηθισμένο να είναι καθαρά καθοδηγούμενη από περιέργεια,” είπε. “Και με πολλούς τρόπους, βλέπω το έργο μας ως παράδειγμα του να μην το κάνουμε με αυτόν τον τρόπο – που είναι ειρωνικό, γιατί πολλοί άνθρωποι δεν το βλέπουν αυτό. Ξεκινήσαμε από τεχνική περιέργεια, αλλά μόλις είδαμε σημάδια ζωής – ότι αυτό είναι ικανό να κάνει – συγκεντρώσαμε αυτή την διεπιστημονική ομάδα. Κάναμε την έρευνα χρηστών για να κατανοήσουμε ποιες θα ήταν οι δυνατότητες, πώς αυτό τελικά θα επέτρεπε συγκεκριμένες περιπτώσεις χρήσης, και στη συνέχεια εστιάζαμε ιδιαίτερα στην ιδεολογία και την πρώιμη πρωτοτυπία.
Αν η τεχνολογία είναι ακόμα σε τόσο πρώιμο στάδιο, γιατί να την δείξουμε στο κοινό τώρα;
Ενώ η Hofmann είναι σαφής σχετικά με τη σειρά στην οποία έχει εξελιχθεί η έρευνα, και το επίπεδο στο οποίο έχουν συμβουλευτεί τους προγραμματιστές κατά τη διάρκεια της πορείας, το ελέφαντας στο δωμάτιο είναι η ίδια η Microsoft. Η Microsoft είναι μία από τις μεγαλύτερες δημόσιες εταιρείες στον κόσμο, και μία που τυχαίνει να βρίσκεται σε έναν αγώνα εξοπλισμών με άλλους, AI-επικεντρωμένους τεχνολογικούς ανταγωνιστές, καθώς ο καθένας προσπαθεί να δικαιολογήσει – και να βρει έναν τρόπο να κερδίσει τελικά – από τις επενδύσεις τους.
Η OpenAI σημείωσε σημαντικές απώλειες 5 δισεκατομμυρίων δολαρίων πέρυσι και προβλέπεται να χάσει διπλάσιο ποσό το 2025 και τριπλάσιο το 2026. Στα τέλη Φεβρουαρίου αποκαλύφθηκε ότι η Microsoft είχε αποσυρθεί από νέες μισθώσεις κέντρων δεδομένων με χωρητικότητα ισχύος ισοδύναμη με το σύνολο του λειτουργικού IT φορτίου του Λονδίνου, ενδεχομένως υποδεικνύοντας έλλειψη ζήτησης για να καλύψει την προηγουμένως προγραμματισμένη προσφορά γενετικής AI.
Υπάρχει, προφανώς, ένα κίνητρο για τη Microsoft να αποκαλύψει νέα, συναρπαστικά πράγματα που μπορούν να γίνουν με τη γενετική AI το συντομότερο δυνατό. Όπως λέει ο Cook, ενώ το Muse “έχει κάποιες πραγματικά ενδιαφέρουσες ποιότητες” και υπάρχουν “πράγματα εκεί που θα μπορούσαν να είναι χρήσιμα για τους προγραμματιστές,” αυτά τα πράγματα δεν είναι πραγματικά το επίκεντρο του πώς παρουσιάστηκε η έρευνα από τη Microsoft στην αρχή. “Πολλή από την τοποθέτηση φαίνεται να είναι: να τοποθετήσεις τον εαυτό σου ως μια εταιρεία που χρησιμοποιεί AI και που επενδύει σε AI και που είναι στην κορυφή των προόδων AI. Φαίνεται να είναι θέμα μετόχων.”
Η αποκάλυψη του Muse στο Xbox Wire υποδείκνυε ότι οι άνθρωποι που παίζουν βιντεοπαιχνίδια θα έπρεπε να ενδιαφέρονται, αλλά προκάλεσε αντίκτυπο και προσέφερε λίγα όσον αφορά τα συγκεκριμένα οφέλη που να προσβλέπουν.
Για τον Cook, ο τρόπος που έχει παρουσιαστεί το Muse γενικά είναι ανησυχητικός. Για αυτόν, “υπάρχει διαφορά μεταξύ του τι προσπαθούσαν να επιτύχουν οι ερευνητές και του πώς το παρουσίασε η Microsoft – και σε αυτή την περίπτωση, το βρήκα πολύ έντονο. Πραγματικά ένιωσα ότι τους είχαν αφήσει να εκτεθούν μερικές φορές.”
Το έθεσα αυτό στην Hofmann – τόσο την ερώτηση του γιατί αποκαλύπτεται τόσο νωρίς στο κοινό, δεδομένης της “μη πλήρως λειτουργικής” φύσης του, όπως το είπε η ίδια η Hofmann, όσο και αν ένιωθε ότι η ομάδα είχε δυσκολευτεί να επικοινωνήσει τι είναι πραγματικά η έρευνά τους.
“Νομίζω ότι υπάρχουν τόσες πολλές απόψεις και κίνητρα για αυτό όσο έχουμε ανθρώπους στην ομάδα, και πιθανώς πολύ περισσότερα,” γέλασε η Hofmann, σχετικά με το να βγουν δημόσια νωρίς. “Μέρος αυτού προέρχεται από την ακαδημαϊκή κοινότητα έρευνας. Μέσα στην ακαδημαϊκή έρευνα, υπάρχει μια ώθηση και κίνητρο και συνειδητοποίηση ότι είναι σημαντικό να είμαστε όσο το δυνατόν πιο ανοιχτοί,” εξηγεί. “Πολλή έρευνα δεν φτάνει στα χέρια ανθρώπων όπου μπορούν να δοκιμάσουν κάτι τόσο γρήγορα… είπαμε, ‘Εντάξει: υπάρχει κάτι εδώ που έχει αυτή την πιθανότητα; Πολλή έρευνα δεν είναι πολύ προσβάσιμη από τη φύση της; Ας το βγάλουμε.'”
Ταυτόχρονα, η Hofmann συμφωνεί ότι θα ήταν “σε μεγάλο βαθμό ακριβές” να πει κανείς ότι υπήρξε κάποια δυσκολία στην κατάλληλη επικοινωνία του τι είναι το Muse. “Οι διδάγματα μας είναι πολύ γύρω από: πώς εξηγούμε τι συμβαίνει εδώ, ποια είναι η τεχνική ικανότητα; Πώς κάνουμε αυτό πολύ σαφές; Και με οτιδήποτε εξηγούμε, ποτέ δεν θα μπορέσουμε να φτάσουμε σε όλους, αλλά σίγουρα παρακολουθώ τη δραστηριότητα στα κοινωνικά μέσα και σημειώνω, εντάξει, εδώ είναι πού είναι η σύγχυση.”
Η Hofmann διατηρεί, ωστόσο, ότι παρόλο που υπάρχει ακόμα “πολλή σύγχυση γύρω από το τι είναι πραγματικά και ποιος είναι ο σκοπός, και πολλή συζήτηση γύρω από αυτό,” υπήρξε θετική ανατροφοδότηση για την ομάδα. “Ενδιαφέρον είναι ότι όλοι όσοι σχολίασαν την τεχνική επίτευξη το χαρακτήρισαν εντυπωσιακό, ή [ήταν] ακόμα πιο υπερβολικοί. Έτσι, σε τεχνικό επίπεδο είμαι πραγματικά ικανοποιημένη, γιατί οι άνθρωποι εκτιμούν την επίτευξη, που είναι φανταστικό.”
“Είμαστε πολύ σαφείς – προσπαθώντας να είμαστε πολύ σαφείς – ότι αυτό είναι μια τεχνική δοκιμή όπου σκοπεύουμε να δείξουμε τι γίνεται δυνατό και πώς προχωρά ο τομέας.”
Αυτό που είπε η Hofmann είναι ότι η επιτυχία του να βγουν νωρίς έχει αντίκτυπο στη συζήτηση. “Δεν είναι κάτι που συμβαίνει πολύ συχνά, ακόμα και σε μια εποχή όπου η έρευνα AI κινείται γρήγορα και οι άνθρωποι προχωρούν σε μια αρχείο λευκής εργασίας ή μια βίντεο επίδειξη,” λέει. Συνήθως, όταν οι ερευνητές δημοσιεύουν κάτι χρήσιμο, όπως μια εφαρμογή, τα μέλη του κοινού “αναμένουν ένα συγκεκριμένο επίπεδο φινιρίσματος προϊόντος, και είμαστε μεταξύ αυτών. Η τεχνολογία δεν είναι έτοιμη. Είμαστε πολύ σαφείς – προσπαθώντας να είμαστε πολύ σαφείς – ότι αυτό είναι μια τεχνική δοκιμή όπου σκοπεύουμε να δείξουμε τι γίνεται δυνατό και πώς προχωρά ο τομέας.”
Ο στόχος για αυτό, λέει, είναι τουλάχιστον “να δώσουμε στους ανθρώπους αυτό το υπόβαθρο” για να μπορέσουν στη συνέχεια να συγκρίνουν την πρόοδο στο μέλλον. “Ελπίζω ότι τελικά, όλα αυτά τα βήματα θα οδηγήσουν και στην κατανόηση του πώς να επικοινωνούμε αυτό πιο καθαρά, και στη συνέχεια και στο κοινό να έχει χτίσει κάποια από αυτή την κατανόηση που τους βοηθά να ερμηνεύσουν τι συμβαίνει εκεί.”
Πολλές ηθικές ανησυχίες, από την κατανάλωση ενέργειας μέχρι την προηγμένη ρομποτική
Για όλες τις μεγάλες ερωτήσεις και τους ελέφαντες στο δωμάτιο που έχουμε εξετάσει μέχρι τώρα, υπάρχει μια ακόμη ομάδα που είναι αναμφισβήτητα η μεγαλύτερη: οι πολλές ερωτήσεις ηθικής.
Όπως οποιοσδήποτε είναι ελαφρώς εξοικειωμένος με την AI, ιδιαίτερα τη γενετική AI, θα γνωρίζει ήδη, υπάρχουν αρκετά ηθικά ζητήματα που προκύπτουν δικαιολογημένα με κάθε συζήτηση. Το πρώτο από αυτά είναι το θέμα της λογοκλοπής – ή των πνευματικών δικαιωμάτων – που στην περίπτωση του Muse είναι ελαφρώς πιο εύκολο να παραμεριστεί. Η Microsoft κατέχει τον προγραμματιστή Ninja Theory του Bleeding Edge και επίσης το Quake 2, μέσω της Zenimax, και υπό την EULA έχει επομένως δικαιώματα στα βίντεο δεδομένα παιχνιδιού που χρησιμοποιήθηκαν ως δεδομένα εκπαίδευσης εδώ. (Αυτό που λέγεται, υπάρχουν φυσικά ηθικά ερωτήματα σχετικά με το αν είναι σωστό για τη Microsoft, ή οποιαδήποτε οντότητα, να επιβάλλει EULAs που συλλέγουν δεδομένα χρηστών κατά βούληση σε οποιονδήποτε θέλει να παίξει τα παιχνίδια τους. Και πράγματι για το αν είναι σωστό για τη Microsoft να κατέχει τόσο μεγάλο μερίδιο της βιομηχανίας παιχνιδιών σήμερα – αλλά αυτά είναι ερωτήματα για άλλη φορά.)
Πιο εφαρμόσιμο εδώ είναι το δεύτερο ουσιαστικό ερώτημα σχετικά με την ηθική της γενετικής AI, που είναι η περιβαλλοντική επίπτωση από την τεράστια ποσότητα ενέργειας που χρησιμοποιείται τόσο για την εκπαίδευση του μοντέλου, όσο και για τη χρήση του στην πράξη.
Η χρήση της AI επηρεάζει ανθρώπους μέσα και έξω από τη βιομηχανία βιντεοπαιχνιδιών, αλλά η επίδρασή της στον κόσμο που ζούμε είναι δυνητικά καταστροφική.
“Το κόστος ενέργειας είναι, θα έλεγα, περισσότερο από ό,τι θα ήθελες για μια πραγματική εμπειρία που απευθύνεται στους παίκτες,” είπε η Hofmann σχετικά με τη δοκιμή του Quake 2, όταν την ρώτησα γι’ αυτό. Αυτή η δημόσια δοκιμή χρησιμοποιεί GPU Nvidia H100 για την επεξεργασία, που η Hofmann περιγράφει ως “πολύ παρόμοια με ένα LLM, ή ένα chatbot,” όσον αφορά το κόστος ενέργειας, και παρόμοια και για τη διαδικασία εκπαίδευσης.
“Αυτό που με κάνει αισιόδοξη για το πού μπορούμε να προχωρήσουμε είναι, πρώτον, οι γνώσεις από τους τελευταίους δύο μήνες σχετικά με το πόσα λίγα δεδομένα, πόση λίγη εκπαίδευση, και πόσο μικρό μοντέλο θα μπορούσαμε να χρησιμοποιήσουμε,” προσθέτει, το οποίο ισχυρίζεται ότι είναι “πολύ μακριά από το τέλος” αυτή τη στιγμή. “Δεν έχουμε πραγματικά βελτιστοποιήσει αυτό για το κόστος επεξεργασίας, για παράδειγμα, ή για πιο αποδοτική εκπαίδευση.”
“Δεν μπορώ να σου πω πότε, αλλά είμαι σίγουρη ότι αυτό θα τρέξει σε έναν καταναλωτικό GPU, ή σε έναν NPU [νευρωνική μονάδα επεξεργασίας] σε ένα κινητό τηλέφωνο,” λέει, δίνοντας μια πρόχειρη εκτίμηση “λιγότερο από δύο χρόνια” μέχρι να είναι αυτό δυνατό όσον αφορά το κόστος επεξεργασίας. Όσον αφορά το κόστος εκπαίδευσης, “όσο περισσότερο μαθαίνουμε για το πώς να κάνουμε αυτά τα δεδομένα αποδοτικά, τόσο περισσότερο ανοίγουμε το δρόμο για κάτι που είναι πραγματικά δημοκρατικό στην πρόσβαση σε αυτό.” Ρώτησα την Hofmann αν γνώριζε τους συγκεκριμένους αριθμούς που εμπλέκονται όσον αφορά το τρέχον κόστος ενέργειας, είτε για την εκπαίδευση είτε για το “παίξιμο” του μοντέλου, στην οποία με παρέπεμψε στην PR της Microsoft. Η PR της Microsoft μας είπε ότι δεν είχαν τίποτα επιπλέον να μοιραστούν πέρα από όσα είχαν δημοσιευθεί μέσω του blog της εταιρείας.
Όσον αφορά τις ευρύτερες ηθικές ανησυχίες, αυτό είναι μακριά από το τελευταίο. Ο Cook, για παράδειγμα, προτείνει μια λιγότερο αναφερόμενη ανησυχία με την 3D βιντεοπαιχνίδι γενετικής AI πιο ευρέως: “Φαίνεται ότι είναι κάπως μια μακροχρόνια κίνηση προς την κατεύθυνση της ρομποτικής,” λέει. “Προφανώς πολλοί από αυτούς τους ερευνητές ενδιαφέρονται για αυτό το πράγμα για τον εαυτό τους,” σημειώνει, αλλά μεγάλες τεχνολογικές εταιρείες – συμπεριλαμβανομένων αυτών πέρα από τη Microsoft, όπως η Alphabet και η Meta – εξετάζουν τουλάχιστον εν μέρει την AI καθώς σχετίζεται με τα βιντεοπαιχνίδια συγκεκριμένα, λέει, επειδή “αυτά τα έργα έχουν δύο χαρακτηριστικά: λειτουργούν σε βίντεο δεδομένα; και χρειάζονται να έχουν κάποιο μοντέλο του κόσμου όταν γίνεται μια ενέργεια. Και αυτά τα δύο πράγματα είναι επίσης πολύ σημαντικά για τα ρομπότ.”
Διευκρινίζει αυτό, προσθέτοντας, “Ξέρω ότι η ομάδα του Muse, ενδιαφέρονται για τα παιχνίδια, είναι πραγματικά ενθουσιασμένοι με αυτό το πράγμα. Αλλά νομίζω ότι ένας από τους λόγους που βλέπουμε μεγάλες τεχνολογικές εταιρείες να επενδύουν περισσότερο σε αυτό το είδος μοντελοποίησης παιχνιδιών, και γιατί συχνά μιλούν γι’ αυτό ως “κόσμους” και τέτοια πράγματα, είναι επειδή τα παιχνίδια έχουν πάντα υπάρξει μια ερευνητική πλατφόρμα για άλλους σκοπούς.”
Λιγότερο υποθετικά, υπάρχει το πιο άμεσο γεγονός ότι, όπως λέει ο Cook, “για πολλές από τις προτάσεις εργαλείων που υποστηρίζονται από AI, η περίπτωση χρήσης τους φαίνεται ότι θα μείωνε την απασχόληση. Δεν φαίνεται να υπάρχει τρόπος να το αποφύγουμε αυτό.” Σε συνδυασμό με μια αυξανόμενη ανησυχία ότι οι διευθυντές βιντεοπαιχνιδιών μπορεί να εφαρμόζουν AI στους χώρους εργασίας τους με ένα μείγμα άγνοιας και αδεξιότητας – μια πρόσφατη αναφορά που βασίζεται σε μια χούφτα λογαριασμών ανέφερε ανώνυμους προγραμματιστές, με έναν να περιγράφει το AI ως “μια υπερβολικά αρνητική και απογοητευτική δύναμη” – υπάρχουν πολλοί λόγοι για αυτές τις ανησυχίες.
Όλα αυτά μαζί δημιουργούν ένα τρομακτικό μείγμα ηθικών, φιλοσοφικών, επιστημονικών και οικονομικών ερωτήσεων – που ίσως είναι αναμενόμενο, δεδομένης της ευρύτερης κατάστασης της AI και της φυσικής αντίδρασης του κοινού σε αυτή τη στιγμή. Όλα αυτά τα ζητήματα εντείνονται και περιπλέκονται από αυτή την πρακτική της ουσιαστικά εκτέλεσης επιστημονικής έρευνας μπροστά σε ένα ζωντανό κοινό, είτε από την καθαρή ιδεαλιστική προσβασιμότητα είτε, δεν μπορώ να βοηθήσω αλλά υποψιάζομαι, από την επιχειρηματική κίνηση να το κάνουν.
“Έτσι, με τη γενετική AI, η ερώτηση θα πρέπει να είναι απλώς: θέλουμε αυτό; Δεν χρειάζεται να κάνουμε τίποτα. Δεν χρειάζεται καν να φτιάξουμε παιχνίδια αν δεν θέλουμε. Μερικές φορές ξεχνάμε ότι έχουμε αυτή τη δύναμη.”
Για την Hofmann, παραμένει ένα έργο που, τουλάχιστον για εκείνη, είναι τόσο προσωπικά πολύτιμο όσο και οτιδήποτε άλλο. Ελπίζει ότι ανεξάρτητα από την τελική περίπτωση χρήσης, η έρευνα μπορεί “να προσθέσει στον πλούτο και την ποικιλία των διαδραστικών εμπειριών που είναι διαθέσιμες σε εμάς,” είτε μέσω της προσθήκης αυτών των ονειρικών (ή ίσως πιο ακριβώς για το προσεχές μέλλον: κάπως εφιαλτικών) στοιχείων μιας προσομοίωσης παιχνιδιού που δημιουργείται από AI απευθείας, ως κάποια μορφή επιπλέον μέσου καλλιτεχνικής έκφρασης, είτε απλώς βοηθώντας τους προγραμματιστές να σκεφτούν κάτι εντελώς διαφορετικό.
“Λατρεύω τα βιντεοπαιχνίδια; πρόσφατα επέστρεψα στο Quake 2,” γελάει, “έπαιξα πρόσφατα το Cocoon… δεν ορίζω τον εαυτό μου ως gamer, αλλά δεν υπάρχουν αρκετά παιχνίδια για να ικανοποιήσουν τον χρόνο που θα ήθελα να περάσω παίζοντας.” Για εκείνη, καταλήγει, “αν οι άνθρωποι είναι σε θέση να χρησιμοποιήσουν αυτό για να δημιουργήσουν κάτι που είναι σημαντικό για αυτούς, και υπάρχουν άνθρωποι που το απολαμβάνουν – αν μπορούσα να παίξω ρόλο σε αυτό, θα ήμουν ευτυχισμένη.”
Ένας συνάδελφος ερευνητής, έχω την αίσθηση ότι ο Cook παραμένει συμπονετικός προς την Hofmann και την ομάδα της, ακόμα κι αν οι στόχοι και η φύση της έρευνάς τους είναι αξιοσημείωτα διαφορετικοί. Τον ρωτώ κάπως ωμά, προς το τέλος της συνομιλίας μας, αν πιστεύει ότι οι άνθρωποι έχουν δίκιο να αντιδρούν τόσο σφοδρά σε ό,τι αποκάλυψε η Microsoft, ακόμα και με όλα τα προβλήματα επικοινωνίας, τις καλές προθέσεις και την δημόσια εκμάθηση στο μυαλό.
“Νομίζω ότι είναι δικαιολογημένο για αρκετούς λόγους,” λέει. “Ένας από τους λόγους είναι απλώς ότι οι άνθρωποι είναι τόσο εξαντλημένοι και πληγωμένοι από όλα όσα συμβαίνουν στον τομέα, που νομίζω ότι υπάρχει απλώς μια γενική αίσθηση θυμού και απελπισίας. Και νομίζω ότι αυτό είναι απολύτως κατανοητό.” Η βιομηχανία, φυσικά, έχει περάσει από μια παρατεταμένη περίοδο χωρίς προηγούμενο απολύσεων και γενικής αβεβαιότητας. Οι άνθρωποι που παραμένουν στη βιομηχανία μετά από όλα αυτά, όπως το θέτει ο Cook, “το κάνουν γιατί το αγαπούν πραγματικά και θέλουν να το κάνουν, και έτσι βλέποντας αυτή τη δημιουργική πρακτική που αγαπούν να αντιμετωπίζεται με έναν κάπως ασέβαστο τρόπο, τους πληγώνει επίσης. Δεν είναι μόνο θέμα ηθικής ή ηθικής ή οτιδήποτε άλλο. Αυτό είναι κάτι που τους ενδιαφέρει.”
Όταν πρόκειται για αυτή την πρακτική της δημόσιας επιστήμης, και πώς παρουσιάζονται αυτά τα ευρήματα, προσθέτει, “βλέπω ότι υπάρχει μια ευθύνη. Το κοινό δεν είναι ανόητο, αλλά μπορούν να εργαστούν μόνο με τις πληροφορίες που τους δίνονται, και συχνά τους δίνονται πραγματικά κακές πληροφορίες.”
“Και έτσι πρέπει να σκεφτούμε ότι η αντίδραση με αυτά τα ένστικτα έχει νόημα αυτή τη στιγμή; είναι το μόνο που έχουμε για να δουλέψουμε. Και στη συνέχεια, ελπίζουμε ότι με την πάροδο του χρόνου, στο μέλλον, μπορούμε να αρχίσουμε να χτίζουμε ξανά εμπιστοσύνη και να κατανοήσουμε τα κομμάτια της AI που θέλουμε να κρατήσουμε και που μας αρέσουν.”
Μια τελική, ξεχασμένη ερώτηση για τον Cook είναι επίσης η πιο σημαντική. “Όχι καν: κάνει τα παιχνίδια καλύτερα; αλλά θέλουν οι άνθρωποι αυτό; Και δεν χρειάζεται να το θέλουν – η τεχνολογία απορρίπτεται συνεχώς, για όλους τους λόγους,” λέει.
“Έτσι, με τη γενετική AI, η ερώτηση θα πρέπει να είναι απλώς: θέλουμε αυτό; Δεν χρειάζεται να κάνουμε τίποτα. Δεν χρειάζεται καν να φτιάξουμε παιχνίδια αν δεν θέλουμε. Μερικές φορές ξεχνάμε ότι έχουμε αυτή τη δύναμη; μπορούμε απλώς να μην έχουμε κάτι αν δεν το θέλουμε. Και έτσι οι παίκτες θα πρέπει να σκεφτούν περισσότερο: τι πραγματικά θέλουν από το μέλλον των παιχνιδιών; Γιατί μπορούν να θέλουν οτιδήποτε. Δεν χρειάζεται να θέλουν μόνο τα πράγματα που βλέπουν σε τεχνικές δοκιμές, στο E3. Μπορούν να χτίσουν όποιο μέλλον θέλουν στη βιομηχανία.”
[ Πηγή: Eurogamer ]
