Το πιο δημοφιλές βίντεο στο Sora
Το βίντεο με τη μεγαλύτερη απήχηση στη νέα εφαρμογή Sora της OpenAI δείχνει τον Sam Altman να κλέβει κάρτες γραφικών.
Κίνδυνοι από τη χρήση της εικόνας σου
Όταν δίνεις την εικόνα σου σε μια AI πλατφόρμα που δημιουργεί βίντεο από κείμενο, υπάρχουν και αρνητικές συνέπειες. Ένα από τα πιο αναμενόμενα προβλήματα είναι ότι οι χρήστες μπορούν να πάρουν τον έλεγχο της ψηφιακής σου μορφής και να φτιάξουν deepfakes όπου το ψηφιακό σου «αντίγραφο» διαπράττει εγκλήματα.
Η παρουσία του Sam Altman στο Sora 2
Η μορφή του CEO της OpenAI, Sam Altman, εμφανίζεται σε όλο το βίντεο ανακοίνωσης για το λανσάρισμα του Sora 2. Το σχετικό trailer δημιουργήθηκε εξ ολοκλήρου στο Sora 2, τοποθετώντας τον Altman σε ένα στούντιο φτιαγμένο από AI, σε ένα φανταστικό δάσος με νέον χρώματα, ακόμα και σε έναν αγώνα με τεράστιες πάπιες. Ωστόσο, το πιο δημοφιλές βίντεο στην εφαρμογή αυτή τη στιγμή φαίνεται να είναι ένα ψεύτικο βίντεο παρακολούθησης που δείχνει τον Sam Altman να κλέβει κάρτες γραφικών, σύμφωνα με τον ερευνητή της OpenAI Gabriel Petersson.
Νέες λειτουργίες και ανησυχίες
Το πιο πρόσφατο μοντέλο Sora κυκλοφόρησε σήμερα μαζί με μια ειδική εφαρμογή, με βασικό χαρακτηριστικό τη δυνατότητα να επεξεργάζεσαι δημιουργίες φίλων και να ανεβάζεις τη δική σου εικόνα σε AI βίντεο. Ο Altman αναφέρει ότι υπάρχουν ενσωματωμένες δικλείδες ασφαλείας για την αποτροπή κακής χρήσης της εικόνας κάποιου. Παρ’ όλα αυτά, το βίντεο όπου το ψηφιακό του «αντίγραφο» ακούγεται να λέει «Σε παρακαλώ, το χρειάζομαι για το Sora inference—αυτό το βίντεο είναι απίστευτο», κρατώντας μια κάρτα γραφικών, μιλάει από μόνο του.
Βελτιώσεις και αδυναμίες του Sora 2
Εκτός από τον νέο AI ήχο, το Sora 2 παρουσιάζει σαφείς βελτιώσεις σε σχέση με το πρώτο μοντέλο που κυκλοφόρησε πέρυσι. Παρ’ όλα αυτά, εξακολουθεί να δυσκολεύεται να αποδώσει σωστά το κείμενο. Για παράδειγμα, τα γράμματα στη στολή του φύλακα είναι παραμορφωμένα, ενώ το ψηφιακό «αντίγραφο» του Sam Altman φαίνεται να παίρνει εξοπλισμό από μια προθήκη με την ταμπέλα ‘gratics cards’.
Το χιούμορ πίσω από το βίντεο
Η ιδέα του Altman να κλέβει κάρτες γραφικών προκαλεί γέλιο, κυρίως επειδή θυμίζει ό,τι συμβαίνει σε μεγάλη κλίμακα για να εξοπλιστούν τα πραγματικά datacentres της OpenAI. Σύντομα, 10 gigawatts από Nvidia chips θα καταλήξουν στην OpenAI, αν και έχουν αγοραστεί από τους επενδυτές της εταιρείας, στους οποίους περιλαμβάνεται και η Nvidia. Πώς γίνεται αυτό;
Επικίνδυνα AI βίντεο και ανησυχίες
Αφήνοντας στην άκρη τα deepfakes με εγκληματική συμπεριφορά, προκαλεί ανησυχία το γεγονός ότι η OpenAI επιλέγει να παρουσιάσει τις δυνατότητες του Sora 2 με AI βίντεο που δείχνουν εξίσου παράτολμα και επικίνδυνα κατορθώματα. Δεν προσπαθώ να προκαλέσω ηθικό πανικό για το βίντεο όπου κάποιος ιππεύει δύο άλογα ταυτόχρονα, πέφτει και κυλάει σαν χαρακτήρας κινουμένων σχεδίων χωρίς να πάθει τίποτα.
Επιρροή σε νεαρούς θεατές
Περισσότερο με ανησυχεί το βίντεο όπου κάποιος κάνει ανάποδο άλμα με σανίδα στη θάλασσα—μια σκηνή που ίσως προσπαθήσουν να μιμηθούν νεότεροι θεατές. Η εφαρμογή Sora ξεκίνησε με γονικό έλεγχο μέσω ChatGPT. Αυτά τα εργαλεία επιτρέπουν στους γονείς να επιλέγουν για τον λογαριασμό του εφήβου τους:
- να λαμβάνει μη προσωποποιημένο περιεχόμενο
- να ορίζουν αν ο έφηβος μπορεί να στέλνει και να λαμβάνει άμεσα μηνύματα
- να ελέγχουν αν το feed εμφανίζεται χωρίς διακοπές κατά την περιήγηση
Έλλειψη διαφάνειας στα AI βίντεο
Ωστόσο, τα βίντεο του Sora 2 δεν φέρουν κάποιο υδατογράφημα που να δείχνει ότι είναι δημιουργημένα από AI, ούτε υπάρχει κάποια προειδοποίηση για να ενημερώσει, για παράδειγμα, έναν νεαρό θεατή ότι αυτά τα βίντεο, όσο ρεαλιστικά κι αν φαίνονται, δεν βασίζονται στην πραγματικότητα. Με πρόσφατη μελέτη της Microsoft να δείχνει ότι οι άνθρωποι δυσκολεύονται να αναγνωρίσουν AI εικόνες στο 62% των περιπτώσεων, ανησυχώ για το πώς τα βίντεο του Sora 2 θα μπορούσαν να διαδώσουν παραπληροφόρηση ή ακόμα και να χρησιμοποιηθούν για παρενόχληση και εκφοβισμό.