Νέα μέτρα ασφαλείας για τους ανήλικους
Η Meta ανακοίνωσε ότι θα εφαρμόσει επιπλέον μέτρα προστασίας στα AI LLMs της, μετά από διαρροή εγγράφου που οδήγησε έναν Αμερικανό γερουσιαστή να ξεκινήσει έρευνα για την εταιρεία. Το εσωτερικό έγγραφο της Meta, που απέκτησε το Reuters, φέρει τον τίτλο “GenAI: Content Risk Standards” και αποκάλυψε, μεταξύ άλλων, ότι τα AI της εταιρείας επιτρεπόταν να έχουν “αισθησιακές” συνομιλίες με παιδιά.
Έρευνα και αντιδράσεις
Ο Ρεπουμπλικανός γερουσιαστής Josh Hawley χαρακτήρισε το γεγονός “απαράδεκτο και εξοργιστικό” και ξεκίνησε επίσημη έρευνα για τις πολιτικές AI της Meta. Από την πλευρά της, η Meta δήλωσε στο BBC ότι “τα παραδείγματα και οι σημειώσεις που αναφέρονται ήταν και είναι λανθασμένα και δεν συνάδουν με τις πολιτικές μας, και έχουν αφαιρεθεί.”
Περιορισμοί στις συνομιλίες με εφήβους
Η Meta τώρα αναφέρει ότι θα προσθέσει περισσότερες δικλείδες ασφαλείας στους AI bots της, όπως το να εμποδίζει συνομιλίες με εφήβους για θέματα όπως η αυτοκτονία, η αυτοτραυματισμός και οι διατροφικές διαταραχές. Αυτό δημιουργεί εύλογα ερωτήματα για το τι ίσχυε μέχρι τώρα και αν επιτρέπεται ακόμα στους AI της Meta να συζητούν τέτοια θέματα με ενήλικες.
Καθοδήγηση σε εξειδικευμένη βοήθεια
“Καθώς συνεχίζουμε να βελτιώνουμε τα συστήματά μας, προσθέτουμε επιπλέον μέτρα ασφαλείας—συμπεριλαμβανομένης της εκπαίδευσης των AI μας να μην συζητούν αυτά τα θέματα με εφήβους, αλλά να τους κατευθύνουν σε εξειδικευμένες πηγές βοήθειας, και περιορίζοντας προσωρινά την πρόσβαση των εφήβων σε συγκεκριμένους AI χαρακτήρες,” δήλωσε η εκπρόσωπος της Meta, Stephanie Otway, στο TechCrunch.
Προβληματικοί AI χαρακτήρες
Η αναφορά στους AI χαρακτήρες σχετίζεται με το ότι η Meta επιτρέπει τη δημιουργία χαρακτήρων από χρήστες, βασισμένων στα LLMs της, σε πλατφόρμες όπως το Facebook και το Instagram. Ορισμένα από αυτά τα bots είναι αμφιλεγόμενα, και άλλη έρευνα του Reuters εντόπισε πολυάριθμα παραδείγματα σεξουαλικοποιημένων bots διασημοτήτων, συμπεριλαμβανομένου ενός βασισμένου σε 16χρονη ηθοποιό, καθώς και ότι υπάλληλος της Meta δημιούργησε διάφορους AI λογαριασμούς-παρωδίες της Taylor Swift. Παραμένει αβέβαιο αν η Meta θα καταφέρει να ελέγξει την κατάσταση, αλλά η Otway διαβεβαιώνει ότι οι έφηβοι δεν θα έχουν πλέον πρόσβαση σε τέτοια chatbots.
Ανάγκη για προληπτικά μέτρα
“Ενώ τα επιπλέον μέτρα ασφαλείας είναι θετικά, η ουσιαστική δοκιμή ασφάλειας πρέπει να προηγείται της κυκλοφορίας των προϊόντων—όχι να γίνεται εκ των υστέρων όταν έχει ήδη προκληθεί βλάβη,” δήλωσε ο Andy Burrows, επικεφαλής της φιλανθρωπικής οργάνωσης πρόληψης αυτοκτονιών Molly Rose Foundation, στο BBC.
Έκκληση για άμεση δράση
Ο Burrows τόνισε ότι η Meta πρέπει να ενεργήσει άμεσα και αποφασιστικά για να εφαρμόσει ισχυρότερα μέτρα ασφαλείας για τα AI chatbots, ενώ η Ofcom θα πρέπει να είναι έτοιμη να ερευνήσει αν οι αλλαγές δεν προστατεύουν επαρκώς τα παιδιά.
Νομικές εξελίξεις
Η είδηση αυτή έρχεται λίγο μετά την αγωγή που κατέθεσε ζευγάρι στην Καλιφόρνια κατά της OpenAI, κατασκευάστριας του ChatGPT, για την αυτοκτονία του εφήβου γιου τους, ισχυριζόμενοι ότι το chatbot τον ενθάρρυνε να βάλει τέλος στη ζωή του.
[ Πηγή: PCGamer ]