Τα πιο πρόσφατα και ισχυρά AI υπερυπολογιστικά συστήματα ενισχύουν το cloud AI της CoreWeave
Μερικοί από τους πιο σύγχρονους και δυνατούς AI υπερυπολογιστές στον κόσμο εντάχθηκαν πρόσφατα στην υπηρεσία cloud AI της CoreWeave. Σύμφωνα με το Tom’s Hardware, racks γεμάτα με Nvidia Blackwell Ultra GPUs βασισμένες στην πλατφόρμα GB300 NVL72 εγκαταστάθηκαν στην εταιρεία σε συνεργασία με τη Switch, που φιλοξενεί το data center.
Η υλοποίηση αυτή αποτελεί συνεργασία μεταξύ της CoreWeave και της Dell, με τη δεύτερη να παραδίδει τα ολοκληρωμένα racks μόλις την προηγούμενη εβδομάδα. Τα racks περιλαμβάνουν 72 Blackwell Ultra κάρτες σε πυκνή διάταξη, όλα προ-συναρμολογημένα και ελεγμένα από τη Dell πριν την παράδοση, ώστε να απαιτείται ελάχιστη εγκατάσταση στον χώρο. Αφού η CoreWeave έχει ήδη θέσει σε λειτουργία το cluster, φαίνεται πως όλα κύλησαν ομαλά.
Παρόλα αυτά, θα ανησυχούσα, καθώς τα racks αυτά περιλαμβάνουν πολλά εξαρτήματα. Δεν πρόκειται μόνο για τις Blackwell Ultra κάρτες – που αντιστοιχούν σε 36 Grace CPUs με 72 πυρήνες Arm και 36 BlueField DPUs ανά rack – αλλά και για τεράστιες ποσότητες υγρής ψύξης για να διαχειριστούν την παραγόμενη θερμότητα. Κάθε GPU χρειάζεται ψύξη για περίπου 1.400W, χωρίς να υπολογίζονται τυχόν διαρροές.
Η Dell δήλωσε:
«Αυτό αντικατοπτρίζει την εμπιστοσύνη που συνεχίζουν να μας δείχνουν οι πελάτες και οι συνεργάτες μας. Ενοποιώντας υπολογιστική ισχύ, δίκτυο και αποθήκευση σε μία λύση και βελτιστοποιώντας με υπηρεσίες ενσωμάτωσης και υλοποίησης, βοηθάμε τους πελάτες μας να κινούνται με πρωτοφανή ταχύτητα και κλίμακα.»
«Η συνεχής καινοτομία και ταχύτητα που μόνο εμείς μπορούμε να προσφέρουμε μας επιτρέπει να ενδυναμώνουμε εξαιρετικούς πελάτες και να επιταχύνουμε τη συνεργασία με εταιρείες όπως CoreWeave, Nvidia και άλλες.»
Η CoreWeave στοχεύει να ενισχύσει τις cloud AI υπηρεσίες της με αυτή τη διαμόρφωση, που μπορεί να προσφέρει περίπου 50% υψηλότερη απόδοση σε σχέση με την προηγούμενη αρχιτεκτονική. Ανά rack, οι νέες αυτές διατάξεις αποδίδουν 1,1 ExaFLOPS σε FP4 inference και 0,36 ExaFLOPS σε FP8 training.
Στόχος είναι η ταχύτερη και πιο αποτελεσματική εκπαίδευση μεγάλων γλωσσικών μοντέλων, καθώς και η βελτίωση των δυνατοτήτων λογικής και διασύνδεσης των AI. Τα νέα racks με Blackwell Ultra αναμένεται να λειτουργούν περίπου διπλάσια ταχύτερα για scale-out συνδέσεις, φτάνοντας ταχύτητες έως 14,4 GB/s.
Περισσότερα racks σημαίνουν περισσότερη ισχύ, οπότε η CoreWeave μπορεί να αυξήσει την απόδοση όποτε το χρειαστεί. Ωστόσο, δεδομένου ότι αυτά τα racks έφτασαν μόλις επτά μήνες μετά την εγκατάσταση των GB200, το ερώτημα δεν είναι τόσο η ισχύς, αλλά η διάρκεια ζωής. Η ανάγκη αναβάθμισης από Blackwell σε Blackwell Ultra τόσο σύντομα σίγουρα επιβαρύνει οικονομικά την CoreWeave, και το ερώτημα είναι πόσο γρήγορα θα χρειαστεί να αντικατασταθούν από τα Blackwell Ultra Super Extreme.