NVIDIA Mellanox 920-9B210-00FN-0D0 Ανακοινώθηκε: Επαναπροσδιορισμός του Ultra-Scale AI Network Foundation με 400Gb/s NDR

Ανακοινώθηκε ο NVIDIA Mellanox 920-9B210-00FN-0D0: Επαναπροσδιορίζοντας τη Θεμελίωση Δικτύων AI Υπερ-Κλίμακας με 400Gb/s NDR

Καθώς τα μεγάλα γλωσσικά μοντέλα κλιμακώνονται από εκατοντάδες δισεκατομμύρια σε τρισεκατομμύρια παραμέτρους, τα παραδοσιακά δίκτυα HDR 200Gb/s δείχνουν τους περιορισμούς τους σε πυκνά σενάρια συλλογικής επικοινωνίας, όπως το all-to-all, όπου η αξιοποίηση των GPU συχνά μειώνεται λόγω συμφόρησης δικτύου. Η NVIDIA αποκάλυψε επίσημα τον NVIDIA Mellanox 920-9B210-00FN-0D0, έναν διακόπτη InfiniBand NDR 400Gb/s, σχεδιασμένο για να παρέχει το εύρος ζώνης, την πυκνότητα και την ενσωματωμένη νοημοσύνη δικτύου που απαιτούνται για τα πιο απαιτητικά φορτία εργασίας AI και HPC.

Η Πρόκληση: Όταν το HDR Γίνεται το Σημείο Συμφόρησης

Για οργανισμούς που κλιμακώνουν τα συστάδες GPU τους πέρα από 2.000 κόμβους, οι περιορισμοί του HDR 200Gb/s γίνονται όλο και πιο εμφανείς. Κατά τις λειτουργίες all-reduce και all-to-all —που είναι θεμελιώδεις για την κατανεμημένη εκπαίδευση— η συμφόρηση δικτύου μπορεί να μειώσει την αξιοποίηση των GPU από 85% σε κάτω από 50%, σπαταλώντας ουσιαστικά εκατομμύρια δολάρια σε επενδύσεις υπολογιστικής ισχύος. Οι αρχιτέκτονες δικτύων αντιμετωπίζουν τη διπλή πρόκληση της παροχής ντετερμινιστικής καθυστέρησης κάτω του μικροδευτερολέπτου, διατηρώντας παράλληλα απώλειες απόδοσης σε χιλιάδες τελικά σημεία.

Ο 920-9B210-00FN-0D0 InfiniBand switch OPN (Ordering Part Number) αντιμετωπίζει αυτές τις προκλήσεις κατά μέτωπο, φέρνοντας την απόδοση NDR 400Gb/s σε μια πλατφόρμα 64 θυρών OSFP, παρέχοντας τον χώρο και τη νοημοσύνη που απαιτούνται για την εξάλειψη των καθυστερήσεων που προκαλούνται από το δίκτυο, ακόμη και στα πιο απαιτητικά περιβάλλοντα εκπαίδευσης AI.

Βασικά Τεχνικά Χαρακτηριστικά

Βασισμένη στο ίδιο πυρίτιο με το ευρέως υιοθετημένο MQM9790-NS2F, η πλατφόρμα 920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDR προσφέρει ένα ολοκληρωμένο σύνολο χαρακτηριστικών σχεδιασμένων για αναπτύξεις κλάσης exascale. Σύμφωνα με το 920-9B210-00FN-0D0 datasheet, ο διακόπτης προσφέρει:

• 64 θύρες 400Gb/s NDR: Κάθε θύρα OSFP υποστηρίζει αμφίδρομη ταχύτητα 400Gb/s με διόρθωση σφαλμάτων προς τα εμπρός (FEC), παρέχοντας συνολική χωρητικότητα μεταγωγής 51,2 Tb/s.
• Εξαιρετικά χαμηλή καθυστέρηση: Καθυστέρηση cut-through κάτω των 100ns, όπως τεκμηριώνεται στις 920-9B210-00FN-0D0 specifications, διασφαλίζει ελάχιστο overhead για λειτουργίες RDMA και MPI.
• Ενσωματωμένο SHARPv3: Αποφορτίζει συλλογικές λειτουργίες (all-reduce, all-to-all, broadcast) απευθείας στο δίκτυο μεταγωγής, μειώνοντας την καθυστέρηση επικοινωνίας έως και 40% για εργασίες μεγάλης κλίμακας.
• Προσαρμοστική δρομολόγηση και έλεγχος συμφόρησης: Δρομολογεί δυναμικά την κίνηση για να αποφύγει τα hotspots, διατηρώντας προβλέψιμη απόδοση ακόμη και υπό δυσμενή μοτίβα κίνησης.
• Προηγμένη τηλεμετρία: Μετρητές ανά ροή και ανά θύρα, μαζί με παρακολούθηση πληρότητας buffer, παρέχουν βαθιά ορατότητα για προληπτική διαχείριση.

Ο 920-9B210-00FN-0D0 compatible οικοσύστημα περιλαμβάνει ένα ευρύ φάσμα καλωδίων OSFP, οπτικών πομποδεκτών και εργαλείων λογισμικού πιστοποιημένων από την NVIDIA, διασφαλίζοντας απρόσκοπτη ενσωμάτωση σε υπάρχοντα περιβάλλοντα HDR ή νέα NDR. Για οργανισμούς που σχεδιάζουν την υποδομή επόμενης γενιάς, ο διακόπτης υποστηρίζει μικτά δίκτυα HDR/NDR, επιτρέποντας σταδιακές αναβαθμίσεις χωρίς διακοπή των παραγωγικών φορτίων εργασίας.

Αντιμετώπιση Αναγκών Πραγματικής Ανάπτυξης

Για αρχιτέκτονες δικτύων που σχεδιάζουν νέα συστάδες εκπαίδευσης AI ή αναβαθμίζουν υπάρχοντα δίκτυα HDR, η 920-9B210-00FN-0D0 InfiniBand switch OPN solution προσφέρει πολλά ελκυστικά πλεονεκτήματα. Η πυκνότητα 64 θυρών επιτρέπει αναπτύξεις top-of-rack με έως και 64 διακομιστές διπλής θύρας ανά διακόπτη, μειώνοντας τον αριθμό των διακοπτών και των καλωδίων που απαιτούνται σε σύγκριση με εναλλακτικές λύσεις 40 θυρών. Σε τοπολογίες leaf-spine, αυτό μεταφράζεται σε λιγότερες βαθμίδες spine, χαμηλότερη καθυστέρηση και μειωμένο συνολικό κόστος ιδιοκτησίας.

Ο διακόπτης κληρονομεί επίσης τις ισχυρές δυνατότητες διαχείρισης του χαρτοφυλακίου InfiniBand της NVIDIA. Με το Unified Fabric Manager (UFM) της NVIDIA, οι διαχειριστές μπορούν να αποκτήσουν βαθιά ορατότητα στην υγεία του δικτύου, να αυτοματοποιήσουν την παροχή πόρων και να ανιχνεύσουν προληπτικά ανωμαλίες πριν επηρεάσουν τα παραγωγικά φορτία εργασίας. Οι διπλά εφεδρικά τροφοδοτικά του διακόπτη και οι μονάδες ανεμιστήρων που μπορούν να αντικατασταθούν εν κινήσει διασφαλίζουν διαθεσιμότητα 99,999% για κρίσιμες εφαρμογές.

Κατά την αξιολόγηση του 920-9B210-00FN-0D0 price και του συνολικού κόστους ιδιοκτησίας, ο διακόπτης προσφέρει ελκυστική οικονομία για αναπτύξεις μεγάλης κλίμακας. Ενώ το αρχικό κόστος είναι υψηλότερο από τις εναλλακτικές λύσεις HDR, το κόστος ανά θύρα και το κόστος δικτύωσης ανά GPU είναι σημαντικά χαμηλότερα όταν αποσβένονται σε ένα μεγάλο σύμπλεγμα, καθιστώντας το NDR μια ολοένα και πιο οικονομικά αποδοτική επιλογή για έργα exascale. Το 920-9B210-00FN-0D0 for sale είναι πλέον διαθέσιμο μέσω των συνεργατών καναλιών της NVIDIA, με τις πρώτες αποστολές σε πελάτες να είναι ήδη σε εξέλιξη.

Σύνοψη: Η Θεμελίωση NDR για την Επόμενη Γενιά AI

Ο NVIDIA Mellanox 920-9B210-00FN-0D0 αντιπροσωπεύει ένα σημαντικό βήμα προς τα εμπρός στη δικτύωση υψηλής απόδοσης, παρέχοντας το εύρος ζώνης, την πυκνότητα και τη νοημοσύνη που απαιτούνται για την επόμενη γενιά συστάδων AI και HPC. Συνδυάζοντας την ταχύτητα NDR 400Gb/s με την πυκνότητα 64 θυρών OSFP και την υπολογιστική εντός δικτύου SHARPv3, αυτός ο διακόπτης επιτρέπει στους αρχιτέκτονες να κατασκευάζουν κλιμακούμενα, ντετερμινιστικά δίκτυα που μπορούν να συμβαδίζουν με τα πιο απαιτητικά φορτία εργασίας τρισεκατομμυρίων παραμέτρων.

Για οργανισμούς που σχεδιάζουν την υποδομή επόμενης γενιάς, ο 920-9B210-00FN-0D0 προσφέρει μια σαφή, υψηλής απόδοσης πορεία προς τα εμπρός — είτε ως νέα ανάπτυξη είτε ως στρατηγική αναβάθμιση από υπάρχοντα δίκτυα HDR. Με το ισχυρό σύνολο χαρακτηριστικών του, τη διαχειρισιμότητα επιπέδου επιχείρησης και την απρόσκοπτη συμβατότητα με το ευρύτερο οικοσύστημα της NVIDIA, αυτός ο διακόπτης είναι έτοιμος να γίνει ακρογωνιαίος λίθος της δικτύωσης κλάσης exascale.