Mellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0 InfiniBand Switch σε παραγωγή

Οι επιχειρήσεις και τα ερευνητικά ιδρύματα που αναβαθμίζουν την κατάρτιση της τεχνητής νοημοσύνης και τις προσομοιώσεις HPC αντιμετωπίζουν συχνά ένα κοινό πρόβλημα: καθυστέρηση και συμφόρηση που προκαλούνται από το δίκτυο που σπαταλούν κύκλους υπολογισμού GPU.Αυτή η μελέτη περιπτώσεων ανάπτυξης εξετάζει πώς ένα μεσαίου μεγέθους εργαστήριο έρευνας AI μεταμόρφωσε την απόδοση του cluster χρησιμοποιώντας τοΜέλανοξ (NVIDIA Mellanox) 920-9B210-00FN-0D0InfiniBand switch, επιτυγχάνοντας καθοριστικό υλικό χαμηλής καθυστέρησης για απαιτητικά παράλληλα φορτία εργασίας.

Προηγούμενο & Πρόκληση: Όταν το Ethernet γίνεται το μπουκάλιο

Το υφιστάμενο υλικό Ethernet 100Gb του εργαστηρίου παρουσίαζε σταθερά κορύφους καθυστέρησης ουράς κατά τη διάρκεια λειτουργιών μείωσης όλων, προκαλώντας χρόνο αδρανούς GPU έως και 25% σε μεγάλες εργασίες κατάρτισης.Οι παλαιότεροι τους διακόπτες δεν είχαν RDMA-γνωστούς ελέγχους συμφόρησης και ικανότητες υπολογιστών στο δίκτυο.Οι αρχιτέκτονες χρειάζονταν μια λύση που θα μπορούσε να παρέχει υπο-μικρόλεπτο καθυστέρηση, απώλεια μεταφοράς και απρόσκοπτη επεκτασιμότητα για ένα επεκτεινόμενο NDR backbone 400Gb / s. Μετά την αξιολόγηση πολλαπλών επιλογών, η εταιρεία ανακοίνωσε ότι θα μπορούσε να προσφέρει μια νέα λύση.Η ομάδα επέλεξε το920-9B210-00FN-0D0ως το βασικό δομικό στοιχείο για το νέο τους InfiniBand υλικό.

Λύση & Εφαρμογή: Κατασκευή ενός υλικού AI χαμηλής καθυστέρησης

Η ανάπτυξη επικεντρώθηκε γύρω από την920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDRΟι βασικές αποφάσεις ανάπτυξης περιλάμβαναν:

• Πλήρης υποστήριξη RDMA:Εξάλειψη των επιβαρύνσεων παρακάμψης πυρήνα χρησιμοποιώντας το ιδιόκτητο επίπεδο μεταφοράς της NVIDIA.
• Προσαρμοστική διαδρομή:Δυναμική εξισορρόπηση της κυκλοφορίας σε πολλαπλές διαδρομές για την αποφυγή των σημείων καύσης.
• Συγκέντρωση SHARPv3 στο δίκτυο:Εκφόρτωση συλλογικών λειτουργιών από τις κυριότερες CPU στο επίπεδο δεδομένων του διακόπτη.

Οι μηχανικοί αναφέρθηκαν στοΠίνακας δεδομένων 920-9B210-00FN-0D0και920-9B210-00FN-0D0 προδιαγραφέςΤο σύστημα αυτό χρησιμοποιείται για την επικύρωση της συμβατότητας με τους υφιστάμενους προσαρμογείς ConnectX-7.920-9B210-00FN-0D0 συμβατόΤο σύστημα αυτό επέτρεψε την αντικατάσταση των προηγούμενων σπονδυλικών διακόπτες χωρίς αλλαγές καλωδίωσης.920-9B210-00FN-0D0 InfiniBand διακόπτης OPN(αριθμός τμήματος παραγγελίας) απλουστευμένες ροές εργασίας προμηθειών και RMA.

Αποτελέσματα και οφέλη: Μετρήσιμα κέρδη για την HPC και την AI

Μετά την μετανάστευση στηνNVIDIA Mellanox 920-9B210-00FN-0D0Το εργαστήριο κατέγραψε τις ακόλουθες βελτιώσεις κατά τη διάρκεια μιας περιόδου αξιολόγησης 30 ημερών:

Για τους διαχειριστές πληροφορικής που αξιολογούν το συνολικό κόστος ιδιοκτησίας, το920-9B210-00FN-0D0 τιμήΗ αύξηση της τάξης της τάξης του 40% της ενεργειακής απόδοσης των συσσωρευτών αντισταθμίστηκε από τη μείωση της ενεργειακής απόδοσης των συσσωρευτών και την αύξηση της απόδοσης των εργασιών.920-9B210-00FN-0D0 προς πώλησηΤο δίκτυο HPC μέσω εξουσιοδοτημένων διανομέων παρείχε επίσης 5-ετή υποστήριξη κύκλου ζωής.

Συνοπτική & Προοπτικές: Ένα σχέδιο για την επόμενη γενιά AI Clusters

Το ερευνητικό εργαστήριο έχει τώρα τυποποιηθεί για την920-9B210-00FN-0D0 Λύση InfiniBand switch OPNΜελλοντικά, η ομάδα σχεδιάζει να κλιμακώσει από 32 σε 256 θύρες NDR χρησιμοποιώντας την ίδια πλατφόρμα εναλλαγής, αξιοποιώντας την αρχιτεκτονική μη αποκλεισμού και τον έλεγχο συμφόρησης.Για αρχιτέκτονες που σχεδιάζουν υφάσματα RDMA χαμηλής καθυστέρησης, τοNVIDIA Mellanox 920-9B210-00FN-0D0παρέχει μια αποδεδειγμένη, έτοιμη για παραγωγή βάση η οποία εξαλείφει την απρόβλεπτη λειτουργία του δικτύου από μικρά clusters prototyping τεχνητής νοημοσύνης έως εξάσκησης HPC σε έκταση.