Ο προσαρμογέας διακομιστή NVIDIA Mellanox MCX4121A-ACAT σε δράση | RDMA/RoCE Κέρδη μεταφοράς χαμηλού λανθάνοντος χρόνου και παροχής διακομιστή

NVIDIA Mellanox MCX4121A-ACAT Server Adapter σε δράση.

Προηγούμενο & Η πρόκληση: Όταν το 25GbE συναντά το τείχος καθυστέρησης

Ένας μεσαίου μεγέθους πάροχος υπηρεσιών cloud ∙ ας τους πούμε "CloudNova" ∙ αντιμετώπιζε ένα γνωστό αλλά επώδυνο πρόβλημα.Αλλά η απόδοση της εφαρμογής είπε μια διαφορετική ιστορίαΗ αναπαραγωγή βάσεων δεδομένων καθυστέρησε, οι εργασίες κατανεμημένης μηχανικής μάθησης σταμάτησαν στον συγχρονισμό βαθμίδων, και οι συστοιχίες αποθήκευσης NVMe δεν παρέδωσαν ποτέ τα υποσχεμένα IOPS.Το παραδοσιακό TCP/IP overhead καταναλώνει πάνω από το 25% των πυρήνων του CPU στους κόμβους υπολογισμούΑυτό που χρειάζονταν δεν ήταν μόνο περισσότερο εύρος ζώνης, αλλά και μεγαλύτερη πρόσβαση σε τεχνολογίες.χρήσιμοΗ αναζήτηση τους τους οδήγησε στοNVIDIA Mellanox MCX4121A-ACATΜια κάρτα σχεδιασμένη ακριβώς για αυτούς τους σύγχρονους πόνους του κέντρου δεδομένων.

Η λύση: Εφαρμογή της κάρτας προσαρμογής Ethernet MCX4121A-ACAT

Η ομάδα αρχιτεκτονικής της CloudNova αντικατέστησε τα παλαιά NIC 10GbE με τοΠίνακας προσαρμογής Ethernet MCX4121A-ACATΗ ανάπτυξη αξιοποίησε την εγγενή υποστήριξη RoCE v2 του προσαρμογέα για να επιτρέψει την απώλεια μεταφοράς Ethernet,εξάλειψη της ανάγκης για ξεχωριστά υφάσματα InfiniBandΤο κλειδί για την λύση ήταν ηMCX4121A-ACAT ConnectX-4 Lx διπλής θύρας 25GbE SFP28σχεδιασμός, ο οποίος επέτρεπε τη σύνδεση ενεργού-ενεργού συνδέσμου για συνολική χωρητικότητα 50Gb/s ανά διακομιστή.Η ομάδα διαμόρφωσε το PFC (Προτεραιότητα ελέγχου ροής) και το ECN (Εκφραστική ειδοποίηση συμφόρησης) στο επίπεδο του διακόπτη, διασφαλίζοντας ότι η κυκλοφορία RoCE παρέμεινε χωρίς απώλειες ακόμη και σε συνθήκες κορυφαίου φορτίου.Το σύνολο του υλικού αποθήκευσης και υπολογισμού εκτελούνταν σε RDMA, μια μετάβαση που έγινε απρόσκοπτη από την συμβατότητα του προσαρμογέα με τις υφιστάμενες καλωδίωση SFP28 και τους διακόπτες Mellanox Spectrum.

Από επιχειρησιακή άποψη, ηΣυμβατό με MCX4121A-ACATΟι κάρτες ενσωματώθηκαν άψογα με τους διακομιστές του CloudNova που βασίζονται στο Ubuntu και το cluster Kubernetes, απαιτώντας μόνο την εγκατάσταση τυποποιημένου προγράμματος οδήγησης.Δελτίο δεδομένων MCX4121A-ACATγια την τελική ρύθμιση της κατανομής του αποθηκευτικού αποθέματος και τη διακοπή των ρυθμίσεων συγχώνευσης, επιτυγχάνοντας βέλτιστες επιδόσεις για το περιβάλλον μικτού φόρτου εργασίας τους, το οποίο περιλάμβανε συστάδες MySQL, αναλύσεις Spark,και εργασίες εκπαίδευσης TensorFlow.

Μετρήσιμα αποτελέσματα: Απόδοση, καθυστέρηση και αποδοτικότητα CPU

Η βελτίωση της απόδοσης ήταν άμεση και ποσοτικοποιήσιμη.NVIDIA Mellanox MCX4121A-ACATΤο backend αποθήκευσης είδε την NVMe-oF να μειώνει την καθυστέρηση ανάγνωσης από 85μs σε μόλις 12μs, μια 7πλάσια βελτίωση.που επιτρέπουν σχεδόν συγχρονική μετάβαση αποτυχίαςΓια τα φορτία εργασίας μηχανικής μάθησης, ο χρόνος συγχρονισμού για την εκπαίδευση ResNet-50 μειώθηκε κατά 62%, μειώνοντας τον συνολικό χρόνο εκπαίδευσης από 4,2 ώρες σε 1,6 ώρες.

Πέρα από την καθυστέρηση, τα κέρδη απόδοσης του διακομιστή ήταν εξίσου συναρπαστικά.και σήμανση VLAN μειωμένη χρήση CPU για επεξεργασία δικτύου από 28% σε λιγότερο από 5% σε όλους τους κόμβουςΑυτό απελευθέρωσε πάνω από 20 πυρήνες CPU ανά διακομιστή για λογική εφαρμογής, αυξάνοντας άμεσα την πυκνότητα των δοχείων κατά 40%.Ειδικές προδιαγραφές MCX4121A-ACAT, η κάρτα παρέχει ρυθμό γραμμής 25GbE ανά θύρα με καθυστέρηση κάτω των 1μs, και τα εσωτερικά benchmarks της CloudNova επιβεβαίωσαν αυτούς τους αριθμούς στην παραγωγή.

Επιχειρησιακά οφέλη: TCO και ετοιμότητα για το μέλλον

Ενώ τα ακατέργαστα στοιχεία της απόδοσης λένε μια πειστική ιστορία, τα λειτουργικά κέρδη ήταν εξίσου σημαντικά.Λύση κάρτας προσαρμογέα Ethernet MCX4121A-ACATμειώθηκε το συνολικό κόστος ιδιοκτησίας με την εξάλειψη της ανάγκης για ξεχωριστό υλικό RDMA (αποταμιεύοντας πάνω από 180K δολάρια σε υποδομή διακόπτη).Η κατανάλωση ενέργειας ανά διακομιστή μειώθηκε κατά 8W σε σύγκριση με τις προηγούμενες NICΕπιπλέον, το σχέδιο διπλής θύρας του προσαρμογέα παρείχε εγγενή εφεδρικότητα όταν ένας σύνδεσμος βίωσε φλαπαρισμό,Η κίνηση αποτυγχάνει αυτόματα στην δευτερεύουσα πύλη με μηδενική απώλεια πακέτων, όπως επαληθεύεται από τα ημερολόγια τηλεμετρίας του προσαρμοστή.

Για τους διαχειριστές πληροφορικής που αξιολογούν τηνMCX4121A-ACAT τιμήΟ CFO της CloudNova σημείωσε ότι η περίοδος αποπληρωμής ήταν μικρότερη από 10 μήνες, κυρίως λόγω της αυξημένης χρησιμοποίησης των διακομιστών και των μειωμένων χρόνων ολοκλήρωσης των εργασιών.Η ομάδα εκτίμησε επίσης την προοδευτική αρχιτεκτονικήMCX4121A-ACAT προς πώλησηΗ εν λόγω μέθοδος υποστηρίζει σήμερα 25GbE, αλλά μπορεί να επαναχρησιμοποιηθεί για περιβάλλοντα 10GbE ή 40GbE με κατάλληλη οπτική, εξασφαλίζοντας την προστασία των επενδύσεων για μελλοντικές αναβαθμίσεις.

Σύνοψη & Προοπτικές: Ένα σχέδιο για τα RDMA-Ready Data Centres

Το ταξίδι της CloudNova με τηνNVIDIA Mellanox MCX4121A-ACATδείχνει ένα σαφές σχέδιο για τους οργανισμούς που επιδιώκουν να απελευθερώσουν το πλήρες δυναμικό της υποδομής 25GbE.και απρόσκοπτη ενσωμάτωση με τα υπάρχοντα οικοσυστήματα, τοΠίνακας προσαρμογής Ethernet MCX4121A-ACATΜεταμορφώνει το δίκτυο I/O από ένα μπουκάλιο σε έναν εφοδιασμό με υψηλότερη απόδοση.και 62% ταχύτερη εκπαίδευση της μηχανικής μάθησης ̇ μιλούν για την ικανότητα του προσαρμογέα να παρέχει μετρήσιμα επιχειρηματικά αποτελέσματα.

Η τεχνολογία της τεχνητής νοημοσύνης (AI) και η ανάλυση σε πραγματικό χρόνοMCX4121A-ACAT ConnectX-4 Lx διπλής θύρας 25GbE SFP28Για τους αρχιτέκτονες και τους διευθυντές πληροφορικής που σχεδιάζουν την επόμενη αναβάθμιση της υποδομής τους, αυτός ο προσαρμογός δεν αντιπροσωπεύει μόνο ένα συστατικό,αλλά ένα στρατηγικό περιουσιακό στοιχείο.Οι λεπτομερείς παραμέτρους προσαρμογής και οι βέλτιστες πρακτικές ανάπτυξης είναι διαθέσιμες στο επίσημοΔελτίο δεδομένων MCX4121A-ACAT∆ημιουργία ενός βασικού σημείου αναφοράς για κάθε σοβαρή ανάπτυξη.