NVIDIA Mellanox MCX4121A-ACAT Server Adapter σε Δράση: Ξεκλειδώνοντας την Απόδοση Χαμηλής Καθυστέρησης RDMA/RoCE

Προσαρμογέας διακομιστή NVIDIA Mellanox MCX4121A-ACAT σε δράση: Ξεκλείδωμα RDMA/RoCE απόδοσης χαμηλής καθυστέρησης και ενίσχυση της απόδοσης διακομιστή

Μοντέλο:MCX4121A-ACAT| Μάρκα: NVIDIA Mellanox | Κατηγορία: Προσαρμογέας διακομιστή 25 GbE | Βασικές Δυνατότητες: RDMA/RoCE Low-Latency Transport & Server Throughput Optimization

Ιστορικό & Προκλήσεις: Σημεία συμφόρησης δικτύου στην κατανεμημένη αποθήκευση και συμπέρασμα AI

Για την ομάδα υποδομής σε μια μεγάλη εταιρεία Διαδικτύου, μια ολοκληρωμένη αξιολόγηση απόδοσης που διεξήχθη στις αρχές του 2025 αποκάλυψε κρίσιμα σημεία συμφόρησης δικτύου που επηρέαζαν σιωπηλά τις λειτουργίες. Το σύμπλεγμα συμπερασμάτων AI της εταιρείας και τα κατανεμημένα συστήματα αποθήκευσης βασίζονταν σε 10 GbE Ethernet, το οποίο εμφάνιζε σταθερά υψηλή καθυστέρηση και υπερβολική χρήση της CPU κατά τη φόρτωση του μοντέλου και τις φάσεις συγχρονισμού δεδομένων. Η κατάσταση ήταν ιδιαίτερα οξεία στα σενάρια πρόσβασης αποθήκευσης NVMe-oF, όπου η εναλλαγή περιβάλλοντος και η επιβάρυνση της διακοπής της παραδοσιακής στοίβας TCP/IP περιόρισαν σοβαρά την απόδοση αποθήκευσης, περιορίζοντας τη χρήση της GPU σε περίπου 65%. Η ομάδα χρειαζόταν επειγόντως μια λύση συνδεσιμότητας διακομιστή υψηλής απόδοσης και χαμηλής καθυστέρησης για να ξεκλειδώσει το πλήρες δυναμικό της αποθήκευσης backend και των επιταχυντών τεχνητής νοημοσύνης.

Μετά από εκτεταμένη έρευνα, η ομάδα εστίασε στους προσαρμογείς Ethernet 25 GbE, ιδιαίτερα σε αυτούς που υποστηρίζουν RDMA (Remote Direct Memory Access) και RoCEv2 (RDMA μέσω Converged Ethernet v2). Το RoCEv2 υποσχέθηκε να παρακάμψει τον πυρήνα του λειτουργικού συστήματος και να ενεργοποιήσει τις μεταφορές δεδομένων που παρακάμπτονται από την CPU, παρέχοντας θεωρητικά τεράστιες μειώσεις στον λανθάνοντα χρόνο και στην επιβάρυνση της CPU. Ωστόσο, η επίτευξη αποτελεσματικής μεταφοράς RDMA επιβάλλει αυστηρές απαιτήσεις στις δυνατότητες εκφόρτωσης υλικού του προσαρμογέα και στους μηχανισμούς ελέγχου συμφόρησης από άκρο σε άκρο. Αυτό το πλαίσιο δημιούργησε την τέλεια ευκαιρία για τουςNVIDIA Mellanox MCX4121A-ACATνα εισέλθει στον αγωγό αξιολόγησης.

Λύση και ανάπτυξη: Δημιουργία δικτύου αποθήκευσης βελτιστοποιημένου RDMA γύρω από το MCX4121A-ACAT

Μετά από λεπτομερή ανασκόπηση τουΦύλλο δεδομένων MCX4121A-ACATκαι την επικύρωσή τουΠροδιαγραφές MCX4121A-ACATσε σχέση με εσωτερικά σημεία αναφοράς, η ομάδα αρχιτεκτονικής αποφάσισε να αναπτύξει τον προσαρμογέα τόσο σε κόμβους συμπερασμάτων AI όσο και σε διακομιστές front-end αποθήκευσης. ΟMCX4121A-ACAT ConnectX-4 Lx διπλής θύρας 25 GbE SFP28Ο σχεδιασμός επέτρεψε σε κάθε διακομιστή να συνδεθεί μέσω δύο οπτικών ινών σε δύο διαφορετικούς διακόπτες στο ύφασμα φύλλου-ράχης, παρέχοντας πλεονασμό σύνδεσης και εξισορρόπηση φορτίου.

Η στρατηγική ανάπτυξης ακολούθησε τρεις βασικές φάσεις:

• Εγκατάσταση υλικού και επικύρωση συμβατότητας:Η ομάδα πρώτα επαλήθευσε τοΣυμβατό με MCX4121A-ACATλίστα διακομιστών για διασφάλιση απρόσκοπτης ενσωμάτωσης με υπάρχοντες κεντρικούς υπολογιστές που βασίζονται σε x86 και ARM. Κάθε προσαρμογέας εγκαταστάθηκε σε μια υποδοχή PCIe 3.0 x8, ακολουθούμενη από εγκατάσταση προγράμματος οδήγησης από την επίσημη πηγή NVIDIA.
• Διαμόρφωση δικτύου RoCEv2 χωρίς απώλειες:Το PFC (Priority Flow Control) και το ECN (Explicit Congestion Notification) ενεργοποιήθηκαν στην υποδομή μεταγωγής με δυνατότητα RoCEv2. Τα πρωτόκολλα DCBx (Data Center Bridging Exchange) διαμορφώθηκαν για να διασφαλίζουν τη μεταφορά χωρίς απώλειες για την κίνηση RDMA μέσω Ethernet, παρέχοντας μια σταθερή βάση για τοΚάρτα προσαρμογέα Ethernet MCX4121A-ACATνα παρέχει τις πλήρεις δυνατότητές του RDMA.
• Βελτιστοποίηση στοίβας πρωτοκόλλου αποθήκευσης:Οι στόχοι NVMe-oF αναπτύχθηκαν σε διακομιστές αποθήκευσης, ενώ οι εκκινητές NVMe-oF διαμορφώθηκαν σε διακομιστές εφαρμογών. Με τη μόχλευση των μηχανών εκφόρτωσης υλικού του προσαρμογέα, όλα τα αιτήματα I/O αποθήκευσης ενσωματώθηκαν ως λειτουργίες RDMA, παρακάμπτοντας ουσιαστικά τη στοίβα δικτύου πυρήνα.

Σε όλη τη διαδικασία ανάπτυξης, τοNVIDIA Mellanox MCX4121A-ACATεπέδειξε πραγματική απλότητα plug-and-play, συμπιέζοντας αυτό που αρχικά εκτιμήθηκε ως προσπάθεια ενσωμάτωσης δύο εβδομάδων σε μόλις τρεις ημέρες.

Μετρήσιμα αποτελέσματα: Σημαντικά κέρδη απόδοσης και απελευθέρωση πόρων

Μετά από ένα μήνα λειτουργίας παραγωγής, η ομάδα κατέγραψε σημαντικές βελτιώσεις σε βασικές μετρήσεις, αποδεικνύοντας ξεκάθαρα την αξία που παρέχεται από τοMCX4121A-ACAT:

Πέρα από τους πρωτογενείς αριθμούς απόδοσης, η ομάδα αξιολόγησε την απόδοση επένδυσης (ROI) όταν εξέτασε τοMCX4121A-ACAT τιμήέναντι του συνολικού κόστους ιδιοκτησίας. Η σημαντική μείωση στη χρήση της CPU επέτρεψε σε αρκετούς διακομιστές που είχαν προγραμματιστεί προηγουμένως για αναβαθμίσεις χωρητικότητας να παραμείνουν σε υπηρεσία, εξοικονομώντας άμεσα το κόστος προμήθειας υλικού. Επιπλέον, η μειωμένη καθυστέρηση βελτίωσε τους χρόνους απόκρισης της διαδικτυακής υπηρεσίας συμπερασμάτων από 120 ms σε 45 ms, παρέχοντας μια αισθητά καλύτερη εμπειρία τελικού χρήστη. Μετά την αξιολόγησηΠωλείται MCX4121A-ACATεπιλογές και συγκρίνοντας τις αναλογίες τιμής προς απόδοση, η εταιρεία κατέληξε στο συμπέρασμα ότι αυτός ο προσαρμογέας αντιπροσωπεύει μια εξαιρετικά οικονομική λύση πρόσβασης 25 GbE.

Περίληψη και προοπτική: Δημιουργία υποδομής χαμηλής καθυστέρησης έτοιμη για το μέλλον

Μέσω αυτής της ανάπτυξης παραγωγής, η εταιρεία διαδικτύου επικύρωσε με επιτυχία την πραγματική αξία τουNVIDIA Mellanox MCX4121A-ACAT. Ως ακρογωνιαίος λίθος μιας συνολικήςΛύση κάρτας προσαρμογέα Ethernet MCX4121A-ACAT, ο προσαρμογέας όχι μόνο επέλυσε τα σημεία συμφόρησης δικτύου στον αποθηκευτικό χώρο και τους φόρτους εργασίας της τεχνητής νοημοσύνης, αλλά επίσης βελτίωσε σημαντικά τη συνολική απόδοση του διακομιστή. Αυτή η μελέτη περίπτωσης δείχνει ξεκάθαρα ότι στην εποχή των 25 GbE, η επιλογή ενός προσαρμογέα με ισχυρές δυνατότητες εκφόρτωσης RDMA είναι αποφασιστικής σημασίας για το ξεκλείδωμα του δυναμικού της CPU και τη μείωση του κρίσιμου λανθάνοντος χρόνου για τις επιχειρήσεις.

Κοιτάζοντας το μέλλον, η ομάδα σχεδιάζει να επεκτείνει τοMCX4121A-ACATανάπτυξη σε περιπτώσεις πρόσθετων χρήσεων, συμπεριλαμβανομένης της ηλεκτρονικής επεξεργασίας συναλλαγών και συστημάτων ελέγχου κινδύνου σε πραγματικό χρόνο, αξιοποιώντας περαιτέρω τα χαρακτηριστικά χαμηλής καθυστέρησης για εφαρμογές οικονομικής ποιότητας. Με βάση αυτή την επιτυχία, το τμήμα υποδομής έχει αρχίσει να αξιολογεί προϊόντα 100 GbE και επόμενης γενιάς, αλλάMCX4121A-ACAT—με την ώριμη αρχιτεκτονική ConnectX-4 Lx και την ευρεία συμβατότητα του οικοσυστήματος—θα συνεχίσει να λειτουργεί ως βασικός κόμβος, παρέχοντας μια σταθερή βάση για τη συνεχή εξέλιξη του κέντρου δεδομένων της εταιρείας.