Πώς συνδυάζει GPU, CPU και αποθήκευση για τη μνήμη…

Η NVIDIA περιέγραψε στις 5 Νοεμβρίου την προσέγγισή της για τη διαχείριση μνήμης στις υποδομές τεχνητής νοημοσύνης, συνδέοντας τον σχεδιασμό GPU, CPU, δικτύων, αποθήκευσης και λογισμικού. Στο επίκεντρο βρίσκονται τα μεγάλα μοντέλα και οι AI agents, που διατηρούν περισσότερο περιεχόμενο εργασίας καθώς εκτελούν διαδοχικά βήματα.

Γιατί η χωρητικότητα δεν αρκεί

Σύμφωνα με την εταιρεία, στη γρήγορη μνήμη HBM των GPU συνυπάρχουν οι παράμετροι του μοντέλου και η KV cache, δηλαδή δεδομένα που επιτρέπουν την επαναχρησιμοποίηση προηγούμενου υπολογισμού. Η αύξηση της χωρητικότητας δεν λύνει μόνη της το πρόβλημα όταν το εύρος ζώνης περιορίζει την ταχύτητα μεταφοράς προς τις μονάδες υπολογισμού.

Η NVIDIA περιγράφει μείωση του χώρου των παραμέτρων μέσω NVFP4, κατανομή τους σε πολλές GPU και μεταφορά προσωρινά ανενεργού περιεχομένου σε άλλα επίπεδα μνήμης. Το Dynamo αναλαμβάνει τη μετακίνηση και επαναχρησιμοποίηση της KV cache, ενώ η αποθήκευση CMX λειτουργεί ως κοινόχρηστο επίπεδο χωρητικότητας για περιεχόμενο που δεν χρειάζεται συνεχώς στη HBM.

Ο στόχος που περιγράφει η εταιρεία είναι να δεσμεύεται λιγότερη γρήγορη μνήμη από ανενεργά δεδομένα και να εξυπηρετούνται περισσότεροι ταυτόχρονοι χρήστες.

Ο ρόλος της CPU στις εργασίες των agents

Σε ξεχωριστή δημοσίευση της ίδιας ημέρας, η NVIDIA εξηγεί γιατί η CPU παραμένει σημαντική: οι agents αναζητούν πληροφορίες, εκτελούν κώδικα και καλούν εργαλεία, εναλλάσσοντας αυτά τα βήματα με την επεξεργασία στη GPU. Η ταχύτητα μιας συνολικής εργασίας εξαρτάται επομένως και από όσα συμβαίνουν ανάμεσα στις κλήσεις του μοντέλου.

Η εταιρεία αναφέρει ότι η Perplexity ολοκλήρωσε εργασίες agentic coding 1,5 φορά ταχύτερα με Vera έναντι παραδοσιακών CPU και σχεδιάζει σχετική εγκατάσταση σε επερχόμενο σύστημα παραγωγής. Αναφέρει επίσης δοκιμές συνεργατών σε βάσεις δεδομένων και περιβάλλοντα εκτέλεσης κώδικα. Αυτά είναι αποτελέσματα που παρουσιάζει η NVIDIA και αφορούν συγκεκριμένα σενάρια, όχι καθολική επιτάχυνση κάθε εφαρμογής.

Τι σημαίνει για μια υποδομή AI

Η πρακτική συνέπεια αυτής της προσέγγισης είναι ότι η αξιολόγηση ενός συστήματος χρειάζεται να περιλαμβάνει ολόκληρη τη διαδρομή της εργασίας. Για παράδειγμα, σε έναν agent που συμβουλεύεται εταιρικά έγγραφα και εκτελεί κώδικα, έχει σημασία πού περιμένουν τα δεδομένα και πόσο γρήγορα επιστρέφουν για επεξεργασία. Η σύγκριση έχει περισσότερο νόημα όταν διατηρούνται σταθερά το μοντέλο, ο αριθμός χρηστών και ο επιθυμητός χρόνος απόκρισης, μαζί με την κατανάλωση ενέργειας και τη σύνθεση της υποδομής.

Πηγές: NVIDIA, More Performance From Every Byte και Vera CPU και εργασίες AI agents, 5 Νοεμβρίου 2026. Εικόνα: NVIDIA.