Υβριδική μνήμη που υπόσχεται δραματική μείωση της ενεργειακής κατανάλωσης της AI

Η ανάπτυξη ενεργειακά αποδοτικότερου hardware για συστήματα τεχνητής νοημοσύνης (AI) λαμβάνει αυξημένη υποστήριξη, με έμφαση στη βελτίωση της τεχνολογίας μνήμης. Ένας υβριδικός τύπος μνήμης που συνδυάζει την υψηλή πυκνότητα της DRAM (Dynamic Random-Access Memory) με την ταχύτητα της SRAM (Static Random-Access Memory) βρίσκεται στην πρώτη γραμμή αυτής της προσπάθειας.

Επικεφαλής του project είναι ηλεκτρολόγοι μηχανικοί του Πανεπιστημίου του Stanford, ενώ στόχος της ομάδας είναι η δημιουργία ταχύτερου και αποδοτικότερου υλικού μνήμης για εφαρμογές Τεχνητής Νοημοσύνης, το οποίο θα αντιμετωπίζει τους σημερινούς περιορισμούς στην επεξεργαστική ισχύ και την ενεργειακή κατανάλωση. Η έρευνα αυτή χρηματοδοτείται στο πλαίσιο του νόμου CHIPS and Science Act, με πρόσφατη ενίσχυση της χρηματοδότησης του Υπουργείου Άμυνας των ΗΠΑ με 16,3 εκατομμύρια δολάρια στο California-Pacific-Northwest AI Hardware Hub.

Τα AI συστήματα εξαρτώνται σε μεγάλο βαθμό από το hardware που μπορεί να διακινεί και να επεξεργάζεται αποτελεσματικά μεγάλους όγκους δεδομένων. Ωστόσο, η μετακίνηση δεδομένων μεταξύ μνήμης και λογικών μονάδων απαιτεί χρόνο, γεγονός που επιβραδύνει τις GPU και οδηγεί σε αυξημένη κατανάλωση ενέργειας. Καθώς τα AI μοντέλα γίνονται μεγαλύτερα και πιο πολύπλοκα, αυτά τα σημεία συμφόρησης της μνήμης γίνονται πιο έντονα. Ως εκ τούτου, η ταχύτερη και πυκνότερη μνήμη που βρίσκεται απευθείας στα τσιπ θεωρείται ως πιθανή λύση σε αυτό το πρόβλημα.

Ο H.S. Philip Wong, ηλεκτρολόγος μηχανικός και πρόεδρος του AI Hardware Hub, υπογραμμίζει τη σημασία της μνήμης για να γίνει το AI hardware πιο ενεργειακά αποδοτικό. Η ομάδα του Wong στράφηκε σε έναν νέο τύπο σχεδίασης μνήμης που ονομάζεται μνήμη Gain Cell, η οποία συνδυάζει τα πλεονεκτήματα τόσο της DRAM όσο και της SRAM. Το υβριδικό Gain Cell προσφέρει μια μέση λύση που έχει το μικρό ενεργειακό αποτύπωμα της DRAM, αλλά παρέχει επίσης τις υψηλότερες ταχύτητες ανάγνωσης που χαρακτηρίζουν την SRAM.

Η βασική διαφορά σε αυτή τη νέα σχεδίαση είναι η χρήση δύο τρανζίστορ, ένα για την εγγραφή δεδομένων και ένα για την ανάγνωση, αντί για τον πυκνωτή που υπάρχει στην παραδοσιακή DRAM. Αυτό επιτρέπει στο Gain Cell να διατηρεί τα δεδομένα πιο αξιόπιστα και να ενισχύει την ισχύ του σήματος όταν διαβάζονται τα δεδομένα.

Η μνήμη Gain Cell έχει αντιμετωπίσει περιορισμούς όπως η ταχεία διαρροή δεδομένων σε σχέδια με βάση το πυρίτιο και οι χαμηλότερες ταχύτητες ανάγνωσης σε σχέδια με βάση το οξείδιο. Ωστόσο, η ομάδα του Stanford συνδύασε ένα τρανζίστορ πυριτίου με ένα τρανζίστορ οξειδίου κασσίτερου ινδίου, βελτιώνοντας σημαντικά τις επιδόσεις της διάταξης, προσφέροντας ταχύτερες αναγνώσεις, διατηρώντας παράλληλα ένα συμπαγές αποτύπωμα.

Η νέα σχεδίαση μπορεί να κρατήσει δεδομένα για πάνω από 5.000 δευτερόλεπτα, πολύ περισσότερο από την παραδοσιακή DRAM, η οποία χρειάζεται ανανέωση κάθε 64 χιλιοστά του δευτερολέπτου. Επιπλέον, η υβριδική μνήμη είναι περίπου 50 φορές ταχύτερη από τα gain cells οξειδίου-οξειδίου.

Ο Wong παρομοιάζει αυτή την πρόοδο με τη μετάβαση από ένα απλό ποδήλατο 3 ταχυτήτων σε ένα εξελιγμένο ποδήλατο 20 ταχυτήτων, τονίζοντας ότι αυτή η εξέλιξη της τεχνολογίας μνήμης θα επεκταθεί πέρα από τις παραδοσιακές επιλογές όπως η DRAM, η SRAM και η μνήμη flash.

[via]