MoneyMatters Ai · AI Takeaways
- Το Maia 300 εστιάζει στο inference, δηλαδή στην εκτέλεση μοντέλων AI.
- Η Microsoft αναφέρει έως 7 φορές μεγαλύτερη παραγωγή tokens ανά rack έναντι Maia 200.
- Οι συγκρίσεις είναι εταιρικές μετρήσεις και δεν εγγυώνται αντίστοιχη μείωση της τιμής μιας συνδρομής.
Η Microsoft παρουσίασε το Maia 300, τη νέα γενιά δικού της επιταχυντή τεχνητής νοημοσύνης, με στόχο περισσότερες απαντήσεις και περισσότερη εργασία από AI agents μέσα στα ίδια όρια ηλεκτρικής ισχύος και ψύξης. Το νέο chip εστιάζει στο inference: στη λειτουργία ενός ήδη εκπαιδευμένου μοντέλου όταν ο χρήστης ζητά απάντηση ή εκτέλεση μιας εργασίας.
Η παραγωγή προβλέπεται για το 2027, σύμφωνα με την ενημέρωση που κατέγραψε το CNBC. Η παρουσίαση του Οκτωβρίου δεν σημαίνει ότι το σύστημα έχει ήδη εγκατασταθεί σε όλο το δίκτυο της Microsoft.
Γιατί μετρά το κόστος της απάντησης
Κάθε απάντηση απαιτεί επεξεργασία και μεταφορά δεδομένων. Ένας agent μπορεί να κάνει πολλές διαδοχικές κινήσεις, να χρησιμοποιεί εργαλεία και να κρατά μεγάλο ιστορικό. Έτσι, η οικονομία της AI εξαρτάται από το πόση χρήσιμη εργασία παράγει η υποδομή ανά μονάδα ενέργειας και ανά δολάριο.
Η Microsoft αναφέρει έως επταπλάσια παραγωγή tokens ανά rack σε πλήρη διάταξη 96 επιταχυντών, σε σύγκριση με το Maia 200, και πάνω από 2,5 φορές καλύτερη απόδοση ανά watt. Τα tokens είναι οι μονάδες με τις οποίες τα μοντέλα επεξεργάζονται και παράγουν περιεχόμενο· περισσότερα δεν σημαίνουν αυτομάτως καλύτερη απάντηση.
Το chip είναι μέρος ολόκληρου συστήματος
Η νέα διάταξη διπλασιάζει τους επιταχυντές ανά rack σε 96. Η μνήμη φθάνει τα 288 GB ανά επιταχυντή, με μεγαλύτερη ταχύτητα μεταφοράς δεδομένων. Η αρχιτεκτονική επιδιώκει να κρατά τα δεδομένα κοντά στο σημείο επεξεργασίας, περιορίζοντας την ενέργεια που καταναλώνεται στη μετακίνησή τους.
Το rack συνδυάζει υπολογιστικά στοιχεία, δίκτυο, ηλεκτρική τροφοδοσία και ψύξη. Η εταιρεία αναφέρει ότι η υγρή ψύξη απομακρύνει πάνω από το 80% του θερμικού φορτίου του rack, ενώ άλλα στοιχεία συνεχίζουν να ψύχονται με αέρα.
Τι μπορεί να δει ο πελάτης
Ο σχεδιασμός αφορά υπηρεσίες όπως Copilot, GitHub Copilot και Microsoft Foundry. Η καλύτερη αξιοποίηση της υποδομής μπορεί να δώσει στον πάροχο περισσότερη διαθέσιμη δυναμικότητα, αλλά δεν αποτελεί ανακοίνωση μείωσης της τιμής κάθε προϊόντος ή συνδρομής.
Οι συγκρίσεις δημοσιεύονται από τη Microsoft και αφορούν συγκεκριμένες διατάξεις. Για μια επιχείρηση που αγοράζει υπηρεσίες AI, το χρήσιμο αποτέλεσμα θα μετρηθεί στη δική της εργασία: κόστος ανά ολοκληρωμένο αίτημα, χρόνος απόκρισης, αξιοπιστία και όρια χρήσης. Η υπόσχεση ενός chip χρειάζεται να φθάσει μέχρι εκεί.
Στοιχεία και πηγές: Microsoft Azure: πλήρης αρχιτεκτονική Maia 300 · Microsoft: ανακοίνωση και υλικό Maia 300 · CNBC: ο προγραμματισμός παραγωγής και η χρήση για inference.
Σύστημα Microsoft Azure Maia 300, 24 Σεπτεμβρίου 2026. Επίσημη φωτογραφία. — Φωτογραφία: Microsoft — Used with permission from Microsoft / Microsoft News Center: editorial use by press. Περικοπή κάδρου.
The post Microsoft Maia 300: Το νέο chip που υπόσχεται περισσότερη AI με λιγότερη ενέργεια appeared first on moneymatters.cy.