Η πλατφόρμα cloud Modal ανακοίνωσε ότι θα προσθέσει τον νέο επεξεργαστή Vera της NVIDIA, βασισμένο σε αρχιτεκτονική Arm, για να τρέχει τα απομονωμένα περιβάλλοντα (sandboxes) των AI agents. Σε πρώτες δοκιμές υπό μεγάλο φορτίο, η εταιρεία μέτρησε έως και διπλάσια απόδοση σε σχέση με αντίστοιχο σύστημα x86. Είναι η πρώτη φορά που η Modal βγαίνει από την αποκλειστική χρήση x86. Σύμφωνα με το Reuters, οι επεξεργαστές Intel και AMD θα παραμείνουν σε μικτό στόλο.

Τι σημαίνει: Η συζήτηση για την υποδομή τεχνητής νοημοσύνης εστιάζει συνήθως στις κάρτες γραφικών, όμως οι agents αλλάζουν την εικόνα. Όταν ένα μοντέλο γράφει και εκτελεί κώδικα, εγκαθιστά πακέτα ή ψάχνει σε αρχεία, η δουλειά αυτή γίνεται σε κοινούς επεξεργαστές. Σε πλατφόρμες με εκατοντάδες ταυτόχρονα sandboxes, οι απότομες αιχμές φορτίου δημιουργούν συμφόρηση, και κάθε δευτερόλεπτο αναμονής κοστίζει, ιδίως όταν ακριβές GPU περιμένουν τα αποτελέσματα στην ενισχυτική μάθηση. Η NVIDIA βλέπει εδώ μια νέα αγορά και μπαίνει στο έδαφος της Intel και της AMD. Η μετάβαση σε Arm δεν είναι όμως απλή: απαιτεί αλλαγές σε εικόνες λογισμικού, βιβλιοθήκες και εργαλεία κατασκευής. Η Modal επιλέγει μικτό στόλο, στέλνοντας κάθε εργασία στο υλικό που την εκτελεί καλύτερα. Για ελληνικές ομάδες ανάπτυξης που χρησιμοποιούν agents προγραμματισμού ή αυτοματοποιημένους ελέγχους, το μήνυμα είναι ότι το κόστος δεν εξαρτάται μόνο από το μοντέλο αλλά και από το περιβάλλον εκτέλεσης. Η υποστήριξη πολλών αρχιτεκτονικών στα container images, που ήδη χρειάζεται για τους υπολογιστές Mac με Apple Silicon, γίνεται πλέον και θέμα κόστους στο cloud.

Διαβάστε το πρωτότυπο στο Modal

Σχετική υπηρεσία: Ανάπτυξη λογισμικού

Σχετικές ειδήσεις