Στο PyTorch Conference 2026 η Google διέθεσε ως ανοιχτό λογισμικό το TorchTPU, ένα εγγενές backend που επιτρέπει σε υπάρχοντα μοντέλα PyTorch να τρέχουν στους επεξεργαστές TPU με ελάχιστες αλλαγές. Το εργαλείο αναπτύχθηκε μαζί με την ομάδα PyTorch της Meta και υποστηρίζεται από Hugging Face, vLLM, SGLang, TorchTitan και Ray. Η Google ανακοίνωσε επίσης την έκδοση llm-d 1.0 για κατανεμημένη εξυπηρέτηση μοντέλων και την ένταξη του LiteRT στο οικοσύστημα PyTorch.
Τι σημαίνει: Το πιο δύσκολο εμπόδιο για όποιον θέλει να ανταγωνιστεί τη Nvidia δεν είναι τα chip αλλά το λογισμικό. Οι περισσότεροι προγραμματιστές γράφουν σε PyTorch και τα εργαλεία τους έχουν βελτιστοποιηθεί για GPU, οπότε η μετάβαση σε άλλο hardware κοστίζει χρόνο και ρίσκο. Με το TorchTPU η Google προσπαθεί να εξαλείψει αυτό το κόστος, όπως έκανε λίγες μέρες νωρίτερα η Amazon για τα δικά της Trainium. Η συνεργασία με τη Meta, που είναι ο κύριος συντηρητής του PyTorch, δίνει στο εργαλείο σοβαρότερη βάση από προηγούμενες προσπάθειες. Για επιχειρήσεις που εκπαιδεύουν ή εξυπηρετούν μοντέλα, η ουσία είναι η επιλογή: αν ο ίδιος κώδικας τρέχει σε GPU, TPU ή άλλους επιταχυντές, μπορούν να διαπραγματεύονται τιμές και διαθεσιμότητα αντί να κλειδώνονται σε έναν προμηθευτή. Αυτό έχει σημασία σε περίοδο ελλείψεων υπολογιστικής ισχύος. Μένει να φανεί πόσο κοντά στην απόδοση των GPU θα φτάσουν πραγματικά φορτία έξω από τα παραδείγματα της Google. Επίσης, τα TPU διατίθενται μόνο μέσω Google Cloud, οπότε η ελευθερία αφορά το λογισμικό και όχι την τοποθεσία του hardware.
Διαβάστε το πρωτότυπο στο Google Cloud Blog
Σχετική υπηρεσία: Ανάπτυξη λογισμικού
Σχετικές ειδήσεις
- Η Rivian εξαγοράζει τη βρετανική Third Dimension AI για προσομοιώσεις αυτόνομης οδήγησης
- Railway: παραβίαση στις μεταβλητές περιβάλλοντος, όλοι οι χρήστες καλούνται να αλλάξουν κλειδιά
- LiteLLM: κακόβουλη έκδοση 1.107.0 σε PyPI και Docker έκλεβε κλειδιά cloud και AI
- Interpol: 1.462 συλλήψεις και 105 εκατ. δολάρια ανακτήθηκαν σε επιχείρηση κατά του κυβερνοεγκλήματος στην Αφρική
- GitLab: κενό μέγιστης σοβαρότητας επιτρέπει εκτέλεση κώδικα χωρίς σύνδεση