Η Meta παρουσίασε το Muse Spark Open, ένα μοντέλο με ανοιχτά βάρη, 816 δισ. παραμέτρους και παράθυρο συμφραζομένων ενός εκατομμυρίου tokens. Η εταιρεία το χαρακτηρίζει ως το ικανότερο ανοιχτό μοντέλο στις ΗΠΑ και το προορίζει για προγραμματισμό και εργασίες από πράκτορες. Είναι σχεδιασμένο να τρέχει τοπικά σε υπολογιστές Mac, αλλά απαιτεί τουλάχιστον 1 TB μνήμης, ιδανικά σε Mac Studio με M5 Ultra. Διατίθεται ήδη μέσω διάφορων πλατφορμών API.

Τι σημαίνει: Ένα ανοιχτό μοντέλο αυτού του μεγέθους αλλάζει τους υπολογισμούς για όποιον χτίζει προϊόντα πάνω σε AI. Μέχρι σήμερα, η επιλογή ήταν συνήθως ανάμεσα σε ακριβά κλειστά μοντέλα μέσω API και σε μικρότερα ανοιχτά μοντέλα με χαμηλότερη απόδοση. Αν οι μετρήσεις της Meta επιβεβαιωθούν από ανεξάρτητους ελέγχους, οι επιχειρήσεις αποκτούν μια ισχυρή εναλλακτική που μπορούν να φιλοξενήσουν οι ίδιες. Για μια ελληνική εταιρεία λογισμικού ή μια τράπεζα, αυτό σημαίνει ότι ευαίσθητα δεδομένα, όπως κώδικας, συμβάσεις ή στοιχεία πελατών, δεν χρειάζεται να φεύγουν προς τρίτους παρόχους, κάτι που διευκολύνει τη συμμόρφωση με τον GDPR και τον DORA. Η απαίτηση για 1 TB μνήμης όμως δείχνει ότι το τοπικό τρέξιμο δεν είναι για κάθε γραφείο. Ένας Mac Studio με τόση μνήμη κοστίζει πολλές χιλιάδες ευρώ, άρα για τις περισσότερες μικρομεσαίες επιχειρήσεις η πρακτική λύση θα είναι η φιλοξενία σε ευρωπαϊκό cloud ή η χρήση μέσω API με σαφείς όρους επεξεργασίας δεδομένων. Πριν από οποιαδήποτε υιοθέτηση, αξίζει να ελεγχθεί η άδεια χρήσης, γιατί τα ανοιχτά βάρη δεν σημαίνουν πάντα ελεύθερη εμπορική χρήση χωρίς όρους. Το βασικό μήνυμα είναι ότι ο ανταγωνισμός στα ανοιχτά μοντέλα ρίχνει τις τιμές και δίνει στις μικρότερες ομάδες περισσότερη διαπραγματευτική δύναμη απέναντι στους μεγάλους παρόχους.

Διαβάστε το πρωτότυπο στο TechCrunch

Σχετική υπηρεσία: Ανάπτυξη λογισμικού

Σχετικές ειδήσεις