Η OpenAI δημοσίευσε στις 29 Οκτωβρίου νέα έκδοση του Model Spec, του εγγράφου που περιγράφει πώς πρέπει να συμπεριφέρονται τα μοντέλα της. Το κείμενο αναδιοργανώνεται γύρω από πέντε αξίες: πιστότητα στην πρόθεση του ανθρώπου, ελαχιστοποίηση της βλάβης, ειλικρίνεια και διαφάνεια, διευκόλυνση της ανθρώπινης αυτονομίας και φροντίδα. Η αναθεώρηση προσθέτει οδηγίες για το πλαίσιο, τη μνήμη, την εξατομίκευση, την εποπτεία και τη δράση των μοντέλων ως πράκτορες. Παράλληλα αφαιρεί το μεγαλύτερο μέρος των λεπτομερών οδηγιών ύφους και μετονομάζει τον βοηθό σε GPT.

Τι σημαίνει: Καθώς τα μοντέλα δεν απαντούν απλώς σε ερωτήσεις αλλά εκτελούν ενέργειες, όπως αγορές, αποστολή μηνυμάτων ή αλλαγές σε κώδικα, η ερώτηση πώς αποφασίζουν τι να κάνουν γίνεται πιο σημαντική. Το Model Spec είναι το δημόσιο έγγραφο με το οποίο η OpenAI εξηγεί ποιους κανόνες προσπαθεί να μάθει στα μοντέλα της, και η νέα δομή δίνει προτεραιότητα στο τι πραγματικά θέλει ο χρήστης, όχι μόνο στο τι ζήτησε κατά λέξη. Η προσθήκη οδηγιών για μνήμη και εξατομίκευση έχει σημασία για την προστασία προσωπικών δεδομένων, γιατί ορίζει πότε το μοντέλο χρησιμοποιεί όσα θυμάται από προηγούμενες συνομιλίες. Για επιχειρήσεις που ενσωματώνουν μοντέλα της OpenAI σε δικά τους προϊόντα, το έγγραφο βοηθά να καταλάβουν πώς θα αντιδρά το μοντέλο σε οδηγίες του προγραμματιστή που συγκρούονται με τα συμφέροντα του τελικού χρήστη. Ο ευρωπαϊκός κανονισμός για την τεχνητή νοημοσύνη απαιτεί από τους παρόχους μοντέλων γενικού σκοπού διαφάνεια για τη λειτουργία τους, και τέτοια έγγραφα αποτελούν μέρος αυτής της τεκμηρίωσης. Ωστόσο, ένα κείμενο αρχών δεν εγγυάται ότι το μοντέλο θα συμπεριφέρεται πάντα σύμφωνα με αυτό, οπότε οι επιχειρήσεις χρειάζεται να δοκιμάζουν οι ίδιες τη συμπεριφορά του στα δικά τους σενάρια χρήσης.

Διαβάστε το πρωτότυπο στο OpenAI

Σχετική υπηρεσία: Ανάπτυξη λογισμικού

Σχετικές ειδήσεις