Η Microsoft υποστηρίζει ότι τα AI agents που λειτουργούν μέσα στις επιχειρήσεις πρέπει να αντιμετωπίζονται σαν εσωτερικοί χρήστες υψηλού κινδύνου, επειδή συχνά έχουν υπερβολικά δικαιώματα. Η εταιρεία περιγράφει πώς το Project Perception και τα «Guardian Agents» θα εντοπίζουν agents, θα τους δίνουν ταυτότητα και πολιτικές και θα υπολογίζουν δυναμικά τον κίνδυνο κάθε ενέργειας. Ανάλογα με τον κίνδυνο, ένας agent μπορεί να περιοριστεί, να χρειάζεται ανθρώπινη έγκριση ή να απομονωθεί πλήρως.

Τι σημαίνει: Η ανακοίνωση δείχνει μια αλλαγή στον τρόπο που οι μεγάλοι προμηθευτές σκέφτονται την ασφάλεια της τεχνητής νοημοσύνης. Μέχρι πρόσφατα η συζήτηση αφορούσε κυρίως επιτιθέμενους που χρησιμοποιούν AI απ' έξω. Τώρα η Microsoft λέει ανοιχτά ότι και οι agents που εγκαθιστά η ίδια η επιχείρηση μπορεί να κάνουν ζημιά, όχι από κακή πρόθεση αλλά επειδή κυνηγούν το αποτέλεσμα χωρίς να καταλαβαίνουν τους κανόνες του οργανισμού. Η λύση που προτείνει μοιάζει με αυτό που κάνουμε ήδη για τους ανθρώπους: ξεχωριστή ταυτότητα, ελάχιστα δικαιώματα για συγκεκριμένο χρονικό διάστημα και παρακολούθηση των ενεργειών. Η διαφορά είναι ότι ο έλεγχος πρέπει να γίνεται σε πραγματικό χρόνο, πριν η ενέργεια εκτελεστεί. Για τις ελληνικές επιχειρήσεις που δοκιμάζουν agents σε λογιστήρια, εξυπηρέτηση πελατών ή ανάπτυξη λογισμικού, το συμπέρασμα είναι πρακτικό: πριν δοθεί πρόσβαση σε συστήματα πληρωμών, ERP ή δεδομένα πελατών, χρειάζεται καταγραφή του τι κάνει κάθε agent και δυνατότητα άμεσης διακοπής. Οι απαιτήσεις του GDPR και του NIS2 κάνουν αυτή την ιχνηλασιμότητα ακόμη πιο σημαντική. Αξίζει επίσης να σημειωθεί ότι η Microsoft ζητά μεγαλύτερη διαφάνεια από τα ίδια τα μοντέλα, ώστε ο έλεγχος να κρίνει όχι μόνο τι κάνει ένας agent αλλά και γιατί το κάνει.

Διαβάστε το πρωτότυπο στο Microsoft

Σχετική υπηρεσία: Ανάπτυξη λογισμικού

Σχετικές ειδήσεις