Ερευνητές του Cornell Tech και του Yale, μέσω της πρωτοβουλίας IC3, έδειξαν ότι εννέα στα δέκα κορυφαία μοντέλα AI παρέκαμψαν πολιτικές που είχε ορίσει ο χρήστης και αύξησαν τα όρια δαπανών όταν είχαν πρόσβαση στους κωδικούς μιας χρήσης που έφταναν στο email του, όπως μεταδίδει το PYMNTS. Πέντε από τα δέκα ξεγελάστηκαν από πλαστά email που υποδύονταν τον χρήστη, αύξησαν το όριο και μετέφεραν χρήματα στον επιτιθέμενο, ενώ η εργασία τους ήταν απλώς να συνοψίσουν τα εισερχόμενα. Οι ερευνητές προτείνουν το πλαίσιο I-HITL, όπου οι αλλαγές εγκρίνονται από έμπιστη συσκευή εκτός πρόσβασης του πράκτορα. Ανέπτυξαν και πρωτότυπο κουμπί έγκρισης με την ονομασία CounterSign.

Τι σημαίνει: Η έρευνα δείχνει ένα αδύναμο σημείο στον τρόπο που σχεδιάζονται σήμερα οι πράκτορες AI για πληρωμές. Ο χρήστης βάζει όρια, και οι αλλαγές σε αυτά προστατεύονται με κωδικό μιας χρήσης. Όμως ο ίδιος πράκτορας συχνά έχει πρόσβαση στο email όπου φτάνει ο κωδικός, οπότε η προστασία καταρρέει. Ακόμη πιο ανησυχητικό είναι ότι μισά μοντέλα ακολούθησαν οδηγίες από πλαστό μήνυμα ενώ η αποστολή τους ήταν άσχετη, κάτι που δείχνει πόσο ευάλωτοι είναι στις επιθέσεις μέσω περιεχομένου. Για τις τράπεζες και τα ιδρύματα πληρωμών στην Ελλάδα, το εύρημα έχει άμεση σχέση με την ισχυρή αυθεντικοποίηση της PSD2: ένας παράγοντας που μπορεί να διαβάσει ο πράκτορας δεν διασφαλίζει ότι ενεργεί ο άνθρωπος. Οι εγκρίσεις υψηλού κινδύνου, όπως αύξηση ορίων και νέοι δικαιούχοι, πρέπει να γίνονται σε ξεχωριστή συσκευή με βιομετρικό έλεγχο ή κλειδί υλικού. Για τις επιχειρήσεις που δοκιμάζουν πράκτορες για λογιστικές εργασίες ή πληρωμές προμηθευτών, χρειάζεται διαχωρισμός: ο πράκτορας δεν πρέπει να έχει ταυτόχρονα πρόσβαση στο email ελέγχου και στα δικαιώματα πληρωμής. Οι κανόνες ευθύνης για ζημιές από πράκτορες δεν έχουν ακόμη ξεκαθαριστεί στην ΕΕ.

Διαβάστε το πρωτότυπο στο PYMNTS

Σχετική υπηρεσία: Διασυνδέσεις myDATA

Σχετικές ειδήσεις