Σε ομιλία της, η Jessica Rusu, επικεφαλής δεδομένων και πληροφοριών της βρετανικής Αρχής Χρηματοοικονομικής Συμπεριφοράς (FCA), κάλεσε τους παρόχους μοντέλων AI να προσθέτουν σαφείς, αναλογικές και συνεπείς προειδοποιήσεις όταν τα εργαλεία τους δίνουν χρηματοοικονομικές πληροφορίες ή συμβουλές. Η FCA δημοσίευσε παραδείγματα καλής και κακής πρακτικής από δοκιμές σε εταιρείες. Ανακοίνωσε ότι θα συνεργαστεί με τον κλάδο για πλαίσιο σχετικά με την ταυτότητα των AI agents, την εξουσιοδότηση και τη λογοδοσία. Τόνισε ακόμη ότι η αναφορά σοβαρών περιστατικών πρέπει να καλύπτει και σημαντικές αστοχίες AI ή παρ' ολίγον περιστατικά.

Τι σημαίνει: Η ομιλία δείχνει πώς ένας μεγάλος ρυθμιστής προσπαθεί να προλάβει τη μετάβαση από τα chatbots στους agents που ενεργούν για λογαριασμό των πελατών. Το πρώτο μήνυμα αφορά τα γενικά μοντέλα AI που χρησιμοποιούν οι καταναλωτές για επενδυτικές ερωτήσεις. Η FCA δεν επεκτείνει την εποπτεία της σε αυτά, αλλά ζητά να είναι σαφές ότι μια απάντηση AI δεν προσφέρει την προστασία μιας ρυθμιζόμενης συμβουλής. Το δεύτερο μήνυμα απευθύνεται στις εταιρείες: χρειάζονται υπεύθυνα στελέχη για κάθε σύστημα AI, ανθρώπινη εποπτεία, δοκιμές αντοχής και εναλλακτικά σχέδια αν ένα μοντέλο αποτύχει ή αλλάξει. Η πρόθεση να αναφέρονται και τα παρ' ολίγον περιστατικά είναι σημαντική, γιατί σημαίνει ότι οι εταιρείες θα πρέπει να παρακολουθούν συστηματικά τη συμπεριφορά των agents τους. Τέλος, η FCA θα χρησιμοποιεί η ίδια AI για να εποπτεύει δεκάδες χιλιάδες εταιρείες. Στην ΕΕ, παρόμοια ζητήματα καλύπτονται από τον Κανονισμό AI, τον DORA για τα περιστατικά ΤΠΕ και τους κανόνες της MiFID για τις επενδυτικές συμβουλές, αλλά η ρύθμιση των agents δεν έχει ακόμη διαμορφωθεί. Για ελληνικές fintech που σχεδιάζουν αυτόνομες υπηρεσίες, οι αρχές της FCA αποτελούν χρήσιμο οδηγό.

Διαβάστε το πρωτότυπο στο FCA

Σχετική υπηρεσία: Διασυνδέσεις myDATA

Σχετικές ειδήσεις