Η Apple ενημέρωσε τις οδηγίες του App Store ώστε να απαγορεύουν πιο ρητά εφαρμογές που δημιουργούν με τεχνητή νοημοσύνη προσωπικές εικόνες ανθρώπων χωρίς τη συγκατάθεσή τους. Οι προγραμματιστές πρέπει πλέον να προλαμβάνουν και να αφαιρούν ενεργά τέτοιο περιεχόμενο, αλλιώς κινδυνεύουν με απομάκρυνση από το κατάστημα. Η εταιρεία διευκρίνισε επίσης τον κανόνα για εφαρμογές που προσθέτουν ή αλλάζουν λειτουργίες μετά την έγκρισή τους. Οι αλλαγές έρχονται μετά από έντονη κριτική για deepfakes που δημιουργήθηκαν με εργαλεία AI νωρίτερα μέσα στη χρονιά.

Τι σημαίνει: Η αλλαγή μεταφέρει μεγαλύτερο μέρος της ευθύνης στους προγραμματιστές: δεν αρκεί να μην προωθούν μια επιβλαβή λειτουργία, πρέπει να έχουν μηχανισμούς που την εμποδίζουν και να αντιδρούν όταν ειδοποιούνται. Για κάθε ομάδα που ενσωματώνει παραγωγή εικόνας ή επεξεργασία φωτογραφιών με AI, αυτό σημαίνει φίλτρα στο περιεχόμενο που δημιουργείται, διαδικασίες αναφοράς από χρήστες και καταγραφή των ενεργειών εποπτείας. Η ρητή αναφορά στις εφαρμογές που αλλάζουν συμπεριφορά μετά την έγκριση δείχνει ότι η Apple θα εξετάζει πιο προσεκτικά τις απομακρυσμένες ρυθμίσεις και τις ενημερώσεις που ενεργοποιούν νέες δυνατότητες. Για τις ελληνικές εταιρείες που αναπτύσσουν εφαρμογές για iOS, ακόμη και όσες δεν έχουν σχέση με τέτοιο περιεχόμενο, είναι καλή ευκαιρία να ελέγξουν αν οι πολιτικές moderation τους είναι γραμμένες και εφαρμόζονται στην πράξη. Στην Ευρώπη, ο Κανονισμός για τις Ψηφιακές Υπηρεσίες και ο Κανονισμός για την Τεχνητή Νοημοσύνη, που απαιτεί σήμανση για deepfakes, κινούνται προς την ίδια κατεύθυνση. Οι κανόνες των καταστημάτων εφαρμογών λειτουργούν συχνά πιο γρήγορα από τη νομοθεσία, επειδή η απομάκρυνση από το κατάστημα έχει άμεσο εμπορικό κόστος. Αναμένεται παρόμοια αυστηροποίηση και από το Google Play.

Διαβάστε το πρωτότυπο στο The Verge

Σχετική υπηρεσία: Ανάπτυξη λογισμικού

Σχετικές ειδήσεις