Έρευνα του WIRED εντόπισε δίκτυο εκατοντάδων εφαρμογών τεχνητής νοημοσύνης που παρουσιάζονται ως αθώα εργαλεία επεξεργασίας εικόνας ή βοηθοί, αλλά κρύβουν λειτουργίες σεξουαλικά καταχρηστικών deepfake. Οι εφαρμογές συχνά μοιράζονται υποδομή, κιτ ανάπτυξης και παρόμοια διεπαφή πληρωμών. Το ρεπορτάζ εγείρει ερωτήματα για τους ελέγχους των καταστημάτων εφαρμογών και για τη δυνατότητα των χρηστών να καταλάβουν τον πραγματικό σκοπό πριν την εγκατάσταση. Οι πλατφόρμες καλούνται να ενισχύσουν ανίχνευση παραπλανητικής περιγραφής.

Τι σημαίνει: Η παραπλάνηση στη λίστα καταστήματος είναι μέρος της επίθεσης: ο χρήστης κατεβάζει «εργαλείο φόντου» και βρίσκει κρυφό μενού για μη συναινετική απεικόνιση. Για γονείς και σχολεία στην Ελλάδα, χρειάζονται ενημέρωση και οικογενειακοί περιορισμοί στις αγορές εφαρμογών. Οι προγραμματιστές νόμιμων εργαλείων επεξεργασίας εικόνας πρέπει να διαφοροποιούν σαφώς το προϊόν τους και να αναφέρουν καταχρήσεις. Τα καταστήματα οφείλουν να συσχετίζουν εφαρμογές με κοινή υποδομή πληρωμών ή SDK και να τις εξετάζουν ως οικογένεια. Νομικά, η μη συναινετική πορνογραφία deepfake αντιμετωπίζεται όλο και αυστηρότερα στην ΕΕ· οι πλατφόρμες που αργούν να κατεβάσουν τέτοιο λογισμικό αυξάνουν τον κίνδυνο ευθύνης. Οι ομάδες εμπιστοσύνης και ασφάλειας μπορούν να χρησιμοποιούν ομοιότητα δυαδικών και κοινά endpoints ως σήματα μαζικής αφαίρεσης. Οι ομάδες πρέπει να καταγράψουν υπευθύνους, κύκλους ανασκόπησης και εναλλακτικές διαδικασίες πριν από ευρύτερη ανάπτυξη. Οι ομάδες πρέπει να καταγράψουν υπευθύνους, κύκλους ανασκόπησης και εναλλακτικές διαδικασίες πριν από ευρύτερη ανάπτυξη. Οι ομάδες πρέπει να καταγράψουν υπευθύνους, κύκλους ανασκόπησης και εναλλακτικές διαδικασίες πριν από ευρύτερη ανάπτυξη.

Διαβάστε το πρωτότυπο στο WIRED

Σχετική υπηρεσία: Ανάπτυξη λογισμικού

Σχετικές ειδήσεις