Apple declară război aplicațiilor de tip „AI undressing” din App Store

Protecție împotriva abuzurilor digitale?

Apple a actualizat oficial regulamentul App Store, introducând o interdicție strictă pentru aplicațiile care folosesc inteligența artificială pentru a genera imagini intime fără consimțământul persoanelor vizate. Noua politică vizează direct software-ul capabil să „dezbrace” digital subiecții din fotografii, o tehnologie abuzivă care a devenit tot mai prezentă în mediul online.

Gigantul tech impune acum dezvoltatorilor să integreze mecanisme de filtrare riguroase în interiorul aplicațiilor. Aceste filtre trebuie să blocheze activ orice tentativă de generare a conținutului explicit din fotografii obișnuite.

Prin această măsură, Apple încearcă să elimine instrumentele care exploatează modelele avansate de machine learning pentru hărțuire sau încălcarea intimității.

Ascensiunea rețelelor generative și a instrumentelor sofisticate de manipulare vizuală a făcut ca editarea foto malițioasă să fie la îndemâna oricui. Utilizatorii rău-intenționați au profitat de aceste tehnologii pentru a crea imagini compromițătoare, fără acordul victimelor.

Decizia Apple reprezintă un

Dezvoltatorii care doresc să își păstreze aplicațiile în magazinul Apple trebuie să demonstreze că noile filtre sunt funcționale. În caz contrar, aplicațiile vor fi respinse sau eliminate imediat de pe platformă.

Cum vor fi detectate încălcările?

Echipa de moderare va analiza cu strictețe orice software care permite modificarea imaginilor, pentru a se asigura că standardele de siguranță sunt respectate.

Procesul de verificare se bazează pe o analiză riguroasă și pe monitorizarea continuă a algoritmilor.

Dezvoltatorii sunt obligați să depună documentație detaliată despre protocoalele de filtrare utilizate. Într-o lume în care tehnologia generativă evoluează fulgerător, Apple încearcă să țină pasul pentru a proteja intimitatea utilizatorilor în întreg ecosistemul său.

Ce tipuri de aplicații sunt vizate de noile reguli?

Sunt vizate toate programele, inclusiv instrumentele bazate pe AI, care pot transforma fotografii normale în conținut sexual explicit fără acordul persoanelor din imagini.

Sunt dezvoltatorii obligați să ia măsuri imediate? Da, implementarea unor filtre stricte care să prevină generarea de imagini intime neautorizate a devenit o condiție obligatorie pentru a rămâne în App Store.