Meta a șters conturi cu video-uri AI șocante după ce a zis inițial că nu încălca regulile

De ce e mai greu să moderezi abuzurile AI?

Meta a șters mai multe conturi de Facebook care distribuiau video-uri generate cu inteligență artificială, în care antrenori atingeau neîndatorit atleți minori. Ștergerea a venit abia după ce jurnaliștii au raportat problema.

Inițial, Meta le-a spus reporterilor că video-urile nu încălcau standardele sale de comunitate.

Video-urile foloseau AI pentru a crea filmări realiste, dar fabricate, în care antrenorii făceau contact fizic nedorit cu atleți minori. Utilizatorii au semnalat conținutul, dar conturile au rămas active timp de săptămâni.

Răspunsul inițial al Meta a diminuat gravitatea problemei.

Moderația tradițională se bazează pe detectarea încălcărilor din lumea reală. Media generat cu AI neamestecă granița dintre real și sintetic.

Ce înseamnă asta pentru viitorul politicilor AI?

Acest lucru face sistemele de detectare automată mai puțin fiabile. Echipele de analiză a conținutului de la Meta au trebuit să evalueze manual dacă video-urile erau reale sau create cu AI.

Prima replică a companiei către jurnaliști a susținut că video-urile nu încălcau regulile. Această poziție s-a schimbat abia după ce problema a câștigat atenție publică. Meta a șters apoi conturile și a actualizat criteriile sale de analiză.

Platformele de social media se confruntă acum cu o nouă categorie de conținut dăunător: media de abuz generat cu AI. Răspunsul întârziat al Meta evidențiază golurile din fluxurile actuale de moderație. Compania este așteptată să strângă regulile sale privind media sintetică.

Utilizatorii au semnalat video-urile, dar conturile au rămas online timp de săptămâni. Poziția inițială a Meta, că conținutul era acceptabil, a creat confuzie. Ștergerea ulterioară semnalează o schimbare de politică.

De ce a zis Meta inițial că video-urile nu încălcau regulile? Prima replică a companiei către jurnaliști a susținut că video-urile generate cu AI nu încălcau standardele de comunitate.

Întrebări frecvente!

Compania a schimbat apoi această poziție după ce a primit atenție publică.

Câte conturi au fost șterse? Mai multe conturi care distribuiau video-urile AI șocante au fost șterse.

Numărul exact nu a fost divulgat în raportarea inițială.

Vor fi alte platforme confruntate cu aceeași problemă? Da.

Alte companii de social media sunt probabil să se confrunte cu conținut de abuz generat cu AI similar. Experiența lui Meta ar putea declanșa actualizări de politică la nivel de industrie.