Cum blochează OpenAI deepfake-urile electorale

De ce doar stil desen animat?

Atunci când un utilizator cere de la ChatGPT o imagine care ilustrează interferența în alegeri, sistemul o generează. Totuși, ieșirea e blocată într-un stil animat sau ilustrativ.

Orice cerere pentru o versiune foto-realistică e ignorată. CNET a testat acest lucru cerând o imagine a agenților de imigrație la un loc de votare. Toate prompturile au returnat rezultate în stil desene animate.

O versiune foto-realistică ar putea declanșa anxietate sau panică printre alegători.

Cum se creează frecare pentru războinici?

Scopul e să creezi frecare suplimentară.

Asta face mai greu pentru actorii răi să producă deepfake-uri politice realiste. Nu blochează crearea generală de conținut politic. Redactorul-șef al CNET, Jon Reed, a încercat să obțină o imagine în stil fotojurnalism al unei mașini de votare care înregistrează o alegere greșită.

Nu a putut convinge sistemul.

Cum răspund concurenții?

Josh Lawson, șeful alegerilor la OpenAI, a explicat că problema e înșelăciunea, nu comentariul social.

Scopul e să reduci valoarea probatorie a unei imagini, păstrând loc pentru ilustrație.

Va dura după alegeri?

Întrebată despre măsurile sale, Google a indicat politica sa pentru alegerile de jumătate de mandat. Compania lansează protecții suplimentare pentru a limita imaginile electorale înșelătoare. Anthropic, care nu are un generator de imagini tradițional, a confirmat că folosirea Claude pentru a înșela alegătorii încalcă politica companiei. Firma a publicat, de asemenea, ghidaj general pentru alegeri la începutul acestui lună.

Nu există nicio garanție că OpenAI va păstra acest sistem după ce cicluil electoral se termină.

Totuși, e un semn solid din partea uneia dintre cele mai mari laboratoare AI. Arată că iau în serios rolul de a proteja integritatea alegerilor americane, măcar parțial.