FTC investighează OpenAI și Anthropic în legătură cu siguranța AI-urilor

Ce incidente au declanșat ancheta FTC?

Comisia Federală de Comerț din SUA (FTC) a emis miercuri comenzi de investigație civilă către OpenAI și Anthropic, cerând documente legate de incidente de siguranță legate de modelele lor de inteligență artificială. Aceste subpoane au fost reluate de Axios, pe baza unei surse familiarizate cu situația. Un purtător de cuvânt al FTC a confirmat cererile pentru CBS News, dar a refuzat să ofere alte detalii.

Investigația se concentrează pe modul în care ambe companii au gestionat incidente în care sistemele lor AI ar fi putut reprezenta riscuri pentru consumatori sau nu au îndeplinit standardele de siguranță declarate. FTC este deosebit de interesată de comunicațiile interne, evaluările de risc și procedurile de Această acțiune semnalează o supraveghere reglementară crescândă a practicilor de siguranță AI, în urma avansațiilor rapide în tehnologia AI generativă.

Agenția a avertizat anterior companiile despre a face declarații neîntemeiate privind capabilitățile și măsurile de siguranță AI.

Subpoanele probabil vizează mai multe evenimente recente, inclusiv rapoarte despre sisteme AI care generează conținut dăunător, încălcări de confidențialitate și cazuri în care modelele au arătat comportamente neașteptate. OpenAI a fost criticat pentru gestionarea datelor și eșecurile în moderarea conținutului de către ChatGPT. Anthropic a avut de-a face cu preocupări legate de alinierea modelului Claude și probleme de bias. FTC vrea să înțeleagă dacă aceste companii au identificat, dezvăluit și abordat corespunzător astfel de probleme intern, înainte să afecteze utilizatorii.

Va duce la amenzi sau restricții privind implementarea AI?

Ambele companii au încheiat anterior acorduri cu FTC în legătură cu încălcări de confidențialitate și securitate a datelor, acceptând să implementeze programe cuprinzătoare de siguranță. OpenAI a încheiat un acord în 2023 privind practicile de colectare a datelor de către ChatGPT. Anthropic a fost supus unei atenții regulate similare. Investigația curentă ar putea duce la sancțiuni suplimentare dacă FTC constată că una dintre companii a înșelățit consumatorii despre siguranța AI-ului sau nu a menținut măsuri de protecție adecvate.

Experții juridici sugerează că aceasta reprezintă o acțiune mai largă a agențiilor federale de a stabili cadre de supraveghere pentru tehnologiile emergente AI.

Rezultatul acestei investigații ar putea transforma modul în care companiile AI abordează testarea de siguranță, raportarea incidentelor și comunicarea cu consumatorii.

Regulatorii cer din ce în ce mai mult transparență despre riscurile AI, mai ales acum când aceste sisteme devin mai integrate în sectoare critice precum sănătatea, finanțele și învățământul.

Companiile pot face față cerințelor de conformitate mai stricte și audituri regulate de siguranță.