Cum abordează Consiliul de supraveghere al Meta’s Oversight Board imaginile sexuale ale AI

Consiliul de Supraveghere al Meta se confruntă din nou cu regulile rețelei de socializare în ceea ce privește conținutulgenerat de inteligența artificială. Consiliul a acceptat două cazuri care implică imagini explicite ale unor personalități publice generate de AI.

Cazurile se referă la imagini explicite a două personalități publice

Meta are reguli care interzic nuditatea pe Facebook și Instagram. Cu toate acestea,Consiliul de supraveghere a precizat într-o notă că dorește să verifice dacă“politicile și practicile de aplicare ale Meta sunt eficiente în combaterea imaginilor explicite generate de AI“. Imaginile generate de AI cu celebrități feminine, politicieni și alte personalități publice au devenit o formă tot mai proeminentă de hărțuire online și au determinat o serie de propuneri de reglementare. Prin aceste două cazuri, Consiliul de supraveghere ar putea împinge Meta să adopte noi reguli pentru a face față unei astfel de hărțuiri pe platforma sa.

OversightBoard a declarat că nu va dezvălui numele celor două personalități publice implicate în aceste cazuri pentru a preveni alte cazuri de hărțuire, deși a descris circumstanțele în care a fost postat fiecare mesaj.

Primul caz se referă la o postare pe Instagram

Primul caz se referă la o postare pe Instagram care arăta oimagine generată de AI a unei femei indiene goale. Postarea a fost publicată de un cont care “distribuie numai imagini generate de inteligența artificială cu femei indiene”. Postarea a fost raportată la Meta, dar raportul a fost închis după 48 de ore fără a fi investigat. Același utilizator a făcut apel împotriva acestei decizii, dar apelul a fost, de asemenea, închis fără a fi examinat. Meta a eliminat în cele din urmă postarea după ce utilizatorul a făcut apel la Consiliul de supraveghere, iar acesta a fost de acord să examineze cazul.

Al doilea caz se referă la o postare pe Facebook

Al doilea caz se referă la o postare pe Facebook într-un grup dedicatartei generate de inteligența artificială. Postarea în cauză arăta “o imagine generată de AI a unei femei goale cu un bărbat care îi pipăie sânii”. Femeia ar fi trebuit să semene cu “o personalitate publică americană”, al cărei nume apărea, de asemenea, în legenda postării. Postarea a fost eliminată automat, deoarece fusese semnalată anterior și sistemele interne ale Meta au putut să o asocieze cu postarea anterioară. Utilizatorul a făcut apel la decizia de a o elimina, dar apelul a fost “închis automat”. Utilizatorul a apelat apoi la Consiliul de supraveghere, care a fost de acord să examineze cazul.

Obiectivul Consiliului de supraveghere și implicarea Meta

Într-o declarație, copreședintele Oversight Board, Helle Thorning-Schmidt, a declarat că boardul a abordat cele două cazuri din țări diferite pentru a evalua orice disparități în aplicarea politicilor Meta. “Știm că Meta este mai rapidă și mai eficientă în moderarea conținutului pe anumite piețe și în anumite limbi decâtpe altele”, a declarat Thorning-Schmidt. “Luândun caz din SUA și unul din India, dorim să testăm dacă Meta protejează în mod egal toate femeile din întreaga lume“.

Consiliul de supraveghere solicită acum comentarii publice pentru următoarele două săptămâni și își va publica decizia în scurt timp, împreună cu recomandări politice pentru Meta. Un proces similar care a implicat un videoclip înșelător al lui Joe Biden a dus recent la angajamentul Meta de a marca mai mult conținut generat de inteligența artificială pe platforma sa.