Meta AI și dilema cuplurilor interrasiale: o excludere digitală?

Inteligența artificială devine rapid o parte integrantă a vieții noastre de zi cu zi. În prezent, unul dintre domeniile în care IA câștigă teren este generarea de imagini. Cu toate acestea, se pare căAI-ul companieiMeta, una dintre cele mai importante companii din domeniu, are limitări semnificative atunci când vine vorba de crearea de imagini de cupluri interrasiale, mai exact un bărbat asiatic cu o femeie albă.

Experiența personală de imposibilitate

Am decis să testezAI-ul de la Meta pentru a vedea dacă poate genera imagini ale unui cuplu interrasial care include un bărbat asiatic și o femeie albă. Am încercat în repetate rânduri să folosesc diferite indicații, cum ar fi “bărbat asiaticși prieten caucazian“, “bărbat asiatic și soție albă” și “femeie asiatică și soț caucazian”. În mod surprinzător, inteligența artificială a Meta a refuzat în mod constant să returneze o imagine corectă reprezentând rasele specificate.

Se pare că inteligența artificială Meta nu este capabilă să își imagineze un cuplu interrasialcu un bărbat asiatic și o femeie albă. Această limitare m-a lăsat uimit și m-a determinat să investighez mai departe.

Limitările AI-ului Meta în generarea de imagini

Am constatat că, chiar și atunci când am făcut modificări ale indicațiilor textuale,AI-ul lui Meta nu pare să fie capabil să genereze imagini corecte. Atunci când am solicitat o imagine cu un“bărbat asiatic și o femeie albă zâmbind cu un câine“, Meta’s AI a returnat trei imagini consecutive cu două persoane asiatice. Chiar și atunci când am înlocuit “alb” cu “caucazian”, rezultatul a fost același. “Bărbat asiatic și femeie caucaziană în ziua nunții” mi-a dat un bărbat asiatic într-un costum și o femeie asiatică într-o rochie tradițională… deși la o privire mai atentă pare o combinație de qipao și kimono. Multiculturalismul este incredibil.

Inteligența artificială a lui Meta pare, de asemenea, să aibă dificultăți în a reprezenta relațiile platonice. Ori de câte ori am cerut o imagine a unui “bărbat asiatic cu un prieten caucazian” sau a unei “femei asiatice cu un prieten alb”, AI a returnat imagini cu două persoane asiatice. Chiar și atunci când am solicitat o imagine a unei “femei asiatice cu un prieten de culoare”, imaginea generată de AI a arătat două femei asiatice. Doar atunci când am schimbat cererea în “asiatică cu un prieten afro-american”, rezultatele au fost mai precise.

Limitările inteligenței artificiale a Meta

Este interesant faptul că AI pare să funcționeze ceva mai bine când vine vorba de persoane din Asia de Sud. A reușit să creeze o imagine folosind solicitarea “bărbat din Asia de Sud cu soție caucaziană” – dar a generat imediat o imagine cu două persoane din Asia de Sud folosind aceeași solicitare. De asemenea, sistemul pare să se bazeze foarte mult pe stereotipuri, adăugând elemente care amintesc de bindi și sari la femeile sud-asiatice create, fără ca eu să îi cer acest lucru.

Este clar că generatorul de imagini Meta nu este capabil să conceapă persoane asiatice alături de persoane albe. Dar există și indicii mai subtile de părtinire în rezultatele generate de sistem. De exemplu, am observat că inteligența artificială a Meta reprezintă în mod constant “femeile asiatice” ca fiind persoane de origine est-asiatică cu ten deschis, chiar dacă India este cea mai populată țară din lume. Adaugă îmbrăcăminte specifică culturii, chiar și fără o solicitare specifică. AI a generat mai mulți bărbați asiatici mai în vârstă, dar femeile asiatice erau întotdeauna tinere.

Singura imagine generată cu succes a fost obținută cu ajutorul solicitării“Femeie asiatică cu soț caucazian” și arăta un bărbat vizibil mai în vârstă cu o femeie asiatică tânără cu tenul deschis, o situație neobișnuită, deoarece nu încercam să intru în discursul privind vârsta. La scurt timp după aceea, am generat o altă imagine folosind același prompt și rezultatul a fost o revenire la imaginea unui bărbat asiatic (de asemenea mai în vârstă) cu o femeie asiatică.

La momentul respectiv, Meta nu a răspuns imediat la o solicitare de comentarii.

Implicațiile limitărilor inteligenței artificiale a Meta

Meta și-a introdus instrumentele de generare de imagini cu ajutorul AI anul trecut, iar instrumentul său de creare de abțibilduri a luat-o razna cu crearea de imagini nud și de personaje Nintendo înarmate.

Sistemele de inteligență artificială reflectă prejudecățile creatorilor lor, ale instructorilor și ale setului de date utilizat. În mass-media din SUA, termenul “asiatic” se referă de obicei la o persoană din Asia de Est, mai degrabă decât la persoane din alte părți ale continentului. Prin urmare, nu este surprinzător faptul că sistemul Meta presupune că toți “asiaticii” arată la fel, când, de fapt, suntem o colecție diversă de oameni care, adesea, au puține lucruri în comun, în afară de faptul că sunt plasați în aceeași categorie în registrele de recensământ.

Asiaticii care nu se încadrează în modelul standard sunt, în esență, șterși din conștiința culturală, și chiar și cei care se încadrează sunt subreprezentați în mass-media mainstream. Asiaticii sunt omogenizați, exotizați și repuși la statutul de “străini perene”. Înfrângerea stereotipurilor este ușoară în viața reală și imposibilă în sistemul de inteligență artificială Meta. Încă o dată, în loc să permită imaginației să își ia zborul, AI-ul generativ o încarcerează în aceleași unități banale ale societății.