Metin AI odbija da prikazuje slike određenih međurasnih parova

Kao što je otkrio The Verge, upit koji Ai-ju daje zadatak da osmisli slike kao što su "Muškarac iz Azije i belac prijatelj" i "Azijatski muškarac i bela supruga", aplikacija je umesto toga stalno generisala slike dvoje Azijaca.

Kako je Gizmodo kasnije otkrio, alat nije imao problema sa generisanjem slika drugih međurasnih parova, kao što su belac i Azijatkinja. Problem je posebno upadljiv jer je supruga belog izvršnog direktora Mete Marka Zakerberga, Prisila Čen upravo Azijatkinja.

To je još jedan znak da su alati sa podacima na kojima su obučeni Meta Imagine i konkurentski sistemi kao što su Google Gemini i DALL-E kompanije OpenAI, inherentno problematični i pate od nekih očiglednih pristrasnosti. Na kraju krajeva, pretraživanje celog interneta da bi se obučio generator slike u velikoj meri može da poveća postojeće rasne stereotipe – a napori kompanije da ih isprave su za sada neuspešni.

Ova vest dolazi nakon što je Google morao da ugasi svoj generator slika Gemini u februaru nakon što je kreirao naciste različitih rasa.

Stoga nije iznenađujuće da su konzervativni stručnjaci iskoristili ovu priliku da tvrde da je alat pristrasan prema belcima, što je dodatno pogoršalo PR glavobolju kompanije Meta.

Nejasno je zašto Meta Imagine ima toliko problema sa generisanjem slika para u kojima su Azijat i osoba druge rase. Da li je to zbog nedovoljne zastupljenosti i egzotizacije azijskih ljudi u mejnstrim medijima, kao što sugeriše The Verge?

S obzirom da se ovi generatori slika oslanjaju na spajanje ogromnih delova interneta, to nije isključeno. Umesto da zaista stvara bilo šta novo, generativna AI samo kombinuje i sintetiše staro.

Tehnološki giganti imaju još mnogo toga da dokažu i da popune neke očigledne praznine, posebno kada su u pitanju rasne predrasude. Ali da li se ovi problemi mogu prevazići – ili su oni inherentni tehnologiji – ostaje da se vidi.