Beschuldigde moordenaar als model voor Shein: een herinnering aan de risico's van AI

De afbeelding van Luigi Mangione, beschuldigd van de moord op de directeur van UnitedHealthcare, begon enkele maanden geleden online te circuleren. Hij werd een vreemd en onverwacht idool waar vrouwen voor in de rij stonden bij de rechtbank.

Zijn definitieve doorbraak naar viraliteit kwam toen zijn afbeelding werd geprojecteerd in een discotheek in Boston, tijdens een Disney-themafeest. Op de achtergrond klonk ‘He Could Be the One’ van Hannah Montana. Een lied over de spanning en verwarring die de hoofdpersoon voelt wanneer ze zich realiseert dat iemand speciaal ‘de ware’ voor haar zou kunnen zijn.

Deze week dook zijn afbeelding op een andere onverwachte plek op: als model voor een product op de website van Shein. Het is echter onmogelijk dat Mangione voor deze campagne heeft geposeerd, aangezien hij in voorarrest zit.

“De afbeelding werd gedeeld door een externe verkoper en is direct verwijderd zodra deze werd geïdentificeerd. Shein hanteert strenge normen voor alle content op het platform", verklaarde het bedrijf aan FashionUnited. “We voeren een grondige evaluatie uit en versterken onze controlesystemen verder. We zullen de nodige maatregelen nemen tegen de verkoper in overeenstemming met ons beleid”, verzekerden ze.

Een technisch slippertje dat de risico's van automatisering en de kwetsbaarheid van controlesystemen op platforms met eindeloze catalogi onder de loep legt.

Een gezicht in het AI-tijdperk

Hoe kan de afbeelding van een beschuldigde moordenaar als model in een catalogus terechtkomen? Het antwoord ligt in de trainingssystemen van kunstmatige intelligentie. Wanneer een gezicht viraal gaat, neemt de aanwezigheid ervan in open databanken, forums of slecht gereguleerde opslagplaatsen, waarmee sommige AI wordt getraind, toe. Vanaf dat moment kunnen goedkope tools ‘leren’ om deze afbeeldingen te gebruiken zonder rekening te houden met de context.

In het geval van Shein is een groot deel van de content afkomstig van externe verkopers, die vaak technologische sluiproutes zoeken om snel grote hoeveelheden promotiemateriaal te produceren. Het is dus mogelijk dat een verkoper een goedkope AI-tool heeft gebruikt, zonder het eindresultaat te controleren.

Hoewel kunstmatige intelligentie ongetwijfeld voordelen biedt voor de handel en de mode, moet de sector inzetten op zorgvuldigere en transparantere oplossingen om incidenten te voorkomen die de reputatie kunnen schaden. H&M heeft bijvoorbeeld gebruikgemaakt van digitale tweelingen. Dit zijn digitale modellen gecreëerd op basis van echte mensen die - in ruil voor een vergoeding - het recht afstaan om hun afbeelding op een gecontroleerde manier na te maken en te exploiteren. Dit systeem garandeert zowel de rechten van de modellen als de traceerbaarheid van de content, waardoor innovatie mogelijk blijft zonder de controle te verliezen.

Desigual ontwikkelt daarentegen zijn strategie samen met gespecialiseerde partners.

Dit artikel is in het Nederlands vertaald met behulp van een AI-tool.

FashionUnited gebruikt AI taaltools om het vertalen van (nieuws)artikelen te versnellen en de vertalingen te proeflezen om het eindresultaat te verbeteren. Dit bespaart onze menselijke journalisten tijd die ze kunnen besteden aan onderzoek en het schrijven van eigen artikelen. Artikelen die met behulp van AI zijn vertaald, worden gecontroleerd en geredigeerd door een menselijke bureauredacteur voordat ze online gaan. Als je vragen of opmerkingen hebt over dit proces, stuur dan een e-mail naar info@fashionunited.com.