Stanford University er i hardt vær etter at universitetet brukte kunstig intelligens til å endre både rase og kjønn på studenter som var fotografert i reklame for kantina på skolen.
AI ble også brukt til å endre studentenes utseende, blant annet ved å gjøre ansiktene deres smalere, skriver New York Post.
Bildet ble hengt opp på bannere rundt om på skolen for å reklamere for kantinen.
Skandalen begynte ved at studentavisen The Stanford Review fikk tak i bilder før og etter. Det originale bildet viser tre studenter som holder opp tallerkener med mat i universitetets kantine.
Foto: Sosiale medier via New York Post.
En av studentene på originalbildet, Billy Ramirez, ble overrasket da han oppdaget at han var erstattet av en svart kvinne i den ferdige versjonen.
Ramirez fortalte The Stanford Review at en venn sendte ham bilder som viste forskjellen mellom originalen og reklamebildet.
Bildet er uklart, da dette er det eneste tilgjengelige eksempelet på det AI-genererte bildet.
AI-generert bilde: Sosiale medier via SF Gate.
Til å begynne med syntes Ramirez det var morsomt at Stanford hadde brukt AI til å endre utseendet hans fullstendig, inkludert både rase og kjønn.
Etter å ha sett bildene nærmere, ble han imidlertid også opprørt over at universitetet hadde tatt slike valg på hans vegne.
– Jeg er ikke enig i at Stanford tar slike valg om hvordan vi skal fremstilles, sa Ramirez.
– Å se identiteten min bli endret og samtidig bli fjernet fra bildet fikk meg til å føle meg, på en måte, visket bort og brakt til taushet ut fra en fremstilling som egentlig skulle inkludere meg.
To andre studenter som var med på originalbildet, fikk også utseendet sitt endret av AI. Ansiktene deres er tydelig smalere i den ferdige versjonen.
Det var ansatte ved Stanford Residential & Dining Enterprises som endret bildet med AI. De har ansvar for boliger og studentenes spisetilbud ved universitetet, som har mer enn 18.000 studenter.
Uthengt og trakkasert
De to andre studentene har nå uttalt seg offentlig, skriver The Stanford Daily. De har valgt å være anonyme på grunn av det de beskriver som pågående trakassering.
I en uttalelse publisert på Substack skriver de at de først ble sjokkert over bildet, men at de ikke gjorde noe med saken fordi de var opptatt med egne liv og forpliktelser.
Etter at saken fikk omfattende nasjonal oppmerksomhet, sier de imidlertid at situasjonen ble vanskelig å ignorere.
– Vi følte oss flaue over hvordan våre etniske ansiktstrekk ble endret, og over kommentarene vi så på nettet, skriver de.
De to studentene var avbildet sammen med Billy Ramirez utenfor Wilbur Dining. I den AI-manipulerte versjonen ble den ene studentens klær også endret til Stanford-klær.
Studentene har nå sendt inn en diskrimineringsrapport etter Title VI og har vært i kontakt med Jay Hamilton, viserektor for grunnutdanning. De sier at de foreløpig ikke har hørt fra Stanford-president Jonathan Levin.
De krever blant annet en offentlig beklagelse, en grundig undersøkelse av hvordan bildet ble laget, og at universitetet ikke skal lage AI-genererte bilder av studenter.
Studentene reagerer på at Ramirez ble erstattet med en svart kvinne for å skape et mer «mangfoldig» bilde. De mener dette viser hvordan svarte studenter blir brukt som et markedsføringsverktøy.
Samtidig krever de mer DEI ved Stanford. Ironisk nok viser saken nettopp baksiden av denne typen DEI, der ønsket om å fremstille mangfold ender med å endre og viske ut de faktiske studentene.
Stanford beklager
Stanford har innrømmet at bildet ble manipulert med AI, i strid med universitetets egne regler.
Universitetet erkjenner at både manipuleringen og manglende merking var brudd på reglene, og har beklaget overfor studentene.
Stanford har åpnet en undersøkelse og varsler ekstra opplæring og kontrollrutiner, men er foreløpig taus om hvem som sto bak endringen, hvilket AI-verktøy som ble brukt eller hvorfor originalbildet ble endret.
Saken reiser også spørsmål om studentenes samtykke til hvordan de blir fremstilt.
Zachary Henderson, professor i jus ved SMU Dedman School of Law, sier til ABC News at studentene som fikk endret ansikt og kroppsfasong, kan spørre seg hvilket samtykke de egentlig ga, og om de føler seg skadet av måten de ble fremstilt på.
ABC News: Studenter var opprørte etter at Stanford University brukte AI til å endre rase i et bilde.
